Reflection 70B
HyperWrite · 글쓰기 · 챗봇
Reflection 70B는 HyperWrite의 가중치 공개 모델이다. Llama 3.1 70B를 기반으로 한 자기 교정 LLM으로, 답하기 전에 스스로의 추론을 검증한다.
Reflection 70B 소개
Reflection 70B란
Reflection 70B는 HyperWrite가 내놓은 추론 중심 언어 모델로, 2024년 9월 초에 공개됐으며 Meta의 Llama 3.1 70B Instruct를 토대로 삼는다. 강점은 Reflection-Tuning이라는 학습 기법이다. 모델은 사고의 연쇄에서 오류를 찾아내고, 최종 답을 내기 전에 바로잡는 법을 배운다. 생각은 <thinking> 태그 안에, 최종 답은 <output> 태그 안에 쓰며, 추론 도중 오류를 발견하면 <reflection> 블록을 끼워 넣는다.
이 발상은 실제 불만을 겨냥한다. 일반적인 LLM은 환각을 일으킨다. 그것을 알아차리는 경우는 드물다. Reflection 70B는 알아차리도록 학습됐다. HyperWrite에 따르면 이 모델은 MMLU, MATH, IFEval, GSM8K 같은 벤치마크에서 GPT-4o를, 심지어 Llama 3.1 405B도 앞섰다. 그 수치가 공개 당시 엄청난 관심을 끌었다.
그 초기의 열기는 제3자 검증 앞에서 버티지 못했다. Artificial Analysis를 포함한 독립 평가자들은 대표 성적을 재현하지 못했다. 이후 검증에서 Hugging Face에 공개된 버전이 토대가 된 순수 Llama 3.1 70B보다 성능이 낮다는 사실이 드러났다. 호스팅 API가 요청을 몰래 Claude로 돌린다는 비난을 한 사용자들도 있었다. HyperWrite의 Matt Shumer는 모델이 공표한 벤치마크에 미치지 못했음을 인정했다.
그래서 정직한 결론은 갈린다. Reflection-Tuning 접근은 분명 흥미롭다. 실제로 출시된 모델은 자기 마케팅을 한 번도 따라잡지 못했다. 이런 가중치 공개 모델의 공개는, 출시 당시의 홍보가 과했더라도 여전히 살펴볼 가치가 있다.
시작하기
- Hugging Face의 모델 페이지(mattshumer/Reflection-70B)나 미러를 열고 라이선스 조건에 동의한다.
- 가중치를 내려받거나, 로컬 설치를 건너뛰고 호스팅 추론 공급자를 통해 실행한다.
- Llama의 채팅 템플릿을 공유하므로, 어떤 Llama 모델에 쓰는 것과 같은 코드로 불러온다.
- 추론용 시스템 메시지를 넣어 생각, 성찰, 답변 섹션을 순서대로 출력하게 한다.
- 모델이 어디서 마음을 바꿨는지 보고 싶다면
<reflection>태그를 읽는다.
제품 정보
Reflection 70B의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.
추천 대상
이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.
사용자
- AI 연구자
- 로컬 추론 도구를 만드는 개발자
- 성찰 프롬프트가 궁금한 애호가
작업
- 수학과 논리 문제
- 자기 점검 파이프라인 시제품
- 비교 연구
활용 상황
- 닫힌 API로 데이터를 보내지 않고 추론 모델을 돌리기
- 평가의 함정 공부하기
- 적은 예산으로 성찰 프롬프트 실험하기
주요 기능
Reflection-Tuning
Reflection-Tuning은 이 모델에 이름을 준 기법이다. 최종 답만으로 학습하는 대신, 모델이 자기 추론을 검토하고 생성 도중에 고쳐 쓰도록 훈련한다. 실제로 모델은 생각의 초안을 만들고, 그것을 점검한 뒤, 틀렸다고 판단한 부분을 다시 써서 답을 내놓는다. 이 순서가 발상의 전부다. 먼저 바로잡고, 그다음 확정한다.
구조화된 사고와 출력 태그
모델은 특수 토큰으로 내부 작업과 답을 나눈다. 추론은 <thinking> 태그 안에, 최종 응답은 <output> 태그 안에 들어간다. 이 분리는 초안 작업을 눈에 보이게 유지한다. 모델이 왜 그 결론에 이르렀는지 추적하고 싶을 때, 또는 생각을 감추고 답만 보여주고 싶을 때 편하다.
인라인 자기 교정
모델이 오류를 알아차리면 생각 안에 <reflection> 블록을 내보낸다. 그 블록을 읽으면 추론이 정확히 어디서 방향을 틀었는지 알 수 있다. 정답이 하나뿐인 과제에서는 그 보이는 전환점이 답 자체보다 유용할 때가 많다. 모델이 자기 실수를 묻어두지 않고 붙잡아 내기 때문이다.
Llama 호환성
Llama 3.1 70B Instruct를 토대로 하고 표준 Llama 채팅 형식을 유지하므로, Reflection 70B는 이미 Llama를 지원하는 도구와 파이프라인에 그대로 들어간다. Llama 모델을 전에 배포한 적이 있다면 불러오는 코드와 서빙 설정을 거의 바꾸지 않고 재사용할 수 있다. 이 호환성 덕분에 처음부터 누구나 쉽게 시험해볼 수 있었다.
고정밀 추론 지향
모델은 속도보다 정확성이 보상되는 과제를 겨냥한다. 여러 단계의 수학과 논리 같은 것이다. 추론을 별개의 단계로 나누고, 그것을 재확인하는 데 더 많은 토큰을 쓴다. 대가는 지연이다. 답이 도착하기까지 더 걸리고 토큰 비용도 오른다. 성찰이란 마지막 한 줄을 얻기 전에 더 많은 글을 쓴다는 뜻이기 때문이다.
가중치 공개
가중치가 공개돼 있어 자기 하드웨어에서 모델을 돌리거나, 미세 조정하거나, 성찰 학습이 동작을 어떻게 바꿨는지 연구할 수 있다. 가중치 공개는 단일 업체의 가격이나 속도 제한에 묶이지 않는다는 뜻이기도 하다. 어느 규모로 시험하든 중요한 점이다.
장단점
장점
- 내려받아 살펴보고 직접 호스팅할 수 있는 공개 가중치
- Llama 3.1 70B를 토대로 해 기존 Llama 도구와 서빙 스택에서 작동한다
- 사고, 성찰, 출력 태그를 통해 자기 교정이 눈에 보인다
- 로컬 실행은 무료이고, GPU를 관리하고 싶지 않을 때는 저렴한 호스팅 추론을 쓸 수 있다
단점
- 독립 벤치마크는 공개 당시의 성능 주장을 확인해주지 못했다
- 일부 Hugging Face 버전은 순수 Llama 3.1 70B보다 낮은 점수를 받았다고 한다
- 긴 사고와 성찰 단계가 지연과 토큰 비용을 키운다
- 호스팅 API는 트래픽을 Claude로 돌린다는 비난을 받아 신뢰를 깎았다
자주 묻는 질문
HyperWrite의 오픈소스 언어 모델로, Llama 3.1 70B Instruct를 토대로 하고 Reflection-Tuning이라는 학습 기법으로 답하기 전에 자기 추론을 검증하고 바로잡는다.
관련 콘텐츠
Reflection 70B와 관련된 도구, 스킬, 아티클을 살펴보세요.
Reflection 70B 대안
Emailwritr
Emailwritr · 글쓰기 · 마케팅Emailwritr는 이미 보유한 리스트에서 더 많은 매출을 끌어내려는 제휴 마케터, 강의 제작자, 온라인 사업자를 위해 만든 AI 이메일 카피라이팅 도구다. 빈 페이지나 일반적인 챗봇 프롬프트 대신, 이 AI 이메일 작성 도구는 잘 알려진 다이렉트 리스폰스 카피라이터를 본뜬 프레임워크로 웰컴 시퀀스, 런칭 캠페인, 장바구니 이탈 이메일, 프로모 시리즈를 생성한다. 오토리스폰더를 연결하고 제안에 관한 몇 가지 질문에 답하면 나머지 문구를 대신 써 준다.
Swms
Swms AI · 글쓰기 · 생산성 · 비즈니스Swms는 작업에 대한 간단한 설명을 바로 쓸 수 있는 안전 문서로 바꿔 주는 AI 안전 컴플라이언스 도구다. 프로젝트, 직종, 이미 알고 있는 위험을 설명하면 안전 작업 방법 명세서, 작업 위험 분석, 안전 작업 절차서, RAMS, 안전 데이터 시트를 몇 초 만에 작성한다. 어떤 언어로든 산업 안전 질문에 답하는 채팅 어시스턴트 Oscar도 함께 제공된다. 건설, 광업, 운송, 창고 팀은 작업일을 잡아먹는 서류 작업을 줄이려고 이 도구를 쓴다.
Prosp
Prosp · 글쓰기 · 음성 및 언어 · 마케팅Prosp는 에이전시와 영업팀을 위해 만들어진 AI LinkedIn 아웃리치 도구다. 잠재 고객마다 자신의 목소리로 메시지와 음성 메시지를 작성해, 상대가 실제로 답장하도록 만든다. 계정을 연결하고 리드를 찾고, AI가 개인화된 메시지를 대량으로 작성해 보내도록 맡긴다. 전부 하나의 받은편지함에서 처리한다. 대량으로 아웃바운드를 돌리는 사람을 위해 만들어졌다. 그게 이 제품의 전부다. 그래도 모든 접점은 인간처럼 느껴져야 한다.