4,678
오픈 모델을 고를 때는 “한 번에 얼마나 계산하는가”와 “서비스하려면 무엇을 올려 두어야 하는가”를 나눠 봐야 한다. Reflection의 Beam은 전체 약 501B, 토큰당 활성 약 23B인 희소 MoE 모델이라 이 차이를 배우기 좋은 사례다.[1][2]
💡 💡 핵심: 활성 파라미터는 전체 가중치 메모리와 다르다. Beam은 텍스트 모델이고, 도구 실행·승인·작업 관리는 별도의 에이전트 환경에서 다뤄야 한다.[2][3][5]
Beam은 Reflection이 공개한 텍스트 입력·출력 모델이다.[3] 공식 모델 카드는 주로 영어를 대상으로 개발했다고 밝히며, BF16·FP8·NVFP4 형태의 instruction-tuned 가중치를 제공한다.[3]
MoE를 여러 전문가가 있는 조직에 비유하면, 활성 수치는 이번 업무에 참여한 인원에 가깝다. 대기 중인 전문가가 사라진다는 뜻은 아니며, 소개 글도 전체 전문가 가중치를 메모리에 유지한다고 설명한다.[2]
따라서 “활성 23B니까 일반적인 23B 모델 정도의 메모리로 실행할 수 있다”는 해석은 피해야 한다. 실제 배포 판단에는 전체 가중치의 저장 형식과 컨텍스트·동시 요청을 위한 여유 공간을 함께 봐야 한다.[2]
공개 설정은 총 52개 레이어, 전문가 256개, 토큰당 선택 전문가 8개를 명시한다.[4] 슬라이딩 윈도 크기는 512이며, 레이어 종류에는 지역 문맥을 보는 attention과 전체 문맥을 보는 attention이 섞여 있다.[4]
Hugging Face 설명에서는 이를 슬라이딩 윈도 레이어 43개와 전역 레이어 9개로 구분한다.[2] 모든 레이어가 전체 문맥을 계속 저장하는 방식 대신, 지역 attention과 전역 attention을 결합해 KV 캐시 증가를 줄이는 구조다.[2]
여기서 배울 점은 최대 컨텍스트 길이만 읽지 않는 것이다. 긴 입력을 담는 능력과 필요한 근거를 정확히 찾아 답하는 능력은 별도로 평가하자는 것이 이 글의 도입 판단 기준이다.
Hugging Face 소개 글은 BF16 체크포인트를 약 1TB, NVFP4 체크포인트를 약 280GB로 설명한다.[2] 이는 가중치 규모에 관한 안내이며, 서비스 전체의 메모리 예산이나 처리량 보장은 아니다.
같은 글은 긴 문맥과 동시 요청의 여유를 고려해 B200 네 장 구성을 계획하라고 권한다.[2] 이 권장 예시를 모든 입력 길이와 트래픽에 대한 충분조건으로 받아들여서는 안 된다.
추론 통합은 Transformers·vLLM·SGLang을 소개한다.[2] 다만 라이브러리 지원이 있다는 사실과, 내가 고른 버전·정밀도·GPU 조합에서 정상 동작한다는 사실은 구분해야 한다.
💡 ⚠️ 이 글은 Beam을 내려받아 실행하거나 GPU 메모리·지연시간을 측정하지 않았다. 위 수치는 공식·통합 자료의 안내이며, 독립 성능 검증 결과가 아니다.
Beam이 답과 도구 호출을 생성하는 모델이라면, Reflection의 Mirror CLI는 프로젝트 파일을 읽고 수정하며 명령을 실행하는 터미널 코딩 에이전트다.[2][5] 공식 문서는 기본 모델로 Beam을 사용한다고 설명한다.[5]
Mirror 문서에는 작업공간, 대화 이력, 도구, 지침·스킬이 별도 구성요소로 나온다.[5] 이는 모델 가중치를 공개하는 일만으로 파일 접근이나 작업 승인 정책까지 해결되는 것은 아니라는 점을 보여 준다.
작업공간을 추가할 때는 별도 checkout을 만드는 worktree 기능을 제공한다.[5] 각 작업공간은 모델·추론 노력·승인 모드를 독립적으로 유지하며, 다른 공간으로 이동해도 이전 에이전트가 자동으로 멈추지는 않는다.[5]
승인 정책도 별도다. 기본 manual 모드는 shell 명령과 파일 변경 등을 실행하기 전에 멈추지만, 내장 파일 읽기·검색은 승인 대상이 아니라고 문서는 설명한다.[5]
💡 ⚠️ 승인 모드는 샌드박스가 아니다.[5] Mirror 문서는 승인된 명령·확장·로컬 MCP 서버가 사용자 계정의 전체 권한으로 실행된다고 명시한다.[5] Mirror 자체도 early beta다.[5]
다음은 설계 제안이다. 실제 고객 도입 사례나 이 글에서 실행한 결과가 아니며, 모델과 실행 환경을 분리해서 평가하는 작은 실험을 권한다.
첫 실험의 목적은 “최고 모델인가”를 결론내리는 것이 아니다. 우리 저장소에서 어떤 오류가 남고, 이를 어떤 검사로 잡을 수 있는지 확인하는 데 둔다.
Hugging Face는 Beam으로 macOS 받아쓰기 앱 BeamSpeak의 초기 구현을 만든 데모를 소개한다.[2] 앱의 음성 인식은 Parakeet을 MLX로 실행하는 구조이므로, 이를 Beam 자체의 음성 인식 기능으로 읽으면 안 된다.[2][6]
공개 README는 초기 구현을 Beam이 Pi를 통해 생성했고, 이후 Codex가 검토·수리와 검증 도구 추가를 수행했다고 밝힌다.[6] “Beam이 혼자 완성한 앱”이라는 소개는 이 제작 이력을 지워 버린다.[6]
데모 문서는 초기 의존성·모델 다운로드에는 네트워크가 필요하지만, 받아쓰기 자체는 오프라인으로 실행된다고 설명한다.[6] 이는 데모 앱의 동작 설명이지, 앱을 만드는 동안 Beam 추론까지 Mac에서 로컬로 수행했다는 뜻은 아니다.[2][6]
제약도 공개되어 있다. 앱 번들만 따로 이동하는 방식은 지원하지 않으며, 자동 붙여넣기는 검증되지 않았다고 README가 명시한다.[6]
💡 🔎 이 사례는 공개된 제작 데모와 설명서를 확인한 것이다. 고객 운영 성과가 아니며, 이 글에서 앱을 설치하거나 마이크·단축키·붙여넣기를 재검증하지 않았다.
Hugging Face 소개 글의 주요 벤치마크 표는 Reflection 팀이 제공한 결과다.[2] 같은 글의 소규모 과제 실험은 스스로 “vibe evals, not benchmarks”라고 한정한다.[2]
모델 카드는 평가 설정으로 temperature 0.7과 top_p 0.99를 적는다.[3] 이 글에서는 해당 점수를 재현하지 않았으므로, 순위나 몇 배의 효율을 우리 프로젝트의 보장값으로 옮기지 않는다.
자료 간 수치도 그대로 합치지 않았다. 예를 들어 Terminal Bench v2.1의 NVFP4 값은 소개 글과 모델 카드가 서로 달라, 이 글의 성능 근거로 채택하지 않았다.[2][3]
한국어 적용도 별도 과제다. 모델 카드의 “주로 영어 대상으로 개발”이라는 설명을 고려해, 한국어 요구사항 이해와 한국어 문서에서의 근거 검색을 직접 평가하자는 것이 이 글의 제안이다.[3]
라이선스는 공식 발표에서 Apache 2.0으로 확인했다.[1] 다만 라이선스 확인을 운영 안전성 검증과 동일시하지 말고, 데이터 취급과 실행 권한은 별도 점검 항목으로 남겨 두자.
Beam에서 먼저 배울 것은 전체 규모, 활성 규모, 실행 환경을 분리해서 보는 습관이다. 전체 약 501B와 활성 약 23B는 서로 다른 배포 판단 정보를 준다.[2][3]
긴 컨텍스트와 공개 가중치는 도입의 출발점이다. 실제 선택은 제한된 과제, 분리된 작업공간, 명시적인 권한, 재현 가능한 검사로 결정하자.
💡 📌 검증 범위: 공식 발표·모델 카드·공개 설정·Mirror 기술 문서와 Hugging Face 소개·데모 설명서를 대조했다. 모델 실행, 벤치마크 재현, 고객 운영 검증은 수행하지 않았다. 아래 출처들은 독립적인 성능 검증 자료를 대신하지 않는다.
[1] https://reflection.ai/blog/beam-is-available — Beam is now available
[2] https://huggingface.co/blog/reflection-beam — Welcome Beam: a 501B open model you can own, customize, and scale
[3] https://huggingface.co/reflection/Beam-1.0-501B-A23B — Beam official model card
[4] https://huggingface.co/reflection/Beam-1.0-501B-A23B/raw/main/config.json — Beam config.json
[5] https://developers.reflection.ai/mirror-overview — Mirror CLI overview
[6] https://huggingface.co/buckets/burtenshaw/beamspeak-demo/resolve/RUNNING.md — BeamSpeak source demo: checks and provenance