logo
홈블로그소개
4,872

Built with Next.js, Bun, Tailwind CSS and Shadcn/UI

·개인정보처리방침
AIWeb

Mercury 3: 확산 LLM의 속도를 에이전트 응답 시간으로 바꾸는 법

Toma
2026년 10월 20일
약 10분
목차
⚡ Mercury 3: 확산 LLM의 속도를 에이전트 응답 시간으로 바꾸는 법
🧠 개념: 텍스트를 조금씩 확정하는 확산 LLM
📦 확인된 모델·API 범위
🔄 동작 방식: 요청 → 모델 판단 → 도구 실행 → 결과
🧵 병렬화의 기준은 의존성입니다
🖥️ FE 활용: streaming과 diffusing을 섞지 않기
🛠️ BE 활용: 모델 교체보다 작은 평가부터
🔎 확인된 사례: 공식 문서 예제와 파트너 보고
📖 공식 문서 예제 — 읽기 전용 코딩 에이전트
🧪 공식 발표에 실린 파트너 평가
⚠️ 제약: 속도·가격·버전은 따로 확인해야 합니다
⏱️ 초당 토큰 수는 전체 완료 시간의 보장이 아닙니다
💵 출시 할인과 정가를 구분합니다
🔁 Mercury 2·2.5 예제를 그대로 복사하지 않습니다
🎯 정리
Sources
이전 포스트DeepSeek Search·Fetch API: 에이전트의 검색과 근거 읽기를 분리하는 방법
다음 포스트Voxtral 3: 음성 에이전트의 발화 종료와 도구 실행을 안전하게 연결하기

목차

⚡ Mercury 3: 확산 LLM의 속도를 에이전트 응답 시간으로 바꾸는 법
🧠 개념: 텍스트를 조금씩 확정하는 확산 LLM
📦 확인된 모델·API 범위
🔄 동작 방식: 요청 → 모델 판단 → 도구 실행 → 결과
🧵 병렬화의 기준은 의존성입니다
🖥️ FE 활용: streaming과 diffusing을 섞지 않기
🛠️ BE 활용: 모델 교체보다 작은 평가부터
🔎 확인된 사례: 공식 문서 예제와 파트너 보고
📖 공식 문서 예제 — 읽기 전용 코딩 에이전트
🧪 공식 발표에 실린 파트너 평가
⚠️ 제약: 속도·가격·버전은 따로 확인해야 합니다
⏱️ 초당 토큰 수는 전체 완료 시간의 보장이 아닙니다
💵 출시 할인과 정가를 구분합니다
🔁 Mercury 2·2.5 예제를 그대로 복사하지 않습니다
🎯 정리
Sources

⚡ Mercury 3: 확산 LLM의 속도를 에이전트 응답 시간으로 바꾸는 법

Inception은 2026년 10월 19일 Mercury 3를 공개했습니다.[5] 공식 발표가 강조하는 것은 확산 기반 텍스트 생성, 100만 토큰 context, 그리고 NVIDIA GPU에서 초당 1,068토큰이라는 생성 속도입니다.[5] 속도 수치는 제공자 측 발표이며, 이 글에서 직접 측정한 결과가 아닙니다.

개발자에게 더 중요한 질문은 따로 있습니다. 모델이 빠르면 에이전트 작업도 빨라질까요? 이 글에서는 생성 방식, FE의 streaming 처리, BE의 tool loop를 연결해 무엇을 바꿔야 하는지 살펴봅니다.

💡 💡 핵심: Mercury 3를 단순히 더 빠른 모델로 보기보다, 생성·도구 실행·화면 표시를 나누어 평가하는 계기로 삼는 편을 권합니다. 모델 속도와 제품의 완료 시간은 별도로 검증해야 합니다.

🧠 개념: 텍스트를 조금씩 확정하는 확산 LLM

공식 문서는 Mercury 3의 생성 과정을 중간 텍스트의 잡음을 반복적으로 줄여 최종 답변으로 다듬는 iterative denoising으로 설명합니다.[18] 일반 streaming에서 내보내는 단위도 토큰 하나가 아니라 다듬어진 텍스트의 block입니다.[18]

이 때문에 두 개념을 구분해야 합니다. 내부에서 텍스트를 다듬는 방식과, 클라이언트가 화면에 응답을 표시하는 방식은 같은 것이 아닙니다. Inception은 일반 streaming과 중간 denoising 과정을 보여 주는 diffusion 모드를 별도로 제공합니다.[18]

📦 확인된 모델·API 범위

현재 직접 조회한 공식 Models 문서에서 Mercury 3의 모델 ID는 mercury-3, chat endpoint는 v1/chat/completions입니다.[17] 입력·출력 형식은 Text이며, Tool Calling과 Structured Outputs를 지원한다고 명시되어 있습니다.[17]

context window는 1M 토큰, 최대 출력은 131,072토큰입니다.[17] 추론 강도는 instant, low, medium, high로 구분되며, temperature 범위는 0.5~1.0으로 안내됩니다.[17]

1M context와 최대 출력 길이는 서로 다른 제한입니다.[17] 구현할 때 두 값을 같은 설정으로 취급하지 말고, 작업에 필요한 입력과 출력 예산을 따로 정하는 편을 권합니다.

🔄 동작 방식: 요청 → 모델 판단 → 도구 실행 → 결과

Mercury 3는 OpenAI-compatible tool calling과 parallel tool calls를 지원합니다.[19] 모델이 함수 이름과 JSON 인자를 반환하면, 실제 함수 실행과 결과 재전달은 애플리케이션이 담당합니다.[19]

공식 문서의 흐름을 단계로 풀면 다음과 같습니다.[19]

  1. 애플리케이션이 사용자 메시지와 사용할 함수 정의를 보냅니다.[19]
  2. 모델이 하나 이상의 tool_calls를 반환합니다.[19]
  3. 애플리케이션이 요청된 함수를 실행합니다.[19]
  4. 원래 assistant 메시지와 각 tool_call_id에 대응하는 tool 메시지를 대화에 추가합니다.[19]
  5. 모델을 다시 호출해 최종 답변을 받거나, 필요한 도구 호출을 이어 갑니다.[19]

💡 ⚠️ 설계 원칙: 도구 호출을 요청할 수 있다는 것은 실행 권한을 부여해도 된다는 뜻이 아닙니다. 파일 변경·메시지 전송·결제처럼 영향이 있는 작업은 애플리케이션의 승인·권한 검사 뒤에서 실행하도록 설계하세요.

🧵 병렬화의 기준은 의존성입니다

공식 문서는 독립적인 작업은 병렬 실행하고, 나중 작업이 앞선 결과에 의존하면 순차 실행하라고 안내합니다.[19]

예를 들어 여러 서비스의 상태를 각각 조회하는 작업은 병렬화 후보입니다. 반면 저장소에서 파일 위치를 찾은 다음 그 파일을 읽는 작업은 순서가 필요합니다. 이는 적용을 위한 설계 예시이며, 실제 프로젝트에서 실행해 측정한 결과는 아닙니다.

🖥️ FE 활용: streaming과 diffusing을 섞지 않기

일반 streaming은 생성된 텍스트 block을 차례로 전달합니다.[18] 반면 stream=true와 diffusing=true를 사용하는 diffusion 모드에서는 각 chunk가 그 시점에 다듬어진 전체 텍스트를 담습니다.[18]

따라서 diffusion 모드를 일반 delta처럼 계속 이어 붙이면 안 됩니다. 공식 문서는 매 단계의 텍스트로 표시 영역을 덮어쓰는 방식을 제시합니다.[18]

적용 제안: 두 모드의 화면 상태 갱신을 분리하세요. 일반 응답을 누적하는 경로와 중간 전체 텍스트를 교체하는 경로를 구별하고, 중간 초안을 최종 확정 답변처럼 다른 시스템에 전달하지 않는 편이 안전합니다.

🛠️ BE 활용: 모델 교체보다 작은 평가부터

Inception의 출시 발표는 자체 API Platform 외에 OpenRouter, Baseten, Vercel에서도 Mercury 3를 제공한다고 안내합니다.[5] 다만 제공 경로가 여러 개라는 사실만으로 각 경로의 세부 동작이 같다고 단정할 수는 없습니다.

도입 판단에 대한 편집 의견: 처음부터 모든 agent를 바꾸기보다, 읽기 전용 작업 하나를 기존 모델과 나란히 평가하는 접근을 권합니다. 다음은 실행 결과가 아니라 적용 절차 제안입니다.

  1. 평가할 작업을 고정합니다. 예를 들어 로그를 읽고 관련 오류 구간과 근거를 찾아오는 작업입니다.
  2. 두 모델에 같은 문서·tool schema·권한 범위를 제공합니다.
  3. 최종 답변의 정확성과 함께 도구 호출 성공, 재시도, 전체 완료 시간, 사용량을 기록합니다.
  4. FE가 첫 내용을 보여 준 시점과 최종 답변이 끝난 시점을 구분합니다.
  5. 실패할 때 기존 모델 또는 사람 검토로 돌아가는 경로를 먼저 마련합니다.

외부 API 대기가 대부분인 작업이라면, 모델 교체 전에 중복 조회 제거와 독립 호출의 병렬화부터 검토하는 편이 더 단순합니다. 현재 병목을 측정하지 않은 상태에서 새 모델의 홍보 수치만으로 전체 구조를 바꾸는 것은 권하지 않습니다.

🔎 확인된 사례: 공식 문서 예제와 파트너 보고

📖 공식 문서 예제 — 읽기 전용 코딩 에이전트

Tool Use 문서는 list_directory와 read_file만 갖는 코딩 agent 예제를 제공합니다.[19] 저장소에서 compute_average 함수를 찾아 본문을 인용하도록 요청하고, 디렉터리 조회 → 파일 읽기 → 답변으로 이어지는 과정을 보여 줍니다.[19]

이것은 공식 문서 예제이지, 이 글에서 해당 API를 호출한 실행 결과가 아닙니다. 코드 수정·테스트·배포까지 성공한 사례로 확대해 해석해서도 안 됩니다.

🧪 공식 발표에 실린 파트너 평가

TinyFish AI는 자사 production web-agent harness에서 실제 Mind2Web 탐색 과제 50개로 평가했으며, Mercury 3가 그중 50%를 완료했다고 출시 글에서 보고합니다.[5] 표본과 harness가 정해진 파트너 평가이므로, 모든 브라우저 업무의 성공률로 일반화할 수 없습니다.

Octen AI는 Sense API 테스트에서 생성 시간 중앙값 0.9초, end-to-end 응답 시간 중앙값 2.2초를 보고합니다.[5] 이는 Inception의 출시 글에 실린 파트너 측 결과이며, 독립적으로 재현한 측정값이 아닙니다.

여기서 참고할 부분은 단순히 숫자가 작다는 점보다 생성 시간과 전체 응답 시간을 따로 보고했다는 점입니다. 우리 시스템에서도 같은 구분을 유지하는 것이 유용하다는 것이 이 글의 판단입니다.

⚠️ 제약: 속도·가격·버전은 따로 확인해야 합니다

⏱️ 초당 토큰 수는 전체 완료 시간의 보장이 아닙니다

출시 글의 초당 1,068토큰은 Inception이 NVIDIA GPU에서 제시한 생성 속도입니다.[5] 이를 첫 응답 지연, 도구 실행 시간, 모든 동시 사용자 환경의 처리량 보장으로 바꾸어 읽지 마세요.

평가 제안: 추론 강도와 답변 길이, 도구 지연을 고정한 상태에서 사용자 기준 완료 시간을 비교하세요. 이 글은 해당 부하 테스트를 수행하지 않았습니다.

💵 출시 할인과 정가를 구분합니다

현재 공식 문서의 출시 할인 가격은 100만 토큰당 입력 $0.10, 출력 $0.35이며, 정가는 각각 $0.20, $0.70입니다.[17] 가격 표의 캐시 입력 할인가는 $0.01입니다.[17] 모두 자료 확인 시점의 안내이며, 할인 종료 시점을 이 글에서 단정하지 않습니다.

작업당 비용 비교에서는 토큰 단가만 보지 말고, 실제 입력·출력 사용량과 재시도까지 함께 기록하는 편을 권합니다. 이 글에는 직접 과금된 내역이나 비용 절감 실험 결과가 없습니다.

🔁 Mercury 2·2.5 예제를 그대로 복사하지 않습니다

공식 제품 페이지는 Mercury 2와 2.5를 신규 사용자에게 더 이상 제공하지 않는다고 공지합니다.[21] 2026년 10월 19일 이전 사용 이력이 있는 기존 고객은 2026년 11월 15일까지 접근을 유지하며, enterprise 고객은 기존 계약에 따라 지원된다고 안내합니다.[21]

이 글의 API 범위는 2026년 10월 20일 직접 가져온 Models·Streaming·Tool Use 본문 중 Mercury 3를 명시한 설명을 기준으로 정리했습니다.[17][18][19] 과거 세대의 예제와 새 모델의 지원 범위를 섞지 않는 것이 중요합니다.

💡 📌 검증 범위: 2026년 10월 20일 KST에 공식 출시 글, 제품 페이지, Models·Streaming·Tool Use 문서를 직접 읽었습니다. 출처는 모두 Inception 측 자료이므로 독립 성능 검증이 아닙니다. 모델 호출·SDK 설치·부하 테스트는 실행하지 않았으며, 제안 절차를 실제 도입 사례로 쓰지 않았습니다.

🎯 정리

Mercury 3를 이해할 때 기억할 구분은 세 가지입니다. 확산 생성과 화면 streaming, 모델의 도구 호출과 애플리케이션의 실행, 생성 속도와 제품의 전체 완료 시간입니다.[18][19]

도입 여부는 작은 읽기 전용 작업에서 판단하는 편을 권합니다. 정확성·권한·완료 시간·실제 사용량을 함께 비교한 뒤, 더 단순한 최적화로 충분한지부터 확인하세요.

Sources

[5] https://www.inceptionlabs.ai/blog/introducing-mercury-3 — Diffusion at Scale: Introducing Mercury 3 — Inception

[17] https://docs.inceptionlabs.ai/get-started/models.md — Models — Inception Platform (live Markdown)

[18] https://docs.inceptionlabs.ai/capabilities/streaming.md — Streaming & Diffusion — Inception Platform

[19] https://docs.inceptionlabs.ai/capabilities/tool-use.md — Tool Use — Inception Platform

[21] https://www.inceptionlabs.ai/models — Models and Mercury 2 migration notice — Inception