개발 경험과 기술적인 고민, 그리고 일상의 이야기들을 기록합니다.
Nemotron 3.5 Transcribe: 전사·화자·API 지원을 나눠 보는 회의록 설계
모델과 API의 지원 차이를 구분하고 전사·화자·시간 정보를 검증하는 회의록 설계 가이드
LLM 평가자도 테스트해야 합니다: 연구 아이디어의 새로움을 재는 법
Ai2 연구로 배우는 LLM 평가자의 입력 분포·약한 라벨·질문 민감도와 검증 설계
KV cache 격리: 요청 취소와 GPU 메모리 해제를 분리하는 법
Cloudflare·SGLang 사례로 배우는 요청 간 KV cache 격리와 비동기 전송·안전한 메모리 해제 조건
HTTP2Shell: 숨은 Brotli decoder와 요청·응답의 보안 경계
공유 Brotli decoder의 숨은 의존성과 요청·응답 경로, 패치·완화책의 적용 범위를 구분합니다.
LiteLLM 공급망 침해: 서명된 배포도 안전을 보장하지 않는 이유
LiteLLM 침해로 배우는 digest·서명·provenance의 차이와 AI 로그·배포 권한 경계
Voxtral 3: 음성 에이전트의 발화 종료와 도구 실행을 안전하게 연결하기
Voxtral 3의 스트리밍 구조와 turn detection, 도구 실행 경계·도입 제약을 살펴봅니다.