바이너리에서 런타임까지: REA(Reverse Engineer Anything)와 TypeSafe Jev를 활용한 결정론적 역공학 파이프라인
agent
바이너리와 애플리케이션 역공학을 수행하는 자율 에이전트는 왜 수천 개의 디컴파일 함수 앞에서 무력해지는가? morluto/rea의 정규화된 EvidenceLedger 구조와 TypeSafe AI의 System One(Jev) 루브릭을 결합하여 지연 시간과 비용을 90% 이상 절감하...
ingu627.github.io
최근 포스트
Humanity’s Last Exam(HLE) 시대, 추론 토큰 파산을 막는 동적 예산 라우팅: System One(Jev)과 하이브리드 추론의 결합
agent
SWE-bench Verified가 97%로 포화되며 정적 문제은행의 시대가 끝났다. Humanity’s Last Exam(HLE)에서 문항당 최대 8.8만 개의 추론 토큰이 폭발하는 2026년, 비생성형 System One(Jev)으로 불확실성을 사전 계측하고 하이브리드 사고 예...
DeepSeek-V3/V4의 MLA(Multi-Head Latent Attention) 수리적 해부와 SGLang RadixAttention 서빙 최적화
llm
대규모 컨텍스트와 에이전트 루프에서 서빙 인프라의 최대 병목인 KV 캐시를 32분의 1로 압축하는 Multi-Head Latent Attention(MLA)의 수리적 메커니즘(저랭크 압축, 가중치 흡수, 분리형 RoPE)을 증명하고, Kubernetes 환경에서 SGLang Rad...
안드레이 카파시의 앤트로픽 합류와 ‘카파시 루프(Autoresearch)’: GRPO에서 자율 사전학습 최적화까지
agent
비평 모델(Critic Model)을 제거한 DeepSeek-R1의 GRPO 강화학습부터, 안드레이 카파시가 증명한 700회 무감독 자율 연구 루프(Autoresearch)까지. 에이전트가 스스로 훈련 코드를 수정해 모델 학습 시간을 11% 단축한 메커니즘과 프로덕션 5단계 자가 ...
Kubernetes 환경에서 초저지연 LLM 서빙: vLLM vs SGLang 접두사 캐싱 아키텍처와 처리량 심층 비교
llmk8s
멀티턴 대화, 에이전트 루프, 대규모 시스템 프롬프트 워크로드에서 TTFT(Time-to-First-Token)와 서빙 처리량을 결정짓는 핵심 병목은 접두사 캐싱(Prefix Caching)이다. vLLM의 PagedAttention 청크 해시 캐싱과 SGLang의 RadixAtt...
비생성형 AI 모델 Jev 살펴보기: System One 아키텍처와 LLM 평가의 새로운 패러다임
agent
단순한 참/거짓 판정이나 라벨 분류를 위해 생성형 LLM의 토큰 생성을 기다릴 필요가 있을까? TypeSafe AI가 공개한 비생성형 System One 모델 Jev의 작동 원리, 핵심 프리미티브(Boolean·Choice·Score), REFLEX 프레임워크의 선택적 제어 실측치...
Jev API 계약 딥다이브: Choice·Score·Noul 프리미티브와 질문 엔지니어링
agent
TypeSafe AI의 System One 모델 Jev는 어떻게 자연어 상태에서 타입화된 결정을 도출하는가? POST /v1/systemone 엔드포인트의 3대 프리미티브(Choice·Score·Noul) 응답 스펙, 공식 신뢰도(Confidence) 수식, CJK 및 버전 고정 ...
자가 개선 에이전트 루프 설계: 5단계 아키텍처와 리워드 해킹 방어
llm
자가 개선(self-improving) 루프는 사람 라벨 없이 프로덕션 트레이스를 학습 신호로 되돌리는 구조다. 롤아웃·스코어·필터·트레인·디플로이의 5단계 아키텍처, 복합 리워드 설계, PII·동의 게이트, 리워드 해킹 탐지와 방어, 조직 차원의 도입 판단 기준을 운영자 시점에서...