맞힌 답을 살려두는 학습, Exploration-Preserving Policy Optimization이 묻는 것
검증 가능한 보상으로 추론을 가르칠 때 드문 정답이 사라지는 이유를 따라가며 ExPPO의 surprisal 기반 신용 재분배와 커버리지 실험을 읽는다.
블로그
AI 기술, 연구, 제품, 그리고 그 곁에서 일하는 사람들의 이야기
기술과 제품을 설계하고 검증하는 과정, 주목할 논문과 AI 동향에 대한 해설, Patty의 새로운 시도와 일하는 문화까지 깊이 있게 전합니다.
최신 글
페이지 11
마크다운을 넘어선 스킬 자가 진화, SkillScriptBench가 재는 것
문서와 스크립트가 한 묶음으로 움직이는 실행형 에이전트 스킬을 어떻게 고치고 유지할지, 350개 작업으로 따로 재는 벤치마크를 읽어봅니다.
에이전트에게 코딩을 가르친다는 말의 실제 뜻
실행 피드백으로 탐색을 이끌고 되돌린 트리로 패치를 고르는 방법이 SWE-bench에서 52.8%를 풀고 검증기의 오답 허용을 절반 이하로 낮춘 과정을 해설합니다.
행동 기록이 사람 설명을 이긴다, LLM 합성 페르소나의 개인을 복원하는 방법
인구 평균은 누구나 맞힌다. 845명 2차 패널과 14개 행동 편향 실험에서 설명 기반 페르소나가 개인차를 절반만 살리고 행동 기록이 분산과 예측력을 되살린 과정을 해설합니다.
ROAR: 서로 다른 AI 연구 시스템을 하나로 묶는 실행 기록 인프라
값비싼 AI 연구 실행 기록을 서로 비교할 수 있게 만드는 관계형 스키마와 파싱 계층, 900번 이상의 실행에서 드러난 탐색의 본질을 따라갑니다.
LatentQuant, NVFP4 양자화 아래에서 정책이 믿는 잠복 약속을 지키는 법
복원 점수는 그대로인데 로봇 성공률이 무너진 이유를 따라가며, 인코더 정렬부터 고정하는 2단계 NVFP4 학습으로 정책이 기대하는 잠복 분포를 되찾은 LatentQuant를 해설합니다.
공자가 운전대를 잡는다면, 검색으로 배우는 자율주행의 예의
유교적 가치 지침을 검색 증강 생성으로 엮어낸 CPW-Drive를 해설합니다. 고전 텍스트가 운전 원칙으로 바뀌고 물리 기반 검색이 과거 사례를 꺼내는 과정을 따라가며 Highway-env에서의 성공률과 절충점을 짚습니다.
남의 기억이 내 답에 섞일 때, MemLeak이 묻는 것
여러 사용자의 에이전트 기억을 하나의 벡터 저장소에 모아둘 때 생기는 의미적 누출을 다룬 MemLeak 연구를 검색 구조와 우연한 누출, 의도적 삽입, 답변 오염, 소유권 차단까지 따라가며 읽는다.
도구를 들면 거절을 잊는 모델
도구를 쓰는 에이전트형 멀티모달 모델에서 거절 성능이 왜 떨어지는지, 세 가지 안전 벤치마크와 10만 개 응답 분석 결과를 따라가며 해석한 논문 해설입니다.