답이 맞았는데 왜 불안할까, 출처까지 묻는 검증이 필요한 이유
MCP로 도구를 쓰는 에이전트 시대에 팩트 확인을 넘어 출처 확인이 필요한 이유를 Multiverse Computing의 검증 관점에서 따라간다. provenance 기록과 entailment 점검, 신뢰 등급과 허용 목록, 남은 난제를 차례로 읽는다.
핵심 주제
AI 에이전트
AI 에이전트를 도구에서 책임 있는 동료로 전환하기
에이전트 오케스트레이션, 협업, 역할과 에스컬레이션, 장기 실행과 인간 감독을 실제 운영 관점에서 살펴봅니다.
관련 글
페이지 3
일을 끝내는 에이전트는 어디에서 배울까
정답이 아니라 궤적을 배워야 하는 기업 에이전트 시대에 합성 데이터로 일을 만들고 걸러내는 흐름과 그 뒤에 남는 편향과 운영의 빈틈을 읽는다.
에이전트는 끝났다고 말했다. 그런데 데이터베이스는 고개를 저었다
말은 매끄러운데 저장이 안 되어 있다면요. Microsoft가 다룬 에이전트의 거짓 완료 문제를 따라가며 호출과 커밋의 차이, 읽기로 확인하는 습관, 멱등성과 원자성, 그리고 운영 가드레일을 정리합니다.
긴 작업을 끝까지 본다는 것, AgentHorizon이 agentic judge에게 던진 질문
300개 화면에 걸친 컴퓨터 작업을 심판할 수 있을까. 1,373개 과제와 짝지은 함정으로 judge의 눈을 시험한 AgentHorizon을 읽습니다.
탐색을 외우는 법, 계획을 덜 저장하는 법
휴리스틱이 거의 완벽해도 상태가 기하급수적으로 쌓이는 문제를 도메인 단위 탐색 제어로 풀려는 시도와 indexical policy, 구조적 종료, 다항식 공간 탐색 절차를 따라가 봅니다.
가게를 맡기면 AI는 버틸 수 있을까, StoreBench가 묻는 운영의 문제
중규모 의류 쇼핑몰을 한 달 넘게 직접 운영하게 만드는 라이브 벤치마크 StoreBench를 해설합니다. 29개 운영 도구와 시뮬레이션 시간, 사람과 모델의 점수 차이, 그리고 짧은 훈련으로 달라진 일반화 결과를 따라갑니다.
분위기를 읽는다는 것의 조건과 한계
상호작용만으로 공동체의 규범을 가려내는 능력을 묻는 Reading the Room 연구를 풀어쓴 해설로, 합성 규범 토론장 설계와 베이스라인 실패, 스타일 민감성과 무차별 모방 문제를 따라갑니다.
시간을 지키는 AI 에이전트는 어떻게 만들까
프롬프트에 적힌 시간 예산이 왜 지켜지지 않는지, 하네스의 시계와 데드라인 강제, 강화학습이 punctuality와 productivity를 어떻게 가르는지 읽어봅니다.
계획이 어긋날 때 통째로 버리지 않는 법
확산 언어 모델로 에이전트 계획을 세우고 어긋난 부분만 골라 고치는 Plan-and-Patch를 구조와 수리 방식, 53.7%와 27.0%의 차이, 훈련 뒤 39-46% 속도 변화 중심으로 읽는다.
바뀌는 것은 모델이 아니라 하네스여야 한다
신용 심사 파이프라인에서 LLM 에이전트의 자기 진화를 하네스로 묶고, 하나의 승인 게이트와 해시 연결 기록으로 통제하는 설계를 읽는다.
일하는 에이전트는 왜 잊는 법부터 배워야 할까
도구 관찰 기록을 통째로 들고 다니는 에이전트의 맥락을, 되돌릴 수 있게 정리하는 reversible context curation 방법을 해설합니다. OpenTelemetry 궤적에서의 토큰 절감과 비용 변화, 그리고 일이 길어질수록 달라지는 조건을 함께 봅니다.
아직 없는 설명까지 찾아 나서는 과학
증거가 쌓이는 동안 가설을 바꾸고 배경지식까지 되돌리며, 언제 멈춰도 타당성을 지키는 개방형 발견 프레임과 가능성 프론티어 탐색 해설