미분으로 의식을 묻다, 그래드랜드가 제안한 경험의 구조
Jacobian 행렬이 현상적 경험의 구조를 규정한다는 가설을 그래드랜드라는 미분 가능한 세계를 통해 따라가며, effective rank와 cohesion이 생생함과 지속을 어떻게 설명하는지 살펴봅니다.
노시욱 (Patrick Rho)
작성한 글
페이지 18
SFT는 모든 토큰을 배워야 할까, 수학 추론에서 덜어내는 학습이 말해주는 것
모든 토큰에 똑같은 손실을 주는 SFT의 관행을 logit gap 가중으로 다시 묻는 TrimSFT 논문을 해설합니다. 양쪽 끝을 덜어내고 중간에 집중하는 이유와 여섯 개 모델에서의 결과를 따라갑니다.
결정을 움직이면 라벨이 사라지고 근거 감사는 답을 내지 못했다
정답 가중 다중 교사 증류에서 결정 이동과 라벨 기능 상실, 그리고 결론을 내지 못한 접지 감사를 따라가며 무엇을 믿을 수 있는지 정리합니다.
멈출 수 있을까? 순차 임상 진단 에이전트를 위한 위험 제한 중단
진단 에이전트가 언제 진단을 내리고 언제 물러서야 하는지, 선택 오류율과 자율 진단 범위를 함께 보증하려는 중단 레이어 Cros를 깊게 읽습니다.
기억하는 척을 넘어서는 시험, PRAGMA가 묻는 것
오랜 대화를 기억하는 비서를 어떻게 평가할지 묻는 PRAGMA 연구를 통해 사실 회상과 개인화된 조언 사이의 간격, 증거 정렬의 어려움, 메모리 구조의 다음 과제를 읽는다.
위로가 두 사람만의 일이 아닐 때, 관계까지 읽는 AI를 묻다
1대1 위로를 넘어 부부와 가족의 다자 대화에서 관계의 변화를 읽고 그에 맞춰 돕는 능력을 평가하는 RESCUE-BENCH를 해설합니다.
출력 없이 파인튜닝 편향을 읽는 법
파인튜닝 전후 hidden state를 상대 표상으로 비교해 편향 이동 Delta B를 3분 만에 감사하는 방법을 해설합니다.
블랙박스 레드티밍으로 에이전트 AI의 위험을 찾아내는 법
채팅 평가를 넘어선 에이전트 AI의 다단계 위험을 블랙박스에서 자동으로 찾아내는 분류 체계 기반 레드티밍 프레임워크 해설
메뉴는 실행의 사전 분포다, 온라인 에이전트를 위한 상태 경로 도구 메뉴
요청과의 유사도로 도구를 고르면 왜 최종 행동만 남는지, 상태 경로를 실행 사전 분포로 삼는 메뉴가 ToolBench 온라인 성공률을 어떻게 끌어올렸는지 해설합니다.
실험을 아끼는 법이 아니라 결정을 아끼는 법
PNNL CICERO 기록으로 묻는 스케일업 관점의 active learning 해석. NdFeB 16 wells와 48 wells의 간격, SmCo의 순도 수율 교환, Bayes risk 기준을 따라갑니다.
얽혀서 배우는 AI는 혼자 똑똑한 AI와 무엇이 다를까
확률 파동으로 얽힌 집단 행동을 설명하고 중국 장중 거래 데이터로 검증한 논문을 따라가며, AGI에 얽힌 게임 모듈이 필요한 이유와 한계를 함께 읽습니다.
북극에서 가장 빠른 길보다 덜 해치는 길을 고르는 법
다기준 북극 항로 문제를 사람과 함께 푸는 멀티에이전트 GeoAI의 구조와 판단 방식을 해설합니다.