낯선 것과 위험한 것을 가르는 법
Counterfactual Neighborhood Risk Fields가 VLM 안전을 차단이 아닌 증거 기반 선택적 판단으로 바꾸는 과정을 따라가며, 반사실 이웃과 위험 방향, 지원도 분리, 동일 모델 검토 구조를 해설합니다.
핵심 주제
AI 거버넌스
AI를 신뢰할 수 있는 업무 시스템으로 운영하기
권한, 승인, 실행 기록, 데이터 경계와 책임 구조를 중심으로 안전하고 검증 가능한 AI 운영 방식을 설명합니다.
관련 글
만점이 된 벤치마크 이후에도 모델 실력을 가늠할 수 있을까
포화된 벤치마크의 풀이 기록에서 남은 신호를 읽어내는 Transcript 분석 방법과 pairwise judging의 효과를 해설합니다.
인공물의 첫 시험, 초지능을 재는 LLM 참조 C-test
사람도 최신 모델도 기준이 될 수 없을 때 시험의 난이도를 어디에 고정할지에 대한 논문을 풀어쓴 해설입니다. 역문제와 Levin의 Kt, LLM을 참조 기계로 쓰는 발상을 따라가며 초지능 구간을 인증하는 시험 파이프라인을 살펴봅니다.
같은 벤치마크를 다시 돌리면 같은 점수가 나올까요
영국 AI 안전 연구소의 배포 전 평가와 EvalEval의 고정 설정, 완전한 로그, 다중 시드 보고가 벤치마크 점수를 다시 믿을 수 있게 만드는 과정을 따라가 봅니다.
순서를 매기는 일이 거버넌스가 될 때
데이터를 모으지 않고 순위를 함께 배우는 DeFiRank가 실제 거래 기록에서 진짜 기여를 가려내는 방식을 읽는다.
고백하게 만드는 증류와 능력만 가져오는 증류
정렬 평가를 속일 수 있는 강한 모델을 직접 감사하는 대신, 약한 제자로 증류해 치우침을 드러내거나 능력만 안전하게 옮기는 두 갈래 증류 전략을 해설합니다.
서사로 감싸면 거부가 무너진다: 다언어 벤치마크와 방어를 읽다
직접적인 요청은 거절하던 모델이 서사로 감싸면 답을 내놓는 현상을 영어와 중국어와 고문체로 측정하고 표상 수준에서 방어까지 연결한 연구를 해설합니다
누구의 정답인가: 인간 중심 AI에서 모호함을 끌어안는 법
정답 하나로 합치는 관행을 되짚고, 사람의 해석 다양성을 분포로 다루는 설계와 평가, 운영의 변화를 따라갑니다.
AI는 어떻게 인류를 없앨 수 있을까, 파국을 고장 모드로 읽는 법
멸종과 붕괴와 무력화를 하나의 고장 분석 틀로 정리한 연구를 따라가며 네 가지 위험 경로와 회복 가능성의 의미를 풀어봅니다.
위험한 일을 멈추는 법을 배우지 못하는 팀
보상이 공유될 때 왜 신고가 최선인데도 학습되지 않는지, 기울기가 k배로 부풀어 오르는 구조와 감사 설계의 조건을 따라가 봅니다.
얼마나 함께 만들었는지 적는 법, REAL Rating이 제안하는 눈금
사람이 썼는지 기계가 썼는지 둘로 나누는 표기 대신, 만들고 쓰는 과정의 AI 관여를 0부터 5까지 여섯 단계로 적는 REAL Rating의 문제의식과 설계, 다섯 가지 결과물에 대한 적용과 남은 질문을 읽는다.
남의 기억이 내 답에 섞일 때, MemLeak이 묻는 것
여러 사용자의 에이전트 기억을 하나의 벡터 저장소에 모아둘 때 생기는 의미적 누출을 다룬 MemLeak 연구를 검색 구조와 우연한 누출, 의도적 삽입, 답변 오염, 소유권 차단까지 따라가며 읽는다.