간접 프롬프트 인젝션을 테스트 타임 탐색으로 다시 보기
공격 성공률을 피해자의 고정된 점수가 아니라 공격자의 탐색 예산과 절차의 함수로 다시 읽는 연구 해설
노시욱 (Patrick Rho)
작성한 글
페이지 20
더 좋은 모델이 더 위험한 시스템이 될 때
모델 성능 향상과 시스템 위험 증가가 함께 나타날 수 있는 이유를 금융시장 LLM 에이전트 사례로 풀어본 해설입니다.
전쟁 속 뉴스룸을 지키는 일에 AI가 기여하는 방식
OpenAI와 AIRPPU, WAN-IFRA가 우크라이나 독립 언론을 돕기 위해 시작한 AI 프로그램의 취지와 뉴스룸에서의 실제 의미를 해석합니다.
연구 가속이라는 말을 OpenAI 안에서 들여다보기
Simon Willison이 정리한 OpenAI 내부 연구 가속 이야기를 따라가며 RSI라는 말의 등장, 코딩 에이전트의 일상화, 연구자당 AI 지출 그래프의 꺾임을 풀어봅니다.
IFM K2 Horizon 공개, 0.9B부터 375B까지 여섯 개 Apache 2.0 모델을 한 번에 내놓은 이유
MBZUAI의 프론티어 랩 IFM이 0.9B부터 375B까지 여섯 개 모델과 프리트레이닝 코퍼스를 Apache 2.0으로 공개한 배경과 설계 의미를 해설합니다.
DNS의 목적은 사기를 퍼뜨리는 일이라는 불편한 진단
8천5백만 개의 신규 gTLD 중 10퍼센트 이상이 사기라는 측정치를 따라가며 DNS 남용 구조와 엔지니어가 볼 지점을 해설합니다.
낯선 마음과 함께 일하는 법
능력이 커지는 AI를 인간의 의도에 맞게 유지하는 일이 왜 더 어려워지는지, Jakub Pachocki의 글 An Alien Mind를 따라가며 풀어봅니다.
HarnessDev: LLM이 자기 에이전트 하네스를 직접 만들고 진화시킬 수 있을까
사람이 손으로 만든 에이전트 프레임워크 대신 LLM이 하네스 코드를 직접 생성하고 실행 결과로 골라내는 진화 루프라는 발상을 뜯어봅니다.
Repo-To-Skill을 읽고: 에이전트에게 부족한 건 모델이 아니라 운영 지식이다
리서치 에이전트에 빠진 운영 지식 계층을 스킬로 채우자는 DisCo 논문을 따라가며, 스킬 증류의 구조와 AREX-Skill 라이브러리, 매칭된 예산에서의 실험 결과를 살펴봅니다.