LLM에게 무엇을 기대하는가? 벤치마크 설계도를 읽는 법

arXiv에 공개된 논문 What Do We Expect from LLMs? Mapping the Design of LLM Benchmarks(arXiv 2609.19182)는 2022년 1월부터 2026년 8월까지 arXiv에 제출된 글 가운데 평가 자원을 새로 만들거나 고친 1만 4,767편을 한 장의 지도로 펼쳐 보여줍니다. 이 논문의 주장은 한 문장으로 정리됩니다. 벤치마크의 설계 변화를 따라가면 연구자들이 모델에게 기대하는 일과 성공으로 치는 기준이 어떻게 이동했는지 읽을 수 있다는 것입니다. 원문은 제목 아래에 걸어두었습니다.

저는 이 접근이 반가웠습니다. 평소에 새로운 벤치마크 점수를 보면 점수 자체보다 그 시험이 무엇을 재려고 들었는지가 먼저 궁금했기 때문입니다. 순위표는 누가 이겼는지만 말해주지만, 설계도는 무엇을 시켰고 어떤 조건에서 무엇을 성공으로 쳤는지를 말해줍니다. 그래서 이번 글에서는 이 지도를 따라가면서 평가의 기대가 어디로 이동했고, 모델이 시험 과정에 들어올 때 어떤 문제가 생기는지를 차근차근 풀어보겠습니다.

성적을 묻기 전에 기대를 먼저 묻고 싶어졌습니다

여러분도 새 모델 발표를 보면 숫자를 먼저 확인하실 텐데, 저도 그렇습니다. 그런데 숫자를 보고 나면 곧바로 다음 질문이 생깁니다. 그 점수는 어떤 일을 시킨 뒤에 나온 점수일까 하는 것이죠. 객관식 문제를 맞힌 점수와 고객 응대를 시뮬레이션한 점수는 같은 90점이라도 전혀 다른 이야기를 담고 있기 때문입니다. 그렇다면 우리가 진짜로 알고 싶은 것은 성적일까요, 아니면 그 성적이 나온 시험의 성격일까요.

저는 이 논문에서 가장 흥미롭게 본 부분이 바로 이 질문을 정면으로 든 대목이라고 봅니다. 연구진은 모델 순위를 새로 매기는 대신 평가 자원을 만든 논문들을 모아서 목표 시스템과 영역, 평가 재료와 조건, 채점 방식이 어떻게 바뀌었는지 코드화했습니다. 단계적인 선별 과정과 자동화된 본문 코딩을 함께 썼다고 합니다. 저는 그래서 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 개별 벤치마크 하나하나를 외우는 대신 전체의 흐름을 읽을 수 있게 되기 때문입니다.

여기서 재미있는 질문이 생깁니다. 2022년 초와 2026년 여름의 시험지를 나란히 두면 무엇이 달라져 있을까요. 언뜻 보면 모델이 똑똑해져서 어려운 문제가 늘어난 것처럼 보이지만, 실제로 지도를 펼치면 그보다 더 구체적인 이동이 드러납니다. 모델에게 행동하고 상호작용하며 전문적인 일을 하라고 요구하는 장면이 늘어났다는 것이죠. 이 글에서는 그 이동을 하나씩 짚어보겠습니다.

1만 4천여 편의 시험지를 지도처럼 펼치면

1만 4,767편이라는 숫자는 그냥 크다는 말로 넘기기에는 아까운데, 2022년 1월부터 2026년 8월까지 arXiv에 올라온 제출물 가운데 평가 자원을 새로 만들거나 손본 글을 가려낸 결과이기 때문입니다. 저는 여기서 멈칫했습니다. 그 많은 시험지를 사람이 일일이 읽을 수는 없습니다. 어떻게 흐름을 읽었을까 궁금했기 때문입니다. 연구진은 단계별 선별과 자동화된 본문 코딩을 썼다고 설명합니다. 먼저 관련 글을 고르고 그다음에는 본문에서 목표 시스템과 영역, 재료와 조건, 채점 방식을 기계적으로 읽어낸 것입니다.

이런 방식은 개별 논문의 주장에 매몰되지 않게 도와줍니다. 하나의 벤치마크는 저자들의 관심과 사정에 따라 만들어지지만, 수천 개를 모으면 특정 연구실의 취향을 넘어선 시대의 취향이 드러나기 때문입니다. 생각해보면 사람도 비슷하게 배웁니다. 학생 한 명의 성적표보다 한 학년 전체의 시간표를 보면 그 학교가 무엇을 가르치려는지가 더 잘 보이잖아요. 이 연구는 바로 그 시간표를 복원한 셈입니다.

문제는 그다음입니다. 자동으로 읽어낸 코딩이 모든 뉘앙스를 담을 수는 없기 때문입니다. 저는 이 숫자들을 절대적인 측량 결과처럼 받아들이기보다 시대의 윤곽을 보여주는 스케치로 읽는 편이 낫다고 봅니다. 그럼에도 방향은 분명합니다. 평가가 요구하는 일의 성격이 바뀌었고, 조건과 채점 방식도 함께 움직였다는 것이죠. 그렇다면 그 변화는 어디에서 가장 뚜렷할까요.

시험지를 기대의 기록으로 읽기

이 논문이 던지는 관점 전환은 생각보다 큰데, 벤치마크를 누가 1등인지 가리는 도구로 보는 대신 연구 공동체가 모델에게 기대하는 일을 적어둔 기록으로 보자는 것이기 때문입니다. 저는 이 관점이 마음에 들었습니다. 시험 문제는 결국 출제자의 머릿속을 보여주기 때문입니다. 무엇을 풀게 했는지 보면 무엇을 할 수 있기를 바랐는지가 드러나고, 무엇을 성공으로 쳤는지 보면 무엇을 능력으로 여겼는지가 드러납니다.

예를 들어 예전에는 짧은 질문에 정답을 고르는 형식이 많았고, 그러다 보니 모델이 아는 것이 많은지가 주로 측정됐습니다. 그런데 요즘에는 도구를 쓰고 여러 단계로 행동하며 사람이나 다른 모델과 주고받는 장면이 평가에 들어옵니다. 같은 모델이라도 전자의 시험에서는 백과사전처럼 보이고, 후자의 시험에서는 신입 직원처럼 보일 수 있습니다. 무엇을 시켰는지에 따라 모델의 얼굴이 달라지는 것입니다.

여기서는 조금 조심해서 읽을 필요가 있습니다. 기대가 바뀌었다는 말이 곧 예전 기대가 틀렸다는 뜻은 아니기 때문입니다. 학교에서 중간고사 뒤에 실습 과제를 추가했다고 해서 중간고사가 쓸모없어지는 것은 아니잖아요. 이 연구가 보여주는 것도 비슷한 그림입니다. 새로운 기대가 추가되면서 전체 지도가 넓어졌고, 그 과정에서 오래된 형식과 새로운 형식이 함께 남았다는 것이죠. 그 공존의 모습은 다음 장면에서 더 분명해집니다.

이제는 행동하고 부딪히며 일하는 모습을 봅니다

지도에서 가장 눈에 띄는 이동은 행동과 상호작용, 그리고 전문적인 쓰임새를 향한 흐름인데, 예전 평가가 조용한 책상 앞에서 답을 고르는 시험에 가까웠다면 요즘 평가는 현장에서 직접 움직이는 모습을 보는 쪽으로 옮겨가고 있기 때문입니다. 도구를 호출하고 파일을 고치고 여러 단계의 결정을 이어가며 결과를 만들어내는 장면이 많아졌다는 것이죠. 저는 이 변화를 읽으면서 무릎을 쳤습니다. 실제 제품에서 모델이 쓰이는 방식이 바로 그렇기 때문입니다.

실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 모델이 혼자 푸는 문제와 환경과 부딪히며 푸는 문제는 무엇이 다를까 하는 것이죠. 전자는 입력과 출력만 맞으면 되지만, 후자는 중간 과정에서 무엇을 보고 어떤 도구를 골랐는지도 결과에 영향을 줍니다. 중간에 한 번 잘못 누른 버튼이 마지막 결과를 바꾸기도 하기 때문입니다. 그래서 평가도 바뀌어야 합니다. 최종 답만 맞았는지보다 과정이 말이 되는지, 중간 실패를 어떻게 수습했는지를 함께 봐야 하니까요.

또 하나 눈에 띄는 점은 전문 영역의 쓰임새가 평가 안으로 들어왔다는 것인데, 연구나 코딩, 사무 업무처럼 실제 직업의 장면이 시험 무대가 되기 때문입니다. 일종의 현장 실습처럼요. 이렇게 되면 평가는 상식 퀴즈에서 직무 평가 쪽으로 기울게 됩니다. 여러분이 채용 면접관이라고 상상해보세요. 지원자에게 필기시험만 보게 할까요, 아니면 실제 업무와 비슷한 과제를 주고 협업하는 모습까지 볼까요. 연구 공동체는 후자 쪽으로 눈을 돌리기 시작한 것이죠. 그렇다면 오래된 객관식 시험지는 이제 사라질까요.

오래된 시험지가 사라지지 않는 이유

의외로 그렇지 않습니다. 이 지도에서 저를 다시 생각하게 만든 대목이 바로 여기입니다. 새로운 형식이 늘어나도 오래된 형식이 밀려나지 않고 함께 남아 있기 때문입니다. 자리를 잡은 선택형이나 짧은 답형 평가가 사라지는 대신, 그 옆에 상호작용형과 행동형 평가가 덧붙는 모양입니다. 지층이 바뀌는 것이 아니라 지층이 쌓이는 것에 가깝습니다.

이유는 어렵지 않게 짐작할 수 있습니다. 오래된 형식에는 오래된 형식의 쓰임이 있기 때문입니다. 빠르고 싸게 잴 수 있고, 여러 모델을 같은 조건에서 비교하기 쉽고, 시간이 지나도 점수를 이어서 볼 수 있다는 장점이 있습니다. 새 모델이 나올 때마다 매번 복잡한 에이전트 환경을 돌리기는 부담스러우니까요. 아침에 커피를 내리면서 돌릴 수 있는 가벼운 시험지와, 주말에 작정을 하고 돌리는 종합 시험지가 따로 있는 셈입니다. 둘 다 필요합니다.

그런데 이 공존에는 함정도 있습니다. 가벼운 시험지의 점수가 종합 시험지의 능력을 대신 말해주리라고 착각하기 쉽기 때문입니다. 객관식 점수가 올랐다고 해서 현장 업무도 잘하리라고 믿으면 곤란합니다. 학교로 치면 모의고사 1등이 실습에서도 1등이라는 보장이 없는 것과 같습니다. 저희가 새로운 AI 아키텍처를 볼 때도 benchmark 숫자만 보지는 않습니다. 실제로 무엇이 바뀌었고 그 변화가 어떤 조건에서 나온 것인지를 함께 보기 때문입니다. 숫자는 조건과 함께 읽을 때만 말이 됩니다. 그렇다면 채점 방식에서는 어떤 이동이 있었을까요.

채점자 자리에 모델이 앉는 일이 늘고 있습니다

채점 이야기로 넘어가면 그림이 더 또렷해집니다. 모델이 답을 평가하는 방식이 에이전트 평가와 그 바깥의 평가 모두에서 늘어났다는 것이기 때문입니다. 사람이 일일이 읽기에는 분량이 너무 많고, 상호작용 과정은 정답지로만 재기 어려우니 모델에게 채점을 맡기는 선택이 퍼진 것입니다. 처음에는 낯설게 느껴질 수 있지만, 막상 현장에서는 꽤 자연스러운 흐름입니다. 긴 대화를 읽고 과정의 타당성을 따지는 일은 사람에게도 벅차기 때문입니다.

저는 이 대목에서 두 가지 마음을 함께 가졌습니다. 먼저 이해되는 지점이 있습니다. 에이전트가 열 단계에 걸쳐 도구를 쓰고 문서를 고쳤다면 마지막 파일만 보고 점수를 매기기는 어렵기 때문입니다. 중간에 어떤 선택을 했는지를 읽어야 합니다. 그 읽기 작업 자체가 언어 이해를 요구하니 모델이 잘할 수 있는 일입니다. 반면 걱정되는 지점도 있습니다. 채점자가 피채점자와 같은 부류라면, 그 평가를 얼마나 독립적인 증거로 믿을 수 있을까 하는 것이죠. 같은 학원 출신끼리 서로 채점해주는 모습을 상상해보세요. 잘 가르쳐서 점수가 오른 것인지, 같은 버릇을 공유해서 점수가 오른 것인지 헷갈릴 수 있습니다.

연구진이 짚은 점도 바로 그 지점인데, 평가에 참여하는 모델이 늘수록 그 모델들의 선호와 사각지대가 결과에 스며들 수 있다는 것이기 때문입니다. 이 이야기는 뒤에서 더 깊이 다루겠습니다. 그전에 먼저 반대쪽 자리, 즉 문제를 만드는 자리에서는 어떤 일이 있었는지 봐야 합니다. 채점 자리와 출제 자리의 온도가 서로 다르기 때문입니다.

문제를 만드는 자리에는 왜 모델이 많지 않을까

여기서 지도는 의외의 모습을 보여줍니다. 채점에는 모델이 많이 들어오지만, 평가 재료를 만드는 일에는 그만큼 꾸준한 증가가 보이지 않기 때문입니다. 최근 흐름에서도 모델이 만든 재료가 계속 늘어나는 모습은 확인되지 않았다고 합니다. 참여의 정도가 고르지 않다는 표현이 정확합니다. 한쪽 문은 활짝 열렸는데 다른 쪽 문은 반쯤 닫혀 있는 셈입니다.

왜 그럴까요. 저는 두 가지 가능성을 함께 떠올렸습니다. 첫째로 문제를 만드는 일은 채점보다 실패가 더 눈에 띄기 때문입니다. 채점이 조금 흔들리면 평균에 묻힐 수 있지만, 문제 자체가 잘못되면 시험 전체가 흔들립니다. 그래서 연구자들이 출제에는 더 보수적으로 접근할 수 있습니다. 둘째로 좋은 문제는 도메인 지식과 설계 의도를 요구하지만, 이 품질 관리가 생각보다 손이 많이 가기 때문입니다. 전문 업무를 평가하려면 그 업무를 아는 사람의 손길이 필요하고, 모델이 대량으로 만든 문제를 사람이 일일이 검수하려면 오히려 손이 더 갈 수 있습니다. 자동으로 뽑아놓고 뒤에서 사람이 고치는 구조라면 겉보기만큼 자동화가 크지 않을 수도 있습니다.

이 차이는 생각보다 중요한데, 평가라는 과정을 출제와 풀이와 채점으로 나누면 모델의 참여는 세 자리에서 고르게 늘지 않았기 때문입니다. 채점 자리에서는 늘고, 출제 자리에서는 제자리걸음에 가깝고, 풀이 자리는 말할 것도 없이 모델이 주인공입니다. 이렇게 참여가 어긋나면 평가 전체의 성격이 달라집니다. 문제를 내는 사람과 푸는 사람과 채점하는 사람의 관계가 바뀌는 것이죠. 그렇다면 세 자리를 모두 모델이 맡게 되면 어떤 일이 생길까요.

시험을 내고 풀고 채점까지 같은 부류가 맡으면

이 논문이 던지는 가장 묵직한 질문이 바로 여기 있습니다. 시험을 만들고 풀고 판정하는 과정에 모델의 참여가 넓어질 때, 그 결과가 더 독립적인 증거가 될까요, 아니면 참여 모델들의 선호와 사각지대를 그대로 비추는 거울이 될까요. 연구진은 후자의 가능성을 걱정합니다. 같은 종류의 모델이 출제와 풀이와 채점에 두루 관여하면 모델이 원래 가진 버릇이 정답처럼 굳어질 수 있기 때문입니다.

일상적인 장면으로 바꿔보면 감이 옵니다. 같은 말투를 쓰는 사람들끼리 서로의 글을 평가하면 점수가 후해지기 쉽기 때문입니다. 특정 표현을 좋아하는 심사자가 같은 표현을 쓰는 답안에 높은 점수를 주는 것과 비슷합니다. 모델 심사도 마찬가지일 수 있습니다. 길고 정중한 답을 선호하는 심사 모델은 길고 정중한 오답에 후해질 수 있고, 특정 풀이 순서를 좋아하는 모델은 그 순서대로 쓴 답을 더 좋게 볼 수 있습니다. 이런 기울기가 한 번이 아니라 출제와 채점에 걸쳐 반복되면, 점수는 능력보다 동류성을 재는 쪽으로 기울 수 있습니다.

저는 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 점수가 올랐다는 사실보다 그 점수가 누구의 눈으로 매겨졌는지가 더 많은 것을 말해주기 때문입니다. 실제 제품팀의 아침을 떠올려보세요. 밤사이 새로 들어온 데이터 때문에 평가 파이프라인이 깨졌는데, 그 원인이 모델 성능인지 시험 재료의 편향인지 채점 기준의 변화인지 가려내야 합니다. 세 자리에 모두 같은 부류의 모델이 앉아 있다면 원인 찾기가 훨씬 어려워집니다. 거울 방에 들어가서 어느 벽이 기울었는지 묻는 것과 비슷합니다.

그래서 저는 이 걱정을 과장이라고 넘기지 않았습니다. 평가가 넓어지는 것은 반가운 일이지만, 넓어진 평가가 서로 다른 눈으로 교차 확인되지 않으면 증거로서의 힘이 약해지기 때문입니다. 서로 다른 계열의 모델로 채점하거나 사람이 표본을 직접 읽는 과정이 여전히 필요한 이유입니다. 그렇다면 실무에서는 이 지도를 어떻게 써먹을 수 있을까요.

숫자와 함께 조건을 읽는 법

저희 팀에서 새로운 벤치마크 결과를 볼 때의 순서는 대략 정해져 있는데, 먼저 무엇을 시켰는지 봅니다. 정답 고르기인지, 도구 사용인지, 사람과의 상호작용인지부터 확인합니다. 그다음에는 어떤 조건에서 재었는지를 보는데, 몇 단계의 행동이 허용됐는지, 어떤 도구가 주어졌는지, 실패를 만회할 기회가 있었는지를 따집니다. 마지막으로 누가 어떻게 채점했는지를 보는데, 정답 대조인지, 사람이 읽은 것인지, 모델이 읽은 것인지를 확인합니다. 이 순서를 거꾸로 하면 숫자에 속기 쉽습니다.

이 논문의 지도는 바로 그 순서를 돕는데, 개별 점수를 외우기보다 시대의 시험지가 어디로 이동했는지를 보여주기 때문입니다. 행동과 상호작용 평가가 늘었다는 사실을 알면, 정적 시험지의 고득점에 취해 제품 도입을 서두르지 않게 됩니다. 오래된 형식과 새로운 형식이 공존한다는 사실을 알면, 가벼운 시험지와 무거운 시험지를 용도에 맞게 골라 쓰게 됩니다. 채점에 모델이 많이 들어왔다는 사실을 알면, 점수를 읽을 때 심사자의 성향까지 함께 의심하게 됩니다.

여기서 한 가지 덧붙이고 싶은 장면이 있습니다. 화요일 아침에 새 모델로 갈아타야 할지 결정해야 하는 팀을 상상해보세요. 리더보드의 1등 표시만 보고 바꾸면 오후에 고객 문의가 쏟아질 수 있습니다. 반면 시험지의 성격을 뜯어보면 더 나은 질문을 던질 수 있는데, 우리 제품의 장면과 비슷한 조건에서 잰 점수인가요, 채점자가 우리 고객과 비슷한 기준으로 읽었나요, 실패 사례를 직접 읽어봤나요 같은 것입니다. 저는 그래서 이 지도를 리더보드 옆에 붙여두고 싶었습니다. 점수의 옆에 시험의 얼굴을 함께 붙여두는 것이죠.

다음 지도는 무엇을 그려야 할까

지도가 넓어졌다고 해서 모든 땅이 측량된 것은 아닙니다. 저는 이 논문을 덮으면서 오히려 빈칸이 더 궁금해졌는데, 앞으로의 평가가 메워야 할 빈칸은 어디일까요. 먼저 시간의 문제입니다. 이번 지도는 2022년 1월부터 2026년 8월까지의 arXiv 제출물을 다룹니다. 그 이후의 흐름은 아직 그려지지 않았는데, 행동형 평가가 계속 늘어날지, 아니면 일정 수준에서 안정될지는 다음 지도를 기다려야 합니다.

다음으로 조건의 기록 문제입니다. 상호작용 평가에서는 어떤 도구를 줬고 몇 번의 시도를 허용했는지가 점수만큼 중요합니다. 그런데 이런 조건이 논문마다 다르게 적히면 나중에 비교하기 어렵습니다. 재료와 조건, 채점 방식을 더 잘게 나누어 적는 약속이 필요해 보이는데, 그래야 가벼운 시험지와 무거운 시험지를 같은 선에 두고 헷갈리지 않을 수 있기 때문입니다.

세 번째는 심사의 투명성 문제입니다. 모델이 출제와 채점에 들어올수록 누구의 눈으로 쟀는지를 투명하게 밝혀야 합니다. 어떤 계열의 모델이 심사했는지, 심사자의 선호를 점검하는 절차가 있었는지를 적는 것이죠. 저는 이 대목을 읽으면서 예전 학교 시험이 떠올랐습니다. 채점 기준표를 먼저 공개하고, 이의 신청을 받고, 표본 답안은 여러 명이 돌려 읽었습니다. 모델 평가에도 그런 절차의 문법이 필요해 보입니다.

네 번째는 사람의 검수 자리를 어떻게 지킬지 문제입니다. 자동으로 뽑은 재료와 자동으로 매긴 점수를 사람이 어느 밀도로 다시 읽을지 정해야 합니다. 전수를 읽기 어렵다면 표본이라도 원칙을 정해 읽어야 하는데, 그래야 점수가 한 방향으로 기울 때 빨리 알아챌 수 있기 때문입니다.

그렇다면 사람의 역할은 무엇일까요. 저는 사람이 시험에서 손을 떼는 그림을 그리지 않습니다. 오히려 사람이 맡아야 할 자리가 더 분명해졌다고 보는데, 어떤 일을 시킬지 정하고, 성공의 기준을 다듬고, 모델 심사의 버릇을 점검하는 자리이기 때문입니다. 시험을 내는 일과 기준을 세우는 일은 기대를 선언하는 일이기 때문입니다. 그 기대를 선언하는 자리에 사람이 남아 있어야 평가가 거울에 머물지 않고 나침반 구실을 할 수 있습니다. 제가 앞으로 보고 싶은 것은 바로 그 다음 지도입니다. 기대를 더 정교하게 선언하고, 그 기대를 서로 다른 눈으로 확인하는 평가의 모습입니다.