arXiv에 공개된 OpenDiscoveryTrace: Process Traces for Evaluating AI Scientist Workflows는 2609.09203 식별자로 확인할 수 있는 연구입니다. 이 연구는 최종 결과만으로 AI 과학자를 평가하면 방법의 차이를 볼 수 없다고 말합니다. 원문 링크는 제목 아래에 걸려 있습니다.
제가 이 논문을 처음 펼쳤을 때 든 생각은 생각보다 소박했습니다. 또 평가 데이터 하나 나왔나 싶었죠. 그런데 숫자를 따라가다 보니 생각이 바뀌었습니다. 세 모델이 나란히 80퍼센트대에 서 있는데, 그 안쪽 풍경은 전혀 달랐기 때문입니다.
안녕하세요, 패트릭 입니다. 실험실에서 학생이 보고서를 잘 써오면 일단 점수를 주게 됩니다. 그렇다면 그 점수만으로 그 학생이 다음 실험도 잘할 거라고 믿어도 될까요. 저는 이 질문을 마음에 품고 이번 글을 썼습니다. 오늘은 과정 전체를 통째로 기록한 558개 궤적을 함께 읽어보려 합니다.
점수가 같으면 실력도 같을까
같은 반 학생 셋이 모두 85점을 받았다고 해보죠. 한 학생은 처음부터 답을 알았고, 다른 학생은 열 번을 고쳐서 겨우 맞췄고, 나머지 한 학생은 찍어서 맞췄다면 우리는 세 학생을 같다고 말할 수 있을까요. 저는 여기서 멈칫했습니다. 점수는 같지만 다음 시험에서 무엇을 기대해야 할지는 전혀 다르니까요.
이 연구가 출발한 지점도 바로 여기입니다. 기존 평가는 AI 과학자가 내놓은 코드나 가설이나 논문 같은 최종 산출물만 봤습니다. 그러다 보니 어떻게 답에 이르렀는지는 기록에 남지 않았습니다. 체계적으로 추론한 것인지 운 좋게 맞춘 것인지 가릴 방법이 없었죠. 방법론을 감사할 수도 없었고 실패 원인을 진단하기도 어려웠습니다.
그래서 연구진은 발상을 뒤집었습니다. 결과 옆에 과정을 통째로 붙여서 공개하기로 한 것입니다. 신약 발굴과 재료 과학, 유전체학과 문헌 분석에 걸친 124개 과제를 풀어가는 동안 모델이 무슨 생각을 했고 어떤 도구를 불렀으며 무엇을 관찰했고 어디에서 틀렸는지를 스텝마다 남겼습니다. 558개 궤적이라는 숫자는 그래서 단순한 규모 자랑으로 들리지 않았습니다. 저에게는 558번의 시험지를 채점하는 대신 558번의 풀이 과정을 옆에서 지켜본 기록처럼 느껴졌습니다.
그렇다면 과정을 남긴다는 건 정확히 무엇일까요. 다음 장면에서 기록의 모양을 들여다보겠습니다.
풀이 과정을 버리면 무엇이 남을까
과학에서 결과와 과정의 관계는 생각보다 미묘합니다. 신약 후보 물질을 하나 맞췄다고 해도 그 과정에 오염이 있었다면 그 성공을 신뢰하기 어렵죠. 반대로 실패한 실험도 과정이 깨끗하면 다음 가설의 자양분이 됩니다. 사람 과학자에게는 당연한 이 구분이 AI 평가에서는 오랫동안 빠져 있었습니다.
이 공백이 만들어내는 문제는 구체적입니다. 모델이 코드를 생성했는데 테스트를 통과했다면 우리는 그 코드를 믿어도 될까요. 가설을 냈는데 문헌과 얼추 맞는다면 그 추론은 sound했을까요. 최종 답만 있으면 이런 질문에 답할 수 없습니다. 어디에서 가정이 들어갔고 어디에서 도구가 잘못 쓰였으며 어디에서 스스로 고쳤는지가 보이지 않기 때문입니다.
저는 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 이 데이터셋이 담은 것은 정답률이 아니라 행동이기 때문입니다. 생각이 바뀌는 지점과 도구가 미끄러지는 지점, 스스로 확신을 매기는 지점이 함께 기록되면 평가는 시험 채점에서 운전 연수 기록으로 바뀝니다. 무엇을 잘했고 무엇을 고쳐야 하는지가 보이기 시작하죠.
물론 과정을 기록한다고 모든 문제가 풀리는 것은 아닙니다. 기록이 너무 듬성듬성하면 해석이 어렵고 너무 빽빽하면 노이즈에 묻힙니다. 그래서 기록의 설계가 중요해집니다. 연구진은 어떤 모양의 기록을 골랐을까요.
558번의 실험을 어떻게 모았을까
124개 과제라는 말은 처음에는 작게 느껴질 수 있습니다. 그런데 과제 구성을 뜯어보면 생각이 달라집니다. 신약 발굴과 재료 과학, 유전체학과 문헌 분석이라는 네 영역에 난이도를 고르게 깔아뒀기 때문입니다. 한 영역에서만 잘하는 모델과 여러 영역에서 고르게 버티는 모델을 가려낼 수 있는 구조죠.
궤적 수는 558개입니다. 세 프론티어 모델이 각각 124개 궤적을 맡아서 영역과 난이도 균형을 맞췄고, 네 개방형 모델이 각각 30개씩을 더했습니다. 여기에 실시간 검색을 켠 변형 궤적 60개가 붙습니다. GPT-5.4와 Claude Opus 4.6, Gemini 3.1 Pro라는 큰 모델과 Qwen2.5-7B와 Mistral-7B-v0.3, Phi-3.5-mini와 Qwen2.5-1.5B라는 작은 모델이 같은 과제판 위에서 비교되는 셈입니다.
저는 이 구성이 마음에 들었습니다. 큰 모델끼리만 붙이면 작은 모델이 어디에서 무너지는지 알 수 없고, 한 영역만 보면 운 좋은 전공자를 뽑을 위험이 있으니까요. 영역과 난이도와 모델 크기를 함께 흔들어봐야 행동의 차이가 드러납니다.
그렇다면 558이라는 숫자는 많은 걸까요. 솔직히 말하면 무한히 많은 것은 아닙니다. 하지만 과정 전체를 담은 궤적이라는 점을 떠올리면 이야기가 달라집니다. 최종 답 558개로 보이지만, 실상은 수천 스텝에 걸친 생각과 호출과 관찰의 연쇄 558벌이기 때문입니다. 분량보다 밀도가 중요한 자료라고 저는 읽었습니다.
이제 기록 한 칸의 내부를 열어볼 차례입니다. 스텝마다 무엇을 적었기에 이런 분석이 가능했을까요.
한 스텝을 아홉 칸으로 나눈 이유
에이전트 로그를 직접 열어본 분이라면 이 장면이 낯익을 겁니다. 거기서는 생각인지 메모인지 모를 문장 옆에 도구 호출이 끼어 있고, 정작 에러는 몇 줄 아래에 따로 묻혀 있죠. 그래서 나중에 분석하려고 하면 손이 많이 갈 수밖에 없는데, 연구진은 이 흐트러짐을 처음부터 틀에서 막기로 했습니다. 그 해법으로 스텝마다 같은 아홉 칸에 같은 질문으로 답하게 한 것인데, 저는 이 선택이 영리하다고 봤습니다. 왜냐하면 자유로운 기록은 쓰기는 쉬워도 읽기가 어렵기 때문입니다.
그 틀 안에는 먼저 생각이 들어가고, 뒤이어 호출한 도구와 돌아온 관찰이 함께 들어갑니다. 거기에 더해 에러가 났는지, 무엇을 계기로 생각을 고쳤는지, 스스로 확신을 어느 정도로 매겼는지까지 같은 자리에 적히죠. 말하자면 매 스텝마다 작은 실험 노트를 쓰게 한 셈인데, 오늘 무엇을 시도했고 무엇이 돌아왔으며 왜 방향을 틀었는지를 그때그때 남기는 방식입니다. 이렇게 적어두면 나중에 어떤 스텝에서 길이 갈라졌는지 눈으로 따라가기가 훨씬 쉬워집니다.
이렇게까지 정형화하면 뭐가 좋을까요. 저는 두 가지를 떠올렸는데, 먼저는 기계가 읽기 좋아진다는 점입니다. 항목이 고정되면 오류율이나 수정 빈도, 확신과 성과의 어긋남 같은 지표를 뽑아내기가 훨씬 쉽기 때문이죠. 다음으로는 사람이 읽기 좋아진다는 점인데, 어느 스텝에서 추론이 미끄러졌는지, 그게 도구 탓인지 생각 탓인지를 눈으로 가려낼 수 있습니다. 일종의 오답 노트처럼요.
여기서 재미있는 질문이 생깁니다. 생각을 매번 묻는다고 모델이 속마음을 다 말해줄까요. 물론 그렇지는 않은데, 자기 보고식 확신은 빗나갈 수 있고 생각 기록도 사후 합리화일 수 있기 때문입니다. 그럼에도 매 스텝 같은 질문을 던져두면 비교는 가능해지는데, 같은 틀에서 벗어나는 행동 자체가 곧 신호가 되기 때문입니다. 그래서 완벽한 내시경은 아니지만, 적어도 같은 각도에서 찍은 사진첩은 되는 셈입니다.
기록의 모양을 알았으니 이제 내용으로 들어갈 차례입니다. 겉으로 똑같아 보이던 세 모델은 안에서 어떻게 달랐을까요.
80퍼센트대라는 같은 점수표 뒤에서
세 프론티어 모델의 성공률은 84에서 89퍼센트 사이에 모여 있습니다. 그래서 겉으로 보면 우열을 가리기 어려운데, 논문 표만 훑으면 세 모델 다 비슷하게 잘한다고 읽히죠. 저도 처음에는 그렇게 읽었는데, 궤적을 펼치자 풍경이 바뀌었습니다. 아니, 정확히 말하면 점수표에서는 보이지 않던 차이가 오류 기록에서는 훤히 드러난 것입니다.
그런데 그 차이를 숫자로 풀어보면 꽤 놀랍습니다. Claude Opus 4.6은 궤적당 평균 2.5개 오류를 남겼고, 반면 GPT-5.4는 0.08개에 그쳤기 때문입니다. 단순 계산으로 30배가 넘는 차이인데, 통계적으로도 또렷해서 p값은 0.0001보다 작았고 Cliff 델타는 0.613으로 보고됐습니다. 그래서 성공률이 가린 차이가 오류율에서는 훤히 드러난 것인데, 저는 이 대목에서 점수표 읽기를 멈췄습니다.
이 차이는 생각보다 중요한데, 성공률이 같아도 한쪽은 매번 비틀거리며 겨우 도착했고 다른 쪽은 비교적 곧게 갔다는 뜻이기 때문입니다. 비틀거리며 도착한 성공은 다음 과제에서 같은 성공을 보장하지 못하는데, 도구가 바뀌거나 데이터가 조금만 달라져도 무너질 수 있기 때문입니다. 반면 곧게 간 성공은 재현될 가능성이 크죠. 저는 그래서 이 장면을 성적표가 아니라 운전 기록으로 읽었습니다.
실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 오류가 많은데도 성공률이 높았다면 그 성공은 누가 메운 걸까요. 에이전트 스스로 고쳤는지, 아니면 과제 구조가 관대했는지를 따져봐야 하는데, 이 데이터셋은 그 질문에 답할 재료를 줍니다. 수정 계기와 재시도 기록이 함께 있기 때문입니다. 그래서 저는 이 30배라는 숫자를 실패 자랑으로 읽지 않았는데, 오히려 성공의 질을 묻는 표지로 읽었습니다.
문제는 그다음인데, 오류가 많다는 말만으로는 어디를 고쳐야 할지 알 수 없기 때문입니다. 오류의 성격 자체가 달랐기 때문이죠.
자주 미끄러지는 손과 자주 헛짚는 머리
오류 내용을 갈라보면 두 모델은 정반대 얼굴을 보여줍니다. Claude 쪽 오류 가운데 66.7퍼센트는 도구 오용이었습니다. 인자를 잘못 넣거나 함수를 잘못 골랐거나 결과를 잘못 읽은 경우죠. GPT-5.4 쪽은 83.6퍼센트가 추론 오류였습니다. 도구는 제대로 불렀는데 해석이나 가정이 빗나간 경우입니다.
생각해보면 사람도 비슷하게 배웁니다. 어떤 학생은 손이 바빠서 계산기를 잘못 두드리고, 어떤 학생은 계산기는 잘 두드리는데 식을 잘못 세우죠. 겉점수는 같아도 과외 방향은 완전히 달라집니다. 전자에는 도구 사용 연습이 필요하고 후자에는 개념 점검이 필요합니다. 모델도 마찬가지입니다. 어디에서 틀리는지가 보여야 어디를 고칠지 정할 수 있습니다.
저는 이 대목에서 조금 조심해서 읽을 필요가 있다고 봅니다. 도구 오류가 많다는 것이 곧 추론이 뛰어나다는 뜻은 아니기 때문입니다. 도구를 일찍 틀리면 추론이 시험대에 오를 기회 자체가 줄어듭니다. 반대로 추론 오류 비중이 높다는 것이 도구를 완벽히 다룬다는 뜻도 아닙니다. 호출을 적게 하면 틀릴 일도 줄어드니까요. 비중과 빈도를 함께 봐야 합니다. 이 데이터셋이 궤적당 횟수와 유형 비중을 함께 주는 이유도 여기에 있습니다.
그렇다면 Gemini 3.1 Pro는 어디에 있을까요. 성공률은 같은 묶음에 있지만 행동 결은 또 다릅니다. 세 모델을 같은 잣대로 놓고 보면 결국 남는 질문은 하나입니다. 우리가 뽑고 싶은 과학자는 어떤 행동을 하는 사람인가. 답을 잘 맞추는 사람인가, 과정을 깨끗하게 밟는 사람인가. 저는 후자에 손을 들고 싶습니다. 과학은 한 번 맞추는 일이 아니라 여러 번 틀리면서도 궤도를 잃지 않는 일이니까요.
이제 시야를 넓혀볼 차례입니다. 작은 모델과 검색을 켠 설정에서는 어떤 풍경이 펼쳐질까요.
작은 모델과 검색을 켠 장면에서는
개방형 네 모델은 각각 30개 궤적으로 참여했습니다. Qwen2.5-7B와 Mistral-7B-v0.3, Phi-3.5-mini와 Qwen2.5-1.5B입니다. 이름만 봐도 감이 오듯 크기가 작고 가벼운 모델들이죠. 이들의 궤적은 프론티어 모델과 같은 과제를 풀면서 어디에서 먼저 지치는지를 보여줍니다.
작은 모델의 궤적을 읽는 재미는 실패의 위치가 솔직하다는 데 있습니다. 큰 모델은 틀려도 수습하는 솜씨가 좋아서 실패가 늦게 드러나는 경우가 많습니다. 작은 모델은 수습 체력이 달려서 막히는 지점이 빨리 드러나죠. 어디에서 도구가 어긋나고 어디에서 가정이 끊기는지가 더 적나라하게 보입니다. 그래서 저는 작은 모델 궤적을 일종의 스트레스 테스트 기록으로 읽었습니다. 시스템의 약한 고리를 찾는 데는 약한 주자가 더 좋은 거울이 되기도 합니다.
여기에 실시간 검색 변형 60개가 더해집니다. 검색을 켜면 외부 문헌을 그때그때 끌어올 수 있으니 답이 좋아질 것 같지만, 과정은 더 복잡해집니다. 무엇을 검색할지, 돌아온 문서를 어떻게 믿을지, 인용과 추론을 어떻게 엮을지가 새로 들어오기 때문입니다. 검색은 만능 열쇠처럼 보이지만, 궤적에서는 새로운 갈림길로 나타납니다.
좋은 건 알겠는데, 이걸 실제로 어떻게 써먹을까요. 저희가 새로운 AI 아키텍처를 볼 때도 숫자만 보지는 않습니다. 실제로 무엇이 바뀌었고, 그 변화가 운영에서 어떤 비용을 만드는지를 함께 봅니다. 작은 모델과 검색 변형은 바로 그 비용 감각을 줍니다. 정확히 몇 점을 더 올리기 위해 몇 번의 호출과 몇 번의 수정을 감당해야 하는지가 보이니까요. 예산이 정해진 실험실이라면 이 장면이 성공률 표보다 더 유용할 수 있습니다.
기록을 모았고 행동 차이도 봤다면 이제 활용 차례입니다. 이 흔적으로 무엇을 물을 수 있을까요.
흔적이 있으면 어떤 문제를 풀 수 있을까
이 공개물은 데이터만 던지고 끝나지 않는데, 다섯 가지 벤치마크 과제를 함께 정의했기 때문입니다. 거기에 로지스틱 회귀와 랜덤 포레스트, LSTM과 트랜스포머 같은 기준선까지 곁들였죠. 흔적을 입력으로 받아 무언가를 예측하거나 판단하는 과제들인데, 저는 이 구성을 보고 무릎을 쳤습니다. 흔적을 모으는 일과 흔적을 쓰는 일을 함께 설계했기 때문입니다.
예를 들어 이런 질문을 던질 수 있는데, 중간 스텝만 보고 최종 성공을 미리 가늠할 수 있을까요. 이어서 오류가 난 스텝에서 스스로 고칠 수 있을지 없을지 가릴 수 있을까요. 나아가 자기 확신 점수는 실제로 믿을 만할까요. 이런 질문은 최종 답만 있는 데이터로는 묻기 어려운데, 과정이 있어야만 열리는 문제들이기 때문입니다. 그래서 저는 이 다섯 과제를 점수놀이가 아니라 읽기 문제로 봤습니다.
또 하나 마음에 든 점은 기준선이 소박하다는 것인데, 최신 거대 모델로만 승부를 보지 않기 때문입니다. 고전적인 분류기와 시퀀스 모델을 먼저 세워두는데, 복잡한 모델을 꺼내기 전에 간단한 모델로 어디까지 풀리는지 확인하는 태도죠. 같은 모델에 같은 질문을 던져도 결과가 크게 달라질 수 있다는 것을 경험으로 알고 있죠. 그래서 저는 기준선이 탄탄한 벤치마크를 더 신뢰하는데, 출발선이 낮고 단단해야 개선이 보이기 때문입니다.
물론 다섯 가지가 모든 것을 덮지는 못하는데, 과학의 과정을 묻는 일은 끝이 없기 때문입니다. 그럼에도 방향은 분명해서, 평가를 맞추기 게임에서 읽기 게임으로 옮긴 것이죠. 답을 맞췄는지에서 어떻게 일했는지로 말입니다. 다음에는 이 흔적 위에 어떤 질문을 얹을 수 있을지, 그 이야기로 넘어가겠습니다.
숫자를 넘어 버릇을 고쳐야 할 때
여기까지 읽으면 이런 반문이 들 수 있습니다. 오류가 많아도 답이 맞으면 된 거 아닌가. 짧은 프로젝트라면 그 말이 맞을 수 있습니다. 한 번 맞추고 끝낼 일이면 과정은 중요하지 않으니까요. 그런데 과학 에이전트가 맡는 일은 대개 한 번으로 끝나지 않습니다.
문제는 오류가 많은 습관이 비용으로 돌아온다는 데 있습니다. 호출이 늘어나고 재시도가 늘어나고 검증 부담이 커집니다. 궤적당 2.5개 오류와 0.08개 오류는 성공률이 같아도 운영하는 맛이 전혀 다릅니다. 밤사이 돌리는 대규모 스크리닝을 떠올려보죠. 실패를 스스로 수습하지 못하고 매번 삐걱대면 파이프라인 전체가 느려집니다. 토큰 비용도 쌓이고 시간도 새고, 무엇보다 어디에서 새는지 찾기 어렵습니다.
그래서 저는 이 연구를 성능표로 읽는 대신 운전 습관 보고서로 읽었습니다. 급커브에서 매번 흔들리는 운전과 직선에서 가끔 헛도는 운전은 고치는 방법이 다르죠. 전자는 도구 호출 규율을 다듬어야 하고 후자는 가설 점검 장치를 보강해야 합니다. 처방이 달라지니 진단이 먼저라는 말이 괜히 있는 게 아닙니다.
그렇다면 이런 버릇은 어떻게 고칠 수 있을까요. 답은 데이터에 있습니다. 언제 도구가 미끄러졌는지, 어떤 관찰 뒤에 생각이 바뀌었는지, 확신은 언제 빗나갔는지가 스텝마다 적혀 있으니 훈련과 평가 재료를 삼을 수 있죠. 저는 앞으로 보고 싶은 것은 오류율을 낮추는 것을 넘어 오류의 모양을 바꾸는 시도입니다. 도구 실수를 줄이는 것과 추론 실수를 줄이는 것은 다른 훈련이 필요할 테니까요.
이제 마지막으로 시야를 넓혀보겠습니다. 이 기록이 가리키는 더 큰 변화는 무엇일까요.
과정이 보이면 평가가 바뀌고 설계가 바뀝니다
질문도 바뀌었습니다. 무엇을 만들었는가에서 어떻게 일했는가로 말이죠. 이 변화는 평가를 넘어 설계로 이어집니다. 과정이 보이면 어디에 손을 대야 할지 보이기 때문입니다. 도구 호출 형식을 다듬을지, 중간 검증을 넣을지, 확신 표현을 조정할지 같은 결정이 감이 아니라 기록에 기대어 내려집니다.
저희 팀 관점에서도 공감되는 대목입니다. 모델을 고를 때 숫자만 보지 않고 실패할 때 어떻게 실패하는지를 봅니다. 조용히 틀리는지 시끄럽게 틀리는지, 스스로 알아채는지 남이 알려줘야 아는지, 같은 실수를 반복하는지 다른 실수로 넘어가는지 같은 것들이죠. 운영하다 보면 이런 버릇이 체감 비용을 좌우합니다. 이 데이터셋은 그 감각을 숫자로 옮길 발판을 줍니다.
여기서는 조금 과장된 기대를 경계하고 싶습니다. 흔적이 있다고 과학적 엄밀함이 자동으로 생기지는 않습니다. 생각 기록은 어디까지나 모델이 쓴 글이고, 확신 점수도 자기 평가에 불과합니다. 관찰과 호출이라는 딱딱한 기록과 엮을 때 비로소 무게가 생기죠. 저는 그래서 이 자료를 진실 기계처럼 보기보다 좋은 현미경으로 봅니다. 무엇을 봐야 할지 아는 사람이 들여다볼 때 가장 빛나는 도구 말입니다.
그렇다면 사람의 역할은 무엇일까요. 저는 과정이 투명해질수록 사람의 눈이 더 중요해진다고 봅니다. 기록을 읽고 어디가 어색한지 짚어내는 일, 다음 과제를 어떻게 깔아야 할지 정하는 일, 숫자에 없는 냄새를 맡는 일은 여전히 사람의 몫이니까요. 558개 궤적은 답안지보다 숙제장에 가깝습니다. 그 숙제장을 어떻게 읽을지가 다음 실력을 가를 것 같습니다.
CC BY 4.0으로 풀린 흔적과 기록 틀, 실행 하네스와 과제 정의는 제목 아래 걸린 원문에서 확인할 수 있습니다. 저는 이 자료를 책상 위에 오래 두고 꺼내 볼 것 같습니다. 성공률이 아니라 일하는 모양을 보고 싶어질 때마다 말이죠.