병렬 멀티에이전트 추론에서 불확실성을 차례로 읽는 법

Sequential Probabilistic Uncertainty Estimation for Parallel Multi-Agent Reasoning Systems라는 제목으로 arXiv 2610.08901번으로 공개된 논문이 있습니다. 이 논문은 병렬 멀티에이전트 추론 시스템을 다루고 있습니다.

이 논문이 내세우는 주장은 한 문장으로 정리할 수 있는데, 병렬 멀티에이전트 시스템의 불확실성은 개별 생성의 점수가 아니라 라운드마다 쌓이는 동의와 생성 불확실성을 잠재된 시스템 믿음에 대한 순차 추론으로 읽어야 한다는 것입니다.

원문 링크는 제목 아래에 걸어 두었습니다. 이번 글에서는 그 발상이 왜 나왔는지, 어떤 식으로 동작하는지, 그리고 어디까지 믿을 수 있는지를 차례로 따라가 보겠습니다.

여러 개를 돌렸는데 왜 확신이 안 생길까요

제가 이 논문을 집어 든 이유는 단순했습니다. 요즘 추론 시스템은 답을 여러 개 만들어서 고르는 일이 흔해졌는데, 개수를 늘릴수록 마음이 놓이기보다 오히려 판단이 어려워지는 순간이 있기 때문입니다. 여러 에이전트가 같은 문제를 풀게 하면 그중 하나쯤은 맞추겠지 싶지만, 막상 다섯 개의 답이 눈앞에 놓이면 어떤 것을 믿어야 할지 다시 막막해집니다. 그래서 저는 이 논문의 문제의식이 낯설지 않았습니다.

병렬 멀티에이전트 추론이라는 말은 거창해 보이지만 구조는 단순합니다. 여러 에이전트가 같은 문제를 각자 풀고, 그 결과를 몇 라운드에 걸쳐 주고받은 뒤에 하나로 합쳐서 최종 답을 냅니다. 라운드가 있다는 점이 포인트인데, 첫 라운드의 답을 그대로 투표에 부치는 것이 아니라 서로의 답을 본 뒤에 다시 풀 기회를 주기 때문입니다. 그러면 답이 수렴하기도 하고, 반대로 처음에는 비슷해 보였는데 라운드를 거듭할수록 갈라지기도 합니다.

여기서 재미있는 질문이 생깁니다. 답이 여러 개 있다는 사실 자체는 확신을 키워줄까요, 아니면 새로운 불확실성을 만들까요. 상식적으로는 전자가 맞을 것 같지만 운영에서는 후자를 자주 봅니다. 에이전트마다 그럴듯한 설명을 붙여서 답을 내기 때문에, 개수가 많아질수록 검토해야 할 그럴듯함도 함께 늘어나기 때문입니다. 저는 이 간극을 메우는 도구가 불확실성 추정이라고 봅니다.

그렇다면 기존의 불확실성 점수는 왜 부족할까요. 흔한 방법은 각 생성의 로그 가능도 같은 점수를 보는 것입니다. 모델이 그 답을 얼마나 유창하게, 얼마나 망설임 없이 냈는지를 재는 셈인데, 단일 생성에서는 그럭저럭 통합니다. 그런데 여러 에이전트가 여러 라운드에 걸쳐 답을 주고받는 구조에서는 이야기가 달라집니다. 개별 답 하나하나의 유창함보다 에이전트들이 서로 어떤 영향을 주고받았는지, 그리고 그 흐름이 라운드를 거치며 어떻게 바뀌었는지가 최종 답의 신뢰를 좌우하기 때문입니다.

각자 잘하는데 모이면 왜 흔들릴까요

여러 사람이 함께 일하다 보면, 누군가의 말 한마디가 팀 전체의 분위기를 바꾸기도 합니다. 그렇다면 여러 AI가 한 팀으로 일할 때도 비슷한 일이 생길까요. 이 논문이 깔고 있는 진단은 바로 그 지점에 있습니다. 시스템의 신뢰는 개별 생성의 품질만으로 정해지지 않고, 에이전트 사이의 상호작용과 라운드에 걸친 변화까지 함께 봐야 한다는 것입니다.

이 진단은 생각보다 중요합니다. 흔히 멀티에이전트 시스템을 이야기할 때 에이전트 수를 늘리면 성능이 좋아진다는 식으로 정리하는데, 그렇게 보면 불확실성도 평균을 내면 해결될 것처럼 느껴지기 때문입니다. 하지만 실제로는 에이전트들이 서로의 출력을 읽기 때문에 오답이 전파될 수도 있고, 반대로 소수의 정답이 다수를 설득해서 흐름을 되돌릴 수도 있습니다. 평균이라는 말로는 이 동학을 담기 어렵습니다.

구체적인 장면을 하나 떠올려 보겠습니다. 월요일 아침에 고객 응대팀이 어려운 클레임 답을 준비한다고 해보죠. 세 명의 담당자가 각자 초안을 쓰고, 서로의 초안을 돌려본 뒤에 다시 고쳐서 하나로 합칩니다. 첫 초안에서는 두 명이 같은 실수를 했는데, 돌려보는 과정에서 세 번째 사람의 지적이 먹혀서 두 번째 라운드에서는 셋 다 바로잡을 수도 있습니다. 반대로 처음에는 각자 다른 답을 냈는데, 말 잘하는 한 사람의 그럴듯한 설명에 다 같이 끌려가서 최종 답이 틀릴 수도 있습니다. 이 차이는 각 초안의 문장력만으로는 알 수 없고, 돌려보는 과정을 봐야 알 수 있습니다.

논문이 말하는 병렬 멀티에이전트 추론도 이와 비슷합니다. 여러 에이전트가 같은 문제를 풀고 여러 라운드를 거치며 출력을 모으는데, 이때 신뢰를 가르는 것은 각 답의 유창함이 아니라 에이전트들이 어떻게 움직였는지입니다. 그래서 저는 이 대목을 읽으면서 고개를 끄덕였습니다. 저희가 새로운 AI 아키텍처를 볼 때도 benchmark 숫자만 보지는 않습니다. 실제로 무엇이 바뀌었고, 그 변화가 시스템에서 어떤 비용 구조를 만드는지를 함께 봅니다. 이 논문도 같은 태도를 취하고 있는데, 숫자를 올리는 방법보다 무엇이 신뢰를 만드는지를 먼저 묻기 때문입니다.

한 순간의 동의보다 흐름을 봐야 하지 않을까요

그렇다면 신뢰를 만드는 것은 무엇일까요. 이 논문이 내세우는 관찰은 라운드별 동의와 생성 불확실성이라는 두 갈래 신호입니다. 동의는 에이전트들의 답이 얼마나 같은지를 재고, 생성 불확실성은 각 답이 나올 때 모델이 얼마나 흔들렸는지를 잽니다. 어느 하나만 보면 반쪽인데, 둘을 함께 보면 시스템의 상태가 훨씬 잘 드러납니다.

왜 둘을 함께 봐야 하는지는 일상의 비유로 풀 수 있습니다. 회의실에서 네 명이 같은 숫자를 말하면 안심이 되지만, 그 네 명이 모두 망설이면서 말했거나 서로 눈치를 보면서 맞장구를 쳤다면 안심하기 어렵습니다. 반대로 의견이 갈렸는데 각자 근거를 또렷하게 말한다면, 갈림 자체가 나쁜 신호는 아닙니다. 다음 라운드에서 근거가 정리되면서 수렴할 수 있기 때문입니다. 동의만 보면 첫 경우를 과신하고, 흔들림만 보면 두 번째 경우를 과소평가합니다.

문제는 그다음입니다. 이 두 신호는 라운드마다 따로 노는 것이 아니라 시간을 따라 이어집니다. 첫 라운드에서 동의가 높았는데 두 번째 라운드에서 흔들림이 커졌다면, 그 동의는 허약했던 셈입니다. 반대로 첫 라운드에서 갈렸는데 라운드를 거치며 흔들림이 줄고 동의가 올라갔다면, 그 수렴은 꽤 단단합니다. 같은 최종 동의율이라도 거기까지 온 길이 다르면 신뢰가 달라지는 것이죠.

그래서 저는 이 논문이 순차라는 말을 제목에 넣은 것을 당연하게 봤습니다. 불확실성을 한 시점의 스냅샷으로 재는 대신, 라운드가 쌓일 때마다 믿음을 갱신하는 과정으로 본 것입니다. 이 발상은 필터링이라는 말로 이어지는데, 그 구체적인 감각은 뒤에서 다루겠습니다.

시스템 전체의 믿음은 어디에 있을까요

여기서 논문이 꺼내는 표현이 잠재된 시스템 차원의 믿음입니다. 처음 들으면 추상적으로 느껴지는데, 풀어 보면 꽤 실용적인 발상입니다. 각 에이전트의 답 뒤에는 시스템 전체가 지금 정답 쪽에 얼마나 가까이 있는지를 나타내는 보이지 않는 상태가 있다고 가정하는 것입니다. 우리는 그 상태를 직접 볼 수 없고, 라운드마다 나오는 동의와 흔들림이라는 단서를 통해 짐작할 뿐입니다.

생각해보면 사람도 비슷하게 판단합니다. 팀 전체가 지금 잘 가고 있는지는 회의록 한 줄로 알 수 없고, 여러 차례 회의에서 오간 말의 결을 보고 짐작합니다. 누군가 확신에 차서 말해도 다른 사람들이 고개를 갸웃하면 팀의 믿음은 낮은 것이고, 의견이 갈려도 질문이 점점 날카로워지면 팀의 믿음은 올라가는 것입니다. 시스템 차원의 믿음이라는 말은 그 짐작을 확률 추론의 언어로 옮긴 것입니다.

저는 이 대목에서 조금 멈칫했습니다. 잠재 변수라는 말을 꺼내면 무엇이든 설명할 수 있어 보이기 때문입니다. 그런데 이 논문의 경우는 변명을 위한 장치가 아니라 계산의 뼈대로 쓰입니다. 라운드마다 들어오는 새로운 증거로 믿음을 갱신한다는 규칙이 정해져 있기 때문입니다. 믿음이라는 말이 공중에 떠다니지 않고, 이전 믿음과 새 증거를 합치는 절차로 묶여 있는 셈입니다.

이 지점에서 흔한 오해를 하나 짚고 넘어가면 좋겠습니다. 시스템 전체의 믿음을 이야기하면 모든 에이전트의 점수를 평균 낸 것으로 이해하기 쉽습니다. 하지만 논문이 말하는 것은 평균이 아니라 추론입니다. 평균은 매 라운드를 같은 비중으로 더하지만, 추론은 이전까지의 흐름을 담은 사전 분포와 새로 들어온 증거를 가중해서 합칩니다. 그래서 초반의 허약한 동의는 나중에 깎이고, 후반의 단단한 수렴은 더 크게 반영될 수 있습니다. 평균과 추론의 차이는 작아 보이지만, 라운드가 쌓일수록 벌어집니다.

동의와 흔들림을 왜 함께 봐야 할까요

그렇다면 라운드별 동의와 생성 불확실성은 각각 무엇을 맡을까요. 동의는 에이전트 사이의 관계를 보고, 생성 불확실성은 각 답안의 내력을 봅니다. 관계만 보면 무리 지어 틀리는 경우를 놓치고, 내력만 보면 개별로 흔들려도 함께 바로잡히는 경우를 놓칩니다. 둘을 함께 보는 이유는 그 놓침을 줄이기 위해서입니다.

예를 들어 네 에이전트가 같은 오답을 냈다고 해보죠. 동의만 보면 확신이 높아 보입니다. 하지만 각 답이 나올 때 모델이 토큰마다 망설인 흔적이 짙었다면, 그 동의는 모래 위에 선 것입니다. 반대로 네 답이 조금씩 달랐는데 각 답의 내력이 또렷했다면, 그 불일치는 노이즈가 아니라 탐색의 흔적일 수 있습니다. 다음 라운드에서 탐색이 정리되면 수렴이 올 수 있기 때문입니다. 저는 이 구분이 운영에서 꽤 쓸모 있다고 봅니다.

실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 두 신호를 어떤 비중으로 합칠 것인가입니다. 동의가 높은데 흔들림도 높으면 어느 쪽을 믿어야 할까요. 반대로 동의가 낮은데 흔들림도 낮으면 탐색 중일까요, 아니면 각자 다른 함정에 빠진 것일까요. 논문은 이 합침을 필터 방식의 갱신으로 풀었다고 설명합니다. 한 라운드의 점수를 독립적으로 매기는 것이 아니라, 이전까지의 믿음을 바탕으로 새 증거를 해석한다는 것입니다.

이 합침이 통하는 조건도 생각해 볼 필요가 있습니다. 에이전트들이 같은 실수를 같은 방식으로 반복하면 동의는 높고 흔들림은 낮게 나올 수 있습니다. 겉으로는 가장 확실해 보이는 조합인데 실제로는 가장 위험합니다. 이 논문의 처방이 만능은 아니라는 점을 여기서 미리 밝혀 두는 것이 정직합니다. 다만 개별 점수만 보던 기존 방식보다는 이런 함정을 들여다볼 여지가 넓어진 것은 분명합니다. 흐름을 보면 최소한 허약한 동의와 단단한 수렴을 가를 수는 있기 때문입니다.

필터처럼 갱신한다는 감각은 무엇일까요

필터 방식의 갱신이라는 말은 어렵게 들리지만 감각은 단순합니다. 어제의 믿음을 오늘의 증거로 고친다는 것입니다. 첫 라운드가 끝나면 시스템에 대한 잠정적인 믿음이 생기고, 두 번째 라운드에서는 그 믿음을 출발점으로 삼아 새로 들어온 동의와 흔들림을 해석합니다. 세 번째 라운드도 마찬가지입니다. 매번 처음부터 다시 재는 것이 아니라, 지금까지의 이해를 들고 다음 증거를 맞이하는 것이죠.

일종의 항해 일지와 비슷하다고 보면 됩니다. 배가 어디쯤 와 있는지는 한 번의 별 관측으로 알 수 없고, 지금까지의 항적에 새로운 관측을 얹어야 알 수 있습니다. 관측이 깨끗하면 항적을 크게 고치고, 관측이 흐리면 항적을 조금만 고칩니다. 이 논문의 필터도 같은 일을 하는데, 항적에 해당하는 것이 이전 라운드까지의 믿음이고 새로운 별 관측에 해당하는 것이 이번 라운드의 동의와 생성 불확실성입니다.

여기서 재미있는 점은 가중치가 고정되어 있지 않다는 것입니다. 매 라운드의 증거가 얼마나 믿을 만한지에 따라 반영 폭이 달라집니다. 동의가 높고 흔들림이 낮으면 그 라운드의 말을 크게 듣고, 동의가 높지만 흔들림도 높으면 말을 듣되 덜 듣습니다. 반대로 의견이 갈려도 각 답의 내력이 또렷하면 다음 라운드를 기다리며 판단을 유보합니다. 이렇게 적응적으로 듣는 태도가 순차 추론의 미덕입니다.

저는 이 대목을 읽으면서 구현의 가벼움이 궁금했습니다. 필터라는 말을 들으면 상태 공간 모델이나 복잡한 학습을 떠올리기 쉬운데, 논문은 이 추정기를 가볍고 학습이 필요 없는 방식이라고 설명하기 때문입니다. 다시 말해 무거운 추가 모델을 얹는 것이 아니라, 매 라운드에서 이미 나오는 신호를 규칙에 따라 합치는 데 가깝습니다. 그래서 다음 장면으로 자연스럽게 넘어갑니다. 가볍다는 말이 운영에서는 무엇을 뜻할까요.

학습 없이 가볍다는 말의 운영 감각

가볍고 학습이 필요 없다는 설명은 논문에서 흔히 보는 수식이지만, 운영자의 눈으로 보면 꽤 구체적인 뜻을 가집니다. 별도의 보정 모델을 학습시키지 않아도 되고, 기존 멀티에이전트 파이프라인에서 나오는 신호만으로 얹을 수 있다는 것이기 때문입니다. 새로운 백본이 들어오거나 벤치마크가 바뀌어도 다시 학습시키는 짐이 적어집니다.

좋은 건 알겠는데, 이걸 실제로 어디에 올릴까요. 저는 이 질문을 가장 먼저 던졌습니다. 답은 의외로 단순합니다. 최종 답을 내기 전에 붙는 게이트 역할입니다. 확신이 높으면 그대로 답을 내고, 확신이 낮으면 답을 유보하거나 사람에게 넘기거나 한 라운드를 더 돌리는 식입니다. 이때 추정기가 무거우면 게이트 자체가 병목이 되는데, 가볍다면 부담 없이 매 요청에 붙일 수 있습니다.

물론 가볍다는 말이 공짜라는 뜻은 아닙니다. 매 라운드마다 동의와 생성 불확실성을 재는 비용은 듭니다. 다만 그 비용은 이미 답을 만드는 데 쓴 비용에 비하면 작은 편이고, 무엇보다 추가 학습 데이터를 모으고 보정기를 유지하는 비용이 들지 않습니다. 저희 팀 기준으로 말하면, 학습이 필요한 모듈은 데이터가 바뀌면 다시 손봐야 해서 운영 짐이 큰데, 규칙 기반에 가까운 추정기는 그런 짐이 적습니다. 이 논문이 겨냥한 자리도 바로 그곳이라고 봅니다.

다만 여기서 조심해서 읽을 필요가 있습니다. 학습이 필요 없다는 말이 성능이 공짜로 나온다는 뜻은 아니기 때문입니다. 규칙을 잘 설계해야 하고, 신호를 재는 방식이 바뀌면 갱신 규칙도 함께 손봐야 합니다. 가벼움의 대가는 유연성의 제약일 수 있습니다. 그럼에도 여러 백본과 여러 과제에서 통한다는 검증이 뒤따른다면, 그 가벼움은 꽤 단단한 주장으로 바뀝니다. 그래서 검증 구성을 어떻게 읽어야 할지가 다음 순서입니다.

로그 가능도와는 무엇이 다를까요

비교 대상을 보면 이 논문의 위치가 분명해집니다. 한쪽에는 로그 가능도 기반의 표준적인 불확실성 추정법이 있고, 다른 한쪽에는 멀티에이전트 전용 추정법이 있습니다. 전자는 단일 생성의 세계에서 온 것이고, 후자는 여러 답을 함께 보는 세계에서 온 것입니다. 논문은 둘과 겨루었다고 설명합니다.

로그 가능도 방식의 한계는 앞에서 이미 짚었습니다. 각 답이 얼마나 유창하게 나왔는지는 재지만, 에이전트들이 서로 어떤 영향을 주고받았는지는 담지 못합니다. 그래서 그럴듯한 오답이 여러 개 나오면 속수무책입니다. 각 답의 점수는 높아 보이는데 시스템 전체는 틀린 쪽으로 가 있는 경우입니다. 단일 모델의 독백에서는 드물던 일이 여러 목소리의 합창에서는 흔해집니다.

반면 멀티에이전트 전용 추정법은 여러 답을 함께 본다는 점에서는 방향이 맞습니다. 그런데 여기서 또 다른 갈림이 생깁니다. 여러 답을 한 시점에 모아놓고 재는 것과, 라운드를 따라 쌓인 흐름으로 재는 것은 다르기 때문입니다. 최종 라운드의 동의율만 보면 허약한 동의와 단단한 수렴을 가리지 못합니다. 이 논문이 파고든 틈이 바로 그곳입니다. 같은 최종 동의라도 거기까지 온 길을 보면 신뢰가 갈린다는 것입니다.

제가 이 논문에서 가장 흥미롭게 본 부분은 이 겨룸의 구도 자체입니다. 새로운 신호를 발명한 것이 아니라, 이미 있던 두 신호를 시간축 위에서 다시 읽은 것이기 때문입니다. 동의와 생성 불확실성은 낯선 재료가 아닙니다. 낯선 것은 그것들을 잠재된 시스템 믿음에 대한 순차 추론으로 엮은 방식입니다. 재료보다 엮음이 바뀌었다는 점에서, 이 연구는 발명보다 재구성에 가깝습니다. 그리고 재구성이 통했다는 검증이 뒤따른다면, 그 엮음은 다른 시스템에도 옮겨볼 만합니다.

다섯 개씩을 돌렸다는 말은 어떻게 읽을까요

검증 구성은 숫자로만 보면 성실해 보입니다. 다섯 개의 백본, 다섯 개의 벤치마크, 두 개의 멀티에이전트 프로토콜에서 겨루었다고 설명하기 때문입니다. 백본이 여러 개라는 말은 특정 모델의 버릇에 기대지 않았다는 뜻이고, 과제가 여러 개라는 말은 특정 문제 유형에만 맞춘 것이 아니라는 뜻이며, 프로토콜이 두 개라는 말은 특정 합치는 방식에만 붙은 것이 아니라는 뜻입니다.

여기서는 조금 조심해서 읽을 필요가 있습니다. 다섯 개씩이라는 숫자가 곧 일반화를 보장하지는 않기 때문입니다. 어떤 백본과 어떤 과제였는지가 공개되지 않은 상태에서는, 그 구성이 얼마나 서로 다른 결을 가졌는지 알 수 없습니다. 비슷한 부류의 모델 다섯 개와 비슷한 부류의 과제 다섯 개라면 숫자는 커 보여도 coverage는 좁을 수 있습니다. 저는 그래서 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 무엇을 겨루었고, 무엇을 재었는가입니다.

무엇을 재었는지는 분명합니다. 오답 판별, 선택적 예측, 보정이라는 세 갈래입니다. 오답 판별은 점수가 맞은 답과 틀린 답을 얼마나 잘 가르는지를 보고, 선택적 예측은 확신이 낮을 때 답을 거르는 선택이 전체 정답률을 얼마나 끌어올리는지를 보며, 보정은 모델이 말하는 확신이 실제 적중률과 얼마나 맞는지를 봅니다. 이 셋은 서로 다른 질문인데, 한 추정기가 셋에서 함께 앞섰다면 그 점수는 우연으로 치부하기 어렵습니다.

이 대목에서 운영자의 언어로 바꿔 말하면 이렇습니다. 오답 판별은 알람의 정확도이고, 선택적 예측은 알람을 들었을 때의 이득이며, 보정은 알람의 눈금입니다. 알람이 잘 울리고, 알람을 들으면 실제로 좋아지며, 알람의 눈금이 실제 위험과 맞다면 그 알람은 달아둘 만합니다. 논문의 설명대로라면 SAUCE라는 이름의 추정기는 이 세 가지를 표준적인 로그 가능도 방식과 멀티에이전트 전용 방식보다 잘했다고 합니다. 숫자가 제시되지 않은 상태에서도, 겨룸의 짜임 자체는 설득력이 있습니다.

틀릴 답을 미리 골라내는 일은 왜 남을까요

그렇다면 이 추정이 실제로 쓰이는 장면은 어디일까요. 저는 답을 내기보다 답을 거르는 일을 먼저 떠올렸습니다. 틀릴 것 같은 답을 미리 골라내는 것만으로도 시스템의 체감 신뢰는 크게 바뀌기 때문입니다. 전부 맞추는 것보다 틀릴 때 틀렸다고 말하는 것이 먼저입니다.

밤늦게 자동 리포트가 돌아가는 장면을 생각해 보겠습니다. 에이전트 여러 개가 시장 데이터를 읽고 요약문을 만드는데, 어떤 날은 수치가 엇갈려서 답이 갈립니다. 이때 시스템이 낮은 확신을 이유로 리포트를 멈추고 사람에게 넘기면, 아침에 잘못된 숫자가 나가는 사고를 막을 수 있습니다. 반대로 확신이 높을 때는 그대로 내보내면 됩니다. 추정기의 역할은 답을 바꾸는 것이 아니라, 답을 내보낼지 말지를 가르는 것입니다. 운영 측면에서 보면 이 게이트 하나가 밤사이 사고를 막아줍니다.

선택적 예측이라는 말은 바로 그 게이트의 성능을 잽니다. 확신이 낮은 요청을 걸러냈을 때, 남겨진 답들의 정답률이 얼마나 올라가는지를 보는 것입니다. 걸러내는 비율이 조금만 늘어도 남는 답들의 품질이 크게 오르면 그 추정기는 쓸모가 있습니다. 반대로 걸러내도 품질이 그대로라면 추정기가 헛손질을 하는 셈입니다. 논문은 이 지점에서 기존 방식보다 앞섰다고 설명합니다.

보정 이야기도 같은 맥락에서 읽힙니다. 확신 80퍼센트라고 말한 요청 중에서 실제로 80퍼센트쯤 맞는다면, 운영자는 그 숫자를 믿고 임계값을 정할 수 있습니다. 80퍼센트라고 말했는데 실제로는 60퍼센트만 맞는다면 임계값은 무용지물이 됩니다. 그래서 보정은 화려하지 않지만 운영에서는 결정적입니다. 확신의 눈금이 맞아야 게이트를 어디에 둘지 정할 수 있기 때문입니다. 이 논문이 오답 판별과 선택적 예측에 더해 보정까지 함께 봤다는 점은 마음에 들었습니다. 알람의 정확도와 이득에 더해 눈금까지 본 셈이기 때문입니다.

다음에는 무엇을 보고 싶을까요

앞에서 미뤄둔 질문으로 돌아올 차례입니다. 이 흐름은 어디까지 믿을 수 있을까요. 논문의 설명만으로는 답하기 어려운 부분이 몇 개 남습니다. 동의라는 신호를 정확히 어떻게 쟀는지, 생성 불확실성을 어떤 형태로 넣었는지, 그리고 필터의 갱신 폭을 정하는 규칙이 얼마나 민감한지가 드러나지 않기 때문입니다. 재료의 이름은 알겠는데 조리법의 디테일은 아직 안 보이는 셈입니다.

제가 앞으로 보고 싶은 것은 그 디테일이 만드는 차이입니다. 같은 동의율이라도 답안의 의미적 일치를 재는지 표면적 일치를 재는지에 따라 결과가 달라질 수 있습니다. 생성 불확실성도 토큰 가능도의 평균인지 분산인지, 아니면 다른 형태인지에 따라 성격이 바뀝니다. 필터의 갱신 규칙 역시 새 증거를 얼마나 빨리 믿을지를 정하는데, 이 속도가 빠르면 노이즈에 흔들리고 느리면 수렴을 늦게 알아챕니다. 이 선택들이 성능을 얼마나 좌우하는지가 다음 이야기입니다.

실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 에이전트들이 같은 함정에 빠질 때는 어떻게 될까요. 서로 다른 모델을 섞으면 나아질까요, 아니면 같은 모델이라도 프롬프트의 결을 다르게 하면 충분할까요. 라운드를 몇 번 돌리는 것이 적당할까요. 확신이 낮을 때 한 라운드를 더 도는 것과 사람에게 넘기는 것 중 어느 쪽이 쌀까요. 이 질문들은 논문의 범위를 넘어서지만, 이 논문이 깔아둔 바닥 위에서 물을 수 있는 질문들입니다.

그렇다면 사람의 역할은 무엇일까요. 추정이 좋아질수록 자동화의 범위는 넓어지지만, 임계값을 어디에 둘지와 틀렸을 때의 비용을 누가 질지는 여전히 사람의 몫입니다. 의료나 금융처럼 틀렸을 때의 대가가 큰 곳에서는 추정기가 좋아져도 게이트를 보수적으로 두어야 하고, 틀려도 다시 고칠 수 있는 곳에서는 게이트를 열어둘 수 있습니다. 확신을 재는 기술과 확신을 쓰는 정책은 다른 층위이기 때문입니다.

이 논문이 남기는 한 문장은 그래서 기술보다 태도에 가깝습니다. 답 하나하나의 유창함이 아니라 시스템 전체가 시간을 따라 어떻게 움직였는지를 보라는 것입니다. 답의 개수를 늘리는 것만으로는 확신이 생기지 않고, 그 개수들이 라운드를 거치며 어떤 흐름을 그렸는지를 읽어야 확신이 생긴다는 것입니다. 다음에 멀티에이전트 시스템을 붙일 일이 있다면, 저는 최종 동의율 옆에 라운드별 흐름을 함께 띄워둘 것 같습니다. 그 흐름을 읽는 일이야말로 이 글이 전하고 싶었던 것입니다.