같은 증거를 두 번 만나면 왜 더 확실해 보일까

오늘 다룰 연구는 GraphEcho: Structural Redundancy and Evidence Provenance in LLM Graph Agents로, arXiv에 식별자 2609.17695로 공개된 논문입니다. 원문 논문 링크는 제목 아래에 걸어두었습니다.

이 연구가 던지는 물음은 하나의 문장으로 정리할 수 있는데, 증거 내용은 그대로 묶어둔 채 경로 수와 출처 구조만 바꾸었을 때 그래프 에이전트가 반복된 마주침을 추가 확증으로 착각하는지를 최종 판단과 탐색 행동 양쪽에서 재고, 출처를 의식하도록 가르친 학습이 반복을 줄이면서도 정작 필요한 정보를 놓치게 되는 간극을 드러낸다는 것입니다.

왜 같은 증거를 여러 번 만나면 헷갈릴까

안녕하세요, 패트릭입니다. 저는 얼마 전 지인과 오래된 식당 이야기를 하다가 묘한 경험을 했습니다. 서로 다른 두 사람이 같은 가게를 추천했는데, 나중에 알고 보니 두 사람이 본 후기가 같은 블로그 글에서 퍼져나온 복사본이었던 것이죠. 추천이 두 개처럼 보였지만 출처는 하나였고, 저는 잠시 그 가게가 훨씬 유명하다고 착각했습니다.

그렇다면 그래프 위를 돌아다니는 LLM 에이전트도 저와 같은 착각을 할까요. 그래프 에이전트는 노드와 엣지를 따라 이동하면서 문서를 읽고, 이웃을 펼치고, 다시 돌아오면서 답을 모으는데, 걷는 걸음이 많아질수록 본 것이 많아진 것처럼 느껴지기 쉽습니다. 제가 이 논문에서 가장 흥미롭게 본 부분은 바로 그 느낌을 의심했다는 점입니다. 더 많이 걸었다는 기록이 곧 더 많이 알았다는 뜻인지, 아니면 같은 방을 여러 문으로 들어간 것뿐인지 물었기 때문입니다.

사람으로 치면 발품과 정보량을 구분하는 일인데요. 하루 종일 같은 동네를 빙빙 돌았다고 해서 도시 전체를 본 것은 아니듯, 에이전트의 이동 로그가 길어졌다고 해서 근거가 풍부해진 것은 아닙니다. 그래서 저는 이 연구를 읽기 전부터 마음이 조금 기울었습니다. 에이전트 평가가 대개 최종 정답만 따지는데, 여기서는 어떻게 돌아다녔는지까지 함께 본다고 했기 때문입니다.

그래프를 더 돌아다닌다고 더 아는 게 아니다

그래프 에이전트의 일상을 떠올리면 일이 왜 꼬이는지 감이 옵니다. 질문이 주어지면 에이전트는 시작 노드에서 출발해 관련 있어 보이는 엣지를 고르고, 도착한 노드에서 또 다음 엣지를 고릅니다. 이때 같은 증거 노드가 여러 이웃과 연결되어 있으면, 서로 다른 길처럼 보이는 경로들이 실은 같은 방으로 통합니다. 걷는 쪽에서는 성실하게 탐색한 셈이지만, 모은 쪽에서는 같은 메모를 여러 장 복사한 셈이죠.

문제는 그다음입니다. 언어 모델은 반복에 약합니다. 같은 말을 여러 번 들으면 그 말이 더 그럴듯하게 느껴지는 경향이 사람에게도 있고, 모델에게도 비슷한 민감함이 있다는 이야기는 예전부터 나왔습니다. 그렇다면 구조가 만든 반복, 그러니까 내용이 좋아서가 아니라 길이 많아서 생긴 반복 앞에서는 판단이 어떻게 기울까요. 이 질문은 정확도를 몇 점 올리는 기술보다 먼저 따져야 하는 문제인데, 에이전트가 무엇을 근거로 확신하는지와 직결되기 때문입니다.

저는 이 대목을 읽으면서 도서관 비유가 떠올랐습니다. 어떤 책이 여러 서가에 꽂혀 있으면 그 책을 여러 번 마주치게 되는데, 그렇다고 그 책의 주장이 여러 권의 책으로 뒷받침되는 것은 아니지 않습니까. 그런데 대출 기록만 보면 그 책을 여러 번 빌린 것처럼 찍힙니다. GraphEcho는 바로 이 대출 기록과 실제 읽은 권수를 구분하려는 시도라고 저는 봅니다.

내용이 같아도 구조가 바뀌면 판단이 흔들린다

여기서 재미있는 질문이 생깁니다. 증거 내용은 완전히 고정한 채, 그 증거로 가는 길의 개수와 출처 구조만 바꾸면 에이전트의 결론이 달라질까요. 상식적으로는 달라지면 안 됩니다. 같은 내용을 같은 출처에서 봤다면, 포장지만 바뀌었다고 판단이 바뀔 이유가 없기 때문입니다. 그런데 연구진이 통제된 합성 실험에서 확인한 바에 따르면, 판단은 모델에 따라 다르게 흔들렸습니다.

이 대목은 조금 조심해서 읽을 필요가 있습니다. 모든 모델이 똑같이 속았다는 이야기가 아니라, 중복된 지지 경로에 대한 반응이 모델마다 달랐다는 이야기이기 때문입니다. 어떤 모델은 길만 늘어나도 흔들리고, 다른 모델은 같은 조건에서 비교적 버팁니다. 저는 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 중복에 대한 민감함이 모델의 고정된 성격처럼 나타난다면, 우리가 에이전트를 고를 때 정확도표만 보고 고를 일이 아니게 되기 때문입니다.

실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 같은 내용을 담은 문서가 그래프 곳곳에 흩어진 현실 그래프에서는 이 흔들림이 얼마나 자주 일어날까요. 논문 인용 그래프나 기업 지식 그래프를 생각하면 같은 보고서가 여러 팀 폴더에 복사되어 있고, 같은 실험 결과가 요약본과 원본으로 따로 연결되어 있는 경우가 흔합니다. 길의 모양이 판단의 무게를 바꾼다면, 그래프를 잘 깎는 일이 곧 에이전트를 똑똑하게 만드는 일과 이어집니다.

이 벤치마크가 재는 것과 재지 않는 것

GraphEcho라는 이름이 가리키는 것은 하나의 측정 장치인데, 그 설계가 꽤 단정합니다. 증거 내용은 고정한 채 경로 수와 증거의 출처 구조를 바꾸어 중복의 효과만 분리한다는 발상이기 때문입니다. 내용을 바꾸면서 길을 바꾸면 무엇 때문에 판단이 바뀌었는지 알 수 없는데, 내용이라는 변수를 묶어두면 남는 차이는 구조 탓으로 돌릴 수 있죠.

그리고 이 장치는 결론만 재지 않습니다. 에이전트가 무엇을 답했는지와 어떻게 돌아다녔는지를 함께 봅니다. 최종 판단이 바뀌었는지, 탐색 도중에 같은 곳을 얼마나 되밟았는지, 새로운 출처로 얼마나 퍼져나갔는지를 같이 기록합니다. 저는 이 구성이 마음에 들었습니다. 정답만 맞히면 되는 시험에서는 에이전트의 나쁜 습관이 점수 뒤에 숨는데, 걸음까지 함께 보면 습관이 드러나기 때문입니다.

물론 이 장치가 현실 전체를 대신하지는 않습니다. 합성 그래프에서 길을 통제하는 방식은 원인을 가려내기에 좋지만, 실제 과학 그래프처럼 노이즈가 많고 엣지가 지저분한 환경과는 거리가 있습니다. 그렇다고 이 통제가 헛수고라는 뜻은 아닙니다. 오히려 현실이 복잡하기 때문에, 깨끗한 방에서 구조의 효과를 먼저 확인하는 순서가 설득력을 갖습니다. 저는 그래서 이 벤치마크를 현실의 축소판이 아니라 청진기 같은 것으로 이해했습니다. 병을 다 보여주지는 않지만, 이상한 소리가 어디에서 나는지는 짚어주기 때문입니다.

같은 증거를 다른 길로 포장하면 무슨 일이 생길까

이제 실험의 장면 속으로 들어가 보겠습니다. 연구진은 같은 증거를 가리키는 지지 경로를 일부러 늘리면서, 에이전트가 그 반복을 추가 확증으로 받아들이는지 살폈습니다. 길은 많아졌지만 독립된 증거는 늘지 않은 상태인데, 에이전트 쪽에서는 발자국이 길어지니 마음이 기울 수 있는 조건입니다.

결과를 한 문장으로 줄이면 이렇게 됩니다. 얼어둔 여러 에이전트, 그러니까 추가 학습 없이 그대로 둔 에이전트들에서는 지지 경로가 중복될수록 되밟는 걸음의 비중이 일제히 올라갔습니다. 모델의 종류를 가리지 않고 반복 탐색이 늘었다는 점에서, 이 반응은 특정 모델의 버릇이라기보다 그래프 에이전트가 공유하는 기울기에 가깝습니다.

생각해보면 사람도 비슷하게 배웁니다. 같은 이야기를 여러 사람에게 들으면 처음에는 의심하다가도 나중에는 그러려니 하게 되죠. 에이전트에게는 그 여러 사람이 실은 같은 원고를 읽는 이웃 노드들인데, 이웃의 얼굴이 다르니 다른 증인처럼 보이는 셈입니다. 저는 여기서 멈칫했습니다. 에이전트가 게을러서 같은 곳을 도는 것이 아니라, 성실하게 이웃을 확인한 결과가 되밟기가 될 수 있기 때문입니다. 성실함의 모양을 한 비효율이랄까요.

이 차이는 생각보다 중요합니다. 단순히 더 열심히 탐색하라고 지시하면 되밟기만 늘어날 수 있고, 탐색 예산을 늘리면 늘릴수록 중복이 확신으로 굳어질 수 있기 때문입니다. 그래서 길의 개수를 늘리는 처방 전에 출처의 개수를 세는 습관이 먼저 필요하다는 것이, 이 실험이 주는 실제 교훈에 가깝습니다.

모델마다 흔들리는 지점이 다른 이유

앞에서는 모든 에이전트가 더 자주 되밟는다고 말씀드렸는데, 최종 판단이 흔들리는 모양은 또 다릅니다. 통제된 합성 조건에서 중복 경로에 대한 판단 변화가 모델에 따라 다르게 나타났기 때문입니다. 같은 구조 변화를 줘도 어떤 모델은 결론을 바꾸고, 어떤 모델은 바꾸지 않습니다.

왜 그럴까요. 저는 이 간극을 모델이 반복을 해석하는 방식의 차이로 읽었습니다. 어떤 모델은 마주친 횟수를 확신의 무게로 더하고, 다른 모델은 출처가 겹친다는 신호를 어렴풋이 알아차리는 식입니다. 학습 데이터와 정렬 방식, 긴 문맥을 다루는 버릇이 서로 다르니, 같은 반복 앞에서도 기울기가 달라지는 것이죠. (참고로 이 지점은 특정 모델 이름을 외워둘 문제가 아니라, 평가할 때 중복 조건을 따로 깔아보라는 신호로 받아들이는 편이 좋습니다.)

저희가 새로운 AI 아키텍처를 볼 때도 benchmark 숫자만 보지는 않습니다. 실제로 무엇이 바뀌었고, 그 변화가 시스템에서 어떤 비용 구조를 만드는지를 함께 봅니다. 같은 맥락에서 모델별 흔들림은 단순한 순위표가 아니라 배치 기준이 됩니다. 중복이 많은 그래프에 올릴 에이전트라면 평균 점수가 높은 모델보다 중복 앞에서 덜 흔들리는 모델이 더 나을 수 있기 때문입니다.

그렇다면 이 흐름은 어디에서 끊을 수 있을까요. 그 이야기는 학습 이야기로 넘어가서 다시 다루겠습니다. 구조를 바꾸는 것만으로 판단이 흔들린다면, 학습으로 그 흔들림을 다잡을 수 있는지 물어야 하기 때문입니다.

멈추지 못하고 되돌아가는 에이전트들

되밟기 이야기를 조금 더 들여다보겠습니다. 얼어둔 에이전트들에서 중복된 지지 경로가 늘어나면 되돌아가는 걸음의 비중이 커진다는 결과는, 얼핏 보면 사소해 보입니다. 어차피 답만 맞히면 되지 않느냐고 물을 수도 있죠. 그런데 그래프 탐색에서는 걸음이 곧 비용이고, 걸음이 곧 확신의 재료가 됩니다.

같은 곳을 다시 밟는 걸음은 두 가지 손해를 함께 만듭니다. 하나는 탐색 예산을 갉아먹는 손해이고, 다른 하나는 반복을 확증으로 바꾸는 손해입니다. 예산이 한정된 실제 서비스에서는 이 두 손해가 곱으로 묶입니다. 돈은 돈대로 쓰고, 확신은 엉뚱한 방향으로 굳어지니까요. 밤사이 배치로 수천 개 주장을 검증해야 하는 파이프라인을 떠올리면, 한 주장당 몇 걸음이 헛도는지가 바로 운영비가 됩니다.

저는 이 대목에서 에이전트의 행동 로그를 다시 보고 싶어졌습니다. 최종 답이 같아도, 어떤 에이전트는 새로운 출처로 뻗어나가고 어떤 에이전트는 같은 동네를 맴돌았다면, 두 에이전트의 신뢰도는 다르게 매겨야 하기 때문입니다. GraphEcho가 판단과 탐색을 함께 재는 이유도 여기에 있습니다. 답이 맞았는지보다 어떻게 맞았는지가 다음 실패를 가르기 때문입니다.

출처를 의식하도록 가르치면 무엇이 달라질까

이제 학습 이야기로 넘어갑니다. 연구진은 출처를 의식하는 사후 학습, 이름으로는 provenance-aware post-training, 줄여서 PAPT라는 처방을 시험했습니다. 발상은 단순합니다. 에이전트가 어디에서 무엇을 보았는지, 같은 출처를 다시 밟고 있는 것은 아닌지를 학습 신호에 녹여서, 되밟기를 줄이는 방향으로 가르치는 것이죠.

합성 과제에서는 이 처방이 꽤 듣습니다. 되돌아가는 걸음이 줄고, 합성 정확도도 함께 올라갑니다. 걷는 법을 고쳤더니 답도 더 잘 맞히게 된 셈인데, 여기까지만 보면 깔끔한 성공담처럼 읽힙니다. 저도 처음에는 그렇게 읽었습니다. 그런데 다음 문장에서 고개를 갸웃하게 됩니다. 효율이 좋아진 그 에이전트가 정작 서로 다른 출처는 더 적게 덮었기 때문입니다.

좋은 건 알겠는데, 이걸 어떻게 해석해야 할까요. 반복을 안 하도록 가르쳤더니 새로운 곳도 덜 가게 된 것이라면, 가르침이 탐색 자체를 위축시킨 셈이 됩니다. 마치 헛도는 것을 혼낸 아이가 아예 밖에 나가기를 꺼리게 된 것처럼요. 저는 그래서 이 결과를 성공과 경고가 붙어 있는 성적표로 봅니다. 걸음은 가벼워졌지만, 발이 닿은 지도는 오히려 좁아졌기 때문입니다.

이 지점에서 엔지니어의 질문이 생깁니다. 되밟기를 줄였다는 지표만 보고 배포해도 될까요. 합성 그래프처럼 답이 가까운 곳에 있을 때는 좁아진 지도가 문제가 안 되지만, 답이 먼 이웃에 흩어져 있을 때는 치명적일 수 있습니다. 효율 지표가 좋아졌다는 보고서를 받을수록, 커버리지라는 다른 열을 함께 봐야 하는 이유입니다.

과학 논문으로 넘어가면 효율과 정확이 갈라진다

앞선 이야기가 합성 그래프라는 깨끗한 방에서 벌어졌다면, 이제는 과학 주장이라는 지저분한 현실로 나가봅니다. 연구진은 같은 처방을 과학 주장 검증으로 옮겼을 때 무엇이 달라지는지 살폈는데, 결과는 꽤 솔직합니다. PAPT를 거친 에이전트는 여기서도 반복을 계속 줄입니다. 걷는 법은 여전히 얌전해진 것이죠. 그런데 정확도는 오히려 내려갑니다.

이 어긋남을 어떻게 읽어야 할까요. 저는 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 반복을 줄이는 법을 배운 에이전트가 정작 필요한 정보를 놓쳤다는 해석이 가능하기 때문입니다. 합성 방에서는 답이 가까이에 있어서 좁아진 지도로도 통했지만, 과학 그래프에서는 근거가 멀리 흩어져 있어서 몇 걸음 더 가야 했던 셈입니다. 덜 헤매는 것과 더 잘 아는 것이 같은 일이 아니었던 것이죠.

여기서는 조금 조심해서 읽을 필요가 있습니다. 이 결과가 출처를 가르치는 일이 헛수고라는 뜻은 아니기 때문입니다. 되밟기를 줄인 것 자체는 분명한 소득이고, 예산이 빠듯한 환경에서는 그 소득이 클 수 있습니다. 다만 효율과 정확이 함께 간다는 낙관을 버려야 한다는 뜻입니다. 효율은 걸음의 문제이고, 정확은 어디를 밟았는지의 문제라서, 두 개가 따로 놀 수 있다는 것이 이 실험의 뼈아픈 교훈입니다.

겉보기에 좋아 보이는 효율 지표 앞에서 한 번 더 묻고 싶어집니다. 덜 돈 것이 잘 돈 것을 뜻할까요. 과학 그래프처럼 증거의 출처가 다양하고 엣지가 꼬인 곳에서는, 덜 도는 에이전트가 성실한 에이전트보다 못할 수 있습니다. 그래서 저는 이 대목을 이 논문의 가장 정직한 장면으로 꼽았습니다. 처방이 통한 곳과 빗나간 곳을 함께 보여줬기 때문입니다.

그래서 다음에 무엇을 물어야 할까

정리할 때가 됐는데, 정리는 숫자가 아니라 질문으로 하고 싶습니다. GraphEcho가 남긴 것은 순위표가 아니라 간극이기 때문입니다. 효율적인 탐색과 근거를 잘 쓰는 일이 서로 다른 재능이라는 것, 반복을 줄이는 학습이 곧 잘 아는 학습은 아니라는 것, 내용을 고정하고 구조만 바꿔도 판단과 걸음이 함께 흔들린다는 것, 이 세 가지가 이 연구가 깔아둔 바닥입니다.

실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 출처의 겹침을 에이전트에게 어떻게 보여줄 것인가. 지금은 그래프가 길의 모양만 주고 출처의 족보는 잘 안 주는 경우가 많습니다. 같은 문서에서 복사된 노드인지, 서로 다른 실험에서 나온 독립 노드인지가 걸음 도중에 드러나지 않으면, 에이전트는 반복을 셀 수밖에 없습니다. 저는 앞으로 보고 싶은 것이 바로 그 족보의 표현입니다. 노드에 출처 지문을 붙이고, 같은 지문을 다시 밟을 때는 확신 대신 경계를 더하는 식의 설계가 가능할지 궁금합니다.

저희 팀에서 그래프 파이프라인을 다룰 때도 비슷한 이야기를 자주 합니다. 탐색 예산을 늘리기 전에 중복을 먼저 걷어내고, 정답률 옆에 되밟기 비율과 출처 커버리지를 나란히 둡니다. 이 논문을 읽고 나니 그 습관이 더 단단해졌습니다. 많이 걸었다는 로그 앞에서 한 번 더 묻게 되기 때문입니다. 그 걸음이 새로운 출처로 간 것인지, 아니면 같은 방의 다른 문으로 들어간 것인지 말이죠.

그렇다면 사람의 역할은 무엇일까요. 에이전트가 스스로 그래프를 읽는 시대일수록, 무엇을 독립된 증거로 셀지를 정하는 일은 사람의 몫으로 남습니다. 중복을 확증으로 착각하지 않는 에이전트를 만드는 일은 결국 중복을 중복이라 부르는 평가에서 시작하고, 그 평가의 잣대를 쥐는 것은 여전히 우리입니다. 다음에 그래프 에이전트를 고르거나 가르칠 때, 저는 정확도표 옆에 이 질문을 덧붙이려 합니다. 이 에이전트는 같은 이야기를 두 번 들었을 때, 두 번 들었다고 말할까요, 아니면 두 사람이 말했다고 말할까요.