진단은 맞는데 치료가 늦어진다면, 무엇이 문제일까

Asclepius: An Adaptive Harness for Long-Horizon Clinical Agents라는 논문이 arXiv에 2609.13543 번호로 공개됐습니다. 원문 논문으로 이어지는 연결은 이 글의 제목 아래에 붙어 있습니다. 이 연구가 내세우는 주장은 한 문장으로 정리할 수 있는데, 현재 임상 에이전트의 실패는 진단이 틀려서가 아니라 긴 시간 동안 지시를 지키고 처치를 빠짐없이 제때 수행하는 실행에서 벌어지므로, 근무 사이 매뉴얼을 고쳐 쓰는 하네스와 외부 지식, 분리된 의사결정 구조를 함께 갖춰야 한다는 것입니다.

안녕하세요, 패트릭입니다.

병원에서 일하는 사람의 하루를 떠올려 보면, 어려운 진단 하나를 맞히는 순간보다 그 뒤에 이어지는 몇 시간이 더 길게 느껴질 때가 많습니다. 처방이 제때 나갔는지, 상태가 바뀐 환자를 먼저 봤는지, 인수인계된 주의사항이 밤 사이에도 지켜졌는지가 결국 하루를 결정하니까요. 그런데 임상 에이전트 연구를 읽다 보면 평가가 자꾸 첫 장면에만 머무는 느낌을 받습니다. 진단을 맞혔는가, 정답을 골랐는가 같은 질문에 멈춰 있는 것이죠. 그러다 이 논문을 읽게 됐습니다. 제가 이 논문에서 가장 흥미롭게 본 부분은 진단을 맞히는 능력이 아니라, 맞힌 뒤의 시간을 문제 삼았다는 점입니다.

진단이 맞았는데 왜 안심이 안 될까

여러 사람이 함께 일하다 보면, 일을 잘 아는 사람도 바빠지면 작은 약속을 하나둘 놓치기 시작합니다. 그렇다면 긴 시간 동안 여러 환자를 보는 AI 에이전트에게도 비슷한 일이 생길까요. 이 논문은 바로 그 질문에서 출발하는데, 짧은 단일 과제에서는 강한 모습을 보이던 언어모델 에이전트가 몇 시간 동안 이어지는 실제 배치에서는 전혀 다른 얼굴을 보인다는 관찰에 기대고 있습니다.

연구팀이 말하는 간극은 생각보다 선명합니다. CES라는 평가 환경에서 현재 에이전트들은 대부분의 경우 올바른 진단에 도달하지만, 그 진단이 맞았다는 사실이 환자가 필요한 조치를 다 받았다는 뜻은 아니었습니다. 정작 중요한 처치가 빠지거나 타이밍이 늦거나, 지시에서 조금씩 벗어나는 일이 길어질수록 쌓였기 때문입니다. 저는 이 대목을 읽으면서 고개를 끄덕였습니다. 테스트 점수는 좋은데 막상 맡기면 불안한 시스템이라는 게, 현장에 있는 분들에게는 낯설지 않은 모습이니까요.

여기서 재미있는 질문이 생깁니다. 진단을 맞히는 시험과 환자를 돌보는 근무는 무엇이 다를까요. 시험은 한 번의 판단으로 끝나지만, 근무는 판단이 아니라 유지에 가깝습니다. 처음에 세운 방침을 여덟 시간 뒤에도 기억하고, 새로 들어온 정보를 반영하면서, 우선순위를 계속 다시 매겨야 하니까요. 논문은 이 유지의 실패를 그냥 느낌으로 두지 않고 셀 수 있는 형태로 바꿔 놓았는데, 그래서 다음 장면이 더 궁금해집니다. 과연 긴 시간을 어떻게 재야 할까요.

긴 근무를 재려면 자가 필요하죠

긴 시간을 다룬다고 말은 많이 하지만, 막상 재는 도구가 없으면 논의는 맴돌기 쉽습니다. 그래서 저는 이 논문이 실패를 세 개의 추적별 계수기로 정의한 대목을 오래 들여다봤습니다. 각 실행 trace마다 숫자를 매긴다는 발상이, 근무표를 점수가 아니라 기록으로 보겠다는 선언처럼 느껴졌기 때문입니다.

첫 번째 계수기는 지시 준수도 이탈입니다. 처음에 받은 운영 지침이나 임상 방침에서 에이전트의 행동이 조금씩 벗어나는 정도를 셉니다. 두 번째는 처치 불완전성인데, 해야 할 중요한 조치가 끝까지 수행되지 않고 중간에 빠지는 경우를 셉니다. 세 번째는 중증도에 따른 적시성의 격차로, 위중한 환자일수록 더 빨리 봐야 한다는 우선순위가 실제로 지켜졌는지를 봅니다. 이렇게 말하면 단순해 보이지만, 실제로는 그렇지 않습니다. 진단 정답률 하나로 덮여 있던 문제를 실행의 언어로 다시 썼기 때문입니다.

생각해보면 사람도 비슷하게 배웁니다. 시험 점수만으로는 근무 태도를 알 수 없어서, 결국 지각 횟수나 인수인계 누락 같은 기록을 봐야 하니까요. 논문이 선택한 세 숫자는 바로 그런 근무 기록에 가깝고, 이 기록 방식 덕분에 뒤에 나오는 설계가 설득력을 얻습니다. 무엇을 고쳐야 하는지 알면 어떻게 고칠지 이야기가 쉬워지니까요. 문제는 그다음인데, 이탈과 누락과 지연은 왜 함께 생길까요.

조금씩 어긋나는 지시는 어떻게 시작될까

같은 모델에 같은 질문을 던져도 대화가 길어지면 결과가 크게 달라질 수 있다는 것을 경험으로 알고 있습니다. 임상 현장에서는 그 길이가 몇 마디가 아니라 몇 시간이라서, 처음에는 분명했던 주의사항이 열 번째, 스무 번째 판단에서는 흐릿해집니다. 논문이 말하는 지시 준수도 이탈은 바로 이 흐려짐을 가리킵니다.

저는 여기서 멈칫했습니다. 흔히 에이전트 실패를 두고 모델이 똑똑하지 못해서라고 말하는데, 이 경우는 똑똑함의 문제가 아니기 때문입니다. 진단은 맞혔으니까요. 오히려 지시를 붙잡고 있는 힘이 약해진 것인데, 프롬프트에 적힌 문장이 시간이 지나면 장식처럼 남고 에이전트는 눈앞의 요청에만 반응하기 시작합니다. 밤 근무 후반에 인수인계 내용이 흐릿해지는 모습과 닮았습니다.

그렇다면 이 흐름은 어디에서 끊을 수 있을까요. 한 가지 답은 지시를 한 번 주고 끝내는 게 아니라 계속 되살리는 구조를 만드는 것입니다. 뒤에 나오는 하네스 이야기가 바로 그 답에 해당합니다. 다만 그 전에 다른 두 계수기가 왜 따로 필요한지도 봐야 합니다. 지시를 잘 지킨다고 해서 처치가 저절로 끝나지는 않으니까요.

해야 할 일을 다 했다고 말하기 어려운 이유

병원에서 가장 무서운 말 중 하나는 깜빡했다는 말일 겁니다. 처방은 알았는데 투약 확인이 빠지고, 검사는 냈는데 결과 확인이 밀리고, 후속 조치가 다음 근무로 넘어가다 흐지부지되는 일이 생기니까요. 논문이 두 번째로 세는 처치 불완전성은 이런 빠짐을 정면으로 봅니다.

이 지표가 미묘한 이유는 부분 점수를 주기 어렵기 때문입니다. 진단처럼 맞다 틀리다가 아니라, 여러 단계로 이뤄진 조치가 끝까지 이어졌는가를 봐야 합니다. 예를 들어 특정 고위험 처방에는 사전 검사와 용량 확인, 투약 후 관찰 같은 동반 절차가 붙는데, 하나라도 빠지면 전체가 불완전해집니다. 에이전트는 각 단계에서는 그럴듯한 판단을 하면서도 전체를 묶는 끈을 놓치기 쉬운데, 그러면 단계마다의 판단은 옳았는데도 환자 입장에서는 아무것도 다 받지 못한 셈이 됩니다.

저는 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 불완전성은 기억력만의 문제가 아니라 책임 범위의 문제이기 때문입니다. 누가 전체 과정을 끝까지 챙기는가 하는 질문이죠. 한 에이전트가 모든 환자의 모든 단계를 혼자 챙기면 당연히 어딘가에서 놓치는데, 그래서 논문은 뒤에서 일을 나누는 방식을 꺼냅니다. 그런데 일을 나누기 전에 순서의 문제도 짚어야 합니다. 다 하더라도 늦으면 소용이 없으니까요.

위중한 환자부터 봐야 한다는 당연한 말이 어려운 이유

응급실에 가본 분이라면 압니다. 먼저 온 순서대로 보는 게 아니라, 아픈 순서대로 봅니다. 말로는 쉬운데 막상 지키기는 어렵고, 바쁘면 눈앞의 환자부터 처리하고 싶어지니까요. 논문이 세 번째로 재는 중증도별 적시성 격차는 이 당연함을 숫자로 옮긴 것입니다.

이 격차는 단순한 평균 대기 시간과 다릅니다. 전체 평균이 좋아 보여도 위중한 환자의 대기가 길었다면 실패이고, 반대로 가벼운 환자가 조금 기다린 것은 큰 문제가 아닐 수 있습니다. 그래서 중증도와 대기 시간을 함께 봐야 합니다. 에이전트가 환자 대기열을 앞에 두고 매 턴마다 누구를 볼지 고르는 상황에서, 이 선택이 반복되면 격차가 벌어집니다. 처음 몇 턴의 작은 편향이 여덟 시간 뒤에는 큰 차이로 쌓이니까요.

여기서는 조금 조심해서 읽을 필요가 있습니다. 이 격차를 모델의 의도적인 차별 때문이라고 보기는 어렵기 때문입니다. 오히려 우선순위를 매번 다시 계산하지 않는 습관, 눈앞의 일을 먼저 치우는 습관이 쌓인 결과에 가깝습니다. 사람으로 치면 트리아지 원칙을 잊었다기보다, 바빠서 잠시 미뤄둔 것이 반복된 경우죠. 그렇다면 해법도 태도의 문제가 아니라 구조의 문제가 됩니다. 누가 우선순위를 보고, 어떻게 결정을 나누고, 무엇이 그 결정을 돕는가 하는 식으로요.

근무가 끝나면 매뉴얼을 고치는 병원이 있다면

이제 논문이 제안하는 Asclepius의 이야기로 넘어가겠습니다. 이름은 그리스 신화의 의술 신에서 따왔는데, 저는 그 이름보다 방식이 더 눈에 들어왔습니다. 스스로 진화하는 하네스라는 표현이 나오는데, 그 말이 실제로 무엇을 하는지를 뜯어보고 싶었기 때문입니다.

발상은 일종의 오답 노트와 비슷합니다. 에이전트가 한 근무, 즉 한 배치를 마치면 그 trace를 되돌아보면서 운영 매뉴얼을 고쳐 씁니다. 프롬프트를 고정해 두고 모델만 바꾸는 게 아니라, 일하는 방식 자체를 업데이트하는 것이죠. 오늘 밤에 지시 이탈이 많았다면 내일 아침 매뉴얼에는 지시를 되살리는 문장이 들어가고, 특정 처치의 누락이 반복됐다면 그 처치의 확인 절차가 더 분명해집니다. 이렇게 고친 매뉴얼로 다음 근무에 들어갑니다.

저희가 새로운 AI 아키텍처를 볼 때도 benchmark 숫자만 보지는 않습니다. 실제로 무엇이 바뀌었고, 그 변화가 시스템에서 어떤 비용 구조를 만드는지를 함께 봅니다. 이 하네스는 매뉴얼 다시 쓰기라는 비용을 근무 사이에 몰아넣은 셈인데, 실시간으로 매 턴마다 고치는 게 아니라 쉬는 시간에 고치는 방식입니다. 그래서 운영 관점에서는 꽤 현실적입니다. 진료 중에 규칙을 바꾸면 혼란이 커지지만, 인수인계 시간에 바꾸면 다음 팀이 새 규칙으로 시작할 수 있으니까요.

다만 여기서 바로 다음 질문이 생깁니다. 매뉴얼이 좋아져도 외워야 할 임상 지식이 너무 많다면 에이전트가 그걸 다 들고 일할 수 있을까요. 그래서 논문은 지식을 밖에 두는 선택을 합니다.

외우지 말고 꺼내 쓰게 하면 어떨까

임상에는 외워서 하면 위험한 지식이 있습니다. 고위험 처방의 용량이나 금기, 복용 일정 같은 것들이죠. 조금만 틀려도 결과가 크게 달라집니다. 그런데 언어모델에게 이런 지식을 매번 내부 기억에만 의존하게 하면, 길어질수록 흔들리기 쉽습니다. 그래서 Asclepius는 임상 스킬 라이브러리라는 외부 장치를 둡니다.

이 장치를 길게 보면 결국 책임 나누기로 돌아옵니다. 모델이 모든 처방 지식을 통째로 외우는 대신, 필요할 때 꺼내 보는 선반을 밖에 두는 것이죠. 처방마다 정해진 절차와 주의점이 카드처럼 정리돼 있고, 에이전트는 그 카드를 참조해서 행동합니다. 이렇게 하면 매뉴얼은 일하는 방식을 담고, 스킬 라이브러리는 무엇이 옳은지를 담는 식으로 역할이 갈립니다. 방식과 내용이 뒤섞여 있으면 둘 다 고치기 어렵지만, 나눠져 있으면 각각을 따로 개선할 수 있습니다.

개인적으로 인상 깊었던 점은, 이 분리가 긴 시간의 안정성과 연결된다는 것입니다. 대화가 길어질수록 모델 내부의 기억은 흐릿해지는데, 밖에 적힌 카드는 흐릿해지지 않습니다. 밤사이 규칙이 바뀌어도 카드를 바꾸면 되고, 특정 처방의 누락이 반복되면 해당 카드의 확인 절차를 강화하면 됩니다. 운영 측면에서 보면 이 차이는 상당히 큽니다. 사람이 바뀌어도 인수인계서가 남아 있으면 다음 사람이 따라갈 수 있는 것과 같은 이치니까요. 그런데 지식이 정리돼 있어도 보는 눈이 하나뿐이면 여전히 바쁩니다. 그래서 다음 장치가 필요합니다.

한 명이 다 보면 놓치고, 나누면 보인다

여러 사람이 함께 일하다 보면, 누군가의 말 한마디가 팀 전체의 분위기를 바꾸기도 합니다. 그렇다면 여러 AI가 한 팀으로 일할 때도 비슷한 일이 생길까요. 논문은 이 물음에 꽤 구체적으로 답하는데, 세 개의 분리된 서브에이전트를 두고 매 턴마다 환자 대기열을 나눠서 보게 한다는 것입니다.

구조를 따라가 보면 이렇습니다. 하나의 거대한 에이전트가 모든 환자를 순서대로 훑는 대신, 세 개의 서브에이전트가 각자의 담당 범위에서 판단을 내립니다. 서로의 중간 생각이 뒤섞이지 않도록 분리돼 있고, 각 턴의 결정은 맡은 대기열 안에서 이뤄집니다. 이렇게 하면 한 환자에게 쏠리는 주의가 다른 환자의 누락으로 번지는 일이 줄어듭니다. 바쁜 와중에도 담당 환자의 전체 과정을 끝까지 챙기는 힘이 생기기 때문입니다.

저는 이 대목을 읽으면서 앞의 세 계수기가 다시 떠올랐습니다. 지시 이탈은 매뉴얼 다시 쓰기가 붙잡고, 지식 흔들림은 외부 라이브러리가 붙잡고, 환자 사이의 우선순위 다툼은 분리된 담당 구조가 나눠 갖는 식입니다. 어느 하나만으로는 전체가 안 잡히는 모양새죠. 실제로 논문이 뒤에서 보여주는 결과도 그 이야기를 뒷받침하는데, 세 장치가 따로 놀 때와 함께 돌 때가 다르다는 것입니다. 그 이야기는 숫자를 볼 때 다시 다루겠습니다.

숫자를 보기 전에 조건부터 봅니다

좋은 건 알겠는데, 이걸 어디서 얼마나 시험했을까요. 저는 숫자를 그대로 믿기 전에 조건을 먼저 봅니다. 이 연구의 조건은 꽤 단단하게 짜여 있습니다.

먼저 하네스를 진화시키는 동안 한 번도 보여주지 않은 별도의 배치에서 성능을 쟀다는 점입니다. 연습 문제를 외워서 잘 푸는 게 아니라, 처음 보는 근무표에서도 통하는지를 본 것이죠. 그 결과 중요한 조치의 정확도가 강한 기준선에 비해 22퍼센트 올랐고, 우연이라고 보기 어렵다는 통계적 표시도 함께 보고됐습니다. 진단 정확도는 그대로 유지됐습니다. 진단이 좋아진 게 아니라, 진단 뒤의 실행이 좋아졌다는 뜻이죠. 이 구분은 생각보다 중요합니다. 진단 점수만 올리고 실행은 그대로인 개선과, 진단은 지키면서 실행을 끌어올린 개선은 현장에서의 값이 다르니까요.

다음으로 평가자를 바꾼 검증이 있습니다. 서로 다른 세 계열의 모델에서 나온 다섯 개의 심사 주체가 매긴 점수에서도 향상이 일관되게 나타났습니다. 특정 심사자의 취향에만 맞춘 결과가 아니라는 뜻이죠. 전체 열 개 배치를 다 합쳐서 보면 중요한 조치에서 25퍼센트, 적시성에서 13퍼센트의 개선이 보고됐습니다. 일반 파일에만 남겼을 때는 17퍼센트에 그쳤지만 제대로 된 구조에 옮겨 적었을 때는 55퍼센트까지 올라갔다는 식의 극적인 숫자쌓기가 아니라, 조건을 달리해도 방향이 유지되는 숫자라는 점이 마음에 들었습니다.

여기서는 조금 조심해서 읽을 필요가 있는데, 22퍼센트라는 숫자가 모든 병원, 모든 과, 모든 시간대에 그대로 적용된다는 뜻은 아니기 때문입니다. CES라는 시뮬레이션 환경에서의 측정이고, 기준선의 수준에 따라서도 체감 폭은 달라집니다. 그럼에도 제가 이 결과를 가볍게 보지 않는 이유는 방향과 조건이 함께 갖춰졌기 때문입니다. 처음 보는 배치에서도, 심사자를 바꿔도, 진단을 해치지 않으면서도 실행이 좋아졌다는 것이죠. 그렇다면 이제 마지막 질문이 남습니다. 왜 하필 세 개가 함께여야 했을까요.

세 개가 함께일 때만 풀리는 매듭이 있다

질문도 바뀌었는데, 무엇을 잘하는가에서 무엇을 끝까지 해내는가로 말이죠. 그래서 이 논문이 마지막에 던지는 관찰은 그 바뀐 질문에 잘 어울리는데, 세 가지 실패 양상이 서로 묶인 병목이라는 것입니다. 저는 이 표현을 읽고 멈칫했습니다. 병목이 하나가 아니라 매듭이라면, 한 가닥만 당겨서는 풀리지 않기 때문입니다.

연구팀이 각 요소를 하나씩 빼고 넣어 보면서 확인한 바에 따르면, 어느 하나만으로는 결정적인 감소가 나타나지 않았습니다. 매뉴얼만 고치면 지시는 지켜지는데 누락이 남고, 지식 카드만 두면 내용은 정확해지는데 우선순위가 흔들리며, 담당만 나누면 각자 바쁘게 일하는데 방식이 조금씩 어긋나는 식이었기 때문입니다. 그런데 세 장치가 함께 돌 때 비로소 세 계수기가 같이 내려갔는데, 이 함께라는 조건이 생각보다 중요합니다. 표면적으로 보면 당연해 보일 수도 있지만, 실제로는 그렇지 않거든요. 많은 시스템 연구에서 요소별 기여가 따로 노는 데 반해, 여기서는 묶여서만 움직였기 때문입니다.

그렇다면 운영 비용은 어디에 붙을까요. 저는 이 대목에서 실제 시스템 관점의 다음 질문이 바로 생겼는데, 매뉴얼 다시 쓰기에는 trace 검토 비용이 들고, 외부 라이브러리에는 카드 관리 비용이 들며, 분리된 실행에는 조율 비용이 들기 때문입니다. 그래서 논문이 보여준 것은 비용이 없다는 뜻이 아니라, 그 비용을 치를 만한 방향이라는 것이죠. 현장에 가져가려면 카드가 오래됐을 때 누가 고치는지, 매뉴얼이 잘못 진화하면 누가 되돌리는지 같은 운영 규칙이 뒤따라야 합니다.

제가 앞으로 보고 싶은 것은 그 다음 근무표입니다. 다른 질환 구성과 다른 중증도 분포, 더 긴 시간과 사람이 끼어드는 인수인계 같은 조건에서도 같은 매듭 풀림이 반복되는지가 궁금하거든요. 그리고 매뉴얼이 진화하는 과정에서 어떤 문장이 살아남고 어떤 문장이 사라지는지도 보고 싶습니다. 진화의 흔적을 보면 그 시스템이 무엇을 중요하게 여기는지가 드러나니까요. 진단을 넘어 실행을 묻기 시작한 이 흐름이 어디까지 이어질지, 그 이야기는 다음 연구에서 다시 다루겠습니다.