맥락을 읽고 정책을 고쳐 쓰는 자동화라는 발상

Adaptive Workflow Intelligence: A Cognitive Architecture for Context-Driven Enterprise Automation은 arXiv에 공개된 논문으로 식별자 2610.08793을 갖고 있습니다. 이 글은 그 논문이 제안한 내용을 따라가며, 맥락에 따라 움직이는 기업용 에이전트를 네 층의 지각과 인지, 행동, 반성 고리로 설계하자는 주장을 한 문장으로 정리하면 이렇습니다. 원문 논문으로 이어지는 연결은 이 글 제목 아래에 함께 두었습니다.

논문이 진단하는 출발점은 생각보다 담담합니다. 오늘날 많은 AI 기반 자동화가 고정된 조건에서는 잘 움직이다가도 조건이 미끄러지고 정책이 바뀌고 운영 피드백이 늦어지면 쉽게 부서진다는 것인데요. 그 진단이 왜 설득되는지, 네 층 구조가 실제로 무엇을 바꾸는지, 모의 기업 의사결정 흐름에서 본 회복과 흔들림을 어디까지 받아들여야 하는지가 이 글의 순서가 됩니다.

읽기 전에는 자동화가 답처럼 보였다

제가 이 논문을 집어 든 이유는 거창하지 않았습니다. 현장에서 자동화 이야기를 듣다 보면 문장이 늘 비슷하게 끝나기 때문입니다. 처음에는 잘 되다가 어느 순간부터 사람이 뒤치다꺼리를 한다는 것이죠. 모델이 나빠서가 아니라 규칙이 바뀌고, 결재선이 바뀌고, 어제 맞던 판단이 오늘은 틀리게 되는 바람에 생기는 일입니다. 그렇다면 문제는 모델 성능이 아니라 시간이 지나도 판단을 고쳐 쓸 수 있는 구조가 있느냐는 쪽에 가깝지 않을까요.

사람 조직을 떠올리면 감이 옵니다. 신입 사원이 매뉴얼만 외워서 일하면 첫 주에는 빠르지만, 거래처 조건이 바뀌는 둘째 주부터 삐걱댑니다. 반면 일을 오래한 담당자는 매뉴얼을 버리지 않으면서도 예외를 알아봅니다. 이번 건은 지난번과 조건이 다르니 결재를 먼저 받아야겠다고 판단합니다. 논문이 겨냥하는 것도 바로 이 지점인데요. 그러니까 워크플로를 고정된 순서도로 보지 않고, 맥락을 읽고 정책을 다듬는 살아 있는 판단 과정으로 보자는 것이죠.

저는 이 대목을 읽으면서 자동화에 대한 기대를 조금 낮추는 편이 낫다고 봤습니다. 자동화가 사람을 완전히 대신하는 장면이 아니라, 사람이 매번 끼어들지 않아도 판단이 서서히 따라오는 장면이 먼저 필요하기 때문입니다. 논문 역시 화려한 자율성을 약속하지 않습니다. 대신 반성이라는 장치를 정책 다듬기에 연결하면서, 바뀌는 현장에서 덜 부서지는 구조를 만들자고 말합니다. 이 태도부터가 오늘날 에이전트 논의와는 결이 조금 다릅니다.

현장에서 워크플로는 왜 쉽게 부서질까

기업의 워크플로는 종이 위에서는 단단해 보입니다. 신청이 들어오면 검토하고, 기준에 맞으면 승인하고, 예외는 위로 올린다는 식입니다. 그런데 막상 월요일 아침을 떠올리면 이야기가 달라집니다. 담당자가 바뀌어 있고, 예산 기준이 분기마다 조정되고, 시스템에 찍힌 숫자는 금요일 밤 것과 다릅니다. 같은 신청서라도 지난달과 이번 달의 맥락이 다르면 판단도 달라져야 하는데, 정적 자동화는 이 미묘한 차이를 잘 못 읽습니다.

논문이 짚는 부서짐의 양상은 세 가지로 겹칩니다. 조건이 고정되어 있지 않다는 점, 정책이 살아 움직인다는 점, 그리고 운영 피드백이 바로 오지 않는다는 점입니다. 이 셋이 따로 오면 견딜 만하지만 함께 오면 이야기가 달라집니다. 규칙이 바뀌었는데 결과는 한참 뒤에 알려주니, 무엇이 잘못됐는지도 늦게 알게 되니까요. 그래서 현장에서는 자동화를 꺼버리거나, 사람을 붙여 매번 확인하게 됩니다. 자동화인데 손이 더 가는 아이러니가 생깁니다.

그렇다면 무엇이 부족했던 걸까요. 저는 여기서 모델이 똑똑하지 않아서라는 설명은 별로 설득되지 않았습니다. 이미 많은 모델이 단일 판단은 잘하기 때문입니다. 부족했던 것은 판단을 둘러싼 시간과 맥락을 다루는 층이었습니다. 어제의 판단이 오늘의 조건에서 무엇을 뜻하는지, 늦게 도착한 결과가 어느 단계의 선택 때문이었는지 되짚는 기능이 없으면, 워크플로는 매번 처음부터 헤맬 수밖에 없습니다. 논문이 반성을 구조의 한가운데에 둔 이유도 여기에 있다고 봅니다.

기록과 반성은 어떻게 다를까

이 논문에서 제가 가장 오래 멈춘 문장은 반성을 수동적인 기록이 아니라 지속적인 정책 다듬기 수단으로 본다는 대목이었습니다. 얼핏 들으면 로그를 남긴다는 말과 비슷해 보이지만, 실제로는 전혀 다른 주장입니다. 로그는 무슨 일이 있었는지 적어두는 것이고, 반성은 그 기록을 근거로 다음 판단의 규칙을 고치는 일이기 때문입니다. 적어두기와 고쳐 쓰기는 책임의 무게가 다릅니다.

일상의 비유로 풀면 오답 노트와 가깝습니다. 시험 점수를 적어두는 것만으로는 성적이 오르지 않죠. 틀린 문제를 다시 풀고, 왜 틀렸는지 규칙으로 정리하고, 다음에는 같은 유형에서 발문을 먼저 확인하겠다고 다짐해야 바뀝니다. 논문이 말하는 reflective memory와 피드백 기반 적응도 같은 방향을 향합니다. 경험을 쌓아두는 데서 끝나지 않고, 그 경험이 다음 행동의 조건으로 다시 들어가도록 통로를 만듭니다.

여기서 재미있는 질문이 생깁니다. 그렇다면 반성은 얼마나 자주, 얼마나 깊게 일어나야 할까요. 매번 판단을 뒤집으면 현장은 불안해지고, 너무 드물면 바뀌는 규칙을 따라가지 못합니다. 논문이 직접 주기를 숫자로 못 박지는 않지만, 구조 자체는 이 긴장을 품고 있습니다. 반성을 별도 보고서가 아니라 판단 고리의 일부로 넣었다는 점이 그래서 중요합니다. 필요할 때 꺼내 보는 문서가 아니라, 판단이 돌 때마다 함께 도는 바퀴로 만들었다는 뜻이니까요.

이걸 강화학습이나 에이전트 하나로 착각하면 안 되는 이유

이 구조를 처음 보면 강화학습으로 하면 되지 않나 싶을 수 있습니다. 보상을 주면 알아서 적응할 것 같기 때문입니다. 그런데 논문의 문제의식은 그 옆에 있습니다. 강화학습과 언어모델 에이전트만으로는 지속적인 반성 장치를 갖기 어렵고, 정책으로 묶인 기업 운영과 바로 이어붙이기도 쉽지 않다고 지적합니다. 이 지적은 생각보다 예리합니다. 잘 돌아가는 학습 알고리즘과 운영에서 쓸 수 있는 판단 구조는 다른 문제이기 때문입니다.

왜 그럴까요. 강화학습은 대개 보상 신호를 따라 정책을 밀고 가는 데 강합니다. 하지만 기업 현장의 보상은 늦게 오고, 중간에 정책이라는 단단한 울타리가 있습니다. 마음대로 탐색하다가는 결재 규정을 어기거나 감사 추적을 망칠 수 있기 때문입니다. 언어모델 에이전트는 반대로 말은 유연하게 하지만, 그 유연함이 매번 같은 기준으로 반복된다는 보장이 없습니다. 오늘은 조심스럽다가 내일은 대담해지면 운영팀은 그 편차를 감당해야 합니다.

저는 이 대목을 읽으면서 저희가 새로운 AI 아키텍처를 볼 때 쓰는 잣대를 떠올렸습니다. 저희가 구조를 볼 때도 숫자만 보지는 않습니다. 실제로 무엇이 바뀌었고, 그 변화가 시스템에서 어떤 비용 구조를 만드는지를 함께 봅니다. 이 논문도 같은 태도를 요구합니다. 학습 신호를 더 세게 주는 것이 아니라, 반성과 기억과 적응을 정책 울타리 안에 함께 넣는 설계가 왜 필요한지를 묻는 것이죠. 그래서 이 아키텍처는 모델을 키우는 이야기가 아니라, 판단을 감싸는 구조를 다시 짜는 이야기에 가깝습니다.

네 개 층이 하나의 고리로 도는 장면

논문이 제안하는 구조는 지각과 인지, 행동, 반성이라는 네 층이 하나의 고리, 즉 PCAR loop로 맞물린다는 발상입니다. 이름만 보면 추상적이지만, 흐름을 따라가면 꽤 구체적으로 그려집니다. 지각이 현장의 맥락을 읽어 들이고, 인지가 그 맥락을 판단 가능한 형태로 정리하고, 행동이 정책 안에서 움직이고, 반성이 그 결과를 되짚어 다음 판단의 조건을 고치는 식입니다.

화요일 오후의 구매 결재를 예로 들어보겠습니다. 지각 단계에서는 신청 금액뿐 아니라 분기가 바뀌었는지, 예산 코드가 조정됐는지, 담당 조직이 개편됐는지 같은 배경이 함께 들어옵니다. 인지 단계에서는 이 신청이 통상 승인인지, 예외 검토가 필요한지 가려냅니다. 행동 단계에서는 정해진 결재선을 따라 움직이되, 필요한 증빙을 붙이고 기록을 남깁니다. 그리고 반성 단계에서는 며칠 뒤에 도착한 감사 의견이나 반려 사유를 되짚으면서, 비슷한 신청이 다음에는 어디서 멈춰야 하는지를 조정합니다. 어느 한 층만 똑똑해서는 안 되고, 층과 층 사이가 막히지 않아야 한다는 점이 잘 드러나는 장면입니다.

문제는 그다음입니다. 이런 고리가 말처럼 쉽게 돌지 않는 이유는 각 층이 서로 다른 시간을 살기 때문입니다. 지각은 지금을 보고, 행동은 정해진 절차를 따르고, 반성은 과거를 봅니다. 이 시간차를 어떻게 이어붙이느냐가 설계의 실력으로 남죠. 논문이 hybrid reasoning을 함께 말하는 것도 그래서 이해됩니다. 한 가지 추론 방식만 밀어붙이기보다, 규칙 기반 판단과 유연한 해석을 섞어야 현장의 울퉁불퉁함을 넘을 수 있기 때문입니다. 저는 이 대목에서 구조가 그럴듯해 보일수록 층 사이의 연결 방식을 더 집요하게 봐야 한다고 봤습니다.

가드레일 안에서 자유롭게 움직인다는 말의 뜻

기업 자동화에서 가장 민감한 단어는 자유가 아니라 울타리입니다. 아무리 잘 적응해도 규정을 어기면 쓸 수 없기 때문입니다. 논문이 적응형 접근을 가드레일로 묶인 형태로 그리는 이유도 여기에 있습니다. 마음대로 배우는 구조가 아니라, 정책 준수를 유지하면서 회복 속도를 노리는 구조라고 그립니다. 이 차이는 생각보다 중요합니다. 배우는 속도가 아니라 배워도 되는 범위를 먼저 정한다는 뜻이니까요.

운전에 비유하면 과속 방지턱과 차선이 함께 있는 도로와 비슷합니다. 차선 안에서는 속도를 조절하고 앞차를 피할 수 있지만, 차선을 벗어나면 안 됩니다. 가드레일은 판단을 느리게 만드는 장애물이 아니라, 판단이 허용된 공간을 표시하는 선이죠. 논문의 표현을 빌리면 정책으로 묶인 운영과 곧바로 이어지는 지점이 바로 여기입니다. 반성이 정책을 갉아먹는 것이 아니라 정책을 현재에 맞게 다듬는다면, 적응과 준수는 서로 반대쪽에 있지 않습니다.

그렇다면 가드레일은 누가, 어떻게 정할까요. 이 질문 앞에서 논문은 구체적인 답을 길게 내놓지 않습니다. 저는 그래서 이 부분을 조심해서 읽을 필요가 있다고 봤습니다. 가드레일이 너무 빡빡하면 적응은 이름뿐이 되고, 너무 느슨하면 현장은 불안에 떨어지기 때문입니다. 실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 반성이 정책을 고칠 때 어디까지는 스스로, 어디부터는 사람의 승인을 받도록 만들 것인가. 이 경계가 모호하면 구조는 그림처럼 돌지 않습니다. 논문이 방향을 잘 잡은 만큼, 이 경계를 다루는 후속 논의가 꼭 따라와야 합니다.

결과가 늦게 오고 규칙이 바뀌면 무슨 일이 생길까

논문의 평가는 모의 기업 의사결정 흐름 위에서 이뤄집니다. 결과가 바로 오지 않고, 중간에 체제 전환이 끼어드는 스트레스 상황을 일부러 만든 것입니다. 이런 설정을 고른 것 자체가 논문의 문제의식을 드러냅니다. 잘 정돈된 정적 조건에서 점수를 올리는 것이 아니라, 조건이 미끄러질 때 누가 더 빨리, 더 얌전하게 회복하는지를 보겠다는 것이기 때문입니다.

실제 현장을 떠올리면 이 설정이 왜 낯설지 않은지 알 수 있습니다. 예산 집행 결과를 다음 분기에야 알게 되고, 그 사이에 평가 기준이 바뀌는 일은 흔하죠. 신청 당시에는 맞았던 판단이 석 달 뒤에는 틀린 판단이 됩니다. 그런데 늦게 도착한 피드백을 어느 시점의 선택 탓으로 돌릴지는 늘 애매합니다. 시장이 바뀐 탓인지, 규칙 해석이 바뀐 탓인지, 애초 판단이 거칠었던 탓인지 가리기가 어렵습니다. 이런 환경에서는 한 번에 맞는 답보다, 틀어졌을 때 돌아오는 힘이 더 중요합니다.

논문이 전하는 관찰은 이렇습니다. 이런 드리프트와 지연이 겹친 시험에서 가드레일로 묶인 적응형 접근이 정적 자동화보다 더 빠르게 회복하면서도 정책 준수는 유지했다는 것입니다. 저는 이 숫자보다 그 뒤의 구조가 더 중요하다고 봅니다. 빠르게 회복했다는 말이 단순히 운이 좋았다는 뜻이 아니라, 반성 고리가 늦은 피드백을 다음 정책에 반영하는 통로로 작동했다는 뜻이라면, 이 구조는 다음 시험에서도 비슷한 힘을 낼 수 있기 때문입니다. 다만 여기서 한 걸음 더 들어가기 전에 조건을 짚어야 합니다. 모의 환경의 체제 전환은 통제된 전환이지, 현장의 지저분한 전환과 같지 않기 때문입니다.

흔들림이 조금 줄어든 것이 왜 눈에 밟혔을까

논문은 반성 요소가 행동의 출렁임과 피드백 편차를 조금 줄였다고 말합니다. modestly라는 표현이 붙은 만큼 드라마틱한 개선은 아닙니다. 그런데 저는 오히려 이 modest하다는 말 앞에서 멈칫했습니다. 자동화 논의에서는 대개 큰 폭의 향상이 먼저 눈에 들어오는데, 여기서는 흔들림이 조금 줄었다는 조용한 관찰이 더 오래 남았기 때문입니다.

왜 그럴까요. 현장에서 무서운 것은 한 번의 큰 실패보다 잔잔한 진동이기 때문입니다. 오늘은 승인하고 내일은 반려하는 식의 들쭉날쭉함은 담당자의 신뢰를 갉아먹습니다. 시스템이 맞다고 해도 매번 이유가 다르면 사람은 그 시스템을 믿지 않죠. 반성 장치가 이런 진동을 조금 눕혀준다면, 점수표 밖에서 운영의 아침을 지켜주는 셈입니다. 밤사이 공시가 늦게 도착하거나 아침에 특정 결재가 막혀도 라인이 크게 요동치지 않는다면, 그 차이는 보고서보다 현장에서 먼저 느껴집니다.

여기서는 조금 조심해서 읽을 필요가 있습니다. 흔들림이 줄었다는 말이 곧 판단이 더 옳아졌다는 뜻은 아니기 때문입니다. 진동이 줄어도 틀린 방향으로 고요해질 수 있죠. 일관성과 정확성은 다른 축입니다. 논문이 말하는 것도 행동의 안정 쪽에 가깝고, 정확도 자체를 크게 끌어올렸다는 주장으로 읽으면 안 됩니다. 저는 그래서 이 결과를 점수보다는 성질로 받아들였습니다. 반성이 판단을 더 차분하게 만든다는 신호로 읽었기 때문인데요. 이 신호가 다음 실험에서 정확도와 함께 움직이는지는 아직 열린 질문으로 남습니다.

빠른 회복과 조용한 운영은 왜 같이 오지 않을까

논문이 마지막에 남기는 인상은 안정성과 민첩성 사이의 줄다리기입니다. 반성 기반 정책 적응이 가져오는 trade-off라는 표현이 바로 그것입니다. 빨리 바꾸면 현장에 잘 붙지만 흔들리기 쉽고, 조심스럽게 가면 조용하지만 늦어집니다. 어느 한쪽만 택하면 되는 문제가 아니라, 어디에 무게를 둘지 계속 정해야 하는 문제입니다.

생각해보면 사람 조직도 같은 고민을 합니다. 변화가 빠르면 적응은 빠르지만 피로가 쌓이고, 신중하면 실수는 줄지만 기회를 놓치죠. 자동화라고 다르지 않습니다. 반성 주기를 짧게 가져가면 체제 전환에 빨리 반응하지만 늦은 피드백에 과잉 반응할 수 있고, 주기를 길게 가져가면 노이즈에는 강하지만 전환 뒤 회복이 늦어집니다. 그래서 이 구조의 진짜 질문은 반성이 있느냐 없느냐가 아니라, 반성의 강도를 어떻게 조절하느냐로 옮겨갑니다.

그렇다면 이 흐름은 어디에서 끊거나 조율할 수 있을까요. 저는 Damping 같은 물리 비유가 아니라 운영 규칙으로 풀어야 한다고 봤습니다. 예를 들어 체제 전환이 감지될 때만 반성의 깊이를 키우고, 평상시에는 가볍게 유지하는 방식이죠. 물론 이런 조절 장치가 논문에 구체적으로 담겨 있지는 않습니다. 하지만 논문이 trade-off를 숨기지 않고 드러낸 덕분에 다음 연구가 파고들 지점은 분명해졌습니다. 빠름과 고요함 사이의 다이얼을 누가, 어떤 신호로 돌릴 것인가. 이 질문에 답하지 못하면 적응형이라는 말은 오래가기 어렵습니다.

그래서 엔지니어는 무엇을 들고 가야 할까

이제 처음 질문으로 돌아올 차례입니다. 바뀌는 규칙과 늦은 피드백 앞에서 자동화를 덜 부서지게 하려면 무엇을 해야 할까요. 논문이 주는 답은 단순합니다. 판단을 한 번 잘하는 데서 끝나지 말고, 판단이 스스로를 고치는 고리를 정책 안에 넣으라는 것입니다. 지각과 인지, 행동, 반성이 따로 놀지 않고 하나의 고리로 돌 때, 체제 전환 뒤의 회복은 빨라지고 일상의 진동은 조금 잦아든다고 말합니다.

실제 시스템 관점에서 보면 다음 질문이 바로 생깁니다. 반성 결과를 어디에, 어떤 형태로 저장할 것인가. 누가 그 수정을 승인할 것인가. 감사 추적과 어떻게 맞물릴 것인가. 논문은 모의 흐름에서 방향을 보여줬지만, 운영 데이터베이스와 결재 로그와 접근 권한이 얽힌 실제 환경에서는 이 질문들이 곧바로 비용이 됩니다. 저는 그래서 이 논문을 도입 지침서가 아니라 설계 나침반으로 읽는 편이 낫다고 봤습니다. 당장 붙여 쓸 부품이 아니라, 붙여 쓸 때 어디를 조심해야 하는지 알려주는 지도에 가깝기 때문입니다.

제가 앞으로 보고 싶은 것은 세 가지입니다. 먼저 현장에 가까운 지저분한 전환에서도 같은 회복이 나타나는지 보고 싶습니다. 통제된 전환이 아니라 담당자 교체와 규정 개정과 지연 공시가 한꺼번에 오는 상황에서도 말이죠. 다음으로는 반성의 강도를 조절하는 장치가 실제로 진동을 얼마나 더 눌러주는지 보고 싶습니다. 마지막으로는 가드레일의 경계를 누가 정하고 어떻게 감사하는지에 대한 논의가 이어지길 바랍니다. 그 세 가지가 채워질 때, 적응형 워크플로라는 말은 구호가 아니라 운영의 언어가 될 것입니다. 그렇다면 사람의 역할은 무엇일까요. 규칙이 바뀔 때마다 고치는 사람이 아니라, 고쳐도 되는 범위와 되짚어야 할 신호를 정하는 사람이 아닐까 싶습니다.