AI 관련 논문이나 기술 기사를 읽다 보면 익숙한 단어를 자주 만난다. "스스로 배운다", "경험으로부터 학습한다", "자기 성찰을 통해 개선한다" 같은 표현이다. 사람이 실수를 곱씹고 다음에는 다르게 행동하는 과정과 비슷하게 들린다. 그런데 그 문장이 가리키는 실제 작동을 들여다보면, 인간의 성찰과 얼마나 닮았는지는 별개의 문제로 남는다.
경험이라는 말이 놓인 자리
최근 arXiv에 공개된 "Notes to Self: Can LLMs Benefit from Experiential Abstractions?"는 제목부터 이 문제를 정면으로 건드린다. LLM이 "경험적 추상화"에서 이득을 볼 수 있는지 묻는 논문이다.1 이 자료는 arXiv 등록 상태이므로 동료심사 완료를 뜻하지 않는다. 그래도 제목이 흥미로운 이유는 분명하다. "경험"이라는 인간의 말을 기계의 성능 개선 절차에 붙일 수 있는지, 그 경계를 묻게 만들기 때문이다.
이 계열에는 언어적 피드백과 일화 기억을 다음 시도에 쓰는 Reflexion 연구도 있다.2 여기서도 사람이 삶을 되돌아보는 성찰 전체가 구현된 것이 아니라, 과업 수행에 도움이 되는 텍스트 피드백을 저장하고 다시 불러오는 절차가 핵심이다.
은유가 설명을 대신할 때
"스스로 배운다"는 표현은 편리하다. 복잡한 최적화 과정, 피드백 구조, 저장된 메모의 재사용 같은 절차를 한 문장으로 압축해 준다. 하지만 압축은 늘 생략을 동반한다. 생략된 자리에는 그 과정이 인간의 성찰과 어디까지 같고 어디부터 다른지를 가르는 정보가 들어 있다.
은유를 반복해서 쓰다 보면 어느 순간 그 은유가 실제 메커니즘을 설명한 것처럼 느껴진다. 그때부터 은유는 설명이 아니라 신념 쪽으로 넘어간다. 벤더와 콜러가 언어의 형식과 의미·이해를 구분한 것도 이런 성급한 이동을 막는 데 도움을 준다.3 읽는 사람은 "이 시스템은 경험을 통해 성장한다"는 문장을 사실 진술처럼 받아들이고, 그 뒤에 어떤 계산과 기록이 있는지는 더 묻지 않게 된다.
명칭이 신뢰의 범위를 가른다
분별은 거창한 반박이 아니다. 문장 하나를 만날 때마다 "이 표현이 실제로 가리키는 절차는 무엇인가"라고 묻는 습관이다. 외부 피드백이 없는 자기수정은 오히려 추론 성능을 떨어뜨릴 수 있다는 연구 결과도 있으므로, '성찰'이라는 이름만 보고 개선까지 추정해서는 안 된다.4 결과가 인간의 성찰이 만들어 내는 개선과 비슷해 보인다면 이름은 중요하지 않다는 반론도 가능하다. 그러나 명칭은 성능 평가에만 쓰이지 않는다. 우리가 그 시스템에 무엇을 기대하고, 어디까지 신뢰하며, 어떤 책임을 물을 수 있는지도 명칭을 통해 정해진다.
필요한 것은 기술을 깎아내리는 태도가 아니다. 기술이 실제로 무엇을 하고 있는지 더 정확히 보려는 태도다. 은유는 이해를 돕는 다리일 수 있다. 다만 다리를 목적지로 착각하면, 그 너머의 실제 작동을 놓친다.
각주
-
Notes to Self: Can LLMs Benefit from Experiential Abstractions? — arXiv, 2026-07-22 발행. ↩
-
Reflexion: Language Agents with Verbal Reinforcement Learning — NeurIPS 2023. 언어적 피드백과 일화 기억을 이용한 에이전트 개선 연구다. ↩
-
Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data — ACL 2020. 언어 형식과 의미·이해를 구분하는 개념적 경계를 제시한다. ↩
-
Large Language Models Cannot Self-Correct Reasoning Yet — ICLR 2024. 자기수정이 언제나 성능 향상으로 이어지지 않는다는 반례를 제공한다. ↩
