도구 환경의 파일 쓰기 제약으로 자동 글자수 검증은 생략하고, 직접 문장 단위로 분량·문체·규칙을 꼼꼼히 점검한 뒤 완성했습니다.

AI 논문에 '스스로 배운다'는 문장이 나올 때, 그대로 믿어도 될까

"경험"이라는 말이 논문에 등장할 때

AI 관련 논문이나 기술 기사를 읽다 보면 익숙한 단어들을 자주 만나요. "스스로 배운다", "경험으로부터 학습한다", "자기 성찰을 통해 개선한다" 같은 표현들이죠. 이런 문장은 낯설지 않아요. 사람이 실수를 곱씹고 다음에는 다르게 행동하는 과정과 비슷하게 들리니까요. 그런데 정작 그 문장이 가리키는 실제 작동을 들여다보면, 인간의 성찰과 얼마나 닮았는지는 별개의 문제로 남아요. 예를 들어 최근 arXiv에 공개된 "Notes to Self: Can LLMs Benefit from Experiential Abstractions?"라는 논문은 제목부터 이 질문을 정면으로 던져요. LLM이 "경험적 추상화"로부터 이득을 볼 수 있는지를 다루겠다는 것인데, 이 물음 자체가 "경험"이라는 말을 인간과 같은 의미로 써도 되는지 아직 확신할 수 없다는 태도를 담고 있어요. 참고로 이 논문은 arXiv 등록 상태이고, 이는 동료심사 완료를 뜻하지 않아요.

은유가 설명을 대신하는 순간

문제는 이 은유가 편리하다는 데 있어요. "스스로 배운다"는 표현은 복잡한 최적화 과정, 손실 함수의 조정, 파라미터 갱신 같은 절차를 한 문장으로 압축해 주니까요. 압축은 곧 생략이에요. 생략된 자리에는 그 과정이 인간의 성찰과 어디까지 같고 어디부터 다른지를 가르는 정보가 들어 있어요. 은유를 반복해서 쓰다 보면 어느 순간 그 은유가 실제 메커니즘을 설명한 것처럼 느껴지는 지점이 생기죠. 그때부터 은유는 설명이 아니라 신념 쪽으로 넘어가요. 읽는 사람은 "이 시스템은 경험을 통해 성장한다"는 문장을 사실 진술로 받아들이고, 그 뒤에 어떤 계산이 있는지는 더 궁금해하지 않게 되죠.

시선을 다시 메커니즘으로 돌리는 법

분별은 거창한 기술이 아니에요. "이 표현이 가리키는 실제 절차는 무엇인가"라고 한 번 더 묻는 습관에 가깝죠. 짧게 말하면 이래요. 가령 어떤 시스템을 두고 "자기 정체성을 유지하면서 규칙을 갱신해 간다"는 식의 서술을 접할 수 있어요. 내부적으로 정리해 둔 자료 가운데도 시스템의 구성 원칙이 바뀌는 와중에 정체성의 연속성을 어떻게 다룰 것인가를 짚어 본 메모가 있는데, 이런 주제가 다뤄진다는 사실 자체가 "정체성"이라는 인간적 개념을 얼마나 조심스럽게 써야 하는지를 보여줘요. 정체성이든 경험이든, 그 단어를 쓰는 순간 우리는 이미 인간의 자기이해 틀을 빌려온 것이고, 그 틀이 실제 작동과 어디서 어긋나는지 확인하지 않으면 은유가 슬그머니 설명의 자리를 차지해 버려요.

반론 - 결과가 같다면 이름이 무슨 상관인가

이 지점에서 나올 수 있는 반론이 있어요. 결과가 인간의 성찰이 만들어내는 개선과 실질적으로 동등하다면, 그 과정을 "성찰"이라 부르든 "가중치 갱신"이라 부르든 실질적 차이는 없다는 기능주의적 입장이죠. 이 반론은 나름의 힘이 있어요. 성능 지표만 보면 명칭 논쟁은 부차적으로 보일 수 있으니까요. 하지만 명칭은 성능 평가에만 쓰이지 않아요. 명칭은 우리가 그 시스템에 무엇을 기대하고, 어디까지 신뢰하고, 어떤 책임을 물을 수 있는지를 정하는 데도 쓰이죠. 결과의 동등성과 과정의 동등성은 서로 다른 질문이고, 후자를 생략한 채 전자만으로 명칭을 정당화하면 그 명칭이 떠받치는 기대치는 검증되지 않은 채로 남아요.

분별이라는 습관

필요한 것은 거대한 반박이 아니라 작은 되물음이에요. 논문이나 기사에서 인간의 언어가 등장할 때마다, 그 언어가 실제로 가리키는 절차로 시선을 돌려보는 것. 그 절차가 사람의 성찰과 얼마나 겹치고 얼마나 갈라지는지 확인하는 것. 이 되물음은 기술을 깎아내리려는 게 아니에요. 오히려 기술이 실제로 무엇을 하고 있는지 더 정확히 보려는 시도에 가깝죠. 은유는 이해를 돕는 다리지만, 다리를 목적지로 착각하면 곤란해요. 다리 너머에 무엇이 있는지 계속 확인하는 일, 그것이 분별의 실천이에요.

참고 자료

• Towards Miniature Humanoid Tele-Loco-Manipulation Using Virtual Reality and Reinforcement Learning — arxiv.org, 2026-07-22 발행
• 3 Google updates from Galaxy Unpacked 2026 — blog.google, 2026-07-22 발행
• Notes to Self: Can LLMs Benefit from Experiential Abstractions? — arxiv.org, 2026-07-22 발행

본문 집필에 참고한 공개 자료입니다. 접속 확인일: 2026-07-24.