AI가 스스로 뽑아낸 '교훈'을 내밀 때, 그대로 받아 적어도 될까

AI가 내미는 "이번 경험에서 배운 것"

요즘 AI 에이전트를 쓰다 보면 작업을 마친 뒤 스스로 요약을 남기는 경우를 종종 보게 되죠. "다음엔 이렇게 하는 게 낫다"는 식의 문장이 결과물 옆에 붙어 나오는 거예요. arXiv에 공개된 "Notes to Self: Can LLMs Benefit from Experiential Abstractions?" 논문은 바로 이 지점, 즉 언어모델이 자신의 과거 시행에서 뽑아낸 요약이 이후 수행에 실제로 도움이 되는지를 묻는 자료예요. 말하자면 AI가 자신이 겪은 여러 시행착오를 문장 몇 줄로 압축해, 다음 판단의 참고자료로 스스로에게 남기는 방식이에요. 메모, 회고, 체크리스트처럼 이름은 다양하지만 공통점은 '경험을 요약한 문장'이라는 형식 그 자체예요. 아직 동료심사를 거친 논문은 아니지만, 문제의식만큼은 눈여겨볼 만해요. AI가 스스로 "교훈"이라 부를 만한 문장을 만들어내는 시대가 온 거죠.

통계적 요약과 프로네시스는 다른 층위예요

여기서 짚어야 할 건 그 "교훈"이라는 단어가 인간과 AI에게 전혀 다른 걸 가리킨다는 점이에요. 아리스토텔레스가 말한 프로네시스, 즉 실천적 지혜는 특정 상황의 특수성을 알아채고 거기 맞는 판단을 내리는 능력을 뜻해요. 다시 말해 프로네시스는 일반 원칙을 아는 지식이 아니라, 지금 이 순간 무엇이 최선인지 가려내는 판단 그 자체예요. 규칙을 기계적으로 대입하는 게 아니라, 상황 자체를 읽어내는 감각에 가깝죠. 반면 AI가 내놓는 경험적 교훈은 다수의 시도 결과를 통계적으로 압축한 패턴입니다. 제목이 말해주듯 이 논문이 던지는 물음도 결국, 언어모델이 스스로 남긴 요약이 다음 시도의 결과를 실제로 개선하는지를 확인하는 데 있어요. 성공했던 경로들의 공통점을 추출해 문장으로 바꾼 것에 가까워요. 이 둘은 겉모습이 비슷해도 만들어지는 방식은 완전히 다릅니다.

"결국 인간도 일반화 아니냐"는 반론

이쯤에서 나오는 반론이 하나 있어요. 인간의 지혜도 결국 여러 경험을 겪으며 얻은 일반화 아니냐는 거예요. 노련한 실무자가 갖춘 감각도 수많은 개별 사례가 쌓여 만들어진 것이니, AI의 통계적 요약과 질적으로 다를 게 없다는 주장이죠. 일리가 있는 지적이에요. 인간의 판단력도 진공에서 생기지는 않으니까요.

그런데도 두 과정은 갈라져요

다만 결정적 차이가 하나 남아요. 인간의 일반화는 그 상황에 실제로 놓여 위험과 이해관계를 몸으로 감당했다는 조건 위에서 이뤄져요. 가령 협상 자리에서 상대의 표정 변화를 읽고 물러설 때를 아는 감각은, 그 순간의 긴장을 직접 감당해본 사람만 벼릴 수 있는 판단이에요. AI의 요약은 이런 당사자성 없이, 기록된 텍스트의 표면적 유사성만으로 문장을 뽑아냅니다. 패턴을 읽어내는 능력이 비슷해 보여도, 그 패턴에 자신의 이름과 책임을 걸어본 적이 있는지는 전혀 다른 문제예요. 다만 그 패턴 인식이 몸으로 겪은 위험 부담 없이도 성립하는지는 또 다른 물음으로 남아요. 원 경험을 겪은 주체가 그 판단의 결과를 다시 책임지는 구조도 없어요. 그 자리에 있었던 사람만이 다음에 무엇을 다르게 할지 스스로에게 물을 수 있어요. 그래서 통계적으로는 그럴듯해 보여도, 지금 내 상황과 원 사례의 조건이 얼마나 겹치는지는 AI가 대신 확인해주지 않아요.

옮겨 적기 전에 물어야 할 것들

AI가 내놓은 교훈을 받아 적기 전에 몇 가지는 스스로 따져봐야 해요. 그 교훈이 뽑힌 표본은 내 상황과 얼마나 닮았는지, 실패한 사례는 어떻게 다뤄졌는지, 그리고 그 판단에 책임질 사람이 있었는지를 묻는 거예요. 짧지만 핵심은 이거예요. 학습 패러다임을 정리해둔 자료들을 봐도 통계적 일반화와 상황적 판단은 애초에 다른 방식으로 다뤄지곤 하죠. AI의 문장이 매끄럽다고 해서 그 매끄러움이 곧 타당성을 뜻하지는 않아요. 그런 점에서 '경험에서 배웠다'는 AI의 말은 결과 보고서로 읽되, 실천 지침서로는 아직 읽지 않는 편이 안전해요. 논문 안에서의 확인과 내 상황에 옮겨도 된다는 보증은 서로 다른 문제예요. 결론을 옮기기 전에 조건을 먼저 옮겨 적는 습관, 그게 지금 필요한 분별이에요. 그 습관 하나가 AI를 편하게 쓰면서도 휘둘리지 않는 태도를 만들어줘요.

참고 자료

• Towards Miniature Humanoid Tele-Loco-Manipulation Using Virtual Reality and Reinforcement Learning — arxiv.org, 2026-07-22 발행
• 3 Google updates from Galaxy Unpacked 2026 — blog.google, 2026-07-22 발행
• Notes to Self: Can LLMs Benefit from Experiential Abstractions? — arxiv.org, 2026-07-22 발행

본문 집필에 참고한 공개 자료입니다. 접속 확인일: 2026-07-27.