새어나온 사고 과정의 정체

오픈AI와 앤트로픽이 암호화해 감춰 둔 대형언어모델의 사고 과정을, 공격자가 그 모델을 직접 건드리지 않고도 읽어낼 수 있다는 연구 결과가 나왔다.¹ 독일 튀빙겐의 ELLIS 연구소와 막스플랑크 지능시스템연구소가 밝힌 방법은 이렇다. 같은 회사 생태계 안에서 값싸고 안전장치가 약한 모델을 '해독기'로 삼아, 암호화된 추론 데이터를 평문으로 토해내게 만드는 방식이다.

기업이 굳게 잠가 둔 문이, API 설계의 틈 하나로 열려 버린 셈이다. 이 소식을 다른 두 발표와 나란히 읽으면 물음이 하나 생긴다. 스스로 여는 문과 뚫려서 열리는 문을, 우리는 왜 같은 이름으로 부르는가?

자랑하려 스스로 연 문

같은 시기 다른 기업들은 정반대 방향에서 움직였다. 헤이젠은 구글 클라우드와 함께 180억 개가 넘는 파라미터를 가진 아바타 생성 모델을 트릴리움 TPU로 옮긴 과정을 개발자 블로그에 상세히 공개했다.² 병목이었던 올투올 통신을 어떻게 파이프라인으로 겹쳤는지, 희소 어텐션 블록 크기를 어떻게 맞춰 패딩을 없앴는지까지 구체적인 설명이 따라붙었다. 실시간 스트리밍 속도를 1.86배 끌어올렸다는 성과를 자랑하려는 글이었지만, 그 자랑 안에도 근거는 있었다.

X도 비슷한 시기에 추천 알고리듬 저장소를 넓혔다.³ 올 1월 처음 연 후보 수집과 랭킹 구조 공개에 이어, 실제 노출에 영향을 주는 가중치 설정과 필터링 시스템까지 추가로 열었다.

두 사례 모두 기업이 스스로 문을 열었다.

해독기로 열린 뒷문

오픈AI와 앤트로픽이 사고 과정을 암호화한 이유는 분명하다. 추론 데이터 자체가 경쟁력이고, 노출되면 경쟁사가 학습에 쓰거나 탈옥 공격에 악용할 수 있다는 우려 때문이다.¹ 그런데 연구팀이 찾아낸 경로는 이 방어선을 정면으로 뚫지 않았다. 고성능 모델을 직접 탈옥하는 대신, 같은 생태계의 값싸고 허술한 모델을 거쳐 우회했다.

기업이 막으려 한 지점과 실제로 뚫린 지점이 달랐다는 뜻이다. 이 노출에는 헤이젠이나 X의 발표에 붙어 있던 설명이나 맥락이 없다. 무엇이 새어나왔는지, 어디까지 복원 가능한지는 연구자가 사후에 밝혀야 알 수 있는 정보였다.

두 투명성의 거리

세 소식을 나란히 놓으면 '투명성'이라는 말이 하나로 뭉뚱그려지기 쉽다. 하지만 헤이젠·구글의 이식기, X의 알고리듬 추가 공개와, 오픈AI·앤트로픽의 사고 과정 유출은 성격이 다른 사건이다. 앞의 둘은 기업이 시점과 범위를 스스로 정해 내놓은 자료다. 뒤의 하나는 기업의 의도와 무관하게, 설계 허점 때문에 드러난 자료다.

자발적 공개는 맥락을 함께 준다. 무엇을 왜 열었는지, 어떤 방법을 썼는지 설명이 따라온다. 반면 허점으로 새어나온 자료는 맥락이 없이 조각만 남는다. 이 차이를 지우면 우리는 무엇을 잃는가? 기업이 성실히 보여준 것과 뚫려서 드러난 것을 같은 근거로 다루면서, 근거 없이 신뢰를 나눠 주게 된다.

골라 보여주는 공개

다만 이 구분을 너무 깔끔하게 그으면 놓치는 지점이 있다. 헤이젠과 구글이 공개한 이식기는 성공한 성과만 상세히 적었다. 실패한 시도나 포기한 경로는 언급되지 않는다.² X의 알고리듬 공개도 마찬가지다. 회사가 유리하다고 판단한 부분부터 순서대로 열었을 가능성을 배제할 수 없다.³

자발적 공개도 결국 기업이 보여주고 싶은 장면만 편집한 결과일 수 있다는 뜻이다. 그렇다면 공개와 노출을 완전히 다른 범주로 가르는 일도 지나친 단순화일지 모른다. 둘 다 기업이 어느 정도씩은 통제하는 이야기라는 점에서 뿌리가 겹친다.

그래도 다른 무게

그래도 나는 이 둘을 같은 저울에 올리지 않는다. 편집이 섞여 있더라도, 자발적 공개에는 기업이 책임질 준비가 담겨 있다. 설명과 맥락을 붙여 내놓았기 때문에, 틀렸을 때 반박하거나 검증할 자리가 생긴다. 허점으로 새어나온 사고 과정에는 그 자리가 없다. 기업은 그것을 보여줄 생각이 없었고, 지금도 얼마나 더 새어나올 수 있는지 스스로 다 파악하지 못했을 가능성이 크다.

다만 이 판단이 늘 선명하지는 않다. 공개의 편집이 짙어지면, 그 공개도 결국 감춘 것을 감추는 또 다른 방식이 될 수 있다. 헤이젠의 최적화 후기와 X의 알고리듬 저장소를 다시 열어 보면서, 어디까지가 성실한 설명이고 어디부터가 연출인지 나도 매번 다시 가늠한다.

같은 자료를 본 독자라면, 이 구분이 어디서 흐려지는지 각자 짚어보면 좋겠다. 나는 내 판단을 여기 적었을 뿐이다.

각주

1. 오픈AI·앤트로픽 암호화 '사고 과정' 통째 유출...API 설계 허점 파문 — www.aitimes.com, 2026-08-13 발행, 2026-08-14 접속 확인. ↩ ↩²

2. HeyGen x Google Cloud: Bringing Avatar IV to TPUs — developers.googleblog.com, 2026-08-14 발행, 2026-08-14 접속 확인. ↩ ↩²

3. X, For You 알고리듬 공개 범위 확대 - 랭킹 가중치와 노출 제한 시스템까지 — news.hada.io, 2026-08-14 발행, 2026-08-14 접속 확인. ↩ ↩²