클로드의 자기평가, 양심은 아니다

데드라인 렌즈라는 안드로이드 앱은 고지서 사진 속 문장 하나를 사람에게 내밉니다. 과태료 통지서나 자동차 검사 안내문을 찍어 올리면, 앱은 기한을 어느 문장에서 찾았는지 그대로 보여 줍니다.

저장은 그 다음입니다.

사람이 확인하거나 고쳐야만 알림과 위젯, 일정 파일이 만들어집니다.¹ 작은 설계지만 눈에 걸립니다. 기계가 읽고 사람이 확인하는 순서를 이 앱은 아주 작은 화면 안에서 지키고 있습니다.

비슷한 시기에 나온 소식 두 건이 이 순서를 다시 생각하게 만듭니다. 하나는 앤트로픽이 클로드에 넣은 자기 평가 기능이고, 다른 하나는 오픈AI가 새 모델 명세에 올린 신실함이라는 말입니다. 둘 다 AI가 스스로를 들여다보는 것처럼 보이게 합니다. 그 들여다봄이 정말 사람이 하는 성찰과 같은 자리에 있는지는 따로 물어야 합니다.

자기평가라는 이름

앤트로픽은 최근 연구 블로그에서 자기 평가라는 안전 기술을 공개했습니다. 클로드가 답변을 내놓은 직후, 자신이 방금 나눈 대화를 다시 살펴보고 위험한 사용인지 판단하는 방식입니다. 별도의 감시 모델을 따로 두지 않고, 클로드 자신이 그 역할을 겸합니다.²

결과는 작지 않았습니다. 기존 감시 체계가 놓쳤던 대규모 사기 시도와 모델 정보를 불법으로 빼내려는 시도까지 걸러 냈고, 유해한 사용의 78퍼센트를 찾아냈습니다. 추가로 드는 연산 비용은 2퍼센트에 못 미칩니다.²

다만 이 작업의 성격을 정확히 보아야 합니다. 클로드가 하는 일은 자신의 답변이 정해진 기준을 벗어났는지 점검하는 절차입니다. 기준은 앤트로픽이 미리 세워 둔 것이고, 클로드는 그 기준에 맞춰 스스로를 채점합니다. 이 자리에서 클로드는 잘못을 뉘우치지 않습니다. 정해진 규정을 어겼는지를 가릴 뿐입니다.

명세에 오른 신실함

오픈AI는 29일 모델 명세를 새로 고치며 다섯 가지 핵심 가치를 내놓았습니다. 그 가운데 하나가 신실함, 곧 사람의 의도에 충실해야 한다는 가치입니다. 건전한 판단과 인간의 주도권도 그 다섯 가지 안에 들어갑니다.³

신실함이라는 말은 신앙의 언어에서 빌려 온 말처럼 들립니다. 교회에서 이 말은 관계 안에서 쌓인 믿음과 그 믿음에 응답하는 마음을 가리킵니다. 누군가를 향한 약속을 끝까지 지키려는 마음이 그 안에 있습니다.

모델 명세에서 이 말은 다른 자리에 놓입니다. AI가 사람이 입력한 의도에서 벗어나지 않도록 설계자가 적어 둔 규칙 한 줄입니다. 지켜지면 제대로 작동한 것이고, 어긋나면 수정 대상입니다. 그 안에는 관계나 응답이 따로 담겨 있지 않습니다.

확인 버튼의 무게

데드라인 렌즈로 돌아가 봅니다. 이 앱이 보여 주는 설계는 소박합니다. 기계가 찾은 문장을 사람에게 보여 주고, 사람이 눌러야 저장이 끝납니다.¹ AI가 점검을 자동화한 곳에서도, 사람은 마지막 확인을 쥐고 있습니다.

그런데 그 확인이 실제로 얼마나 깊은 판단인지는 따로 물어야 합니다. 화면에 뜬 문장을 눈으로 훑고 그대로 누르는 손짓과, 날짜와 금액을 다시 따져 보고 누르는 손짓은 같은 버튼 아래 섞여 있습니다. 확인이라는 절차를 거쳤다고 해서 사람이 실제로 판단했다고 장담할 수는 없습니다.

여기까지 생각이 닿으면, 교회에서 늘 해 온 성찰기도도 다시 보입니다. 지은 죄를 하나씩 떠올리고 하나님 앞에 내놓는 그 시간은, 정해진 항목을 확인하는 절차와 다릅니다. 떠올리는 사람이 자신의 행동을 자기 것으로 받아안는 시간이기 때문입니다. 버튼을 누르는 손과 자기 행동을 끌어안는 마음은 다른 일입니다.

사람에게 남는 자리

클로드의 자기 평가도, 모델 명세의 신실함도, 정해진 기준에 맞는지를 확인하는 절차로 작동합니다. 그 절차가 섬세해질수록 사람이 하던 점검의 품은 줄어듭니다.

줄어드는 자리에서도 남는 것이 있습니다.

자신이 한 일을 자기 것으로 받아들이고, 그 일을 누군가 앞에서 고백하는 자리입니다. 그 자리는 규칙을 지켰는지 가리는 일과 같지 않습니다. 지켰든 어겼든 자신이 한 일임을 인정하는 자리입니다.

데드라인 렌즈의 확인 버튼도 같은 자리 바로 옆에 서 있습니다. 버튼을 누르는 손이 정말 판단하고 있는지는, 앱의 설계만으로는 알 수 없습니다. 그 판단은 여전히 누르는 사람에게 달려 있습니다. 올해 나온 자기 평가 기술과 신실함이라는 말은 AI가 점검하는 범위를 넓혔습니다. 그 범위가 넓어진 자리에서도, 받아안고 고백하는 자리는 사람 쪽에 그대로 남아 있습니다.

각주

1. Show GN: 데드라인 렌즈 - 고지서 사진에서 납부기한을 찾아 알림을 거는 온디바이스 Android 앱 — news.hada.io, 2026-10-29 발행, 2026-10-30 접속 확인. ↩ ↩²

2. 앤트로픽, '클로드' 자기 대화 감시 기술 도입…유해 사용 78% 탐지 — www.aitimes.com, 2026-10-30 발행, 2026-10-30 접속 확인. ↩ ↩²

3. An updated Model Spec for more capable and beneficial AI — openai.com, 2026-10-29 발행, 2026-10-30 접속 확인. ↩