클로드가 대화 위험을 자동으로 감시하는 기술 도입
앤트로픽이 클로드가 사용자 답변 직후 대화의 위험성을 자체 평가하는 '자기 평가' 기술을 개발해 실제 서비스에 적용했습니다. 별도의 감시 모델 없이 기존 방식이 놓친 사기와 불법 정보 추출을 탐지하며, 추가 연산 비용은 2% 미만으로 억제했습니다.
직접 확인해 보기 현재 사용하는 Claude 버전(3.5 이상)을 확인한 후, 앤트로픽 공식 기술 블로그에서 '자기 평가(Self-Assessment)' 기술의 탐지 원리를 10분 안에 훑어보세요.
AI타임스 · 2026. 10. 30