AI가 만든 결과물을 보면 눈앞의 품질부터 보게 됩니다. 문장이 자연스러운지, 요약이 맞는지, 수업에 바로 쓸 수 있는지부터 확인합니다. 그런데 결과물의 품질과 그 결과물을 가능하게 한 데이터의 출처는 다른 질문입니다. Bartz v. Anthropic의 2025년 6월 명령도 합법적으로 취득한 책의 학습 이용과 해적판 자료를 모아 둔 행위를 구분해 판단했습니다.1 미국의 한 사건을 AI 학습 전체의 합법·불법 결론으로 확대할 수 없다는 점부터 분명히 해야 합니다.
출력과 재료의 다른 층위
결과물에서 직접 확인할 수 있는 것은 정확성, 누락, 문체 같은 출력의 성질입니다. 학습 자료의 취득 경로와 라이선스는 모델 제공자가 공개한 문서와 소송 기록, 정책 자료를 통해 제한적으로 확인할 수 있을 뿐입니다. 미국 저작권청의 생성형 AI 학습 보고서가 공정이용, 라이선스 시장, 자료 취득 경로를 나누어 검토한 것도 이 문제가 한 문장으로 정리되지 않기 때문입니다.2
공개 자료가 닿는 데까지
데이터 출처 연구는 대규모 데이터셋이 하나의 덩어리가 아니라 여러 자료와 라이선스가 이어진 계보라고 봅니다.3 기업이 데이터셋 이름 하나를 공개하더라도 개별 자료의 동의와 귀속까지 곧바로 확인되는 것은 아닙니다. 교육 자료나 연구 초안을 만들 때는 "원문으로 확인한 사실"과 "아직 확인하지 못한 배경"을 구분해서 적어 두는 편이 낫습니다.
이용자의 책임은 어디까지일까요
개별 이용자가 기업 내부 학습 데이터의 모든 경로를 검증할 수는 없습니다. 데이터의 진위, 동의, 출처를 확인할 기반이 아직 충분하지 않다는 비판도 이 한계를 짚습니다.4 그렇다고 질문 자체를 버릴 필요는 없습니다. 수업 자료나 논문 초안에 AI 산출물을 쓰는 사람은 적어도 자신이 인용하고 배포하는 문장의 근거를 확인하고, 확인하지 못한 부분을 단정하지 않아야 합니다. 법적 책임의 범위와 학술적 신뢰의 범위도 같지 않습니다.
출처와 문서 종류를 남긴 세 줄
실무적으로는 간단한 기록이면 충분합니다. 이 문장은 어느 자료에서 확인했습니까? 그 자료는 발표문인가, 연구 초고인가, 저장소입니까? 학습 데이터의 출처처럼 공개 자료만으로 확인할 수 없는 부분은 어디입니까? 이 세 줄을 남기면 과장된 확신을 줄일 수 있습니다. 좋은 결과물을 쓰기 전에 그 재료의 출처를 묻는 습관은, AI 활용을 늦추기보다 책임 있게 오래 쓰게 해 줍니다.
각주
-
Order on Cross-Motions for Summary Judgment, Bartz v. Anthropic — U.S. District Court for the Northern District of California, 2025-06-23 명령문 사본. 특정 사실관계의 미국 법원 판단이며 일반 법률 자문으로 사용하지 않았다. ↩
-
Copyright and Artificial Intelligence, Part 3: Generative AI Training — U.S. Copyright Office, 2025. 정책 분석 보고서이며 개별 사건의 결론을 대신하지 않는다. ↩
-
A large-scale audit of dataset licensing and attribution in AI — Nature Machine Intelligence 6, 975–987 (2024). Data Provenance Initiative가 데이터셋의 계보·라이선스·귀속 문제를 대규모로 조사한 동료심사 논문이다. ↩
-
Data Authenticity, Consent, and Provenance for AI Are All Broken — MIT Generative AI, 2024. 현재 출처·동의 기반의 미비를 지적하는 논의로, 모든 확인이 불가능하다는 단정으로 사용하지 않았다. ↩
