함께하는 AI 인문학
← AI 기술 레이더
업데이트 소식GeekNews

학술 논문 심사에서 조작된 인용과 가짜 저자 적발 증가

최근 NeurIPS, WACV, ECCV 등 주요 학회에서 심사한 22편의 논문 중 68%에 조작된 인용과 LLM 생성 문장이 발견되었으며, 2025년 학술 문헌에는 약 14만6,900건의 환각 인용이 있었습니다. 가짜 저자를 신고한 두 논문도 참고문헌 수정을 조건으로 구두 발표에 채택되면서 학술 커뮤니티의 검증 체계가 강화되고 있습니다.

연구·글쓰기AI 기초 역량

이 소식은 무엇인가요?

배경부터 차근차근 살펴보기

AI 기반 글쓰기 도구가 확산하면서 논문 작성에도 널리 쓰이고 있지만, 이 과정에서 생성된 인용과 저자 정보의 신뢰성 문제가 학술 커뮤니티에서 심각한 우려가 되고 있습니다. 특히 대형 언어 모델이 만든 논문 텍스트가 존재하지 않는 출처를 인용하거나, 저자 정보를 조작하는 사례가 증가하고 있습니다.

최근 주요 학회(NeurIPS, WACV, ECCV)의 심사 과정에서 이런 문제를 구체적으로 포착했습니다. 심사된 22편의 논문 중 15편(68%)에서 조작된 인용이나 LLM이 생성한 문장이 발견되었고, 2025년 한 해 동안 학술 문헌 전체에서 약 14만6,900건의 환각 인용이 기록되었습니다. 특히 가짜 저자를 신고한 두 논문도 참고문헌을 수정하는 조건으로 구두 발표에 채택되는 사례도 있었습니다.

이는 단순한 개별 사건이 아니라 학술 기록의 무결성 자체가 위협받고 있다는 신호입니다. 연구자가 다른 논문을 인용할 때 그 출처가 실제로 존재하는지, 내용이 정확한지 보장할 수 없다면, 학술 지식 축적의 기초가 흔들리게 됩니다. 이에 따라 학술 커뮤니티는 인용 검증 기준을 강화하고 있으며, 앞으로 더 많은 학회와 저널이 이와 같은 조치를 취할 것으로 예상됩니다.

연구자와 교육자 입장에서는 이제 AI 도구를 쓸 때 인용 부분에 대한 별도의 검증 단계를 필수로 넣어야 하고, 학생들에게도 인용의 신뢰성을 판단하는 능력을 명확하게 가르쳐야 합니다. 이는 단순히 AI의 위험을 피하는 것이 아니라, 학술 기록 자체를 지키는 일이 되었습니다.

공식 발표에서 확인된 내용

구체적으로 무엇이 달라졌나

  1. 01

    주요 학회 심사 논문의 68%(22편 중 15편)에 조작된 인용이나 LLM 생성 문장 포함되어 있습니다.

  2. 02

    2025년 학술 문헌 전체에서 약 14만6,900건의 환각 인용이 발견되었습니다. 이는 학술 기록의 광범위한 오염을 시사합니다.

  3. 03

    가짜 저자를 신고한 두 논문도 참고문헌 수정을 조건으로 구두 발표에 채택되어, 학술 커뮤니티가 위반을 조건부로 용인하되 검증 절차를 강화하는 방향으로 대응하고 있습니다.

  4. 04

    학회의 심사 기준이 인용 무결성 확인으로 강화되는 추세가 나타나고 있으며, 이는 앞으로 더 많은 학회와 저널로 확산할 것으로 예상됩니다.

사용자에게 미치는 영향

누구에게 어떤 의미가 있나

연구자·논문 작성자

AI 도구로 작성하거나 인용을 생성했다면, 제출 전에 각 인용을 원본 출처와 비교해 검증하는 단계가 필수가 되었습니다. 향후 심사자들은 인용의 정확성을 더 엄격하게 점검할 것입니다.

교육자·지도교수

학생에게 논문 작성 시 인용의 중요성과 검증 방법을 명확하게 강조해야 하며, 리포트 제출 시 인용 출처 확인을 필수 평가 항목에 포함시킬 필요가 있습니다.

학술 편집자·심사자

심사 기준에 인용 무결성 점검 항목을 명시적으로 추가하고, 특히 AI 도구 사용을 명시한 논문은 인용 검증을 강화해야 합니다.

실제 활용 장면

어디에 어떻게 써볼 수 있나

논문 또는 보고서 제출 전 인용 검증

AI 도구를 사용해 작성한 부분이나 AI가 생성한 인용에 대해, 실제 출처를 찾아 정보 일치 여부를 확인합니다. 특히 Google Scholar나 원문 데이터베이스(CrossRef, 도서관 DB 등)에서 해당 저자, 제목, 년도, 쪽수가 실제로 존재하는지 점검합니다.

예를 들면
논문 초안에 '선행 연구에 따르면 AI는 인지 능력의 80%를 모방할 수 있다(Smith et al., 2024)'라는 인용이 있다면, Google Scholar에서 이 저자와 년도를 검색해 정확한 논문을 찾고, 실제 주장이 무엇인지 원문으로 확인합니다.
확인할 결과
검증 완료 후 '확인됨' 또는 '재작성 필요'로 표시하고, 수정이 필요한 경우 올바른 출처 정보로 대체합니다. 기록: '인용 10개 검증, 수정 필요 2개'

강의에서 학생 교육활동

실제 학술지나 최근 뉴스 기사에서 인용한 부분을 찾아, 원본 출처가 존재하는지, 내용이 정확하게 인용되었는지 학생들이 직접 점검하는 활동을 진행합니다. 특히 AI 도구가 생성한 텍스트라면 인용 부분이 얼마나 자주 오염되는지 실례를 보여줍니다.

예를 들면
학생들에게 한 편의 기사나 논문을 제시하고, 3~5개의 인용 부분을 찾아서 원본을 Google Scholar에서 검색하고 일치 여부를 작성지에 기록하도록 합니다. '이 인용이 맞는가, 틀린가, 부분적으로만 맞는가'로 판단합니다.
확인할 결과
학생이 발견한 잘못된 인용 사례 목록을 작성하고, 왜 이런 오류가 발생했는지(AI, 부주의, 의도적 조작 등) 분류합니다. 강의 중 사례로 활용하여 인용 신뢰도의 중요성을 강조할 수 있습니다.

논문 심사 시 인용 검증 기준 추가

심사자로서 논문을 읽을 때, 기존의 내용, 방법론, 결과 평가에 더해서 인용의 정확성을 명시적으로 확인하는 항목을 추가합니다. 특히 AI 도구 사용을 명시한 논문이나 핵심 인용이 많은 논문은 더 세심하게 점검합니다.

예를 들면
심사표의 평가 항목에 '인용 무결성: 모든 인용의 출처가 확인되었고 정확하게 인용되었는가'를 추가하고, 각 인용에 대해 '확인됨', '재확인 필요', '오류 발견' 중 하나를 표시합니다.
확인할 결과
심사 의견 작성 시 인용 검증 결과를 명시하고, 문제가 있는 경우 저자에게 수정을 요구합니다. 기록: '심사 항목 확대로 인용 검증 강화, 향후 3회 심사 적용 예정'

직접 적용해 보기

처음부터 무리하지 말고, 이 순서로 확인하세요

  1. 현재 상황 파악: AI 사용 범위와 인용 현황 점검

    최근 3개월 내에 작성한 논문, 보고서, 기사 중에서 AI 기반 글쓰기 도구(ChatGPT, Claude, 등)를 사용한 부분과 인용 부분을 찾아서 기록합니다. 특히 AI가 생성하거나 제안한 인용이 몇 개인지 세어봅니다.

    확인: 'AI 사용한 부분 / 인용 개수 / 이 중 AI가 생성한 인용' 리스트 완성

  2. 인용 검증 프로세스 설계하기

    AI가 생성한 인용을 검증하는 체크리스트를 만듭니다. 항목: (1) 저자명이 정확한가, (2) 논문/책 제목이 정확한가, (3) 출판 년도가 정확한가, (4) 인용한 내용이 원문의 주장과 일치하는가, (5) 쪽수나 출처 정보가 명확한가. 각 항목을 Google Scholar, CrossRef, 도서관 DB, 원본 논문 등으로 확인합니다.

    확인: 체크리스트 항목 4~5개 확정하고, 각 항목마다 '확인 방법'을 구체적으로 기록

  3. 작은 시험: 현재 논문의 인용 검증해보기

    위에서 만든 체크리스트를 사용해 최근 작성한 문서의 인용 중 3~5개를 직접 검증해봅니다. 원본 출처를 찾아서 정보가 일치하는지 확인하고, 문제가 발견되는 경우를 기록합니다.

    확인: '검증 완료한 인용 수 / 문제 발견 인용 수 / 수정 내용' 기록

  4. 프로세스 적용 결정: 향후 문서 작성 시 인용 검증 포함

    시험 결과를 바탕으로 향후 모든 논문·보고서 작성 시 인용 검증을 필수 단계로 정합니다. 작성 일정에 '인용 검증' 단계를 명시적으로 추가하고, 학회·저널 제출 전 충분한 시간을 할당합니다.

    확인: '월별 문서 작성 시간표에 인용 검증 단계 추가' 또는 '해당 프로젝트의 체크리스트에 인용 검증 항목 삽입' 완료

해석할 때 주의할 점

확인된 범위와 아직 모르는 내용을 구분하세요

NeurIPS, WACV, ECCV에서 심사한 22편 논문의 68%에 조작된 인용이나 LLM 생성 문장이 있었고, 2025년 학술 문헌에 약 14만6,900건의 환각 인용이 있었다는 것은 공식 발표된 사실입니다. 가짜 저자를 신고한 두 논문이 참고문헌 수정을 조건으로 구두 발표에 채택된 것도 보도된 사례입니다. 다만 이 통계가 모든 학술 분야를 대표하는지, 각 학회의 향후 구체적인 개선 방안이 무엇인지, 저자 인증 체계가 어떻게 바뀔 것인지는 현재 공개된 정보만으로는 명확하지 않으며, 추가 조사와 학회 공식 지침 확인이 필요합니다.

  • 표본 크기 제한: 심사된 22편은 전체 학술 출판의 극히 작은 표본이므로, 68% 수치가 모든 분야와 학회를 대표하는 것은 아닙니다. 다만 주요 학회에서의 문제 심각성을 시사합니다.
  • 미공개 판정 기준: 어떤 알고리즘이나 기준으로 '조작된 인용'과 'LLM 생성 문장'을 판정했는지, 그리고 14만6,900건의 환각 인용이 어느 범위에서 어떻게 계산되었는지 공식 세부 내용이 공개되지 않았습니다.
  • 학회별 기준 차이: 아직 모든 저널과 학회가 동일한 인용 검증 기준을 적용하고 있지 않으므로, 자신이 투고할 학회나 저널의 최신 심사 지침을 별도로 확인해야 합니다.
  • 개인정보와 저자 인증 체계: 가짜 저자 신고 과정에서 어떤 개인정보가 공개되었는지, 향후 저자 인증을 어떻게 강화할 것인지는 아직 명확하지 않습니다.

출처와 확인일

원문에서 다시 확인하기

이 글은 GeekNews의 공식 발표를 바탕으로 정리했습니다. 기능 범위와 제공 조건은 바뀔 수 있으므로 실제로 적용하기 전에는 원문을 다시 확인해 주세요.

마지막 확인
2026-08-03
다음 검토
2026-09-02

이어 볼 실전 가이드

프롬프트 입력 활용 가이드할 일·맥락·조건·결과 모양·확인 기준으로 프롬프트를 조립하고, 일곱 번의 실습과 오류 진단으로 답을 개선하는 입문용 웹 교재입니다.ChatGPT·Claude·Gemini 실전 사용 가이드세 AI 서비스의 화면 조작, 프롬프트 작성, 파일·이미지 활용과 결과 검증을 한 문서에서 익히는 입문용 웹 교재입니다.AI 활용 실전 학습 가이드5문항 진단과 실제 업무 실습으로 내게 필요한 AI 활용 수준을 찾고, 비용을 쓰기 전 기본 루프를 익힙니다.

같은 활용 분야의 소식

AI 기업 리더들이 개발 속도 늦추기로 합의한 이유다리오 아모데이 앤트로픽 CEO가 제안한 AI 개발 속도 조절에 샘 알트먼, 일론 머스크, 데미스 허사비스, 사티아 나델라 등 주요 AI 기업 리더들이 동의했습니다. AI 에이전트 악용 사례 증가로 모델 능력이 안전장치를 앞지르고 있다는 판단이 이유입니다.LG, 제조·과학·비즈니스용 전문가 AI 공개LG AI연구원이 제조·과학·비즈니스 분야의 전문가 AI 시리즈를 공개했습니다. 제조 분야에서는 공정 예측과 비전 기반 검사 모델이 리드타임 85% 단축에 활용된다고 발표했습니다.수학 교육과 평가, AI 시대의 기준을 다시 묻다AI가 수학적 계산과 증명을 수행하는 능력과 인간의 수학적 이해가 분리되면서, 수학계가 기존의 논문과 정리 증명 중심 평가 체계를 재검토해야 한다는 주장이 제기되고 있습니다. 학술 제도의 형식보다는 좋은 수학을 생산하고 이해하는 능력을 평가하는 방향으로 나아가야 한다는 점이 강조되었습니다.