참고문헌 할루시네이션 확인 방법: 챗GPT 가짜 참고문헌을 투고 전에 찾는 법
챗GPT가 만든 가짜 참고문헌을 투고 전에 찾는 방법. DOI·KCI·RISS로 직접 확인하는 절차와 무료 검사 도구의 한계, arXiv·학회·학술지의 최근 조치를 정리했습니다.
할루시네이션(환각) 참고문헌은 존재하지 않는 문헌을 가리키거나, 실제 정보와 지어낸 정보가 섞여 더는 하나의 실제 문헌을 가리키지 못하는 참고문헌 항목입니다. 실제 제목에 엉뚱한 저자가 붙거나, 진짜 DOI가 다른 논문에 붙거나, 존재하지 않는 학술지가 적힌 경우가 여기에 해당합니다. 투고 전에 확인하는 방법은 단순합니다. 모든 식별자를 발급한 등록처에서 직접 조회하고(DOI는 doi.org, arXiv ID는 arXiv, PMID는 PubMed, 국내 논문은 KCI·RISS 등), 제목·제1저자·연도·학술지를 등록 정보와 비교합니다. 식별자가 없는 참고문헌은 정확한 제목으로 검색합니다. 그다음 원문을 열어 내가 인용한 내용이 실제로 있는지 확인합니다. 마지막 단계는 어떤 데이터베이스 조회로도 대신할 수 없습니다. 2026년에는 위험도 커졌습니다. arXiv 컴퓨터과학 분야 책임자가 할루시네이션 참고문헌에 1년 제출 금지를 예고했고, ICLR은 이런 논문을 심사 없이 거절했으며, ACL은 채택된 논문 100편 이상을 재제출 절차로 돌려보냈습니다.
이 글은 할루시네이션 참고문헌의 유형과 빈도, arXiv·학회·학술지의 대응, 국내외 데이터베이스로 직접 확인하는 방법, 무료 검사 도구와 그 한계, 그리고 AI와 함께 쓸 때 출처를 지어내지 않게 하는 방법을 정리합니다. 해외 정책과 수치, 도구는 2026년 10월 19일에 각 출처의 원문에서 확인했고, 국내 자료는 2026년 10월 31일에 확인했습니다. 이 분야의 정책과 도구는 빠르게 바뀌므로, 세부 사항에 기대기 전에 링크한 원문을 다시 확인하십시오.
할루시네이션 참고문헌이란 무엇인가요?#
참고문헌의 '정체'가 무너진 경우입니다. 일치하는 문헌이 없거나, 적힌 정보가 다른 문헌을 가리킵니다. Samar Ansari의 분류는 NeurIPS 2025 논문에서 발견된 가짜 인용 100건을 다섯 유형으로 나눕니다.
- 전부 지어냄. 저자, 제목, 학술지, 식별자(DOI, arXiv ID, URL)가 모두 가짜입니다.
- 일부 정보 오염. 실제 저자를 쓰지 않은 논문에 붙이거나, 실제 제목에 가짜 저자를 붙이거나, 학술지는 맞는데 연도가 틀린 식으로 진짜와 가짜가 섞입니다.
- 식별자 가로채기. 유효한 DOI, arXiv ID, URL이 실제 논문으로 연결되지만, 그 논문의 저자나 제목이 적힌 정보와 다릅니다.
- 자리표시자. "Firstname Lastname"이나 "arXiv:2305.XXXX" 같은 흔적이 남은 경우입니다.
- 의미적 할루시네이션. 분야에 그럴듯하게 맞는 제목이지만 실제 문헌은 없는 경우입니다.
Ansari의 표본에서는 전부 지어낸 경우가 가장 많았고(66%), 100건 모두 두 가지 이상의 유형이 겹쳐 있었습니다.
한국연구재단의 「대학 연구자를 위한 생성형 AI 연구윤리 가이드」(2026년 6월 30일)도 비슷한 사례를 듭니다(36~39쪽). 존재하지 않는 문헌, 실제 저자와 가짜 논문의 조합, 학술지·권호·쪽수가 빠진 항목, 실제 논문의 출판 연도를 틀리게 적은 경우입니다. 이 가이드는 반대 방향의 오류도 보여 줍니다. 실제로 있는 논문을 확인해 달라고 하자, AI가 철자와 제목을 근거로 "실제 논문으로 확인되지 않습니다"라고 잘못 답한 사례입니다. AI의 판정은 어느 쪽으로든 틀릴 수 있습니다.
문헌이 실제로 있어도 문제가 될 수 있습니다. 올바르게 적힌 실제 논문이 그 문장을 뒷받침하지 않는 경우입니다. 2026년 10월 3일 Discover Artificial Intelligence의 출판사는 2024년 리뷰 논문을 철회하면서 "여러 참고문헌이 맥락상 맞지 않는 것으로 보이며, 이는 원고 작성에 생성형 AI가 쓰였음을 시사할 수 있다"고 밝혔습니다(철회 공지). 공지에는 공저자 두 명 중 한 명이 철회에 동의하지 않는다는 기록도 있습니다. 한국연구재단 가이드 역시 AI가 논문 내용을 왜곡해 인용하는 사례를 '참고문헌 내용 왜곡'으로 따로 다룹니다. 이런 오류는 원문을 읽어야만 잡을 수 있습니다.
할루시네이션 참고문헌은 얼마나 흔한가요?#
참고문헌 하나하나로 보면 드물지만, 일부 분야에서는 논문 단위로 보면 더 이상 드물지 않습니다. 수치마다 정의가 다르다는 점을 함께 보아야 합니다.
- NeurIPS 2025. GPTZero는 채택 논문 5,290편 중 4,841편을 검사해, 전문가가 확인한 할루시네이션 인용 100건을 공개했습니다(GPTZero, 2026년 1월 21일). Ansari의 논문은 해당 논문을 53편, 전체 채택 논문의 약 1%로 봅니다. NeurIPS 이사회는 Fortune에 1.1%의 논문에 LLM 때문에 틀린 참고문헌이 있더라도 논문 내용 자체가 반드시 무효가 되는 것은 아니라고 답했습니다(Fortune).
- ICLR 2026 투고 논문. GPTZero가 심사 중인 논문 300편을 표본으로 검사해 90편을 표시했고, 사람이 확인한 결과 50편에 실제 할루시네이션 인용이 하나 이상 있었습니다(GPTZero, 2025년 12월).
- 4개 학회, 여러 해. Phantom References(Russinovich 외)는 ICLR, ICML, NeurIPS, USENIX Security의 채택 논문 48,095편, 참고문헌 2,614,992건을 검사했습니다. 학술지명·연도·출판 상태 차이는 빼고 존재하지 않는 문헌과 저자 목록의 큰 불일치만 셌습니다. 참고문헌 단위 비율은 대개 1% 미만이었지만, 2025년 NeurIPS와 USENIX Security 논문은 약 20편 중 1편꼴로 할루시네이션으로 보이는 학술 참고문헌이 두 건 이상 있었습니다. 수상 논문에서도 발견됐습니다.
- 프리프린트 서버. Zhao 외는 arXiv, bioRxiv, SSRN, PubMed Central의 논문 250만 편, 참고문헌 1억 1,100만 건을 검사해 2025년 한 해에만 할루시네이션 인용이 최소 146,932건이라고 추정했습니다(arXiv 2605.07723).
- 의생명 분야. 컬럼비아대 Maxim Topaz 연구팀이 2026년 5월 7일 The Lancet에 발표한 감사에서는 PubMed Central 오픈액세스 논문의 참고문헌 9,710만 건 가운데 가짜 인용 4,046건이 논문 2,810편에서 나왔습니다(Columbia Nursing). Retraction Watch는 그 비율을 2026년 초 7주 동안 약 277편 중 1편으로 전했습니다. 2025년에는 458편 중 1편, 2023년에는 2,828편 중 1편이었습니다.
- ChatGPT 자체의 가짜 참고문헌. 2023년 Walters와 Wilder의 연구에서 GPT-3.5가 만든 인용의 55%, GPT-4가 만든 인용의 18%가 지어낸 것이었습니다(Scientific Reports). 지금은 쓰이지 않는 모델이므로, 현재의 비율이 아니라 이런 실패가 일어난다는 점을 보여 주는 결과입니다.
이 수치들은 서로 비교할 수 없습니다. 대상, 정의, 확인 방법이 다르고, 일부는 확정이 아닌 '가능성이 높은' 경우를 셉니다. The Lancet 감사에 대해서는 방법론 정보가 부족하다는 비판도 나왔습니다.
arXiv와 학회, 학술지는 어떻게 대응하나요?#
arXiv 컴퓨터과학 분야 책임자는 1년 제출 금지를 예고했고, ICLR과 ACL은 논문을 거절했으며, 학술지는 논문을 철회하고 있습니다. 아래 규정은 각 기관의 원문에서, arXiv는 분야 책임자의 공지에서 옮겼습니다.
| 기관 | 규정 | 조치 | 출처와 날짜 |
|---|---|---|---|
| arXiv | 저자가 LLM 생성 결과를 확인하지 않았다는 "명백한 증거", 예컨대 할루시네이션 참고문헌 | 1년 제출 금지, 이후에는 신뢰할 만한 동료 심사 매체에 먼저 채택돼야 제출 가능 | X 스레드, 2026년 5월 14일 |
| ICLR 2026 | 할루시네이션 참고문헌은 저자의 윤리강령 위반 | 확인된 논문은 모두 심사 없이 거절(이의 제기 가능) | 대응 공지, 2025년 11월 19일, 회고, 2026년 3월 31일 |
| ICLR 2027 | LLM이 만든 중대한 허위, 표절, 왜곡은 윤리강령 위반 | 심사 없이 거절될 수 있음 | 저자용 AI 정책 |
| ICML 2026 | 할루시네이션 참고문헌이 2건 이상(또는 1건과 다른 증거)인 논문은 영역 책임자가 프로그램 위원장에게 보고 | 페이지에 명시 없음 | 영역 책임자 안내 |
| NeurIPS 2026 | 할루시네이션 인용은 행동강령 위반, 저자가 모든 글·그림·참고문헌에 책임 | 명시 없음 | 메인 트랙 핸드북 |
| ACL 2026 | 존재하지 않는 참고문헌은 출판 윤리 정책의 명백한 위반 | 채택 논문 100편 이상을 최종본 단계에서 거절, 수정 후 정규 재제출 절차 | 프로그램 위원장 성명, 2026년 5월 |
arXiv의 제재는 당시 컴퓨터과학 분야 책임자였던 Thomas Dietterich가 발표했습니다. 그는 제출물에 저자가 LLM 생성 결과를 확인하지 않았다는 명백한 증거가 있다면 "논문의 어떤 내용도 믿을 수 없다는 뜻"이라고 적었습니다. arXiv의 모더레이션 페이지는 2026년 10월 19일 기준으로 생성형 AI가 만든 잘못된 참고문헌은 저자 책임이라는 원칙을 밝히지만 제재 내용은 적지 않았습니다.
학술지 규정은 투고 안내에 있습니다. JAMA는 AI, LLM, 챗봇을 참고문헌 생성이나 서식화에 쓰지 말고 일반적인 참고문헌 관리 도구를 쓰라고 하며, 모든 참고문헌의 완전성·정확성·무결성을 확인하라고 합니다(JAMA). Taylor & Francis 대변인은 Retraction Watch에 문제가 있는 참고문헌이 일부를 넘거나 원고의 신뢰성에 크게 영향을 주면 보통 거절한다고 말했습니다. Springer Nature의 Journal of Academic Ethics는 2026년 1월 2일 "참고문헌 대부분이 존재하지 않는 것으로 보인다"는 이유로 논문을 철회했습니다(철회 공지).
국내 지침도 같은 방향입니다. 과학기술정보통신부 「국가연구개발 AI 연구윤리 가이드」(2026년 9월 20일)의 연구자 자가진단표 첫 항목은 "허위 참고문헌, 변형된 데이터 및 왜곡된 이미지 등이 포함되지 않도록 검토하고 출처 표기 및 원본 자료를 확인하였는가"입니다(보도자료와 가이드). 한국연구재단 가이드는 AI가 제시한 문헌을 존재 여부와 원문 확인 없이 참고문헌에 넣는 것을 연구윤리에 어긋나는 일로 보고, 체크리스트에 "참고문헌 목록에 포함된 문헌이 실제 존재하는 문헌인지 확인하였는가"와 "생성형 AI가 제시한 참고문헌의 원문을 확인하였는가"를 넣었습니다.
참고문헌은 어떻게 직접 확인하나요?#
식별자는 발급한 등록처에서 조회하고, 네 가지 정보를 비교하고, 나머지는 제목으로 검색한 뒤, 원문을 읽습니다. 아래 방법은 모두 무료로 쓸 수 있습니다.
- 최종 목록을 확인합니다. 마지막 서식 정리가 끝난 뒤에 하십시오. Phantom References 연구진이 할루시네이션으로 보이는 참고문헌이 5건 이상인 논문의 저자들에게 연락하자, 여러 저자가 참고문헌을 LLM 도구로 생성하거나 다시 서식화했다고 답했고, 일부는 최초 투고가 아니라 최종본 단계에서 그랬다고 했습니다.
- DOI. doi.org에 DOI를 붙여 넣습니다. 열리지 않으면
https://doi.org/doiRA/뒤에 DOI를 붙여 어느 등록기관이 맡고 있는지 확인합니다. 답에는 "DOI does not exist"도 있습니다(DOI Foundation). 열리면 제목, 제1저자, 연도, 학술지를 연결된 페이지와 비교합니다. DOI가 다른 논문을 연다면 오타로 넘길 일이 아니라 식별자 가로채기입니다. - 국내 논문. KCI(한국학술지인용색인)에서 등재·등재후보 학술지 논문을, RISS(학술연구정보서비스)에서 국내 학술논문과 학위논문을 찾을 수 있습니다. DBpia와 KISTI의 ScienceON에서도 국내 논문을 검색할 수 있습니다. 한국어 제목을 그대로 검색하고, 저자, 학술지명, 권호, 쪽수, 연도를 대조하십시오. 학위논문은 학위 수여 대학과 연도까지 확인하십시오.
- arXiv ID.
arxiv.org/abs/뒤에 ID를 붙여 열고, "arXiv:0706.0001v2"처럼 인용한 버전을 확인합니다(arXiv). 모든 arXiv 논문에는https://doi.org/10.48550/arXiv.2202.01037형식의 DataCite DOI도 있습니다(arXiv DOI 안내). - PMID와 ISBN. PMID는 PubMed에서 조회합니다. 책은
https://openlibrary.org/isbn/9780140328721형식으로 Open Library에서 찾을 수 있고(Open Library), 없으면 도서관 목록을 쓰십시오. 국내 도서는 국립중앙도서관 목록 등에서 확인할 수 있습니다. - 여러 식별자를 한꺼번에. Zotero의 식별자로 항목 추가는 ISBN, DOI, PubMed ID, arXiv ID, ADS Bibcode를 받아 각 등록처에서 서지정보를 가져옵니다. 만들어진 항목을 내 참고문헌과 비교하십시오. Crossref의 Simple Text Query는 붙여 넣은 참고문헌 목록을 Crossref DOI와 맞춰 주며, 한 번에 1,000건까지 넣을 수 있습니다. Crossref의 조언은 모든 도구에 해당합니다. 참고문헌의 정확성을 확인하려면 돌아온 링크를 직접 눌러 보십시오.
- 식별자가 없는 경우. 정확한 제목을 Crossref Metadata Search, DataCite Commons, 컴퓨터과학은 DBLP, OpenAlex, Semantic Scholar, Google Scholar, ACL Anthology, 국내 문헌은 KCI와 RISS에서 검색합니다. 학회 기준을 적용하면, 비슷한 제목이라도 나오면 확인할 단서이고 비슷한 것조차 없으면 강한 경고 신호입니다. 문헌을 찾았다면 저자 목록과 학술지도 확인하십시오.
- 웹페이지, 소프트웨어, 보고서. Wayback Machine에 주소를 넣어 보관본을 찾습니다. 보관본 주소에는 "yyyymmddhhmmss" 형식의 날짜가 들어 있어, 실제로 읽은 날짜에 맞는 사본을 인용할 수 있습니다. 보관된 적이 없다고 해서 존재하지 않았던 것은 아닙니다.
- 원문을 엽니다. 내 문장을 뒷받침하는 대목을 찾으십시오. 데이터베이스가 잡지 못하는 '맥락상 맞지 않는' 참고문헌은 이 단계에서 잡힙니다.
프리프린트와 출판본의 차이에 주의하십시오. 어느 판을 읽었는지 정하고 연도, 학술지, 식별자를 그 판에 맞추십시오. Phantom References는 학술지·연도·출판 상태 차이를 할루시네이션이 아닌 '일반적인 서지 정보 차이'로 보았고 ICML 안내도 잘못된 학술지명은 고치라고 하지만, 자동 검사기는 이런 불일치를 표시할 수 있습니다.
국내 논문을 영문 참고문헌으로 적을 때도 주의가 필요합니다. 제목을 직접 번역해 적으면 원문을 찾기 어려워지고 검사기가 엉뚱하게 표시할 수 있습니다. ICLR도 자체 검사 도구가 저자가 영어로 번역해 적은 비영어 제목의 논문을 문제로 표시할 수 있다고 밝혔습니다. 학술지가 공식 영문 제목을 제공하는지 확인하고, 투고 규정이 정한 방식대로 원제를 함께 적으십시오.
무료로 쓸 수 있는 검사 도구는 무엇이 있나요?#
참고문헌을 추출해 학술 데이터베이스에서 찾아보는 오픈소스 검사 도구가 여럿 있습니다. 모두 판정이 아니라 사람이 검토할 표시를 내놓습니다. 2026년 10월 19일에 열어 볼 수 있었던 도구는 다음과 같습니다.
| 도구 | 조회 대상 | 입력 | 비용과 라이선스 | 한계 |
|---|---|---|---|---|
| CheckIfExist | Crossref, Semantic Scholar, OpenAlex, DBLP, arXiv | 참고문헌 1건, BibTeX, 텍스트 목록, PDF, DOCX | 무료 웹앱, MIT | 제한 명시 없음, 아래 시험 참고 |
| RefChecker | Semantic Scholar, OpenAlex, Crossref, DBLP, ACL Anthology, LLM 웹 검색 | arXiv ID, PDF, LaTeX, BibTeX, 텍스트 | MIT, 심층 검사는 OpenAI·Anthropic·Google·Azure 등 계정 필요 | 심층 검사는 해당 LLM 제공자가 있어야 작동 |
| Hallucinator | Crossref, arXiv, DBLP, Semantic Scholar, ACL Anthology, Europe PMC, PubMed, OpenAlex 등 | 무료, AGPL | "의심을 드러낼 뿐 증거가 아니다" | |
| HalluCiteChecker | ACL Anthology, arXiv, DBLP의 로컬 사본 | 무료, Apache 2.0 | 완전히 오프라인, 기본은 세 출처만 | |
| HalRef | Semantic Scholar, Crossref, DBLP, OpenAlex | ACL 양식 PDF 또는 .bib | 무료, 라이선스 명시 없음 | acl.sty 논문용 |
| CiteScan | arXiv, Crossref, DBLP, Semantic Scholar, OpenAlex, Google Scholar | BibTeX | 오픈소스·무료라고 밝힘 | 10월 19일 호스팅 데모 오류, 코드는 로컬 실행 가능 |
표의 도구 가운데 KCI나 RISS를 조회한다고 밝힌 것은 없습니다. 국내 문헌은 앞의 방법으로 직접 확인해야 합니다.
GESIS의 Fidan Badalova와 Philipp Mayr가 독립적으로 시험한 결과가 있습니다(arXiv 2607.22693, 2026년 7월). 문서 세 편에서 사람이 확인한 참고문헌 104건(문제 있는 것 33건)으로 다섯 도구를 돌렸습니다.
| 도구 | 문제를 잡은 수(33건 중) | 실제 문헌을 잘못 표시한 수(71건 중) |
|---|---|---|
| RefChecker | 32 | 36 |
| CheckIfExist | 31 | 34 |
| Hallucinator | 29 | 28 |
| HalRef | 24 | 53 |
| HalluCiteChecker | 18 | 20 |
저자들은 RefChecker와 CheckIfExist가 문제를 더 많이 찾았지만 오탐도 많았고, HalluCiteChecker는 오탐이 적은 대신 놓친 것이 많았다고 정리합니다. 약점의 원인으로는 참고문헌 추출 오류, 불완전한 메타데이터, 제한된 데이터베이스 범위, 일관되지 않은 검증 결과를 꼽고, 이런 도구의 출력을 최종 판정으로 다루면 안 된다고 결론짓습니다. 시험 규모가 작고 이후 업데이트된 도구도 있으므로 순위가 아니라 장단점을 보여 주는 자료로 읽으십시오.
국내에서도 관련 기능이 나왔습니다. 디지털데일리에 따르면 표절 검사 서비스 카피킬러를 운영하는 무하유는 2026년 5월 19일 '참고문헌 유효성 검증' 기능을 발표했습니다. 업로드한 문서에서 참고문헌을 추출해 실제 학술 데이터베이스와 대조하고, 논문 존재 여부와 저자명·DOI 일치 여부를 '확인·부분 확인·미확인'으로 나눠 보여 준다고 합니다(디지털데일리, 2026년 5월 19일). 기사에는 어떤 데이터베이스를 조회하는지 나오지 않으며, 이 글에서는 이 기능을 시험하지 않았습니다.
검사 도구가 알려 주지 못하는 것은 무엇인가요?#
검사 도구는 출처가 내 문장을 뒷받침하는지 알려 주지 못하고, 표시된 참고문헌이 가짜라고 단정하지도 못합니다. 위 논문과 도구에서 되풀이되는 한계는 다섯 가지입니다.
- 존재한다고 뒷받침하는 것은 아닙니다. Phantom References는 자신의 측정이 주변 글이 LLM으로 생성됐는지, 인용한 결과가 참인지에 대해 아무것도 주장하지 않는다고 밝힙니다. 앞의 Discover Artificial Intelligence 철회도 실제로 있는 참고문헌 때문이었습니다.
- 찾지 못했다고 가짜는 아닙니다. Hallucinator의 설명서는 기술 보고서, 단행본, 워크숍 논문, 최신 논문, 비영어권 학술지, 소프트웨어·웹사이트가 데이터베이스에 없거나 일부 정보만 있는 경우가 많다고 경고합니다. 한국어 논문이 바로 이런 경우에 해당할 수 있습니다. Springer Nature의 연구진실성 책임자 Chris Graf도 Retraction Watch에 참고문헌에 DOI가 없는 경우가 많아 단순한 도구는 오탐을 낼 수 있다고 말했습니다.
- 다른 등록기관의 DOI. DOI 등록기관은 Crossref와 DataCite만이 아닙니다. DOI Foundation은 Airiti, Chinese DOI, CNKI, Japan Link Center, 한국DOI센터(Korean DOI Center), mEDRA, EU 출판국 등을 함께 등록기관으로 올려 두었습니다(DOI Foundation). Crossref나 DataCite만 조회하는 도구는 다른 기관의 유효한 DOI를 없다고 보고할 수 있습니다. 이런 DOI는 DOI 체계 전체를 처리하는 doi.org에서 열어 보고, "Which RA?"로 어느 기관 것인지 확인하십시오.
- 찾았다고 맞는 것도 아닙니다. 제목이 같은 문헌이 둘일 수 있습니다. Phantom References는 SIGIR-AP 2023에 같은 제목의 튜토리얼이 두 개 있어 검사기가 엉뚱한 쪽과 맞춘 사례를 소개합니다. 가로챈 DOI나 arXiv ID도 실제 논문으로 깔끔하게 연결되므로 링크 확인만으로는 통과합니다.
- AI 글 탐지기는 다른 것을 봅니다. Badalova와 Mayr는 일반적인 AI 글 탐지기가 참고문헌이 존재하는지, 메타데이터가 맞는지를 확인하지 않으므로 할루시네이션 인용 평가에 적합하지 않다고 지적합니다.
AI와 함께 쓸 때는 어떻게 확인하나요?#
AI가 기억에 의존해 참고문헌을 내놓게 하지 마십시오. 내가 고른 출처나 등록처를 조회하는 도구를 주고, AI가 손댄 참고문헌은 서식만 바꾼 것까지 모두 직접 확인하십시오.
서식 정리도 오류가 들어오는 통로입니다. NeurIPS 이사회는 저자가 LLM에 인용 정보를 일부만 주고 BibTeX를 만들게 했을 수 있다고 보았고, Phantom References가 연락한 저자들도 비슷하게 설명했습니다. JAMA가 일반 참고문헌 관리 도구를 권하는 이유도 같습니다. 한국연구재단 가이드도 EndNote, Zotero, Mendeley 같은 참고문헌 관리 프로그램을 쓰라고 권합니다.
챗봇에게 스스로 확인하게 하는 것은 확인이 아닙니다. Walters와 Wilder는 선행 연구를 검토하며 ChatGPT가 "이 인용이 맞는가", "인용을 지어내는가" 같은 질문에 틀린 답을 자주 한다고 적었습니다. 앞에서 본 한국연구재단 가이드의 사례처럼 실제 논문을 없다고 판정하기도 합니다. AI 앱이 도구를 통해 등록처를 조회한다면 그 도구의 답은 등록처에서 오지만, 그 답을 요약한 앱의 말은 여전히 앱의 말입니다.
그다음 AI가 한 일을 공개하십시오. ICLR 2027은 관련 문헌을 찾거나 참고문헌 서식을 맞추는 데 쓴 AI도 공개하라고 권하고, arXiv는 텍스트 생성형 AI의 상당한 사용을 보고하라고 합니다. 문구는 논문에 AI 사용을 표기하는 방법에 예시를 정리했습니다. ACL 2026 위원장들의 원칙은 분명합니다. 이 모델들이 문헌 검토를 효율적으로 만들어 주더라도, 투고 전에 인용한 모든 출처가 실제로 있고 관련이 있는지 직접 확인할 저자의 의무는 사라지지 않습니다.
투고 전 참고문헌 체크리스트#
- 마지막 서식·BibTeX 정리가 끝난 목록을 확정하고, 그 목록을 확인합니다.
- 모든 DOI를 doi.org에서 열어 봅니다. 열리지 않으면 가짜라고 단정하기 전에
https://doi.org/doiRA/로 등록기관을 확인합니다. - arXiv ID, PMID, ISBN은 각 등록처에서 엽니다.
- 국내 논문은 KCI나 RISS에서 한국어 제목으로 찾고, 학위논문은 RISS에서 학위 수여 대학과 연도를 확인합니다.
- 참고문헌마다 제목, 제1저자, 연도, 학술지를 등록 정보와 비교하고 다른 항목은 모두 고칩니다.
- 식별자가 없는 참고문헌은 정확한 제목으로 검색하고, 찾은 문헌의 저자 목록을 확인합니다.
- 무료 검사 도구를 하나 골라 두 번째 확인으로 돌리고, 표시된 항목은 모두 직접 해결합니다.
- 웹 자료는 Wayback Machine에서 찾고, 실제 페이지가 바뀌었다면 보관본을 인용합니다.
- 각 참고문헌이 내가 읽은 판(프리프린트 또는 출판본)을 가리키는지 확인합니다.
- 원문을 열어 내 문장을 뒷받침하는 대목을 찾고, 문헌 탐색·작성·서식 정리에 쓴 AI는 공개 문장에 적습니다.
Papex의 참고문헌 조회 기능#
Papex에서 Hypothesis, Discovery, Publication 초안을 검토할 때, References 절의 참고문헌마다 Look up 버튼이 있습니다. 이 버튼은 식별자를 발급한 등록처에 조회합니다. DOI는 Crossref 또는 DataCite, arXiv ID는 arXiv, PMID는 PubMed, ISBN은 Open Library입니다. 그다음 등록처가 가진 제목, 저자, 학술지, 연도를 채워 넣고, 연구자는 어느 항목이든 고칠 수 있습니다.
결과는 "Found in Crossref · 18 Sep 2026", "Title differs: registered as “…”", "Not found in the registry"처럼 날짜가 붙은 관찰로 표시됩니다(앱 화면은 영어입니다). 서명 전에는 "Check 1 reference: 1 not found. You can still sign."처럼 알려 주지만 서명을 막지는 않습니다. 공개된 기록에서는 각 참고문헌 옆에 Papex의 최신 관찰이 서명 범위 밖에 표시되고, "Papex looked these up; that says a source exists, not that it supports the record."라는 문장이 함께 붙습니다. Papex가 조회했다는 것은 출처가 존재한다는 뜻일 뿐 그 출처가 기록을 뒷받침한다는 뜻은 아니라는 말입니다.
Papex에 연결된 AI 앱(AI 앱 연결 안내)도 MCP 도구 papex_lookup_reference로 같은 조회를 할 수 있습니다. 이 도구는 주어진 제목을 등록된 제목과 비교하고, 웹 주소의 인터넷 아카이브 사본이 있는지도 알려 줍니다. Papex가 그 주소를 직접 가져오지는 않습니다.
이 조회는 식별자가 존재하는지, 무엇으로 등록되어 있는지를 확인합니다. 출처가 주장을 뒷받침하는지는 확인하지 않으며, Crossref와 DataCite 이외의 기관에 등록된 DOI는 현재 "Not found"로 표시됩니다. 조회 대상은 위의 등록처이며 KCI, RISS, DBpia를 직접 조회하지는 않습니다. 국내 학술지 논문도 DOI가 Crossref에 등록되어 있으면 확인되지만, 그렇지 않은 국내 문헌은 이 글의 3단계처럼 직접 확인하십시오. 표절, AI 글, 동료 심사 검사도 아니므로 원문을 읽는 일(9단계)은 여전히 연구자의 몫입니다.
출처#
국내 자료(2026년 10월 31일 확인)
- 한국연구재단, 「대학 연구자를 위한 생성형 AI 연구윤리 가이드」(2026년 6월 30일 발행, 원광대학교 누리집 게시본)
- 과학기술정보통신부, 보도자료와 「국가연구개발 AI 연구윤리 가이드」(2026년 9월 20일, KDI 경제정보센터 게시본)
- 디지털데일리, 「무하유·셀바스AI·딥브레인AI, AI 플랫폼 고도화」(2026년 5월 19일)
- KCI 한국학술지인용색인, RISS 학술연구정보서비스, DBpia, ScienceON 각 첫 화면과 검색 기능
해외 자료(모두 2026년 10월 19일 확인)
- Ansari, Compound Deception in Elite Peer Review (arXiv 2602.05930, 2026년 2월 5일)
- GPTZero, NeurIPS 2025 채택 논문 분석(2026년 1월 21일), GPTZero, ICLR 2026 분석(2025년 12월)
- Fortune(2026년 1월 21일)
- Russinovich, Siva Kumar, Salem, Phantom References (arXiv 2607.00738, v2 2026년 7월 6일)
- Zhao 외, LLM hallucinations in the wild (arXiv 2605.07723, 2026년 5월 8일)
- Columbia University School of Nursing 보도(The Lancet 페이지는 자동 접속 차단), Retraction Watch(2026년 5월 7일)
- Walters & Wilder, Scientific Reports(2023)
- Thomas G. Dietterich, X 스레드(2026년 5월 14일)(X 공개 임베드 서비스로 읽음), arXiv moderation, Times Higher Education(2026년 5월 20일)
- ICLR 2026 대응(2025년 11월 19일), ICLR 2026 회고(2026년 3월 31일), ICLR 2027 AI Policy for Authors
- ICML 2026 Area Chair Instructions, NeurIPS 2026 Main Track Handbook, ACL 2026 성명(2026년 5월)
- JAMA Instructions for Authors(2026년 9월 16일 인터넷 아카이브 사본)
- Discover Artificial Intelligence 철회 공지(2026년 10월 3일), Journal of Academic Ethics 철회 공지(2026년 1월 2일)(둘 다 텍스트 전용 읽기 서비스로 읽음), Retraction Watch(2025년 12월 2일)
- DOI Foundation: Which RA?, DOI Foundation: Existing Registration Agencies
- arXiv 식별자, arXiv DOI, arXiv 학술지 정보 추가
- Open Library Books API, Zotero 문서, Crossref Simple Text Query와 설명서, Crossref Metadata Search, DataCite Commons, Wayback Machine 도움말
- CheckIfExist 논문(arXiv 2602.15871)과 저장소, RefChecker, Hallucinator, HalluCiteChecker 논문(arXiv 2604.26835)과 저장소, HalRef, CiteScan
- Badalova & Mayr, Detecting Hallucinated and Suspicious Citations (arXiv 2607.22693, v2 2026년 7월 28일)