AI·리서치 도구· 2026년 10월 1일
AI가 알려준 논문, 정말 있는 논문일까요? 제가 쓰는 확인 체크리스트
AI 답변 속 가짜 인용, 없는 임상 결과, 틀린 유전자 이름을 걸러내는 네 가지 확인 단계. 연구로 본 가짜 인용 비율과 무료 체크리스트 포함.
관련 직무: RA임상메디컬BD
공부하거나 뉴스레터를 준비할 때 저도 ChatGPT, Claude, Perplexity, Consensus 같은 AI 도구를 써요. 빠르게 방향을 잡는 데는 정말 편해요. 그런데 공부하면서 알게 된 건, AI가 출처를 달아 줘도 그 출처가 진짜인지는 따로 확인해야 한다는 점이에요.
숫자로 보면
- ChatGPT(GPT-3.5)가 쓴 짧은 의학 글 30편의 참고문헌 115개를 확인한 연구에서, 47%는 존재하지 않는 논문이었고 정확한 것은 7%뿐이었어요 [1].
- 다른 연구에서는 가짜 인용 비율이 GPT-3.5 55%, GPT-4 18%였어요. 모델이 좋아질수록 줄지만, 없어지지는 않았어요 [2].
바이오·제약 직무에서는 이런 실수가 특히 위험해요. RA 문서, 임상 보고서, BD 검토 자료에 없는 논문이나 틀린 수치가 들어가면 신뢰를 한 번에 잃으니까요.
제가 확인하는 네 가지
- 논문 인용: DOI를
https://doi.org/로 직접 열어 보고, 없으면 PubMed에서 찾아요. 제목, 저자, 연도, 저널을 하나씩 대조해요. - 임상시험: NCT 번호를 ClinicalTrials.gov에서 검색해 1차 평가변수와 비교군이 AI 설명과 같은지 봐요.
- 유전자 이름: HGNC(genenames.org)에서 공식 기호를 확인해요. 엑셀 때문에 바뀐 옛 기호(SEPT→SEPTIN 등)도 있어요.
- 숫자와 날짜: 회사 보도자료나 규제기관 발표 같은 1차 출처에서 다시 찾아요.
항목별 세부 확인 방법, 연구 출처, 실습은 자료실의 AI 답변 검증 체크리스트에 정리해 뒀어요. 무료예요.
제가 배운 점
AI를 안 쓰는 게 답은 아니라고 생각해요. 대신 "AI는 초안, 확인은 내가"라는 순서를 지키면, 빠르면서도 믿을 수 있는 결과를 낼 수 있어요. 증거의 수준을 따져 보는 연습은 BIO:ON Insight 16호에서도 다뤘어요.
면접에서 "AI 도구를 어떻게 쓰나요?"라는 질문을 받는다면, 어떤 도구를 쓰는지보다 어떻게 검증하는지를 말하는 게 훨씬 설득력 있을 거예요.