대학 과제나 학술 논문을 작성할 때 챗지피티(ChatGPT)와 같은 생성형 AI는 훌륭한 연구 파트너가 되어 줍니다. 복잡한 자료를 요약해 주고 글꼴 틀을 잡아주어 작업 시간을 획기적으로 줄여주기 때문입니다. 하지만 AI를 신뢰하고 그대로 복사해 붙여넣었다가 큰 곤욕을 치르는 대학생과 연구자들이 적지 않습니다.
가장 흔하게 발생하는 문제는 한글 단어나 표기가 이상하게 갈라지는 ‘표기 쪼개짐(자음·모음 분리 및 띄어쓰기 오류)’과, 존재하지 않는 논문이나 학자를 마치 진실인 것처럼 만들어내는 ‘환각 현상(할루시네이션, 거짓 정보)’입니다. 이러한 오류를 검증 없이 제출할 경우 과제 감점은 물론, 표절 검사기 걸림이나 학술적 신뢰도 추락으로 이어질 수 있습니다.
이번 글에서는 AI 오류의 근본적인 원인을 쉬운 비유로 살펴보고, 제출 전 5분 만에 거짓 정보와 표기 오류를 완벽하게 가려내는 실전 필터링 가이드를 상세히 정리해 드립니다.
1. 챗지피티 오류의 두 얼굴: 표기 쪼개짐과 할루시네이션
AI가 완벽해 보이지만 왜 이런 기초적인 실수를 할까요? 원인을 이해하면 필터링하는 눈이 훨씬 정교해집니다.
글자가 깨지고 띄어쓰기가 무너지는 ‘표기 쪼개짐’ 원인
챗지피티는 글자를 인식할 때 사람이 글을 읽듯 단어 단위로 읽지 않고, ‘토큰(Token)’이라는 작은 조각으로 잘라서 처리합니다. 영어는 토큰화 과정이 비교적 매끄럽지만, 한글은 자음과 모음의 조합, 그리고 조사의 변화가 다양하여 토큰으로 쪼개질 때 문맥이 깨지기 쉽습니다.
마치 레고 블록을 조합하다가 중간에 잘못된 조각을 끼워 넣는 것과 비슷합니다. 이로 인해 ‘대학생’이 ‘대 학 생’으로 띄어쓰기가 이상해지거나, ‘ㅇㅠㄴㅎㅏ’처럼 자모음이 분리되는 현상이 발생하게 됩니다.
진짜 같은 거짓말 ‘할루시네이션(Hallucination)’
할루시네이션은 AI가 사실을 말하는 것이 아니라, ‘그 다음에 올 법한 가장 자연스러운 단어’를 확률적으로 예측하여 글을 짓기 때문에 발생합니다. 소설가가 그럴듯한 이야기를 상상해 써 내려가는 과정과 매우 유사합니다.
특히 학술 논문 인용 시 존재하지 않는 저자 이름, 허구의 출판 연도, 가짜 DOI 번호를 당당하게 제시하는 경우가 많으므로 절대 그대로 인용해서는 안 됩니다.
2. 거짓 정보(할루시네이션) 완벽 검증 및 필터링 기술
대학 과제와 논문 작성 시 거짓 정보를 가려내기 위해 적용할 수 있는 3단계 실전 필터링 기법입니다.
1단계: ‘출처 요구 및 역검색’ 프롬프트 활용
챗지피티에게 정보를 요청할 때 처음부터 출처를 함께 요구해야 합니다. 그리고 제공된 출처를 Google Scholar(구글 학술검색), RISS(학술연구정보서비스), DBpia 등에 직접 검색하여 실제 존재하는 논문인지 역검색을 진행하세요.
2단계: 반문하는 팩트체크 프롬프트 적용
AI가 제공한 답변이 의심스러울 때는 다음과 같이 질문하여 AI 스스로 자가 검증을 하도록 유도할 수 있습니다.
“방금 제시한 XX 연구 결과가 실제 학술적으로 검증된 사실인가요? 출처가 불분명하거나 가짜 정보라면 솔직하게 모르겠다고 답해주세요.”
3단계: 학술 전문 AI 도구와의 교차 검증
일반 생성형 AI의 한계를 보완하기 위해 논문 및 학술 검색에 특화된 AI 서치 엔진을 함께 활용하는 것이 가장 안전합니다.
| 검증 도구 | 주요 기능 및 특징 | 추천 활용 분야 |
|---|---|---|
| Perplexity AI | 실시간 웹 검색을 기반으로 모든 답변에 웹페이지 및 논문 출처 링크 제공 | 최신 통계, 학술 자료 출처 실시간 팩트체크 |
| Consensus | 2억 개 이상의 실제 학술 논문 데이터를 기반으로 연구 질문에 답변 분석 | 논문 인용, 과학적/의학적 근거 수집 |
| SciSpace | PDF 논문을 업로드하면 핵심 내용을 요약하고 관련 연구와의 연관성 제시 | 선행 연구 조사 및 해외 논문 다이제스트 |
3. 표기 쪼개짐 및 문장 어색함 교정 자동화 프로세스
AI가 생성한 글을 한글(HWP)이나 MS 워드에 붙여넣었을 때 어색한 띄어쓰기나 쪼개진 글자를 깔끔하게 다듬는 실전 꿀팁입니다.
교정 전용 프롬프트 작성하기
AI에게 1차 답변을 얻은 후, 다음과 같은 교정 프롬프트를 재차 입력하면 표기 쪼개짐을 크게 줄일 수 있습니다.
“위 작성된 내용을 바탕으로, 한글 맞춤법과 띄어쓰기를 완벽하게 준수하여 다시 다듬어 주세요. 어색한 조사는 수정하고, 자모음이 분리되거나 단어가 불필요하게 띄어써진 부분을 모두 올바르게 합쳐주세요.”
한국어 맞춤법 검사기 연동 활용
AI 교정을 거쳤더라도 제출 전에는 부산대학교 한국어 맞춤법/문법 검사기나 네이버 맞춤법 검사기에 문단을 복사하여 최종 점검을 거쳐야 합니다. 이 과정에서 토큰화 문제로 발생한 미세한 띄어쓰기 오류가 99% 이상 걸러집니다.
4. 결론: AI는 비서일 뿐, 최종 책임자는 연구자 자신입니다
챗지피티는 무궁무진한 잠재력을 가진 훌륭한 비서이지만, 비서가 작성해 온 보고서를 최종 검토하고 서명하는 것은 바로 여러분 자신의 몫입니다.
오늘 소개해 드린 1) 출처 역검색 및 학술 AI 교차 검증, 2) 자가 검증 프롬프트 활용, 3) 한국어 맞춤법 검사기를 통한 최종 교열 프로세스를 습관화해 보세요. AI의 빠른 생산성과 인간의 정교한 필터링 능력이 결합할 때, 과제와 논문의 완성도는 한층 더 완벽해질 것입니다.
5. 자주 묻는 질문 (FAQ)
Q1. 챗지피티가 만든 논문 인용을 그대로 사용하면 표절 검사(Turnitin, 카피킬러)에 걸리나요?
네, 걸릴 확률이 매우 높습니다. 존재하지 않는 가짜 논문을 인용할 경우 감점 요인이 되며, AI가 생성한 고유 문체나 패턴은 표절 검사 프로그램의 ‘AI 생성률 감지’ 기능에 즉시 적발될 수 있습니다. AI 답변은 요약 참고용으로만 쓰고, 실제 원문 논문을 찾아 직접 읽고 자신만의 문장으로 패러프레이징(재구성)해야 합니다.
Q2. 한글 글자 깨짐과 쪼개짐을 프롬프트만으로 100% 막을 수는 없나요?
안타깝게도 프롬프트만으로 100% 막기는 어렵습니다. 한글 토큰화 방식 구조 자체의 문제이기 때문입니다. 다만, “영어가 아닌 한국어 표준 문법을 철저히 준수하여 정돈된 문장으로 출력해줘”라는 지침을 추가하면 발생 빈도를 70% 이상 대폭 줄일 수 있습니다.
Q3. 유료 버전(ChatGPT Plus)을 사용하면 거짓 정보가 전혀 발생하지 않나요?
무료 버전(GPT-3.5 등)에 비해 GPT-4o나 최신 모델은 웹 검색 연동 기능과 논리 모델이 크게 향상되어 할루시네이션 비율이 현저히 낮습니다. 하지만 여전히 확률 기반 모델이므로 복잡한 학술 분야에서는 거짓 정보를 정교하게 만들어내는 경우가 있습니다. 유료 모델을 쓰더라도 팩트체크는 필수 과정입니다.