AI 환각(할루시네이션)이란? 틀린 답을 거르는 법

환각, 한 문장으로

환각(hallucination)은 AI가 사실이 아닌 내용을 진짜처럼, 자신 있게 말하는 현상입니다. 거짓말이 아니라, AI가 "그럴듯한 말"을 만드는 방식 자체에서 나오는 부작용이에요.

왜 생기나

AI(LLM)는 사실을 조회하는 게 아니라 다음에 올 가장 그럴듯한 말을 예측합니다. 그래서 모르는 것도 "그럴듯하게" 채워 넣습니다. (LLM이란?) 빈칸을 매끄럽게 메우다 보니 없는 사실을 지어내는 거죠.

자주 나오는 곳

• 존재하지 않는 함수·라이브러리를 진짜처럼 코드에 씀
• 최신 정보 (학습 시점 이후 사건은 모름)
• 숫자·통계·인용·논문 제목 — 특히 위험
• 링크·API 주소 — 그럴듯하지만 깨진 주소

속지 않는 법 (실전)

1. 돌려봐라. 코드는 실행이 가장 확실한 검증입니다. 안 돌면 환각.
2. 출처를 요구하라. "근거 링크 줘"라고 하고, 그 링크를 직접 열어 확인.
3. 숫자는 의심하라. 통계·날짜·가격은 원본을 따로 확인.
4. 모르면 모른다고 하게 하라. "확실하지 않으면 모른다고 말해줘"를 프롬프트에 추가. (프롬프트란?)
5. 중요한 건 교차 확인. 한 번 더 묻거나 다른 도구로 검증.

바이브코딩에서 특히

AI가 짠 코드를 읽지도 돌려보지도 않고 그대로 쓰는 게 가장 흔한 사고입니다. "동작하는 것처럼 보이는 코드"와 "실제로 맞는 코드"는 다릅니다. 그래서 우리 플랫폼도 AI가 만든 결과를 실제로 채점·검증하는 걸 핵심으로 둡니다. 맞는지 점수로 확인하는 습관이 곧 실력이에요.

환각은 AI를 안 쓸 이유가 아니라, 잘 쓰기 위해 알아야 할 기본입니다. 의심하고 검증하면 AI는 강력한 도구가 됩니다.