LLM이란? AI가 말을 알아듣는 원리

LLM, 한 문장으로

LLM은 Large Language Model(대규모 언어 모델)의 줄임말입니다. 엄청난 양의 글을 학습해서, 다음에 올 말을 가장 그럴듯하게 예측하는 프로그램이에요. ChatGPT, Claude, Gemini가 전부 LLM입니다.

어떻게 답을 만드나

핵심은 의외로 단순합니다. "오늘 날씨가 정말" 다음에 무슨 단어가 올지 확률로 고릅니다. "좋다", "덥다" 같은 단어가 높은 확률을 받죠. 이걸 한 단어씩 계속 이어붙여서 문장을, 그리고 코드를 만듭니다.

수많은 글에서 패턴을 익혔기 때문에, 질문에 답하고 글을 쓰고 코드를 짜는 것처럼 보입니다. 사실은 "가장 자연스러운 다음 말"을 계속 잇는 것에 가깝습니다.

그래서 생기는 한계 — 환각(hallucination)

LLM은 "사실 확인기"가 아니라 "그럴듯한 말 생성기"입니다. 그래서 틀린 내용을 자신 있게 말하기도 합니다. 이걸 환각이라고 불러요.

• 존재하지 않는 함수나 기능을 진짜처럼 설명할 수 있음
• 최신 사건은 모를 수 있음(학습 시점 이후)
• 숫자·인용은 특히 의심하고 검증해야 함

그래서 바이브코딩에서도 AI의 결과를 그대로 믿지 말고 돌려보고 확인하는 습관이 중요합니다.

토큰과 컨텍스트, 두 단어만 알기

• 토큰: LLM이 글을 처리하는 단위. 대략 단어 조각 하나라고 생각하면 됩니다. 길게 쓸수록 토큰을 많이 씁니다.
• 컨텍스트: AI가 한 번에 기억할 수 있는 분량. 대화가 너무 길어지면 앞부분을 잊는 이유가 이것 때문입니다.

잘 쓰는 핵심

LLM은 시키는 대로 합니다. 모호하게 물으면 모호하게 답해요. 그래서 어떻게 요청하느냐(프롬프트)가 결과의 질을 좌우합니다. 다음은 프롬프트란?에서 이어집니다.

개념을 잡았으면, 실제 문제를 AI로 풀어보며 "어디서 환각이 나는지"를 직접 겪어보세요. 그게 가장 빨리 느는 길입니다.