LLM이란 무엇인가: AI 뉴스의 절반을 차지하는 단어 이해하기

왜 이 단어부터 알아야 할까

AI 뉴스를 읽다 보면 LLM이라는 단어가 자꾸 눈에 걸리죠. 아시죠 그 느낌? 챗봇은 매일 쓰는데 정작 그 뒤에 무엇이 있는지는 설명하기 어렵고, 그래서 '새 모델 공개' 같은 기사도 남 얘기처럼 읽히기 쉬워요. 이 글은 수식 없이 LLM이 무엇을 하는 물건인지, 그리고 뉴스 속 'AI'가 LLM을 가리키는지 어떻게 구분하는지까지 잡아 드려요.

챗봇에게 질문을 던지고 답을 받는 일상적인 경험의 뒤에는 대부분 이 기술이 있어요. 'AI가 이런 것도 하네'와 'AI가 왜 이런 실수를 하지' 양쪽 모두 LLM의 작동 방식에서 비롯돼요. LLM을 만들거나 수학적으로 이해하려는 글은 아니에요. AI 이야기를 따라가는 데 필요한 만큼만 개념을 잡는 게 목표예요.

LLM은 '다음 말 예측 기계'다

LLM(Large Language Model, 대규모 언어 모델)의 핵심 원리는 의외로 단순해요. 지금까지의 문장을 보고 '다음에 올 가능성이 가장 높은 말'을 예측하는 거예요. '아침에 일어나서 이를'이라는 문장 뒤에 '닦았다'가 올 확률이 높다는 걸 아는 식이죠. 이 예측을 한 단어씩 반복해서 이어 붙이면 문장이 되고, 문단이 되고, 긴 답변이 돼요.

'대규모'라는 수식어는 두 가지를 가리켜요. 학습에 사용된 텍스트의 양이 방대하다는 것, 그리고 모델 내부에서 패턴을 기억하는 수치(파라미터)의 개수가 매우 많다는 것이에요. 단순한 원리라도 규모가 커지면 번역, 요약, 코드 작성처럼 예상 밖의 능력이 나타난다는 것이 지난 몇 년 사이 확인된 사실이고, 이것이 현재 AI 붐의 기술적 배경입니다.

'학습'은 암기가 아니라 패턴 흡수에 가깝다

여기서 많이들 헷갈리세요. LLM의 학습은 방대한 텍스트를 통째로 저장해 두는 게 아니에요. 텍스트를 반복해서 읽으며 '어떤 말 뒤에 어떤 말이 오는 경향이 있는지'라는 패턴을 모델 내부의 수치로 흡수하는 과정에 가까워요. 그래서 학습이 끝난 모델은 원문을 그대로 꺼내오는 게 아니라, 흡수한 패턴을 바탕으로 문장을 새로 조립해요.

이게 왜 중요하냐면요, LLM은 '어디에 적혀 있던 내용'을 인용하는 게 아니라 '그럴듯한 문장'을 생성하기 때문에, 출처를 물어봐도 실제로는 존재하지 않는 출처를 만들어낼 수 있어요. 검색 엔진과 근본적으로 다른 지점이 바로 여기예요.

유창함과 정확함은 다른 능력이다

LLM의 답변은 문법적으로 매끄럽고 자신감 있게 들려요. 근데 말이죠, 그 유창함은 '다음 말 예측'을 잘한다는 뜻이지 내용이 사실이라는 보증이 아니에요. 학습 데이터에 없던 질문, 최신 정보가 필요한 질문, 정확한 수치가 필요한 질문에서 LLM은 그럴듯하지만 틀린 답을 만들어낼 수 있어요. 이런 현상을 흔히 '환각(hallucination)'이라고 부릅니다.

최근 서비스들은 검색 결과를 함께 참조하게 하는 등의 방법으로 이 문제를 줄여가고 있지만, 원리상 완전히 사라지기는 어려워요. 그래서 LLM을 쓸 때의 기본자세는 '초안과 아이디어는 맡기되, 사실 확인은 내가 한다'예요. 이 자세만 갖추면 LLM은 꽤 든든한 조수가 돼요.

왜 같은 질문에도 답이 조금씩 다를까

똑같은 질문을 두 번 던졌는데 답변이 조금씩 다르게 나온 적 있으시죠? (이건 진짜 자주 묻는 질문이에요) 이건 오류가 아니라 설계예요. LLM은 '다음에 올 말'을 하나로 확정하는 게 아니라 여러 후보에 확률을 매기고, 그중에서 골라 문장을 이어 가요. 매번 가장 확률 높은 말만 고르면 답변이 딱딱하고 반복적으로 되기 때문에, 대부분의 서비스는 적당한 무작위성을 섞어 자연스러움을 살려요.

이 특성을 알아 두면 활용법이 달라져요. 마음에 들지 않는 답변이 나왔을 때 같은 질문을 다시 던지거나 표현을 바꿔 물으면 다른 답을 얻을 수 있어요. 반대로 계산·날짜·고유명사처럼 답이 하나로 정해져 있어야 하는 일에는 LLM의 답을 그대로 믿기보다 별도 확인이 필요하다는 판단 기준이 생기죠. '여러 번 물어 좋은 답을 고른다'는 사용 습관은 이 원리에서 나와요.

뉴스 속 'AI'가 LLM을 말하는지 구분하는 법

요즘 뉴스의 'AI'는 한 단어로 너무 많은 것을 가리켜요. AI 에이전트가 앱을 대신한다는 기사, AI 데이터센터가 전력망을 흔든다는 기사, 회사가 AI를 도입해 일하는 방식을 바꾼다는 기사가 같은 날 나란히 실려요. 셋 다 LLM과 관련이 있지만, LLM이 차지하는 자리가 조금씩 달라요. 방법은 간단해요. 아래처럼 기사 문장을 한 줄씩 대입해 보면 훨씬 또렷하게 읽혀요.

• 'AI 챗봇·AI 비서·AI 검색' — LLM이 주인공이에요. 질문을 받아 문장을 생성하는 부분이 곧 LLM이라고 보시면 돼요.
• 'AI 에이전트가 앱을 대신한다' — LLM이 두뇌 역할을 하고, 그 위에 도구를 실행하는 층이 더해진 구조예요. LLM만으로는 앱을 누르지 못하고, 이 실행 층이 따로 있어야 해요.
• 'AI 데이터센터·AI 반도체·전력 문제' — LLM을 학습시키고 돌리는 데 드는 계산 자원 이야기예요. LLM 자체가 아니라 LLM이 요구하는 인프라가 주제예요.
• '회사가 AI를 도입했다' — 대개 LLM 기반 서비스를 업무에 붙였다는 뜻이지만, 기사만으로는 규칙대로 움직이는 단순 자동화인지 LLM인지 구분이 안 될 때가 많아요. 판단이 안 되면 '문장을 새로 만들어 내느냐'를 기준으로 보시면 돼요.
• 'AI가 이미지·영상을 만든다' — 언어가 아닌 다른 종류의 생성 모델일 수 있어요. 최근에는 글·이미지·음성을 한 모델이 다루는 흐름도 있어서, 이 부분은 관련 글에서 따로 다뤄요.
• 'AI가 음성·통화를 분석한다' — 대개 여러 모델이 이어 달리는 구조예요. 소리를 글자로 옮기는 음성 인식이 먼저 일하고, 그 글자를 요약·분류하는 단계에 LLM이 붙기도 해요. 기사만으로 어느 단계에 LLM이 쓰였는지 알기 어려우면, 해당 기관·기업의 공식 발표 자료에서 시스템 설명을 확인해 보시면 돼요.

학습이 끝나도 계산이 계속 필요한 이유: 학습과 추론

요즘 AI 데이터센터와 전력 확보 소식이 연달아 나오죠. 근데 여기서 많은 분이 '모델은 한 번 학습시키면 끝 아닌가?' 하고 고개를 갸웃하세요. 이 궁금증은 LLM이 일하는 시간을 두 단계로 나눠 보면 깔끔하게 풀려요.

첫 단계는 '학습'이에요. 방대한 텍스트로 패턴을 흡수하는 과정이고, 대규모 계산을 한동안 몰아서 하는 작업이에요. 두 번째 단계는 '추론(inference)'이에요. 학습을 마친 모델이 사용자의 질문을 받아 실제로 답을 만들어 내는 과정이죠. 앞에서 본 '다음 말 예측'을 한 단어씩 반복하는 일이 바로 추론이라서, 질문 하나에 답 하나가 나올 때마다 계산이 새로 일어나요.

이게 왜 중요하냐면요, 학습은 모델을 만드는 한 시기의 비용이지만 추론은 사람들이 쓰는 만큼 계속 드는 비용이기 때문이에요. 이용자가 늘고 답변이 길어질수록, 그리고 검색·문서 읽기·에이전트처럼 한 번의 요청 안에서 여러 번 생각을 이어 가는 방식이 늘수록 추론 계산도 함께 늘어요. 데이터센터 기사가 '새 모델 개발'뿐 아니라 '서비스 확대'와도 묶여 나오는 이유가 여기 있어요.

이 틀을 알고 나면 기사가 한결 편하게 읽혀요. '학습용 인프라'라는 말이 나오면 모델을 만드는 쪽, '추론 수요'나 '서비스 운영'이라는 말이 나오면 모델을 쓰는 쪽 이야기라고 나눠 보시면 돼요. 다만 이 섹션은 뉴스를 읽기 위한 구조 설명이고, 특정 기업이나 산업의 전망을 판단하는 근거로 쓰기 위한 내용은 아니에요. 구체적인 설비 규모나 전력 수치는 발표 주체의 공식 자료로 확인하시는 게 가장 정확해요.

이것만 기억하면 뉴스가 읽힌다

LLM은 방대한 텍스트에서 흡수한 패턴으로 다음 말을 예측해 문장을 생성하는 프로그램이고, 요즘 AI 챗봇의 중심 기술이며, 유창하지만 틀릴 수 있어요. 뉴스에서 '새 모델 공개', '파라미터 규모', '학습 데이터' 같은 표현이 나올 때 이 틀에 대입하면 대부분의 이야기가 읽혀요.

이제 이렇게 하시면 돼요. 기사에서 'AI'를 만나면 먼저 '문장을 새로 만드는 이야기인가'를 물어보고, 맞으면 LLM의 틀을 대입하고, 아니면 인프라·실행 층·다른 생성 모델 중 어디 이야기인지 위 목록에서 찾아 보세요. 이 습관 하나면 AI 뉴스가 남 얘기가 아니라 내가 쓰는 도구 이야기로 바뀌어요. 다음 단계로는 생성형 AI라는 더 넓은 범주와 LLM의 관계, 그리고 어떻게 묻느냐에 따라 답이 달라지는 이유를 관련 글에서 이어서 다뤄요.