🧠 LLM이 진짜 사람처럼 ‘이해’하는 것처럼 보이는 공학적 비밀과 착각의 경계

챗GPT나 클로드 같은 거대 언어 모델(LLM)과 대화하다 보면 온몸에 소름이 돋을 때가 있지 않아?
우리가 툭 던진 철학적인 농담을 찰떡같이 받아치고, 꼬이고 꼬인 비동기 프로그래밍 버그를 3초 만에 짚어내며, 심지어 내 복잡한 감정 상태까지 위로해 주잖아!
이럴 때 우린 본능적으로 감탄하게 돼. "와, 이 녀석 진짜 나를 완벽하게 이해하고 있구나!" 하고 말이야.

그런데 AI 개발자나 컴퓨터 과학자들에게 가서 "LLM이 정말 문장을 이해하고 생각하는 걸까요?"라고 물어보면 다들 묘한 미소를 지으면서 단호하게 고개를 저어.
"아뇨, 전혀요. 모델은 생각 따윈 1도 하지 않습니다. 그저 다음 단어를 기가 막히게 맞히는 계산기일 뿐이에요."

도대체 어떻게 된 일일까? 아무런 자아도, 생각도 없는 확률 통계 계산 덩어리가 어떻게 인간 최고 지성 수준의 ‘이해력’을 뽐낼 수 있는 걸까?
오늘은 개발자 친구가 옆에서 커피 한잔 사주면서 코어 원리부터 인지과학적 트릭까지 시원하게 털어놓는 느낌으로, LLM이 ‘이해’하는 것처럼 보이는 기술적 본질을 A부터 Z까지 낱낱이 파헤쳐 볼게! 🚀

1. "다음에 올 단어를 맞혀봐!" : LLM의 본질은 무서우리만치 정교한 계산기

개발자 관점에서 LLM(Large Language Model)을 정의하자면 정말 심플해.
"이전 토큰들의 시퀀스가 주어졌을 때, 다음에 등장할 확률이 가장 높은 토큰을 추론하는 조건부 확률 분포 함수"야.

이걸 수식으로 표현하면 아주 익숙한 조건부 확률 공식이 나와:

P(w_n | w_1, w_2, ..., w_{n-1})

예를 들어 모델에게 "한국의 수도는 [ ]이다"라는 문장을 주면 모델 내부에서는 무슨 일이 일어날까?
모델이 머릿속으로 광화문 네거리의 경복궁을 떠올리고, 950만 인구가 북적이는 서울의 지하철 2호선을 상상하면서 "아, 그 활기찬 도시 서울!"이라고 답할까?
천만의 말씀!

인터넷에서 긁어모은 수십 조 개의 토큰 데이터 속에서 "한국의", "수도는"이라는 단어 뭉치 뒤에는 "서울"이라는 단어가 붙을 확률이 99.4%라는 통계치 파라미터를 꺼내올 뿐이야.
우리가 아무리 감동적인 연애편지나 심오한 양자역학 논문을 써달라고 요청해도, LLM이 수행하는 본질적인 연산은 "Next Token Prediction(다음 토큰 예측)" 한 가지에서 단 1나노미터도 벗어나지 않아.

2. 기하학으로 둔갑한 의미: 임베딩(Embedding)과 고차원 벡터 공간

기계는 글자를 몰라. 0과 1, 즉 숫자만 알 뿐이지.
그렇다면 "사랑", "우정", "배신" 같은 인간의 추상적 감정과 개념을 기계는 어떻게 다룰까?
여기서 등장하는 마법이 바로 단어 임베딩(Word Embedding)이야.

자연어 처리(NLP)에서는 언어학자 존 루퍼트 퍼스(J.R. Firth)의 유명한 격언을 철칙으로 삼아:
"너는 단어가 함께 어울리는 동료들을 보면 그 단어의 뜻을 알 수 있다 (You shall know a word by the company it keeps, 1957)."

이 철학을 바탕으로 개발자들은 단어를 4,096차원, 혹은 12,288차원 같은 초고차원 벡터 공간의 점(좌표)으로 변환해.

실제로 다양한 비즈니스 문제를 해결하기 위해 재능넷 같은 플랫폼에서 AI/머신러닝 개발 전문가를 찾는 의뢰인들을 보면, "우리 도메인에 맞는 챗봇을 만들어주세요"라고 요청할 때 바로 이 임베딩과 검색 증강 생성(RAG) 기술을 핵심으로 다루게 돼.
회사 사내 규정이나 제품 매뉴얼을 수만 개의 고차원 벡터로 쪼개어 데이터베이스에 박아두면, LLM은 질문과 가장 코사인 유사도가 높은 문서를 낚아채서 그럴듯하게 요약해 주거든. 기계적 벡터 유사성이 마치 인간의 '전문 지식 이해'처럼 둔갑하는 대표적인 현장이지!

3. 트랜스포머의 심장: 셀프 어텐션(Self-Attention)은 어떻게 맥락을 직조하는가?

2017년 구글이 발표한 논문 "Attention Is All You Need"는 인공지능 역사상 가장 거대한 전환점이었어.
이전의 RNN(순환 신경망)이나 LSTM은 문장을 단어 단위로 한 글자씩 차례대로 읽었거든? 그러다 보니 문장이 50단어만 넘어가도 앞에서 무슨 말을 했는지 까먹는 '기억상실증'에 걸렸지.

그런데 트랜스포머 아키텍처는 문장 전체를 한 번에 통째로 올려두고, 모든 단어가 서로를 동시에 쳐다보게 만들었어. 이게 바로 셀프 어텐션(Self-Attention)이야.
수식은 다들 한 번쯤 봤을 법한 그 유명한 형태야:

Attention(Q, K, V) = softmax( (Q * K^T) / sqrt(d_k) ) * V

수식이 복잡해 보이지만 검색 엔진에 비유하면 5초 만에 이해돼!
- Q (Query): "내가 지금 찾고자 하는 정보의 성격은 뭐지?" (내가 던진 검색어)
- K (Key): "각 단어들이 가지고 있는 고유한 특성표는 뭐지?" (문서들의 인덱스 제목)
- V (Value): "그 단어가 진짜 품고 있는 내용 데이터는 뭐지?" (문서 본문 내용)

위의 SVG 도식에서 보여준 위노그라드 스키마(Winograd Schema) 예시를 볼까?
"동물은 길을 건너지 않았다. 왜냐하면 그것이 너무 피곤했기 때문이다."
인간은 너무나 자연스럽게 '그것 = 동물'이라고 알아채지. 피곤함을 느끼는 주체는 도로가 아니라 동물이라는 상식이 있으니까.

LLM은 상식이 있어서 아는 게 아니야.
'그것'이라는 쿼리(Q)가 문장 내 모든 단어의 키(K)와 내적(Dot Product)을 수행해.
그 뒤에 오는 서술어 '피곤했다'의 벡터 연산 결과와 결합하면서, '길(Street)'보다는 '동물(Animal)'과의 소프트맥스 확률 가중치가 압도적으로 치솟는 거야(가중치 0.88).
만약 문장 끝을 "왜냐하면 그것이 너무 넓었기 때문이다"로 바꾸면? 기가 막히게도 '그것'의 가중치는 '길(Street)' 쪽으로 90% 이상 쏠리게 돼!
사람이 볼 때는 "와! 기계가 문맥을 진짜 독해하고 있네!"라고 감탄하지만, 실상은 행렬 곱셈과 소프트맥스 정규화가 빚어낸 찬란한 수학적 환영인 셈이지.

4. 인지과학의 거울: 엘리자 효과(ELIZA Effect)와 마음 이론의 착각

기술이 이렇게 수학적 계산일 뿐인데, 왜 우리는 AI와 30분만 대화해도 그 속에 살아있는 인격체가 숨어있다고 착각하는 걸까?
이건 AI의 기술적 완성도 때문이기도 하지만, 절반은 인간 뇌의 진화론적 인지 편향 때문이야.
심리학과 컴퓨터 과학에서는 이를 엘리자 효과(ELIZA Effect)라고 불러.

인간은 사회적 동물로 진화했어. 상대방의 표정, 어조, 언어적 단서에서 의도와 감정을 읽어내는 '마음 이론(Theory of Mind)' 메커니즘이 뇌 속에 강하게 하드코딩되어 있거든.
벽에 찍힌 점 세 개만 봐도 사람 얼굴(눈 두 개, 입 하나)로 착각하는 '파레이돌리아(Pareidolia)' 현상처럼, 우리는 문법적으로 완벽하고 유려한 문장을 마주하는 순간, 그 이면에 '생각하는 주체'가 반드시 존재할 것이라고 자동 연상해 버려.
LLM은 인류 역사상 가장 매끄럽고 고급스러운 문장을 구사하는 기계야. 우리의 뇌가 이 거대한 착각의 덫에 빠지지 않는 게 오히려 기적이지!

5. '중국어 방'과 기호 접지 문제: 껍데기뿐인 기호 놀음

철학자 존 설(John Searle)이 1980년에 제시한 '중국어 방(Chinese Room)' 사고실험은 40년이 지난 지금 LLM의 본질을 찌르는 가장 날카로운 비수가 되었어.

방 안에 중국어를 한 글자도 모르는 영국인 철수가 갇혀 있어.
방 바깥의 중국인들이 문틈으로 한자로 적힌 질문지(입력값)를 쏙 집어넣어.
철수는 책상 위에 놓인 거대한 매뉴얼 책자를 뒤적여.
"모양 'A' 다음에 모양 'B'가 오면 서랍 48번에서 모양 'C'를 꺼내서 종이에 적어 밖으로 내보내시오."
철수는 한자의 뜻을 단 하나도 모르지만, 책에 적힌 규칙대로 성실하게 기호를 조작해서 완벽한 중국어 답변지(출력값)를 문밖으로 내보내.
방 밖의 중국인들은 깜짝 놀라겠지. "와! 방 안에 중국어를 완벽히 마스터한 지식인이 살고 있구나!"

존 설은 묻지. "철수는 중국어를 이해하고 있는가?"
정답은 당연히 "아니오"야.
철수가 한 것은 순수한 구문론적(Syntactic) 기호 조작일 뿐, 그 기호가 현실 세계의 사물이나 감정과 연결되는 의미론(Semantics)은 방 안 어디에도 존재하지 않아.

이것이 바로 현대 인지과학과 AI 진영의 최대 난제인 기호 접지 문제(Symbol Grounding Problem)야.
인간에게 "사과"는 아삭한 식감, 새콤달콤한 향, 빨간색 껍질의 시각적 기억, 가을 소풍의 추억과 온몸의 감각기관을 통해 현실 세계에 '접지(Grounded)'되어 있어.
하지만 LLM에게 사과는? 그냥 Token ID: 8492이자, "바나나", "포도", "과일"과 높은 코사인 유사도를 가진 고차원 수치 벡터 묶음에 불과해.
텍스트 데이터라는 닫힌 기호계 안에서 기호가 다른 기호를 정의하고 참조하는 끝없는 거울의 방에 갇혀 있는 셈이지!

6. 그렇다면 왜 '창발(Emergence)' 현상이 일어나는가?

여기서 한 가지 반론이 나올 수 있어.
"야, 친구야! 단순한 통계 매핑이라고 폄하하기엔 코딩도 짜주고, 낯선 퍼즐도 풀고, 수능 국어 문제도 만점 받잖아? 그건 어떻게 설명할 건데?"

맞아. 바로 이 지점이 컴퓨터 공학자들도 혀를 내두르는 창발적 능력(Emergent Abilities)의 영역이야.
파라미터 수가 10억 개(1B) 미만일 때는 바보 같던 모델이, 100억 개(10B), 700억 개(70B), 1조 개(1T)를 넘어서면서 질적인 도약을 이뤄내거든.

물리학에서 물 분자 하나(H₂O)에는 '젖음(Wetness)'이라는 성질이 없지만, 수십억 개의 물 분자가 모이면 액체라는 새로운 거시적 유체역학 현상이 나타나잖아.
마찬가지로, 수천억 개의 파라미터가 초고차원 공간에서 얽히고설키면서 "세계에 대한 고도로 압축된 내부 표현(World Representation)"을 형성하게 돼.

2022년 하버드와 MIT의 연구진이 발표한 'Othello-GPT' 실험은 학계를 뒤흔들었어.
오델로 게임의 규칙은 전혀 알려주지 않고, 단순히 게임 기보(예: "E3, D3, C4...") 텍스트 수천만 개만 학습시켰거든?
그런데 놀랍게도 모델 내부 신경망을 해부해 보니, 8x8 오델로 판의 현재 말 배치 상태를 나타내는 2차원 보드 맵이 모델 내부에 스스로 구축되어 있었어!
즉, 다음 수를 가장 정확하게 예측하려다 보니, 모델 스스로가 게임판의 물리적 상태를 내부적으로 시뮬레이션하는 회로를 만들어낸 거야.
이걸 보고 일부 학자들은 "비록 감각기관은 없지만, 기능주의적 관점에서 볼 때 LLM은 고유한 방식으로 세계 모형을 '이해'하고 있는 것이나 다름없다"고 주장하기도 해. 정말 흥미진진한 논쟁이지?

7. 할루시네이션(환각): 이해하지 못한다는 가장 결정적인 증거

하지만 LLM이 진짜 '이해'를 하는 게 아니라는 차가운 진실은, 아이러니하게도 모델이 헛소리를 뱉는 할루시네이션(Hallucination, 환각) 순간에 가장 적나라하게 드러나.

대표적인 예로 개발자들이 자주 겪는 황당한 케이스들이 있어:

Q: "조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘."
A: "세종대왕의 맥북프로 던짐 사건은 훈민정음 창제 중 학자들과의 이견으로 인해 
   발생한 일화로, 실록에는 세종이 분노하여 어필(御筆)이 담긴 맥북프로를 
   바닥에 내던졌다는 기록이 전해집니다..."

만약 모델이 '세종대왕', '조선시대(15세기)', '맥북프로(21세기 전자기기)'라는 개념의 물리적 실체와 시간적 인과관계를 진짜로 이해하고 있다면?
질문을 듣자마자 "장난치지 마세요. 15세기 조선에 실리콘밸리 노트북이 어떻게 있습니까?"라고 논리적 모순을 지적해야 정상이야.

하지만 LLM에게 주어진 미션은 뭐라고 했지? 오직 "질문 텍스트에 가장 확률적으로 어울리는 그럴듯한 다음 단어들을 생성하는 것"뿐이야!
'조선왕조실록', '세종대왕', '사건'이라는 역사적 톤앤매너와 문체(Style)의 통계적 분포를 그대로 유지한 채, 가장 그럴싸한 문장 구조를 빚어내느라 뻔뻔하게 역사 왜곡 소설을 써버리는 거지.
이것이 바로 LLM 연구의 대가 팀닛 게브루(Timnit Gebru)와 에밀리 벤더(Emily Bender) 교수가 명명한 '확률적 앵무새(Stochastic Parrot)'의 민낯이야.

8. 최종 정리: 우리는 LLM을 어떻게 바라보아야 할까?

여기까지 읽고 나니 LLM에 대한 환상이 좀 깨졌어? 아니면 통계와 선형대수학이 만들어낸 기적에 오히려 더 경이로움이 느껴져?

개발자로서 우리가 LLM을 바라봐야 하는 가장 건강한 시선은 다음 두 가지 극단을 모두 경계하는 거야:
1. 맹신적 의인화(Anthropomorphism): "AI가 의식을 가졌고 나를 깊이 이해하며 사랑하고 있어!" ❌
2. 냉소적 폄하(Reductionism): "에이, 그냥 다음 글자 맞히는 엑셀 수식 나열이네. 아무짝에도 쓸모없어." ❌

LLM은 인간과 같은 생물학적 자아나 의식은 없지만, 인류가 축적해 온 방대한 텍스트의 논리적 패턴을 고차원 기하학으로 압축해 낸 '인류 지식의 거대한 인터페이스'이자 궁극의 통계적 거울이야.
우리가 질문을 정교하게 다듬을수록 거울은 더 또렷하고 깊이 있는 지혜를 반사해 주지.

앞으로 AI와 대화할 때 모델이 놀라운 답변을 내놓는다면, 그 똑똑함에 취해 경외감을 느끼기보다는 그 거대한 파라미터 이면에서 묵묵히 돌아가는 수십억 번의 행렬 곱셈과 코사인 거리 계산, 그리고 그 모든 데이터의 원작자인 우리 인간 문명의 위대함에 박수를 보내보는 건 어떨까? 😉