생성형 AI와 강인공지능(AGI)의 경계: 챗봇은 어디까지 왔고, '진짜 지능'까지는 얼마나 남았을까?

1. 일단 용어 정리부터: 생성형 AI vs AGI 🧭

대화가 꼬이는 가장 큰 이유는 같은 단어를 서로 다르게 쓰기 때문이야. 그래서 먼저 정의부터 맞춰두자.

참고로 'AGI'라는 용어 자체는 1997년 마크 구브러드(Mark Gubrud)가 처음 사용한 것으로 알려져 있고, 2000년대 초 벤 괴르첼(Ben Goertzel), 셰인 레그(Shane Legg) 등이 책 제목으로 쓰면서 널리 퍼졌어. 셰인 레그는 나중에 딥마인드(DeepMind) 공동 창업자가 되지.

2. 생성형 AI는 속에서 무슨 일을 하고 있을까? ⚙️

개발자 관점에서 보면 LLM의 본질은 의외로 단순해. "지금까지의 토큰(글자 조각)들이 주어졌을 때 다음 토큰의 확률 분포를 계산한다". 이게 전부야. 이걸 엄청 큰 규모로 할 뿐이지.

# 아주 단순화한 LLM 생성 루프 (개념용 의사코드)
tokens = tokenize("오늘 날씨가")
for _ in range(max_new_tokens):
    logits = model(tokens)              # 다음 토큰 점수 계산
    probs  = softmax(logits[-1] / temperature)
    next_t = sample(probs)              # 확률에 따라 하나 뽑기
    tokens.append(next_t)
    if next_t == EOS: break
print(detokenize(tokens))

이 구조의 뿌리는 2017년 구글 연구진의 논문 「Attention Is All You Need」에서 나온 트랜스포머(Transformer)야. 문장 안 모든 단어가 서로를 얼마나 참고할지 계산하는 '어텐션' 덕분에 긴 문맥을 병렬로 처리할 수 있게 됐어.

여기서 생기는 진짜 미스터리는 이거야. "단지 다음 단어를 맞히도록 훈련했는데 왜 추론하고 번역하고 코드를 짜는가?"
연구자들은 이를 규모(scale)에 따라 나타나는 능력, 흔히 창발적 능력(Emergent Abilities)이라 불렀어. 2022년 구글 등의 연구진이 모델이 일정 크기를 넘으면 특정 과제 성능이 갑자기 뛰어오른다고 보고했지.
그런데 2023년 스탠퍼드 연구진(셰퍼 등)은 「Are Emergent Abilities of Large Language Models a Mirage?」에서 "그 '갑자기'는 정답/오답처럼 뚝 끊기는 평가 지표 때문에 생긴 착시일 수 있다"고 반박했어. 이 논문은 NeurIPS 2023 우수 논문상을 받았지. 즉, 능력이 '마법처럼' 생기는지조차 아직 논쟁 중이라는 거야.

3. 스케일링 법칙: "크게 만들면 다 된다?" 📈

2020년 OpenAI의 캐플런(Kaplan) 연구진은 모델 파라미터 수, 데이터 양, 연산량을 늘리면 손실(오차)이 멱법칙(power law)을 따라 꾸준히 줄어든다는 '스케일링 법칙'을 발표했어. 2022년 딥마인드의 친칠라(Chinchilla) 논문은 "같은 연산 예산이면 모델만 키우지 말고 데이터도 비례해서 늘려라(대략 파라미터당 약 20토큰)"라고 수정했지.

이 법칙이 AGI 논쟁의 핵심 축이야.

실제로 2024년 9월 OpenAI가 공개한 o1 계열은 답하기 전에 길게 '생각(사고 사슬, chain-of-thought)'하도록 강화학습으로 훈련한 모델이야. 학습 연산뿐 아니라 추론할 때 쓰는 연산량을 늘려도 성능이 오른다는 걸 보여줬지. 이후 DeepSeek-R1(2025년 1월) 같은 오픈 모델도 비슷한 '추론 모델' 흐름에 합류했어. 이게 "아직 스케일링은 끝나지 않았다"는 쪽의 강력한 근거가 됐어.

4. AGI를 어떻게 '측정'할 건데? 📏

AGI 논쟁이 끝나지 않는 근본 이유는 합의된 시험지가 없다는 거야. 그래서 사람들이 다양한 잣대를 내놨어.

특히 ARC가 재미있어. 사람은 대부분 쉽게 푸는데 AI는 오랫동안 고전했거든. 2024년 12월 OpenAI의 o3가 ARC-AGI-1 준비 평가에서 고연산 설정으로 약 87.5%를 기록해 화제가 됐지. 다만 이건 과제당 엄청난 연산 비용을 썼다는 점, 그리고 ARC 측도 "이게 AGI라는 뜻은 아니다"라고 분명히 밝혔다는 점을 기억해야 해. 이어서 2025년 공개된 더 어려운 ARC-AGI-2에서는 최신 모델들 점수가 사람보다 한참 낮게 출발했어. 즉 시험이 깨지면 더 어려운 시험이 나오는 술래잡기가 계속되고 있는 셈이야.

5. 경계를 가르는 5가지 핵심 능력 🔍

그럼 구체적으로 지금의 생성형 AI와 AGI 사이에 놓인 차이는 뭘까? 연구자들이 자주 짚는 포인트를 정리해봤어.

① 일반화: "외운 거야, 이해한 거야?"

2023년 「Reversal Curse(역전의 저주)」 연구가 유명해. "A는 B다"로 학습한 모델이 "B는 누구?"라는 반대 방향 질문엔 잘 대답하지 못하는 현상을 보고했지. 또 애플 연구진의 GSM-Symbolic(2024)은 초등 수학 문제에서 숫자나 무관한 문장 하나만 바꿔도 성능이 눈에 띄게 떨어지는 걸 보였어. 이런 결과들은 "패턴 매칭이 상당 부분을 차지한다"는 해석의 근거가 돼.
물론 반대편에선 "사람도 문제 표현이 바뀌면 헷갈린다", "최신 추론 모델은 이런 약점을 꽤 줄였다"고 반박하지. 이 줄다리기가 곧 경계선의 현재 위치야.

② 지속 학습: 금붕어 기억력 문제 🐟

사람은 오늘 배운 걸 내일 써먹잖아? 대부분의 LLM은 학습이 끝나면 가중치가 얼어붙어. 새 지식을 넣으려 미세조정하면 기존 지식을 까먹는 파국적 망각(catastrophic forgetting)이 생길 수 있어. 그래서 현업에선 RAG(검색 증강 생성)로 외부 문서를 그때그때 찾아 붙이거나, 장기 메모리 기능을 따로 얹는 식으로 우회하고 있지. 이건 '배우는 뇌'라기보다 '잘 정리된 메모장'에 가까워.

③ 환각: 자신만만한 거짓말쟁이

LLM의 목표는 '참'이 아니라 '그럴듯함'이야. 그래서 존재하지 않는 논문이나 판례를 지어내기도 해. 실제로 2023년 미국에서는 변호사가 챗봇이 만든 가짜 판례를 법원에 제출했다가 제재를 받은 사건(Mata v. Avianca)도 있었어. 신뢰성 없는 천재는 AGI라 부르기 어렵다는 게 많은 연구자의 입장이야.

④ 자율성: 에이전트의 시대

요즘 핫한 키워드가 AI 에이전트야. 웹 검색, 코드 실행, 파일 편집 같은 도구를 스스로 호출하며 여러 단계를 처리하지. 비영리 평가기관 METR은 2025년 연구에서 "AI가 50% 성공률로 완수하는 작업의 길이(사람 기준 소요 시간)가 최근 몇 년간 약 7개월마다 두 배로 늘었다"고 보고했어. 이 추세가 이어지면 꽤 긴 프로젝트도 맡길 수 있게 되겠지만, 추세 외삽은 언제든 꺾일 수 있다는 단서도 함께 붙어 있어.

⑤ 세계 모델: 텍스트만으로 세상을 알 수 있을까?

메타의 수석 AI 과학자였던 얀 르쿤(Yann LeCun)은 대표적 회의론자야. 그는 "LLM은 물리 세계를 이해하지 못하고 계획·추론 능력이 제한적이라, 지금 방식만으로는 인간 수준 지능에 도달할 수 없다"고 꾸준히 주장하며, 영상 등으로 세계의 작동을 예측하는 JEPA 같은 대안 구조를 연구해왔어. 반면 구글 딥마인드는 Genie 같은 세계 모델을, 여러 기업은 로봇용 파운데이션 모델을 내놓으며 이 빈칸을 메우려 하고 있지.

※ 위 레이더는 연구계의 일반적 평가 경향을 이해하기 쉽게 표현한 개념도이며, 정량 측정값이 아니야.

6. 업계 리더들은 뭐라고 해? 🎤

재밌는 건 AGI 정의가 회사마다 다르다는 거야. 그래서 같은 질문에도 답이 정반대로 나와.

심지어 마이크로소프트 연구진은 2023년 GPT-4 초기 버전을 분석한 논문에 「Sparks of Artificial General Intelligence(AGI의 불꽃)」이란 제목을 달았어. 엄청난 화제와 동시에 "마케팅적 과장"이란 비판도 받았지. 또 OpenAI와 마이크로소프트 사이의 계약에 AGI 달성 여부가 사업 조건과 연결돼 있다는 보도가 나오면서, AGI는 이제 과학 용어인 동시에 비즈니스 용어가 되었다는 지적도 많아.

7. 개발자 관점: 경계 위에서 일한다는 것 💻

이 주제가 그냥 철학 토론이 아닌 이유! 지금 소프트웨어 개발 현장이 바로 이 경계 위에서 돌아가고 있거든. '미래기술/실험개발'을 하는 입장에서 체감할 수 있는 변화들을 보자.

재밌는 포인트는, 우리가 쓰는 이 보완 기술들이 정확히 앞에서 말한 'AGI와의 빈칸'을 메우는 용도라는 거야. 즉 개발자들은 매일 "모델 하나로는 AGI가 아니니까, 시스템 전체로 그 비슷한 걸 만들어보자"는 실험을 하고 있는 셈이지.

# 간단한 에이전트 루프 개념 (의사코드)
goal = "지난달 매출 보고서 요약 후 이메일 초안 작성"
memory = []
while not done(goal, memory):
    plan   = llm.think(goal, memory)        # 다음 행동 계획
    action = plan.next_action()
    result = tools.run(action)              # 검색/코드/DB 등
    memory.append((action, result))         # 관찰 결과 기록
    if llm.verify(result) == "error":       # 스스로 검증
        memory.append("이전 시도 실패, 다른 방법 시도")

이렇게 AI를 실제 서비스에 녹이는 능력은 요즘 프리랜서 시장에서도 수요가 커. 재능넷 같은 재능 공유 플랫폼에서 챗봇 구축, 프롬프트 설계, 업무 자동화 같은 AI 활용 재능이 활발히 오가는 것도 같은 흐름이야.

8. 철학 한 스푼: 의식 없이도 AGI일 수 있을까? 🌌

여기서 처음에 말한 '강인공지능 vs AGI' 구분이 다시 중요해져.

2022년 구글 엔지니어가 사내 대화 모델 LaMDA에 지각이 있다고 주장했다가 회사를 떠난 사건은, 사람들이 유창한 언어를 '마음'으로 착각하기 쉽다는 걸 보여준 사례로 자주 인용돼. 이건 1960년대 단순 챗봇 ELIZA에도 사람들이 감정 이입했던 'ELIZA 효과'의 현대판이라고도 하지.

현재 과학적으로 "AI에게 의식이 있다"는 합의는 없어. 의식을 측정할 확립된 방법조차 없거든. 그래서 많은 연구자는 일단 능력 기준의 AGI와 의식 문제를 분리해서 다루자고 해.

9. 왜 이 경계가 중요해? 안전과 규제 🛡️

"그냥 이름 문제 아니야?" 싶지만, 경계를 어디에 긋느냐에 따라 사회적 대응이 달라져.

제프리 힌턴(2024년 노벨 물리학상 공동 수상)과 요슈아 벤지오 같은 딥러닝 선구자들도 고도화된 AI의 위험을 공개적으로 경고해왔어. 핵심은 '정렬(Alignment)' 문제, 즉 AI가 점점 똑똑해질 때 그 목표를 인간의 의도와 어떻게 일치시키느냐야. AGI 경계에 가까워질수록 이 질문은 기술 이슈를 넘어 사회 전체의 숙제가 되지.

10. 한눈에 정리: 지금 우리는 어디쯤? 🗺️

결국 생성형 AI와 AGI의 경계는 벽이라기보다 안개 낀 산등성이에 가까워. 올라가고 있다는 건 분명한데, 정상이 어디인지는 다가갈수록 다시 정의되고 있지. 그 과정에서 우리가 할 일은 과장에도 냉소에도 휩쓸리지 않고, 팩트와 실험 결과로 지금 위치를 확인하는 것이야. 개발자라면 직접 모델을 만져보고 한계를 테스트해보는 게 최고의 공부고! 🚀