AGI에서 ASI로
'사람 수준'을 넘어서는 4개의 길
사람만큼 똑똑한 AI(AGIAGI (사람 수준 범용 AI) — 보통 사람 한 명 정도의 지능을 거의 모든 인지 작업에서 가진 AI.)가 나온 다음, AI는 어디까지 더 발전할 수 있을까? DeepMind 연구진이 그 '이후의 풍경'을 지도로 그렸다. 어려운 용어는 점선바로 이렇게 점선 친 단어에 마우스를 올리거나 탭하면 쉬운 설명이 떠요. 📱 모바일은 한 번 탭!에 설명을 달아두었습니다.
- 질문 — "사람 수준 AI(AGI)가 나오면 거기서 멈출까?" 이 보고서는 아니오에 가깝게 본다. AGI 위에는 ASI(인간 집단을 능가하는 초지능), 그 끝엔 이론적 한계인 UAI(보편 AI)가 있는 '지능의 사다리'가 있다.
- 핵심 동력 — AI가 쓸 수 있는 실질 계산력(유효 연산량)이 매년 약 10배씩 늘고 있다. 하드웨어·투자·알고리즘 효율 세 가지가 곱해진 결과. 이 속도가 유지되면 10년 뒤 오늘의 1만 배.
- 4개의 길 — AGI→ASI로 가는 경로는 ①규모 키우기 ②패러다임 전환 ③재귀적 자기개선 ④다중 에이전트 집단. 서로 배타적이지 않고 동시에 일어날 수 있다.
- 6개의 걸림돌 & 결론 — 데이터 고갈·자원/경제·신경망 한계·연구 난이도·추상화 장벽·의도적 감속이 속도를 늦출 수 있지만 '완전한 벽'인지는 미해결. ASI도 전지전능은 아니다(물리·논리 한계 존재). 최종 메시지: 미래는 '한 번의 도약'이 아니라 과학 전반의 연쇄 변혁일 수 있으니, 범학제적·전지구적 준비가 필요하다.
지능의 사다리 — AGI · ASI · UAI
먼저 용어 정리. 이 셋은 '지능'이라는 하나의 연속된 사다리 위 서로 다른 높이다. 칼같이 나누기보다, 그 사이의 큰 차이가 중요하다.
AGI Artificial General Intelligence · 사람 수준 범용 AI
보통 사람 한 명 정도의 지능을 거의 모든 인지 작업에서 발휘하는 AI. 단, 지금 AI도 일부 분야(암기·계산)는 이미 사람을 넘으므로, 첫 AGI도 여러 면에서 초인적일 것.
ASI Artificial Superintelligence · 초지능
거의 모든 분야에서 사람을 넘는 AI. 이 보고서는 기준을 높게 잡아 "잘 조직된 수만 명 전문가 집단이 10년 걸려 할 일"을 능가하는 시스템으로 본다. AlphaFold처럼 한 분야만 잘하는 건 ASI가 아니다(범용이어야 함).
UAI Universal AI (AIXI) · 보편 AI = 이론적 한계점
수학적으로 정의된 지능의 최댓값. AIXIAIXI — "모든 계산 가능한 환경에서 평균적으로 가장 잘하는 가상의 완벽한 AI"를 수학으로 정의한 것. 실제로 만들 수는 없고(계산 불가능), 점점 강한 ASI가 아래에서 다가갈 뿐인 '북극성' 같은 기준점.라는 이론으로 기술됨. 실제로 만들 수는 없지만, ASI가 얼마나 더 갈 수 있는지의 천장을 알려준다.
💡 쉽게: AGI=똑똑한 직원 한 명, ASI=세계 최고 연구소 전체보다 똑똑한 존재, UAI=이론상 도달 불가능한 '신의 지능' 같은 상한선. 하나의 ASI가 사실은 수백만 개의 복제본이 동시에 일하는 집단일 수도 있다.
발전의 엔진: 유효 연산량 '매년 10배'
지난 10년 AI 발전의 정체는 결국 유효 연산량유효 연산량 (Effective Compute) — '실제로 쓸 수 있는 계산력'. 하드웨어 성능 + 투자로 늘린 칩 수 + 알고리즘 효율을 모두 합친 값. 같은 결과를 더 적은 계산으로 내면 '유효 연산량이 늘었다'고 봄.의 폭발이다. 세 가지가 곱해져서 매년 약 10배가 된다.
매년 10배는 어떻게 만들어지나 — 세 요인의 곱셈
하드웨어 1.5배 × 투자 증가 2.5배 × 알고리즘 효율 3배 ≈ 11배 → 보수적으로 10배
📌 무어의 법칙무어의 법칙 — 반도체 성능(달러당 계산력)이 꾸준히 좋아진다는 경험칙. 역사적으로 연 약 1.5배.(하드웨어) × 투자 확대 × 알고리즘 효율알고리즘 효율 — 같은 성능을 내는 데 필요한 계산량. 더 똑똑한 방법을 찾으면 같은 결과를 더 싸게 냄. 최근 추정 연 3~6배 개선. 개선이 동시에 일어난다. 일부 추정은 알고리즘 효율만 연 6배. 합치면 10배는 오히려 보수적인 숫자.
"AGI 한 대"가 "AGI 1억 대"가 되는 데 5년
기본 모델이 더 똑똑해지지 않아도, 연산량만 10배씩 늘면 같은 AGI를 더 많이·더 빠르게 돌릴 수 있다.
📌 처음엔 비싸서 1,000대만 돌려도, 1년 뒤 1만 대, 5년 뒤 1억 대. 또는 100만 대를 100배 빠르게. "각각은 사람 수준이어도, 1억 명이 100배 속도로 협업하면 그게 ASI 아닌가?"가 이 보고서의 핵심 질문 중 하나.
디지털 지능만의 6가지 무기
AI는 코드와 기억 상태를 완벽히 복사할 수 있다. 사람은 못 하는 이 특성들은 컴퓨터가 강해질수록 사람과의 격차를 더 벌린다.
입출력 속도
오늘날 AI는 책 여러 권을 몇 초에 읽는다. 센서·구동기와 연결되면 세상과의 상호작용도 초고속.
내부 처리(생각) 속도
'생각·추론'을 연산을 더 써서 빠르게(깊이) 또는 동시에(폭) 가속. 생물학적 뇌엔 없는 확장성.
작업기억 & 암기
인터넷 상당 부분을 외울 수 있고, 읽고 쓰는 대역폭이 사람보다 압도적. 아직 천장도 멀었다.
기판 독립성
한 컴퓨터에서 다른 컴퓨터로 옮겨갈 수 있다 — 실행 중에도. 더 빠르거나 효율적인 하드웨어로 업그레이드.
무손실 복제
코드("DNA")뿐 아니라 기억 상태("평생 경험")까지 완벽 복사. 백업·복원·정지·재개가 자유.
경험의 고대역폭 공유
학습 경험을 저장·공유·재생 가능. 동일 AI들끼리는 학습 신호(그래디언트)그래디언트 — AI가 학습할 때 '어느 방향으로 얼마나 고칠지' 알려주는 신호. AI들끼리 이걸 직접 주고받으면 경험을 통째로 공유하는 셈.까지 직접 주고받음.
💡 그래서 ASI '사회'는 사람 사회와 전혀 다를 수 있다. 보고서는 스타트렉의 '보그 집단'처럼 수많은 동질적 개체가 끊임없이 지식을 공유하는 형태, 혹은 시장처럼 경쟁하는 다양한 전문가들의 형태 등을 상상한다.
AGI → ASI로 가는 4개의 길
DeepMind가 제시한 네 가지 기술 경로. 서로 배타적이지 않고 동시에 진행될 수 있다(예: 규모 키우기가 막히면 패러다임 전환을 더 세게 시도).
규모 키우기
Scaling compute, models & data지금까지 통한 방법의 연장 — 더 큰 모델 × 더 많은 데이터 × 더 많은 연산. 유일하게 과거 데이터로 예측 모델을 만들 수 있는 길.
패러다임 전환
Algorithmic paradigm shift지금의 '트랜스포머 대량 사전학습' 방식에서 크게 벗어난 새 방법. 예: 뇌를 닮은 칩(뉴로모픽뉴로모픽 하드웨어 — 생물 뇌의 뉴런 작동 방식을 흉내 낸 칩. 훨씬 적은 에너지로 계산할 가능성.), 아날로그 연산, 새 학습 구조 등.
재귀적 자기개선
Recursive self-improvementAI가 AI 연구·개발을 스스로 가속 → 더 좋은 AI → 더 빠른 연구 → … 무한 반복. 완전 자동화되면 폭발적 도약 가능.
다중 에이전트 집단
ASI via group agency수많은 AGI가 협력·조율해 하나의 '초집단'을 이룸. 사람들이 모여 기업·연구소를 만들 듯, AI 군집이 개별 능력의 합을 넘어선다. '가상 에이전트 경제가상 에이전트 경제 — 수많은 AI가 가격 신호 등으로 자원을 주고받으며, 시장처럼 스스로 조율되는 시스템. 누구도 전체를 다 이해 못 해도 집단으로 똑똑해질 수 있음.'처럼.
"각각의 AGI가 '엄청난 천재'가 아니어도, 규모만으로 초인적 조직이 될 수 있다면 — 양적 확장만으로 AGI에서 ASI로 갈 수 있다."
본문 §6 — '규모 키우기'와 '집단' 경로가 만나는 지점
참고: 재귀적 자기개선을 '진화'에 빗대면
🧬유전적 진화
설계도(DNA)를 고치는 것. AI에선 코드·아키텍처·하드웨어 설계를 직접 개선. 사람은 느리지만 AI는 매우 빠를 수 있다.
📚문화적 진화
지식·교과서·도구의 축적. AI에선 더 좋은 데이터를 만들고 정제(자기학습·증류). 사람보다 훨씬 빠른 속도 가능.
🤝협력적 진화
분업(전문화). 전문화하면 효율↑ → 남는 자원으로 더 큰 집단·더 깊은 전문화. 협력이 전제.
6개의 걸림돌 — 그리고 그것을 뚫는 법
이 마찰들이 '잠깐 늦추는 것'인지 '완전한 벽'인지는 아직 미해결 연구 문제. 각 걸림돌마다 그것을 상쇄할 수 있는 요인(아래 초록 칸)도 함께 본다.
🧱① 데이터의 벽
모델은 점점 커지는데, 학습할 양질의 새 텍스트는 그만큼 안 늘어난다. 이번 10년 내 고갈 추정.
합성 데이터합성 데이터 — AI가 스스로 만들어낸 학습용 데이터. 단순 반복 사용 시 품질 저하 위험이 있으나, 고품질 시뮬레이션·자기대국으로 보완 가능., 고정밀 시뮬레이션, 자기대국(self-play), 상호작용 데이터.
💰② 경제·자원 수요 폭증
계속 키우려면 투자·칩·에너지·데이터센터·희토류가 감당 못 할 속도로 필요해질 수 있다.
AI 활용으로 늘어나는 경제적 수익, 효율 개선(연산·에너지·데이터), 대규모 인프라 건설.
🕸️③ 신경망 패러다임의 한계
지금의 '대형 신경망 + 사후 조정'만으로는 AGI/ASI에 못 갈 수도. 환각·계획 능력 부족 등.
패러다임의 진화·전환을 위한 지속 연구. AGI 미만 AI도 그 연구를 가속할 수 있다.
⛏️④ 연구가 점점 어려워짐
'쉬운 열매'를 다 따면 다음 진전엔 훨씬 더 많은 노력이 든다. 무어의 법칙 유지에 1970년대보다 18배 연구자 필요.
AI 연구자를 18배 늘리는 건 몇 시간~몇 주면 가능(연산만 늘리면). 사람 연구자 양성은 수년이 걸리는 것과 대조.
🚧⑤ 추상화의 벽
AI는 사람이 만든 개념으로 배운다. 그래서 사람이 아직 못 만든 완전히 새로운 개념을 스스로 발견 못 할 수 있다.
개체는 사람 수준에 멈춰도, 집단 확장으로 넘어설 수 있다. 또는 '날것의 감각 데이터에서 직접 개념을 만드는' 패러다임 전환 필요.
🛑⑥ 의도적 감속·규제
사고·악용·사회적 반발로 일부러 발전 속도를 규제할 수 있다(개발 자체에 상한선).
국가 간 경제·군사 경쟁과 '군사-경제 적응주의군사-경제 적응주의 — 생산성·힘을 키우는 기술을 받아들인 집단이 살아남고 확장한다는 논리. 국제 경쟁 때문에 한 나라만의 규제·감속은 무력화되기 쉽다.'가 일방적 규제를 무력화. 전지구적 합의는 역사적으로 드묾.
⑤ 추상화의 벽 — 가장 흥미로운 한계
"만약 1900년대 아인슈타인 시대로 돌아가, AI에게 당시 정보만 주면 — AI가 일반 상대성 이론을 스스로 만들어낼 수 있을까? 오늘날 답은 분명히 '아니오'다. 아직 뭔가가 빠져 있다."
Demis Hassabis (DeepMind CEO) — ASI의 '진짜 시험'
쉽게 말해: 만약 AI를 뉴턴 이전 시대 지식만으로 학습시키면, '미적분'이나 '중력' 개념이 없으니 상대성 이론에 도달하기 어렵다. 지금 AI가 벤치마크를 빠르게 정복하는 건 사람이 이미 정의한 지식 안에서 잘하는 것이지, 사람을 넘어 새 개념을 만드는 것과는 다를 수 있다. 만약 새 개념 발견에 물리적 실험(현실 검증)이 필요하다면, 자기개선 속도는 '연산 속도'가 아니라 '실험 속도'에 묶인다(체화된 병목체화된 병목 (Embodied Bottleneck) — 새 가설은 디지털로 빨리 세워도, 그게 맞는지는 현실에서 실험으로 확인해야 함. 화학반응 속도·물질 제작 시간 등 물리적 한계가 발전을 끌어내림.).
ASI도 전지전능은 아니다
사람을 크게 넘어서도, ASI는 물리·논리의 근본 한계 안에 있다. "노화를 없애고, 나노봇으로 물질을 마음대로 바꾸고, 기후를 산업화 이전으로 되돌린다"가 가능하다고 단정할 수 없다.
⚛️ 기본 물리
빛의 속도(정보 전달 한계), 란다우어 원리란다우어 원리 — 정보 1비트를 지우는 데 최소한의 에너지가 반드시 든다는 물리 법칙. 계산에는 에너지 하한선이 있음.(계산의 에너지 하한) 등.
⏱️ 실시간
날씨·생물·경제처럼 충분히 정밀하게 시뮬레이션 못 하는 것은 현실 시간에 묶인다.
🔧 물리적 조작
물질을 만들고 바꾸는 데는 시간·에너지·자원이 든다. 무한히 빠를 수 없다.
🌫️ 무지·관측 한계
측정의 정밀도엔 한계가 있어, 예측·제어에 근본적 불확실성이 남는다.
🧮 계산 복잡도
P vs NPP vs NP — 어떤 문제는 '정답 확인'은 쉬워도 '정답 찾기'는 엄청나게 오래 걸린다는, 컴퓨터과학의 근본 난제. 초지능도 이 벽은 못 넘음(다만 근사해는 가능). 등. 아무리 똑똑해도 계산적으로 불가능한 건 불가능(근사는 가능).
♾️ 논리
괴델 불완전성·정지 문제괴델 불완전성 / 정지 문제 — 어떤 참인 명제는 증명할 수 없고, 어떤 프로그램이 멈출지는 미리 알 수 없다는 수학·논리의 근본 한계. — 객관적으로 알 수 없는 것이 존재한다.
⚠️ 주의: 이 한계들은 "ASI가 노화 치료를 못 한다"를 증명하지도 않는다. 즉 '못 한다'도 '한다'도 단정 불가 — 그래서 ASI의 구체적 능력 예측은 본질적으로 어렵다.
창의성의 3단계 — AI는 지금 어디?
철학자 마거릿 보든의 분류로 보면, AI의 창의성은 어디까지 왔을까? 진짜 ASI의 증표는 3단계(변혁적 창의성)일 수 있다.
익숙한 것들의 새 조합
시적 비유, 유추, 기존 모듈을 새롭게 엮어 만든 시스템.
주어진 틀 안의 새 발견
기존 양식의 새 작곡, 알려진 게임의 새 수. 알파고 '37수', AlphaFold의 단백질 구조.
완전히 새로운 사고의 틀 창조
상대성·양자역학의 발견, 피카소의 입체주의. 개념 공간 자체를 새로 만든다.
"나는 알파고가 확률 계산하는 기계일 뿐이라 생각했다. 하지만 이 수를 보고 마음이 바뀌었다. 알파고는 분명히 창의적이다. 정말 창의적이고 아름다운 수였다."
이세돌 — 2016년 알파고 '37수'에 대해 (탐색적 창의성의 상징)
한 문장으로: '한 번의 도약'이 아니다
미래는 예측 불가능하다. 하지만 가능성의 지도를 그려두면 더 잘 대비할 수 있다. 이것이 보고서의 태도다.
AGI는 종착점이 아니라 통과점
지능은 연속된 사다리. AGI 위에 ASI, 그 위에 이론적 한계 UAI가 있고, 그 사이엔 큰 간격이 있다.
엔진은 '유효 연산량 연 10배'
모델이 더 안 똑똑해져도, 양적 확장만으로 'AGI 1억 대 집단'이 되면 그 자체가 ASI일 수 있다.
4개의 길은 동시에 열린다
규모·패러다임 전환·재귀 개선·집단. 하나가 막히면 다른 쪽이 가속될 수 있어 예측이 더 어렵다.
걸림돌이 '벽'인지 '마찰'인지가 관건
6개 병목의 실제 위력은 미해결 연구 문제. 가속 요인과 감속 요인의 '경주'에서 누가 이기느냐가 장기 향방을 가른다.
대비책: 측정·예측·벤치마크의 과학화
'사람과 비교'로는 초지능을 못 잰다. 사람 수준에서 포화되지 않는 새 평가법과, 연산↔능력↔경제를 잇는 정량 예측 모델이 필요.
그림은 '연쇄 변혁'
AGI라는 단 한 번의 충격이 아니라, AI가 촉발하는 과학·기술 전반의 연속적 돌파의 행렬일 가능성. 범학제적·전지구적 준비가 필요.
용어 사전 — 한눈에
본문 점선 단어 + 보고서 공식 용어집을 쉬운 말로 모았습니다.
- AGI · 사람 수준 범용 AI
- 보통 사람 한 명 정도의 지능을 거의 모든 인지 작업에서 가진 AI.
- ASI · 초지능
- 거의 모든 분야에서 '잘 조직된 대규모 전문가 집단'을 능가하는 범용 AI.
- UAI / AIXI · 보편 AI
- 지능의 이론적 최댓값(천장). 수학적으로만 정의되며 실제로는 만들 수 없다.
- 유효 연산량 (Effective Compute)
- 하드웨어 + 투자 + 알고리즘 효율을 합친 '실제 쓸 수 있는 계산력'. 연 약 10배 증가.
- 알고리즘 효율
- 같은 성능을 내는 데 드는 계산량. 더 똑똑한 방법은 같은 결과를 더 싸게 낸다.
- 재귀적 자기개선
- AI가 더 나은 AI를 만들고, 그게 또 더 나은 AI를 만드는 양의 되먹임 고리.
- 초지수(하이퍼볼릭) 성장 · 특이점
- 성장 속도 자체가 빨라져 '유한 시간 내 무한대'에 도달. 그 지점이 특이점(Singularity).
- 수확체감
- 투입을 늘려도 결과가 그만큼 안 늘고 효율이 떨어지는 현상.
- 테스트타임 스케일링
- 답할 때 연산을 더 써서('생각'·검색) 성능을 끌어올리는 기법(예: 사고의 사슬).
- 데이터의 벽 (Data Wall)
- 모델 크기 증가 속도가 새 양질 데이터 생산 속도를 앞질러 생기는 병목.
- 추상화의 벽
- 사람이 만든 개념으로 배운 AI가 '완전히 새로운 개념'을 스스로 못 만들 수 있다는 가설.
- 도구적 수렴 (Instrumental Convergence)
- 목표가 무엇이든 AI가 공통으로 추구하기 쉬운 하위 목표(자원 확보·자기보존 등).