지능이 공짜가 되면, 무엇이 남는가

흔한 그림은 이렇습니다. 지능이 아메바에서 원숭이, 사람, 아인슈타인으로 올라가다가 어느 순간 치솟아 신이 된다. 게스트는 이걸 지적 오류라고 부릅니다. 지능을 나무의 키처럼 끝없이 자라는 값으로 보면 안 되고, 공이 얼마나 둥근가 같은 비율로 봐야 한다는 겁니다.

왜 한계가 있을까요. 세상의 흥미로운 문제 대부분이 복잡계이기 때문입니다. 공식 한 줄로 답이 나오지 않아 시뮬레이션해야 하는데, 처음 넣는 값과 매 단계에 오차가 끼고 그 오차가 불어납니다. 그가 든 일화는 혼돈 이론의 출발점으로 알려진 날씨 모델 이야기입니다. 같은 모델을 다시 돌렸더니 며칠 뒤 예보가 전혀 달라졌고, 원인은 입력값의 소수점을 한 자리 덜 넣은 것이었습니다.

결론은 이렇습니다. 계산으로 닿을 수 있는 예측은 생각보다 좁은 범위이고, 그 너머로 가려면 세상에 나가 실험해야 합니다. 쥐를 길러야 하는 실험은 쥐가 자라는 시간이 듭니다. 실험실은 한정돼 있어 좋은 아이디어 5,000개 중 20개를 골라야 합니다. 성공 확률이 보통 연구자의 열 배가 돼도 1%일 수 있습니다.

비관론은 아닙니다. 이미 논문 속에 있는데 아무도 연결하지 못한 발견이 쏟아질 것이고, 연구 방향도 좋아지고 실험도 빨라진다고 봅니다. 다만 모델이 어느 날 우리가 이해 못 하는 새 세계를 꺼내 놓는 식은 아닐 거라는 겁니다.

지능에 쏟을 수 있는 일 가운데 하나가 지능의 비용을 낮추는 일입니다. 그래서 충분히 좋은 지능의 값은 빠르게 내려가고, 누구나 주머니에 IQ 200짜리 팀을 두게 된다고 그는 봅니다. 그 팀은 우리가 귀찮아서 안 하던 자잘한 최적화를 전부 합니다.

그가 회사를 볼 때 쓰는 질문은 하나입니다. 모두가 뛰어난 지능을 가졌다고 치면 이 회사에 무엇이 남는가. 흔하고 싸진 것 옆에서 값이 오르는 것, 곧 지능의 보완재를 가져야 한다는 결론입니다.

같은 변화가 회사에 따라 반대로 작용합니다. 지능이 모자라 고객을 제대로 못 섬기던 회사에는 좋은 일이고, 고객의 무기력함이 수익의 바탕이던 회사에는 나쁜 일입니다. 대담에 나온 사례를 그의 시각대로 나눠 보면 이렇습니다.

최전선 모델을 만드는 연구소는 좋은 사업일까요. 그는 조건부로 답합니다. 더 좋은 모델을 갖고, 쓸 만한 지능을 남보다 훨씬 싸게 만들고, 아무도 못 따라 한다면 그렇다. 문제는 그가 본 추세가 빠른 범용화라는 점입니다. 모델이 좋아질 때마다 최전선은 새 시장을 열지만, 그 뒤에서는 이미 풀린 일들이 범용품이 됩니다. 상담 챗봇에 최전선 모델을 쓰는 사람은 없습니다.

"지능이 스스로 새 수요를 만든다"는 반론에는 처음 논리로 답합니다. 모델이 물리학을 아무리 깊이 생각해도 결국 실험이 필요하고, 실험은 현실의 속도에 묶입니다.

소비자로서의 경험도 보탭니다. 그는 딸의 수학 공부용 설명 영상을 AI로 만드는데, 5달러가 든다면 하지 않을 거라고 합니다. AI 수요는 가격에 아주 민감하고, 그게 소비자가 쓸 총액에 천장을 만든다는 겁니다. 그는 여러 구독을 봇이 알아서 나눠 쓰게 해 두어 이제 어떤 모델을 쓰는지도 모른다고 했습니다. 쓰는 사람 쪽에서는 이미 범용품입니다.

그의 사고 실험입니다. 지금은 더 싸고 좋은 수거 업체가 나타나도 사람들을 갈아타게 하기 어렵습니다. 자기가 얼마 내는지도 모르니까요. 에이전트끼리라면 한 달에 50센트 싸다는 제안 하나로 바뀝니다.

• 1차 효과 — 모두가 가장 싼 사업자로 옮깁니다.
• 2차 효과 — 한 거리의 집이 전부 같은 업체를 쓰면 사회 전체로 더 효율적인데 지금은 조율이 안 됩니다. 에이전트 세상에서는 그 거리에 고객이 둘 있는 업체가 나머지 집을 다 가져가고, 그래서 더 싸집니다.
• 결과 — 저비용 사업자가 물량을 얻습니다. 마진은 훨씬 낮습니다.

가격도 달라집니다. 1년 내내 같은 요금을 내다가 인상 통보를 받는 대신, 원가가 바뀔 때마다 요금이 움직입니다. 게으르게 매겨진 가격이 줄어듭니다. 그래도 그는 가격이라는 장치 자체는 대체되기 어렵다고 봅니다. 더 사거나 덜 사게 만드는 유인이면서, 상대 가치와 희소성과 생산 비용을 알려 주는 신호이기 때문입니다.

투자라는 직업에 대해서는 담담합니다. 지금은 사람과 모델이 함께할 때 가장 나은 시기지만, 장기적으로는 밀려날 거라고 합니다. 언젠가는 사람의 판단을 얹는 것이 일기예보에 내 의견을 얹는 것처럼 될 수 있습니다. AI는 짧은 시간 지평부터 파고들 것이라고 봅니다. 긴 지평에는 결과를 확인할 고리가 없기 때문입니다.

그는 중요한 질문 세 가지에 대해 양쪽 이야기를 다 할 수 있다고 말합니다. AI 구축에 대해서는 똑같은 확신으로 할 수 있다고 했고, 마진은 일단 내려가는 쪽에 무게를 둔 뒤 반대 가능성을 붙였습니다. 한 손만 쓰는 경제학자를 찾았다는 옛 농담을 빌려, 자기는 모든 일에 양손이 다 나온다고 했습니다.

그래서 그는 공급 쪽에 걸지 않습니다. 어느 철도 회사가 이길지, 철도가 몇 개 필요할지를 맞히는 대신 철도가 깔린 뒤에 무엇이 오는지를 봅니다. 인프라 구축이 어떻게 흘러가는지에 대한 그의 묘사는 이렇습니다. 아무도 정답을 모르니 계속 밀어붙이고, 그 과정에서 사람들이 돈을 벌어야 계속 밀어붙이게 되고, 결국 지나치고, 마지막에 멈춘 사람이 후회합니다.

그러면서도 미국 자본시장에는 찬사를 보냅니다. GDP의 3%쯤을 매우 투기적인 사업으로 순식간에 옮긴 것은 다른 어디서도 못 한 일이라는 겁니다. 물이 빠지면 사기와 나쁜 행태가 드러나겠지만, 규모에 비하면 철도 시대보다 훨씬 깨끗해 보인다는 짐작도 보탰습니다.

보유 기업에 하는 말은 네 단계입니다. 말로는 네 줄이지만 말도 안 되게 어렵다고 덧붙입니다. 진행자는 몇 년짜리 일이라고 받았습니다.

그리고 묻습니다. 백지에서 시작한 누군가가 당신을 이기기 전에 이걸 해낼 시간이 있는 사업인가. 창업자에게는 반대쪽 질문이 따라옵니다. 내가 쉽게 만들 수 있으면 남도 만드는데, 에이전트가 매일 공급자를 갈아타는 세상에서 무엇이 내 이익을 지켜 주는가.

교육에 대해서는 양극단을 함께 하라고 합니다.

여기부터는 대담 내용이 아니라 요약한 쪽의 생각입니다.

• 이해관계를 감안해 읽어야 합니다. 수직 통합이 유리해질 수 있다는 대목과 차별화된 인프라에 대한 믿음은, 그가 포트폴리오의 약 80%를 실은 종목의 논리와 겹칩니다. 틀렸다는 뜻이 아니라, 반대 증거에 얼마나 열려 있는지는 듣는 쪽이 따로 따져야 한다는 뜻입니다.
• 숫자는 대부분 어림입니다. 지능 가격 100분의 1, GDP의 3%, 메타의 2,500억 달러는 방향을 보여 주려고 든 숫자이고 이 리포트에서 확인하지 않았습니다.
• 앞서 정리한 하워드 막스의 11월 11일 메모와 겹치는 지점이 있습니다. 둘 다 누가 얼마나 벌지 모른다고 인정합니다. 차이는 대응입니다. 막스는 가격과 규모 조절로, 이 게스트는 공급을 피해 보완재 쪽으로 돌아갑니다.
• 바로 쓸 수 있는 질문 하나. 보유 종목마다 물어볼 만합니다. 이 회사의 이익은 고객이 똑똑해져도 남는가, 고객이 귀찮아하기 때문에 남는가.