데이터 센터 속 천재들의 나라

생각 덩어리

스케일링 가설 — 결국 몇 가지 변수로 압축된다

핵심은 오직 몇 가지 변수로 압축됩니다. 첫째는 당신이 얼마나 막대한 양의 기계적 계산 능력을 갖고 있느냐입니다. 두 번째는 학습 데이터의 규모입니다. 세 번째는 데이터 퀄리티와 분포입니다. 한쪽에 쏠리지 않고 아주 폭넓게 퍼져 있어야 하죠.

10년 안 도달 90% — 인간이 낼 수 있는 최대치의 확신

10년이라는 타임라인을 전제했을 때 제가 산출한 도달 확률은 90%입니다.

이 수치는 불확실한 미래에 대해 한 인간이 도달할 수 있는 사실상 최대치의 확신에 가깝죠.

검증 가능한 과업 — 코딩은 성공을 즉시 판별한다

저는 결과에 맞고 틀림을 즉각 판별할 수 있는 이른바 검증 가능한 과업들에 대해서는 그 성공을 절대적으로 확신합니다. 코딩 영역은 더욱 명확합니다. AI가 짠 코드를 실행해 봤는데 문제 없이 돌아가고 또 원하는 결과가 나오면 그 즉시 성공입니다.

검증 불가능한 과업 — 유일하게 남은 의구심

아무리 긴 타임스케일을 두고 지켜봐도 결과에 맞고 틀림을 즉각 판별할 수 없는 이른바 검증 불가능한 과업들에 대한 의구심이죠. ... 수십년 걸릴 화성탐사 미션을 설계하거나 크리스퍼 같은 근본적인 과학적 발견을 도출하거나 ...

코드의 90%에서 100%로 — 임계점은 그 사이에 숨어 있다

사람들은 제 말을 듣고 소프트웨어 엔지니어의 인력의 90%가 이제 필요 없어진다라는 뜻으로 오해하더군요.

모델이 코드의 90%를 작성하는 단계를 지나 코드의 100%를 작성하는 단계로 나아가는 것. 이것이 단순해 보이는 차이 속에 생산성의 임계점이 숨어 있습니다.

엔지니어 수요 90% 급감 — 반드시 도래하는 미래

이 수요라는 관점에서 스펙트럼을 조금 더 깊이 따라 내려가다 보면 결국 엔지니어에 대한 필요 자체가 90%까지 급감하는 냉혹한 지점과 마주하게 됩니다. 저는 그런 미래가 반드시 도래한다고 봅니다.

연간 열배 매출 — 1,400억에서 14조로

... 약 1,400억 원 매출로 급등했고 2024년에 들어서며 약 1조 4천억 원으로 수직 상승했습니다. 그리고 작년 2025년에는 그 약 1조 4천억 원에서 무려 약 14조원 규모로 올라섰죠.

올해 첫 달 지수 함수적 성장은 다들 이제는 속도가 좀 둔화될 거라 예상했겠지만 우리는 1월 한 달에만 수조원 매출이 더 늘었습니다.

두 개의 지수곡선 — 비트의 마법도 원자의 마찰은 못 없앤다

지금까지 우리가 목격한 이 모든 현상들이 결국 모델의 능력이라는 압도적으로 빠른 첫 번째 지수함수 곡선이 존재한다는 가설과 완벽히 부합한다고 봅니다.

마법처럼 즉각적이지도 않고 그렇다고 결코 느리지도 않은 인류 역사상 그 어떤 기술보다 압도적으로 빠르지만 분명히 현실의 물리적 한계는 존재하는 속도.

저는 훗날 AGI나 더 강력한 AI 혹은 그 데이터 센터에 모인 천재들의 나라가 도래한다 해도 그 비트의 마법이 원자 단위의 물리적 마찰력을 없앨 거라 생각하지 않습니다.

천재들의 나라는 숨길 수 없다 — 아직은 갖고 있지 않다

만약 우리가 정말 그 데이터 센터 안에 천재들의 나라를 가동하고 있다면 우린 결코 모를 수가 없습니다. 당신이 그 정도 수준의 지능을 손에 넣었다면 그건 숨길 수 있는 성질을 벗어납니다.

하지만 우린 지금 그걸 갖고 있지 않습니다. 그 사실만큼은 명확합니다.

컴퓨터 제어 — OS월드 15%에서 70%로

우리가 1년 3개월 전 처음 컴퓨터 사용 기능을 선보였을 때 OS 월드 점수는 고작 15% 수준이었습니다. AI 모델이 사람처럼 마우스를 움직여서 파일을 옮기거나 소프트웨어를 직접 제어하는 기능에 대한 평가였죠. 지금은 어떤가요? 이미 65%에서 70% 선까지 치고 올라왔습니다.

저는 이 컴퓨터 제어 기능이 신뢰성의 임계점을 넘어서는 순간 판도가 완전히 바뀔 거라 확신합니다.

코드 한 줄 안 짜는 엔지니어 — 이미 사내에 있다

실제로 저희 엔스로픽 내부에는 이제 본인이 직접 코드를 단 한 줄도 짜지 않는 엔지니어들까지 생겨났습니다.

진화와 학습 사이 — 100만 토큰의 인컨텍스트 학습

이건 사람 한 명이 평생에 걸쳐 배우는 과정이라기보다 인류의 지식 전체를 빨아들이는 것에 가깝습니다. 굳이 비유하자면 생물학적인 진화와 인간만의 학습 그 사이에 어딘가 위치하는 완전 새로운 차원의 지식 습득 방식입니다.

모델에게 100만 토큰 분량의 업무 예시와 맥락을 던져주면 모델은 그 즉시 맥락을 이해하고 실무에 적용합니다.

지속 학습 — 철학이 아니라 엔지니어링 문제

이를 해결할 여러 아이디어가 있지만 원리는 단순합니다. 그저 컨텍스트 윈도우를 한없이 길게 늘리면 됩니다.

우리 엔지니어들이 맹렬하게 풀고 있는 철저한 엔지니어링 문제입니다.

완만한 이륙과 병목 — 하룻밤의 폭발이 아니다

그 기술적 이득이 하룻밤새 폭발하는게 아니라 아주 아주 점진적으로 누적되며 커지고 있는 것 같습니다.

불과 6개월 전만 해도 이 수치는 고작 5% 남짓이었을 겁니다. 솔직히 5% 정도면 실무에선 티도 안 나죠. ... 하지만 이제 비로소 전체 생산성을 끌어 올리는 유의미한 변곡점에 도달했고 앞으로 그 가속도는 점점 더 무섭게 붙을 겁니다.

물론 이 과정에서 우리는 암달의 법칙, 즉 시스템의 가장 느린 병목 구간이 전체 속도를 갉아먹는 현상 이것에 필연적으로 부딪히게 됩니다.

완전 대체 1~3년 — 10년은 안전빵 예측

제가 머릿속에 그리고 있는 타임라인은 대략 1년에서 2년 어쩌면 1년에서 3년 사이입니다. 물론 미래를 단정지어 말하기란 대단히 조심스럽습니다. 하지만 이 모든 거대한 대체 현상이 앞으로 10년 안에는 무조건 일어날 것이라는 데에는 제 확신의 95% 아니 99%를 걸 수 있습니다.

10년이라는 기한은 그저 아주 안전한 예측에 불과하죠.

시장의 자율 견제 불신 — 거버넌스가 필요하다

저는 인공지능 시장이 자체적으로 권력의 균형을 이룰 거라는 낙관론에 대단히 회의적입니다.

이윤을 추구하는 기업들끼리의 자율적인 상호 견제만으로 이 거대한 AI의 폭주를 막을 수 있다는 생각 그 자체를 저는 전혀 신뢰하지 않습니다.

100년의 적응기가 없다 — 너무 빠르게 몰아친다

과거 다이너마이트나 신무기 혹은 비디오 카메라 같은 혁명적 기술이 나왔을 때 인류에게는 무려 100년에 걸쳐 온갖 시행 착오를 겪으며 면역력을 기를 시간이 있었습니다.

하지만 제 걱정은 지금 이 모든 변화가 너무나도 폭력적으로 미친 듯이 빠르게 몰아치고 있다는 겁니다. 우리에겐 적응할 시간이 없습니다.

창조주와 피조물의 협상 — 정답은 아직 모른다

창조주인 우리가 피조물인 인공지능과 직접 논의해야 하는 기막힌 상황이 올지도 모릅니다.

지금 이 시점에서 인류의 머리만으로 완벽한 통제 시스템을 미리 예측하는 것은 불가능에 가깝습니다.