AI가 못 하는 그 1%가 가장 비싸진다

생각 덩어리

양끝의 두 각본 — 폭발적 성장 대 평범한 기술

먼저 두 가지 각본을 펼쳐 드리겠습니다. 양끝에 있는 두 가지 극단적 시나리오입니다. 둘 다 현실에서 똑같이 일어날 일은 아닙니다.

두 번째 시나리오. AI는 그저 우리가 쉽게 적응했던 노멀한 기술일 뿐이라는 것. AI는 평범한 일상적 기술이다라는 입장이죠.

데이터 센터 속 천재들의 나라 — 어디서 무너지는지 명확하지 않다

그러니까 이 AI 천재들이 할 수 있는게 셀 수 없이 많아요.

이 폭발적 성장은 반드시 일어날 수 있는 일입니다. 그리고 이 가설이 도대체 어디서 무너지는지 명확하지가 않아요.

약한 고리 원리 — 사슬은 가장 약한 고리만큼만 강하다

전체 시스템, 즉 사슬은 가장 약한 고리만큼만 강합니다.

아이폰과 챌린저 — 하나만 어긋나면 다 무너진다

아이폰 세 버전을 출시한다고 칩시다. 설계해야죠. 모든 부품을 조달해야 하고요. 제조해야 합니다. 모든 단계의 공차를 극도로 정확하게 맞춰야 하죠. 딱 하나라도 어긋나면 다 무너집니다.

챌린저 우주 왕복선이 폭발해서 일곱 명이 잔인하게 사망했고 우주 왕복선 계획은 모두 취소됐습니다. 고무링 한 개 고장이었습니다. 작은 부품 하나가 망가졌을 뿐이죠.

17개를 튼튼히 해도 — 세 개의 약한 고리가 남는다

고리 20개짜리 사슬을 상상해 보세요. 그중 17개만 정말 정말로 튼튼하게 만들었다고 칩시다. 도움이 됩니다. 그렇지만 사슬 전체가 버티는 강도는 그다지 바뀌지 않습니다.

1억 배의 트랜지스터, 두세 배의 생산성 — 남은 고리의 제약

여러분 주머니 속 제 포켓에도 있는 이 작은 컴퓨터에는 1970년대 사람들이 가졌던 컴퓨터보다 1억 많은 트랜지스터가 들어 있습니다. 그럼에도 제가 하는 연구가 1억 더 생산적이진 않아요.

어쩌면 저는 고작 두세 배 정도 더 생산적일지도요. 변하지 않은 다른 약한 고리들이 저를 제약합니다.

희소한 것이 비싸진다 — 무엇이 약한 고리인가

기계가 대체하지 못한 이 약한 고리가 결국 가장 귀한 몸이 된다는 그런 뜻이죠.

무엇이 희소한가를 사고하는게 매우 유용한 프레이밍이 됩니다.

직업은 과업의 묶음 — 다섯 개를 자동화하면 나머지가 폭등한다

여러분의 직업을 잘게 쪼개 보면 그 안에는 100가지 각기 다른 세부 과업들이 묶여 있습니다. AI가 그중 이런 다섯 개를 자동화한다고 칩시다. 그러면 나머지 약한 고리들이 이제 희소해지고 그 가치가 폭등하게 됩니다.

방사선과 의사는 왜 늘었나 — 75% 자동화가 임금을 올린다

AI 모델과 상의하면서 스캔 판독하고 암을 비롯한 문제들을 더 잘 발견합니다. 그래서 영상 의학은 더 가치 있고 더 생산적인 장르가 됩니다.

과업의 75%를 자동화하면 오히려 임금을 올릴 수 있습니다.

10년 후의 우버 기사 — 신기술이 일상이 되는 시간

저는 10년 후엔 우버 기사가 없을 가능성이 아주 높다고 봅니다.

신기술이 일상이 되는 과정은 우리가 생각하는 것보다 훨씬 더 오래 걸린다.

완전한 낙관주의자가 아니다 — 파국적 위험

오히려 저는 우리 미래에 대해 매우 불안하다고 말씀드리고 싶습니다.

왜? 파국적 위험. 이 주제는 정직해야 하고 또 공개적으로 논의해야 합니다.

80억 개의 핵버튼 — 나쁜 사용자 시나리오

만약 에볼라보다 더 치명적이고 증상을 보이기까지 3개월쯤 걸리는 바이러스를 설계하는게 가능하다면 AI는 그 방법을 알아낼 것입니다.

그런데 80억 명이 그 핵버튼에 접근할 수 있다면 우린 아무도 그걸 누르지 않는다고 보장할 수 있을까요?

좋아지는 건 느리고, 무너지는 건 한순간 — 약한 고리의 이면

약한 고리 모형은 좋아지는 건 지독히 느리지만 무너지는 건 딱 한 순간입니다.