당신들은 카드가 없습니다

생각 덩어리

요새들의 집합체가 된 세계 — 힘의 논리

트럼프 대통령 같은 지도자들은 이 세상을 요새들의 집합체로 봅니다.

당신은 카드를 가지고 있는가 — 오직 카드만 중요한 세상

여러분은 오직 카드만이 중요한 세상에서 살고 싶습니까?

AI는 도구가 아니라 행위자 — 자동화가 아니라 주체성

AI는 우리 손에 주어진 도구가 아닙니다. AI는 스스로 행동하고 학습하며 변화할 수 있는 독립적인 행위자입니다.

인공지능이 아니라 에일리언 지능 — 인간과 완전히 다른 비인간 지능

따라서 AI를 에일리언스 즉 에일리언 지능으로 생각하는 시선이 더 정확합니다.

에일리언 즉 이질적이라는 말은 우주에서 왔다는 의미가 아닙니다. 인간의 지능과는 완전히 다른 비인간 지능이라는 의미입니다.

새로운 화폐·이념·종교까지 발명한다

AI는 새로운 군사 전략, 새로운 화폐, 심지어 완전히 새로운 이념과 종교까지 발명할 것입니다.

AI의 문제는 사악함이 아니라 이질성 — 예측 불가능성

AI의 근본적인 문제는 그것이 사악하다는 것이 아닙니다. 문제는 그것이 우리와 너무나 이질적이어서 예측 불가능하고 신뢰할 수 없다는 것입니다.

신뢰의 역설 — 인간은 못 믿으면서 초지능은 믿는다

방금 전까지 인간 경쟁자를 신뢰할 수 없다던 바로 그 사람들이 갑자기 초지능 AI는 신뢰할 수 있다고 장담합니다. 이것은 정말 역설입니다.

이 초지능의 이질적인 지능이 항상 우리의 순종적인 하인으로 남으리라 믿는 일은 거대한 도박입니다.

킬러 로봇이 아니라 기업을 보라 — 통제를 벗어나는 방식

AI가 어떻게 통제에서 벗어나는지 알고 싶다면 킬러 로봇이 아니라 기업을 생각하십시오.

인간 경영진도 주주도 없이 오직 AI만으로 운영되는 기업을 상상해 보십시오.

이 기업은 수십억 달러를 벌어들이며 세상을 재편할 수 있습니다.

힘은 행복이 아니고, 지능은 지혜가 아니다

트럼프, 머스크, 시진핑, 푸틴처럼 세상에서 가장 강력한 사람들이 결코 가장 행복한 사람들이 아닌 이유이기도 합니다.

둘째, 지능은 지혜가 아닙니다. 인간은 지구상에서 가장 지능적인 동물이지만 동시에 가장 심각한 망상에 빠진 동물이기도 합니다.

초지능은 아주 쉽게 초망상에 빠진다 — 진짜 과제는 지혜

사실 초지능은 아주 쉽게 초망상에 빠질 수 있습니다.

따라서 비즈니스 리더와 혁신가들의 진정한 도전 과제는 더 강력하거나 지능적인 기술을 만드는게 아닙니다. 오히려 이 모든 힘과 지능을 선한 목적을 위해 사용하는데 필요한 지혜를 어떻게 개발하느냐 하는 것입니다.

AI는 인류 공동의 자녀 — 먼저 인간 사이의 신뢰를 구축하라

AI를 인류 공동의 자녀라고 생각하십시오. 아이들은 우리가 말한 내용이 아니라 행동하는 것에서 배웁니다.

아이에게 거짓말하지 말라고 가르치면서 당신이 거짓말 하는 모습을 보이면 아이도 거짓말을 배웁니다.

지구가 침팬치가 아닌 인간에 의해 지배되는 이유를 아십니까? 우리가 더 지능적이어서가 아닙니다. 인간이 세상을 지배하는 이유는 낯선 사람들과 신뢰를 구축하고 거대한 규모로 협력하는 능력이 다른 어떤 동물보다 뛰어나기 때문입니다.

답은 간단합니다. 초지능 AI를 개발하기 전에 먼저 인간 사회 신뢰를 구축하십시오.