AI는 원인이 아니라 가속기다

생각 덩어리

종말론자도 찬양론자도 아니다 — 논리·규칙 시대의 관찰자

저는 AI가 인류를 멸망시킨다고 말하지 않을 겁니다. AI가 인류를 구원한다고도 말하지 않습니다. 저는 종말론자도 아니고 찬양론자도 아닙니다.

저는 1970년대 데이터가 아니라 논리와 규칙으로 AI를 만들던 때 연구자였으니까요.

모든 것이 새롭지만 모든 게 낡았다 — 기술은 새롭고 맥락은 옛것

요즘은 모든 것이 새롭지만 모든게 낡습니다.

최신 기술은 새롭긴 해도 사회적 맥락은 그다지 변치 않았습니다.

먼 미래가 아니라 지금 — AI가 실제로 뭘 하고 있는가

먼 미래 거대 위협에만 눈이 팔려서 AI가 바로 지금 우리한테 뭘 하고 있는지는 아무도 들여다보지 않는다는 겁니다.

그래서 오늘 제 초점은 먼 미래의 비전이 아닙니다. AI가 실제로 뭘 하고 있는지 그리고 우리 삶 속에 어떻게 스며들고 있는지 여기에 맞추겠습니다.

AI는 원인이 아니라 가속기 — 오래된 문제를 증폭한다

AI는 이전에도 존재했고 사회 속에서 오랫동안 존재해 온 문제들. 그것이 AI에 의해 가속되고 있습니다. AI가 원인이 아닙니다. AI가 무엇을 바꾸고 있는지 거기를 봐야 합니다.

데이터 센터가 에너지와 물 문제를 일으킨게 아닙니다. 그 문제들은 데이터 센터보다 훨씬 이전부터 존재해 왔습니다. 다만 심각성을 증폭시키고 있을 뿐입니다.

고용은 투입·산출이 아니라 사회 문제

부유한 사람들이 노동자를 대체하기 위해 AI를 사용할 것이다. 그 결과는 대규모 실업 그리고 이윤의 막대한 증가.

AI가 경제 문제를 해결하지 못한다. AI는 일자리를 대체할 겁니다. 일부 업무는 더 효율적으로 만듭니다. 인정합니다. 하지만 고용이라는 문제는 인풋 아웃풋 문제가 아닙니다. 사회 문제입니다.

진실의 토대가 흔들린다 — 페이크는 AI 이전부터

눈으로 봤다고 해서 믿을 수는 없어. 사진을 봤지만 실제가 아닐 수도 있지. 이건 예전부터 있던 문제입니다. 다만 지금은 조작이 훨씬 더 쉬워지고 훨씬 더 흔해지고 있을 뿐입니다.

전부 가짜일 수 있고 가짜가 진짜처럼 보이고 느껴지는 세계에서 사람들은 그 무엇도 믿지 않게 될 것이다.

인간이 만날 자리를 AI가 메운다 — 스터디 그룹의 소멸

가족 전원이 좋은 시간을 보내려 나왔는데 아무도 서로를 보지 않습니다. 사람과 사람 사이의 상호 작용이 온라인 상호작용으로 대체되는 것.

스터디 그룹에 사람들이 모입니다. 서로 떠들고 싸우고 서로의 밑바닥을 알아가죠.

엘리사의 비서 — 원시적 챗봇에 투사된 인간성

교수님, 잠시 자리 좀 비켜 주시겠어요? 지금 제가 사적인 얘기 중이어서요.

AI 아첨꾼 — 기계는 당신의 행복에 관심이 없다

AI는 당신이 진짜로 행복한지 불행한지 따위엔 조금도 관심이 없기 때문입니다.

기계는 당신의 삶과 죽음에 아무런 관심이 없습니다.

감시는 새롭지 않다 — 데이터의 통제권을 잃는다

일단 데이터가 기계 입속으로 들어가는 순간 그것이 어디로 흘러갈지 우리에겐 그 어떤 통제권도 없습니다.

자율 무기의 진짜 공포 — 결정 권한을 기계에 넘기는 것

우리는 실제 상황에서 한 번도 테스트해 볼 수 없는 시스템이 잘 작동할 거라 믿고 만들어 낼 수는 없다.

진짜 치명적인 문제는... 무엇을 타격하고 무엇을 멈출 결정하는 그 막중한 권한을 전적으로 AI에게 맡겨 버린 것 그 자체입니다.

판단에서 계산으로 — 책임을 기계 뒤에 숨기다

뭔가를 생각하거나 행동하거나 결정을 내릴 때마다 클러우드에게 묻습니다. 그리고 클러드가 시키는 대로 합니다.

내가 책임진다라는 주체적인 태도에서 글쎄요. 클러드가 그렇게 하라던데요라며 기계 뒤로 숨는 방식으로 전가되고 있죠.

효율의 함정 — 생산성이 곧 행복이라는 착각

우리는 흔히 생산성과 효율성 같은 것들만이 중요하다고 믿는 함정에 빠지기 쉽습니다. 생산성 효율이 높아질수록 우리 모두가 더 행복해진다는 착각이죠.

가치 정렬이라는 허상 — '인간의 가치'란 무엇인가

우린 AI는 인간의 가치에 정렬되어야 한다라는 말을 자주 듣습니다. 그 밑바탕에는 근본적인 질문이 깔려 있습니다. 도대체 그 인간의 가치란 무엇인가?

결국 인간의 가치라는 개념을 정의하고 AI를 거기에 맞출 수 있다는 믿음은 완전한 허상입니다.

기계는 알 바 없다 — 신경 쓰지 않는 지능

AI의 진짜 문제는 컴퓨터에게는 그 어떤 것도 알 바 없다라는 점이다.

컴퓨터는 여러분에게 답을 내놓습니다. 여러분이 그 답 때문에 살든 죽든 그 답을 따르든 말든 무슨 상관일까요? 기계가 그런 걸 신경 쓸 이유는 단 하나도 없습니다.

금지도 절차 규제도 부족하다 — 댐으로는 급류를 못 막는다

초지능이 정확히 뭘 의미하는지 실은 아무도 모른다는 겁니다.

이미 인류에게 주어진 현실 속 그 어떤 이슈에 대해서도 폭넓은 과학적 합의를 이끌어내지 못하고 있습니다.

이것은 철저하게 절차에 관한 규제입니다. 기업이 기술적으로 무엇을 왜 만들어야 하는지에 대해서는 일절 간섭하지 않죠.

급류에 방향키를 잡아라 — 기술이 미래를 몰아도 운전대는 우리 몫

이런 극한의 상황에서 중요한 건 미리 세워둔 치밀한 계획이나 최적화가 아닙니다. 지금 당장 눈앞에 이 위기를 어떻게 감당해 낼 것인가라는 문제입니다.

기술이 미래를 이끈다. 지금 AI 분야에서 벌어지는 일도 정확히 똑같습니다. AI가 미래를 몰고 가고 있죠. 방향을 결정하는 운전대를 잡는 것은 온전히 우리 몫입니다.

이 과제는 결국 사회적 이해의 변화를 요구합니다. 그 변화가 기술 혁신의 영향을 받겠지만 기술 혁신만으로 달성되진 않습니다.

개인적인 천재성에 의존하는 신화에서 벗어나야 합니다.