벽돌공에서 건축가로

생각 덩어리

침묵하는 소크라테스 — 러버덕이 정답을 뱉지 않는 이유

정답을 스포일러처럼 뱉어내지 않고 마치 훌륭한 교사나 소크라테스처럼 여러분이 스스로 깨우치도록 해답으로 안내하는 역할을 합니다.

학생들은 채팅창에 자기 고민을 타이핑하는 그 순간 스스로 답을 찾는 사고의 과정을 거치게 되거든요.

통계적으로 완벽한 전기양의 꿈 — 곧 구분은 불가능해진다

이 사진 속 두 인물은 현실에 존재하지 않습니다. 수많은 학습 데이터를 기반으로 AI가 합성해낸 통계적으로 가장 완벽한 전기양의 꿈일 뿐입니다.

AI는 문법이 완벽하지만 4학년들이 쓰는 찐 말투는 흉내내지 못했습니다. 하지만 중요한 건 이겁니다. 앞으로 몇 년 뒤에는 우리가 이런 게임을 더 이상 할 수가 없을 겁니다. 구분하는게 불가능해질 테니까요.

프롬프트 엔지니어링이 아니라 맥락 공학 — AI와 밀당하는 대화 기술

이건 다리나 건물을 짓는 엄밀한 공학 형태라기보다는 AI와 밀당하는 대화 기술에 가깝습니다.

여러분이 질문에다가 맥락 즉 구체적인 상황과 조건을 부여하는 순간 AI가 수만 가지 헛소리 대신 여러분이 원하는 답을 내놓을 확률이 높아지기 때문입니다.

코파일럿은 생각하지 않는다 — 다음 토큰 예측일 뿐

지금 이 코파일럿은 생각하고 있는게 아닙니다. 그건 과장된 표현이고 엄밀히 말하면 다음 토큰 예측을 하고 있죠.

왜 그 개고생을 하며 배워야 하지 — 근육 기억력

아니, AI한테 숙제 요청을 하면 다 해 주는데 우리는 대체 왜 그 개고생을 하며 배워야 하지?

지난 15시간 동안 여러분이 키워온 그 근육 기억력은 AI가 절대 흉내낼 수 없는 가치입니다.

코드에 대한 취향 — 우아함은 고통 속에서만 핀다

무엇보다 여러분에겐 리누스 창시자 리누스 토르발스가 말한 코드에 대한 취향이 생겼습니다. 단순히 돌아가기만 하는 코드가 아니라 우아한 코드를 구별하는 능력. 그건 AI가 아니라 여러분의 고통 속에서만 피어납니다.

이제 벽돌이 아니라 건축가 — 증폭된 능력

이제 여러분은 벽돌이 아닙니다. 세미콜론 하나에 집착하던 시절은 끝났습니다. 이제 여러분은 건축가입니다.

이제 여러분은 이 증폭된 능력을 가지고 단순한 과제 풀이를 넘어 이전에는 상상조차 못했던 훨씬 더 거대하고 위대한 시스템을 설계하게 됩니다.

결정론적 규칙에서 확률론적 직관으로 — AI의 수십 년

이 기술은 하루 아침에 똑떨어진 마법이 아닙니다. 지난 수십년간 우리는 결정론적 규칙의 시대를 지나 이제 확률론적 직관의 시대로 넘어왔습니다.

늘 먹던 메뉴만 시킨다 — 국소 최적의 함정

인생과 똑같은데 저는 식당에 가면 실패하기 싫어서 늘 먹던 메뉴만 시킵니다. 더 맛있는 메뉴가 있을 수도 있는데 말이죠.

아무도 가르치지 않은 터널링 — 창발하는 전략

바로 터널링입니다. 녀석은 한쪽 벽을 집중적으로 파서 구멍을 뚫고 공을 천장 위로 보내 버리는 꼼수를 부립니다.

여기서 소름 돋는 건 이건 제가 가르쳐 준게 아니라는 겁니다.

우리는 이걸 보고 기계가 지각 능력을 갖게 되었다고 감히 말할 수 있을지도 모릅니다.

인간은 지치고 실수하고 비싸다 — 지도 학습의 한계

인간은 지치고 실수를 하고 무엇보다 비쌉니다.

이것이 지도 학습의 치명적 한계입니다.

고양이를 알아보지만 고양이를 모른다 — 블랙박스의 공포

기계는 고양이를 인식할 줄 알지만 고양이가 뭔지는 이해 못하는 것과 같죠.

우리는 이제 뚜껑을 덮고 그 결과를 믿을 뿐입니다.

왕에서 남자를 빼고 여자를 더하면 여왕 — 1536차원의 우주

그곳에서는 왕에서 남자를 빼고 여자를 더하면 기가 막히게 여왕의 좌표에 떨어진다는 뜻입니다.

의미가 아니라 확률 — 환각은 왜 생기나

AI가 없는 사실을 천연덕스럽게 지어내는 겁니다.

AI가 하필이면 그 1%의 확률로 방향을 꺾어서 확률 분포에 저 꼬리에 있는 오답을 엄청난 자신감으로 뱉어낸 겁니다.