EP 97: AI Psychosis 시대의 사람들

생각 덩어리

하네스 선순환의 가속 — 전 지식 노동자 계층으로

이걸 가지고 일하는 것이 예전에는 엔지니어 계층에 머물렀다면 이제는 모든 지식 노동자 계층에까지 Claude Code나 Codex 프랙티스가 스며들고 있다는 것을 정말 피부로 느낄 정도입니다.

저희가 항상 "모델이 발전하면 그 모델에 맞춰 하네스가 발전하고, 그 하네스가 갖고 있는 특징들이 또 모델 안으로 들어가면서 하네스는 더 좋아지는, 끊임없이 선순환하는 구조가 될 것"이라고 말씀드리곤 했는데, 너무 당연하다는 듯이 숨 막히는 속도로 진행되고 있습니다.

AI Studio에서 말만 몇 마디 하면 그냥 목적물을 딱 떨어뜨리는 워크플로우를 내놓고 싶은 게 아닌가 하는 느낌이 들 정도예요.

두 달 리듬의 프론티어 — 컴퓨테이션 효율과 탈 NVIDIA

그래서 활동 기간이 두 달 정도의 리듬을 가지고 있고, 그러니까 두 달마다 새로운 게 나온다는 얘기잖아요.

최근에 METR 그래프에서 Mythos 급은 16.5시간인가, 그 정도가 나와서, METR이 자기네들의 현재 측정 방식을 많이 수정해야 될 것 같다는 뉘앙스를 담은 트윗을 본 것 같거든요.

어찌 되었건 탈 NVIDIA, NVIDIA에 의존하지 않는 생태계들도 급속도로 늘어나고 있는 건 확실한 것 같습니다.

T_brain — 사람이 병목이 되는 break-even

저희가 Dwarkesh 편 했을 때 T_compute, T_mem 이런 얘기를 했었는데, 저는 요새 T_brain에 대한 생각을 하게 되더라고요.

병목일 수도 있고, break-even을 맞추는 거잖아요. 이게 효율을 발휘했을 때 서로 트레이드오프가 있는 상황을 얘기하는 거니까, 거기에 걸리는 시간 같은 걸 좀 생각해 보게 되는 요즘인 것 같아요.

Claude의 페널티와 Codex의 캐치업 — 토큰 여유의 이동

근데 이제 Claude 쪽은 그런 것들에 약간 페널티를 주고 있는 느낌이긴 해요. 최근에 가격을 6월부터 바꾼다는 것도 그렇고, Claude Pro 모드에 대한 페널티도 좀 주기 시작한 것 같고요.

Claude Code가 사실 AI 코딩이라는 유행어가 Claude Code와 동치였을 정도로 올 상반기를 이끌었잖아요.

근데 이제 Anthropic의 컴퓨테이션 자원이 달린다는 걸 저희가 알게 됐죠. 그래서 Opus 모델 품질이 계속 좀 저하되는 일도 있었고요.

사실 Codex가 토큰 여유를 훨씬 크게 주거든요. 저는 Codex에서 위클리 리밋을 찍어본 적은 없어요.

슈퍼 앱 Codex — AGI의 G가 강조되는 시기

상반기를 요약하면, Codex나 Claude Code가 더 이상 코딩과 관련된 것만은 아니다, 사실 소프트웨어를 관통하는 거의 모든 종류의 워크플로우에 다 관여할 수 있다는 철학이 잡히기 시작한 것 같고요. OpenAI 같은 경우에는 아예 Codex를 슈퍼 앱이라는 말로 부르고 있더라고요.

그래서 AGI에서의 G가 점점 더 강조되고 있는 시기인 건 확실한 것 같고요.

배휘동의 120x — 도파민 슬롯머신과 엔지니어 번아웃

그 당시에는 조금 더 해야겠다는 생각을 하셨다가 하다 보니까 어느새 120x가 된 것 같다는 말씀을 해 주셨어요.

타임라인이 흐르고 스크롤이 흐르다 보면 확률적으로 모델이 잘해주는 게 팡팡 터지니까 도파민 터진다는 표현을 많이 쓰는데, 그런 거에 빠져 하루 종일 일을 하다 보니까 또 힘듦이 생긴다는 거죠.

주변에 엔지니어 분들하고 식사를 몇 번 했었는데 다들 SSH 등으로 밥 먹다가 일을 주고 계시더라고요.

대부분 Hermes나 OpenClaw 같은 에이전트를 하나씩은 다 키우시니까, 그 에이전트들한테 본인들의 태스크를 메인으로 관리하게 하고 그 아래 Codex라든지 Claude Code를 붙여 놓고 돌리는 구조로 많이 돌리시더라고요.

소프트웨어 제작 특권의 종말 — 남의 레포는 에이전트가 읽는다

그런데 불과 작년까지를 생각해 보면 소프트웨어를 만드는 게 상당한 특권이었잖아요. 상당히 공부하고 연습해야 입문할 수 있는 좋은 직업군이었고, 또 그걸 만들어내는 것 자체가 부가가치인 시대를 한참 살았으니까요.

투자를 하면 투자 금액의 거의 3분의 2는 엔지니어링과 프로덕 쪽에 팀 인건비로 들어가는 게 당연하고, 그 팀 퀄리티가 결국 회사 가치로 연결되던 패러다임이 거의 10년 넘게, 거의 20년 가까이를 지배했거든요.

GitHub 레포를 다운로드하고 제 에이전트한테 시키죠. 분석해 보라고 하면 ... "여기는 특별한 점이 없네요" 이런 식으로 답변하거나, "이건 되게 재밌는 점인데요"라고 얘기하거나 하죠. 그러면 그 점은 사실 딸깍 하면 저도 이용할 수 있게 되는, 이런 시대로 진입하고 있는 것 같아요.

AI 애플리케이션의 시대 — 상품은 task completion

자, 그럼 이제 AI 애플리케이션의 시대가 열릴 텐데, AI 애플리케이션의 모양은 어떤 모양일까라는 게 지금 모두가 하고 있는 질문이거든요.

앞으로 12개월에서 24개월, 그러니까 1년에서 2년, 저희의 시간 축, 저의 개인적인 시간축으로는 10년 20년의 인텐시티인 건데, 그 기간 동안 어마어마한 일들이 일어날 거라는 거죠.

이제 에이전트 시대에는 사용자는 어떠한 인텐션, 의도만 주고 사업자들이 팔아야 되는 건 문제의 해결, task completion이 되거든요.

AI surface — 대화창이라는 못 바뀌는 표면

애플리케이션의 거의 80~90%는 하네스 자체일 거고, 그 위에 유저와 하네스 사이에 인터페이스 UX라고 하는 부분을, 요새 사람들이 많이 쓰는 용어가 AI surface더라고요. 그냥 AI의 표면이라는 거죠.

AI surface는 대화창이에요. 대화창, 그리고 UX는 컨버세이션으로 왔다 갔다 하는 일종의 타임라인이고, 거기를 키보드로 입력하든지 아니면 보이스로 입력하든지 둘 중 하나인 거고, 인간이 인간의 하드웨어 인터페이스를 갖고 있는 한 못 바뀌는 게 여기도 그대로인 거죠.

인상적인 AI 제품의 부재 — 전부 Codex의 부분 집합

그 1년 동안 AI 분야의 제품으로 나온 것 중에 AI 하네스나 AI 서비스 말고 인상적인 제품이 있는 상태인가요?

아니요. 지금까지는 아직 대부분 다 Codex와 Claude Code의 부분 집합들이잖아요.

승준 님, 그럼 제가 질문을 이렇게 바꿔보면 답이 금방 나와요. "그럼에도 불구하고 Codex에 시킬 수 없는 것."

쿠팡과 ChatGPT의 긴장 — unbundle을 거부하는 이유

완벽해지려면 사실 쿠팡이 OpenAI ChatGPT가 부를 수 있는 깔끔한 API 형태로 모든 걸 잘 unbundle해서 OpenAI한테 주면 ChatGPT가 정말 끝장나게 잘 부를 수 있겠죠. 근데 쿠팡은 절대 그걸 안 하겠죠. 그걸 하는 순간 자기 거를 가져가니까요.

내가 지금껏 구매했던 제품들, 했던 컨텍스트들, 소위 내가 그 회사의 볼모로 잡혀 있는 데이터들 때문에 생기는 부가가치의 결합이 될 거거든요. 그래서 그것들의 합이 ChatGPT 하나만 깔면 되는 편의성과 싸우게 될 거예요.

하네스 = 컨트롤 레이어 — 볼모 데이터 곱하기 툴 조합

이게 다 사실은 검색 시대에 수많은 버티컬 웹 서비스들과, 그다음에 애플과 안드로이드 시대에 제너럴한 앱스토어와 수많은 버티컬 애플리케이션들의 싸움에서 있었던 일의 완벽한 동형 반복이거든요.

이 AI 애플리케이션 자체의 틀을 보면 거의 95%가 그냥 하네스 덩어리잖아요.

사실 자신들이 온전히 차별화해 줄 수 있는 툴의 조합과, 볼모로 잡고 있는 고객 데이터. 이것들을 얼마나 컨트롤할 수 있느냐. 그래서 저는 하네스 = 컨트롤 레이어라고 생각하는데, 그 컨트롤을 얼마나 잡을 수 있느냐가 이제 그 회사들의 새로운 가치가 될 거라는 생각이 들어요.

플레이북 정착 — 딸깍 카피는 MNIST 연습 문제

과거의 유저들을 대상으로 만들어지는 애플리케이션들은 이젠 전부 무의미하다는 거죠.

결국 사용자의 인텐트를 어떻게 문제 해결로 연결하는가, 그러니까 우리 솔루션이 예전과 같은 툴 덩어리가 아니라 그냥 문제 해결 자체가 상품인 거예요. 이런 시대로 왔다.

요새 많은 사람들이 하고 있는 "이미 존재했던 애플리케이션을 딸깍딸깍 해서 카피해서 내 거 내놓기"는 이제 연습 문제고, 마치 딥러닝 처음 시작할 때 MNIST 문제 푸는 것과 같아진 거죠.

이제는 애플리케이션의 시대로 가는 요이땅 공이 빵 울려 퍼졌다는 생각이 들어요.

AI Native vs AI Assisted — 결국 경영의 문제

AI 네이티브는 사람의 도움이나 개입이 거의 없이 모든 워크플로우가 끝나는 게 AI 네이티브고, AI 어시스티드는 사람이 하는 건 변화가 없는데 AI가 들어가서 조금 좋게 만들어 주는 게 AI 어시스티드예요.

이게 깔끔하게 되는 회사들의 특징은 ... 데이터가 깔끔하게 정리돼 있고 이미 디지털 트랜스포메이션 자체가 깔끔하게 끝나 있던 회사들이거든요. ... 그냥 이미 정리돼 있던 데이터에 Claude Code SDK 붙이고 프론트 잘 쓰는 것만으로도 대부분의 일이 해결되거든요.

거의 대부분의 사람들은 그런 업무를 AI가 와서 본인의 일을 가져가는 걸 원하지 않는다는 게 제가 많이 보는 것이거든요. 자기 존재감이 사라지니까요. 그러다 보니 AI 어시스티드 툴을 만들어 줘도 쓰지도 않고, 쓰지 않다 보니까 또 발전이 안 오고, 그래서 프로젝트는 누군가 하고 나갔는데 회사의 생산성은 그대로인 경우를 많이 봐요.

에이스 인력이 들어간다고 해서 해결될 수 있는 문제는 아니거든요. 이거는 AI나 어떤 도구의 문제가 아니라, 그냥 경영의 문제가 되는 경우도 굉장히 많기 때문에요.

AX 컨설팅 단가 하락 — 남의 마진은 나의 기회

그 일을 주시는 분들조차 "AI가 다 해주는데 너네가 하는 일이 뭔데"라는 생각을 머릿속에 갖고 있거든요. 그러다 보니 "너네도 어차피 Claude Code 딸깍거릴 건데 무슨 이렇게 비싸게 달라고 그래, 싸게 해"라고 하는 거죠.

"그냥 그 워크플로우를 네가 새로 써서 네가 저 회사를 공격해 봐. 그래서 저 회사가 갖고 있는 걸 네가 가지면 되잖아"라고 생각을 바꿔보라고 하면 다들 갸우뚱해요. 근데 이게 다음 창업의 거대한 파도인 거죠. 남의 마진은 나의 기회.

"Claude Code를 쓸 줄 안다, 그러면 AI talent냐?" ... 불과 6개월 전만 해도 그랬지만 지금은 아닐 수 있는 거죠. ... 그런 사람이 어마어마하게 많아지고 있다.

오케스트레이션 인프라 — vLLM 깔고 done이 아니다

그냥 단순히 vLLM이라든지 SGLang 깔고 "아 done"이라고 하면 되는 건 아니거든요. 하드웨어를 어떤 식으로 orchestration 할지 ... 어떤 workload는 prefill 덩어리가 엄청나게 많이 생길 수도 있고, 어떤 workload는 엄청나게 decode dependency가 있을 수도 있고 ... 거기에 대해 readiness가 있는 회사들이 거의 없거든요.

저는 한국에서는 Lablup 같은 회사가 그러한 orchestration의 정점에 있는 회사라고 보는데요.

저 안에 들어와서 본 엔지니어들이 Borg 같은 거 돌리는 거 보면서 미쳤다고 막 그런 생각 많이 했었었는데요. 그러한 인프라를 밖에 있는 오픈 도메인이 Hadoop 같은 걸로 따라잡는 데 꽤 시간이 걸렸었거든요.

그것들을 전부 이해하고, 어떤 특정 비즈니스에서 타겟 고객의 문제와, 미친 듯이 바뀌고 있는 이 비즈니스 사이클을 잘 맞춰낼 수 있는 타이밍 센스, 이런 것들을 다 갖춘 사람이 AI talent가 되는 거거든요. 엄청나게 가혹해졌죠.

Benedict Evans의 언번들링 — ChatGPT도 쪼개진다

그 아저씨가 결국 얘기했던 게 "지난 20년은 웹이 됐건 모바일이 되었건 unbundling Oracle이다"였어요.

ChatGPT와 Codex가 모든 일을 다 할 수 있지만, 그럼에도 불구하고 이 서비스들은 그 ChatGPT를 unbundling 한 각각의 영역들로 수도 없이 생길 거다라는 예측을 하거든요.

모든 전선이 넓어지면 그 모든 전선을 다 방어할 수 없거든요. 그럼 또 개별 개별로 그걸 제일 잘하는 회사들이 생겨날 거고

두 부류의 AI talent — 도메인 견인자와 메타 옵티마이저

"어떤 목표로 가야 된다, 어디로 가야 된다"라고 명확하게 어떤 필드에 대한 knowledge를 가지고 그걸 찍을 수 있는 사람이 AI를 견인하는 형태가 있고요. 또 하나는 그런 목적도 잘 모르겠는데, 그 목적조차도 meta optimization을 하면서 그냥 모델에게 delegation 하면서 목표조차 찾아가는 사람들.

Ralph loop와 auto research를 합쳐서 돌려서 본인들이 암묵지라고 생각하는 부분까지 AI한테 delegation을 해 버리더라고요.

캐릭터 챗 Zeta가 지금 월 매출이 50억이 넘는다고 하죠. 그 외에도 혼자 하거나 두세 명이서 하는데 월 매출이 5억 나는 회사들도 있고

솔직히 더 이상 AI 툴의 readiness는, 저는 이제 그냥 이건 당연히 갖고 와야 되는 필요 조건이라고 보고 있는 것 같아요.

도메인 내면화의 순환 논리 — 한두 달 마스터는 뻥

그리고 거기에서 제가 흥미 있는 게 생기면 그걸 또 들어가서 풀어주고 풀어주고 풀어주는, 거의 영원한 튜터 역할을 해 주니까요.

지금 순환 논리가 있습니다. 정석 님이 후자가 아니었을 수 있어요. 이미 포지션 자체가 어떤 분야의 domain knowledge가 있었기 때문에 그걸 내면화할 수 있는.

한두 달만 했다는 거는 뻥이에요. 사실은 관심을 가지고 거의 십 몇 년 동안 관련된 책이나 이런 것들을 계속 읽었기 때문에 대략 기본은 깔려 있었으니까 그게 된 거지, 사실 한두 달 만에 생판 모르던 영역을 마스터했다는 건 명백한 거짓이고요.

어마어마하게 많은 일을 동시다발적으로 context switching 하면서 하다 보니까 bio token을 소모한다는 얘기 요새 많이 하잖아요. 그랬을 때는 인간의 뇌가 그걸 학습으로 내면화하기까지는 사실 어려울 거라고 보거든요.

AI psychosis — Karpathy의 고백과 투두 리스트 착각

Sarah Guo 편에서 Karpathy가, 자기가 이제 psychosis의 상태다 ... OpenClaw 나오고서는 FOMO가 와서 이제는 에이전트에다가 다 delegation 하는 쪽으로 가면서 지금 계속 도파민 터지는 과몰입 상태에 있는 것 같다고 해서 psychosis 얘기를 했거든요.

투두 리스트에 뭘 해야 되겠다고 넣어 놓으면 마치 다 한 것과 같은 착각이 들어요. 왜냐하면 그걸 AI한테 시키면 걔가 할 테니까요. 그래서 너무 명확한 일들은 미루게 되더라고요.

이 시장이나 사회의 인센티브가 당장 에이전트를 ... 기초 체력으로 쓸 수 있는 사람들에게 인센티브를 주고 있다 보니, 과몰입한 상태를 유지하는 사람들이 필연적으로 많이 등장하고 피로를 호소할 수밖에 없는 스테이지가 아닌가

그냥 내 옆에서 하이닉스 주식을 샀던 사람과 사지 않았던 사람들 사이에서도 소위 "FOMO 오진다"는 표현들을 많이 하니까요.

Cat Wu의 인재상 — 혼돈을 즐기는 사람과 thinking token

어저께 P0 issue가 올라왔는데 그 0이 한 자리였다가 다음 날 오후에 00으로 두 자릿수가 되는, 그런 변화의 상황을 견뎌낼 수 있는 사람. Anthropic에서 채용하려고 하면 기본적인 역량이 있는 상태에서 혼돈을 즐길 수 있는 사람을 찾는다는 게 되게 인상에 남았었거든요.

사실 저희가 지금 가지고 있는 좋은 직업이라 함은 어떤 안정된 타이틀을 가지고 안정된 업무를 큰 노력 없이 지속적으로 반복하기만 해도 높은 수익이 있는 그런 데를 좋은 데라고 하거든요. ... 사실 그런 직업들이 지금 다 없어지고 있는 거거든요.

불확실성을 견딜 수 있으려면 불확실성을 계속 캐치업해야 되고, 그건 어떻게든 정보를 끊임없이 받아들이고 공부하고 계속 결정해 내고 머리를 돌려야 된다는 얘기거든요. thinking token을 써야 그걸 일단 받아들일 수 있고요.

돌고 돌고 돌고 돌아서 결국 불확실성을 견디고 매니지 하며 거기서 의사결정을 하고 액션 할 수 있는 사람이 이제 필요하다는 결론에 가게 되거든요.

Hashimoto의 경고 — 겉보기 작동과 깨져가는 아키텍처

그렇게 AI를 믿고 달려가는 데에서, 겉보기에는 작동하지만 사실 전체 아키텍처 상에서는 깨져 있는 뭔가가 계속 가중되고 있을 수 있다는 점을 좀 걱정하는 글이 있긴 있었습니다.

근데 Mitchell의 의견은, 이걸 내가 아무리 이야기해 봤자 이 궤도에 있는 사람들에게는 받아들여지지 않을 것이라는 거죠.

근데 요새는 그냥 그걸 Ralph로 돌려요. 결과를 내고 나면 그냥 세 번 Ralph를 돌려봐요. 세 번 다 맞다고 하면 그냥 그거 버튼 눌러버리거든요.

결국은 진짜 그냥 모든 문제를 다 compute로 환원시켜서 풀 수 있다는 이상주의적인 사고인 거죠. 그리고 거기에 대한 또 하나의 가정은, 모델이 나보다 낫더라는 가정이 또 있는 거죠.

학습의 재설계 — 주니어 훈련장과 부하를 거는 작업

"지금 주니어들이 학습 기회를 다 박탈당하고 있고 이게 큰 문제다"라는 얘기를 하잖아요. 그때 Alessio가 이렇게 얘기했었거든요. "아, 그러면 그들을 훈련시키는 장을 AI로 만들어서, AI가 주니어들을 가혹하게 훈련시킨 다음에 걔들을 다시 졸업시키면 되겠다. ... 그래서 교육 사업은 그런 쪽으로 준비해 봐라."

Michael Nielsen 편에서 Dwarkesh가 Michael Nielsen에게 조언을 받은 게, 부하를 거는 작업이에요. ... "Make some kind of demanding artifact, write something." 하여튼 자기 생각에 부하를 거는 작업을 하는 게 당신의 배움을 다음 단계로 인도할 것이라는 뉘앙스였거든요.

자기의 맥락 안에서 공부하는 루트를 설계하고, AI만 잘 쓰는 게 아니라 자기 자신의 역량을 끌어올리는 거죠.

저는 이런 식으로 에이전트만 잘 쓰는 게 아니라 자기의 공부를 끌어올리는 작업을 소홀히 하면 안 될 것 같다는 쪽인 거죠.

slow AI — mind-sized bites, 내 마음의 한 입

예전부터 있었던 말 중에 "mind-sized bites"라는 표현이 있었어요. 내 마음이 소화할 수 있을 만큼의 한 입. Seymour Papert라는 분이 한 말인데 ... 결국 그건 내가 해낼 수 있을 만큼의 조각이어야 된다는 거죠.

AI의 페이스에 맞추는 게 아니라 나에 맞추는 식으로 좀 했으면 좋겠다는 식으로 slow AI를 이야기하는 쪽이 좀 생기고 있는 중이거든요.

그렇게 했을 때 소모는 필연이고요. 그래서 저도 좀 불편하지만 계속 생각이 쳇바퀴를 돌고 있습니다.

브랜드와 only one — 서브 컬처가 월드가 된다

저는 이제 사업의 측면에서 보면 "이제는 무언가를 만드는 빌드 능력보다 브랜드와 디스트리뷰션이 좀 더 중요해지는구나" 하는 생각은 좀 들어요.

언제나 최고가 되는 것보다, 더 좋은 게 되는 것보다 베스트는 그 유일한 게 되는 거거든요. only one이 되는 건데, 그 only one이 됐을 때 시장의 크기가 유의미하기만 하면 먹고살거든요.

그 자체가 "아, 저기는 메인 스트림에 winner가 되지 못한 사람들의 그룹이야"라고 해서 서브 컬처라는 말로 잡혔었는데, 그게 아니라 그것 자체가 하나의 월드가 되고 있는 거라고 생각해서, 저는 그것도 굉장히 주목해 봐야 될 트렌드라고 생각합니다.

AI를 안 하기로 판단하는 사람들이 늘 수도 있고, 그게 늘어나서 그 사람들이 새로운 세력을 형성하면 그건 시장이에요. 그 시장이 또 생기겠죠. 그래서 저는 살아 움직인다고 봅니다.