EP 102: 프론티어 랩으로 응축되는 시장 — 3주 샌프란시스코 출장기

생각 덩어리

새 호스트와 개편의 결심 — 가볍게, 자주, 빠르게

결론만 짧게 말씀드리면 너무 무겁게 하는 것보다는 가볍게, 자주, 조금은 틀릴 수 있지만 하지만 빠른, 이런 것들을 좀 더 지향해야 되겠다.

아마 저는 주로 질문하는 포지션, 그런 역할을 많이 하지 않을까 싶습니다.

종현님은 저희 채널에서 젊음을 담당하시는 그런 역할을 맡게 되시는 겁니다. 그래서 또 기술적으로 저희가 약한 부분들에 대해서 깊게 파시고

출장의 세 목적 — 프론티어 랩·스타트업 신·AI x Bio

프론티어 랩이나 또 프론티어 랩에서 나온 굉장히 뛰어난 많은 분들이 소위 NeoLab을 많이 차리시잖아요. 그래서 그런 분들을 만나서 전반적으로 시장이 어떤 vibe로 흘러가고 있는지 이런 것들을 듣고 싶었던 게 하나가 있었고

세 번째가 사실은 저의 가장 큰 목적성이기는 했는데 AI와 바이올로지의 경계에서 큰 회사들은 어떤 접근을 하고 있고, 학교는 어떤 접근을 하고 있고

만나서 물어보고 제가 줄 수 있는 선물들을 최대한 풀어놓으면 또 그들도 저에게 무언가를 주려고 이렇게 서로 배울 점들을 교환하는 것들이 굉장히 자연스럽거든요.

교환된 정보 — 한국의 칩 생태계

한국에서 이게 이야기가 되는 게 제일 관심 있는 게 한국의 칩 생태계예요. 왜냐하면 지금 투자가 가장 몰리고, 벤처캐피탈들도 열심히 회사를 찾고 있는 게 의외로 Codex 잘 쓰는 회사, 이런 서비스 쪽의 회사가 아니라 거의 대부분 AI 데이터 센터에서 모델 바로 직전까지에 있는 그런 회사들이거든요.

부동산, 전력, 그다음에 송전, 냉각, 그리고 당연히 그 위로 올라가면 칩, 그다음에 그 칩 위에서 그 칩들의 트레이닝이나 inference를 효율적으로 돌려주는 오케스트레이션 소프트웨어. 딱 이 정도까지는 관심이 정말 끝내주게 뜨겁고요.

Time Gap과 Domain Gap — 프론티어 모델로 흡수되는 도메인

이 Domain Gap도 멀리 펼쳐져 있는 게 아니라 프론티어 랩에 있는 프론티어 모델로 전부 그냥 흡수되는 그런 느낌이 있어요.

프론티어 모델이 못하는 도메인들을 찾는 게 어떤 새로운 큰 사업 기회가 되는 것처럼 우리가 아는 거의 대부분, 코딩, 리걸, 파이낸스, 아주 일반적인 사이언스, 로보틱스, 그다음에 컨슈머 영역까지 프론티어 랩들에 쭉 응축되고 있다는 그런 느낌이 많이 들고 있고요.

Cursor도 xAI에 팔렸고 Cognition도 지금 Cognition이 마켓 셰어가 한 4위 정도 되거든요. 그런데도 매출이 한국 돈으로 조 단위에 가까운 매출이 나고 있는 걸로 보여요.

직접 하는 도메인 — 코딩·리걸·바이오

OpenAI가 코딩과 리걸과 바이오는 우리가 직접 할 거고 나머지 영역은 우리가 안 하려고 한다. 스타트업들과 협업하려고 한다고 이 전선을 좀 나눴다고 하더라고요. 그런데 OpenAI가 그런다는 얘기는 Anthropic도 대충 그렇다는 얘기일 거고

Google은 아직 그런 정도까지 날카로운 전략이 있지는 않은 것 같아요. ... 여기는 여전히 항공모함 전략으로 가고 있는 것 같고

선택의 기준 — RLVR과 verifier가 도는 곳

오늘 또 다른 소스에서 들은 건데 프론티어 랩들이 아직 GitHub에 올라가지 않은 잠자고 있는 고품질의 사람이 만든 소스 코드를 사고 있거든요.

verifiable 가능한, verify 하는 영역도 디지털 콘텐츠 안에서 다 끝나는 영역이 대부분 저 안에 들어가요. 그런데 디지털 도메인을 살짝만 넘어서면 바로 어떤 verifier를 만드는 데 스케일 문제에 부딪치잖아요. 그래서 그 부분들은 직접 손에 물 안 묻히려는 그런 생각이 있지 않나

마켓 1·2·3 — 가장 general한 게 가장 specific하다

가장 general한 게 가장 specific한 거다라는 생각으로 그냥 모든 도메인들, 디지털로 다 끝낼 수 있는 도메인들은 다 가고 있는 것 같고

compute와 데이터는 여전히 유의미해요. 그런데 알고리즘 쪽에 대해서는 당연히 리서치를 열심히 하고 있지만 이게 게임 체인저다라는 시각은 상대적으로 굉장히 작은 것 같아요.

가장 많은 노력을 쏟고 있다. 그게 제일 중요해, 거기가 제일 핵심이죠 라고 얘기하는 부분들은 거의 대부분 다 post-train 파이프라인이에요.

암묵지를 사들이는 데이터 호황 — RLVR용 연습 문제로

하나의 섹터가 생기면 그 섹터의 전문 분야들을 소위 전문가들만 가지고 있었던 그런 암묵지에 대한 데이터들을 다 RLVR용 연습 문제로 빼는 그런 일들을 하고 있더라고요.

어느 정도의 데이터셋이 만들어지면 그걸 프론티어 랩들이 살짝 무게로 달아서 사 가는 그런 느낌. 물론 굉장히 비싼 가격에 사 가기는 합니다마는

benchmark maxing — 갈려 나가는 엔지니어들

vLLM 같은 그런 inference도 사실상 거의 밑바닥까지 다 고쳐서 최적화해서 돌린다

벤치마크가 좋은 지점에서 나쁘게 나오는 지점으로 가면 다시 체크포인트를 앞으로 돌려서 그 런을 버리고 좋은 체크포인트에서 다시 시작하고 이런 식의 최적화 루프가 굉장히 지저분한 엔지니어링 형태로 도는 것 같고 거기에 굉장히 많은 엔지니어분들이 소위 갈려 나가고 있는 이런 뉘앙스였습니다.

어려운 문제와 답을 많이 갖고 있는 게 지금 프론티어 랩들이 하고 싶어 하는 거다. 이렇게 이해하면 될까요?

깊어지는 RL — RLVR은 제너럴인가

이걸 시키면 시킬수록 모델의 성능이 계속 증가한다라는 거는 저희가 지난 6개월 동안 프론티어 랩들이 내는 모델들을 보면서 계속 보고 있잖아요.

그러니까 RLVR로 돌파할 수 있는 영역에서만 성능이 올라가고 있지, 그게 꼭 제너럴은 아닐 수 있겠다.

그 AGI의 definition에 대해서는 사실 누가 할 수 있겠어요? 받아들이는 사람의 입장에서 이 정도면 AGI야라고도 말할 수 있는 거고 이걸로는 형편없지라고 말할 수 있는 거고

정형원의 회의론 — "2025년 리서치 진보는 없었다"

심지어 Meta의 정형원 박사님은 2025년은 리서치 쪽에서 거의 진보가 없었던 거 아니냐, 없었던 한 해로 본인은 판단한다라고 말씀하시더라고요.

DeepSeek 관련해서 이런 쪽에 메모리를 줄인다든지 이런 부분들에 대해서 알고리즘적 혁신이 굉장히 많이 일어나고 있는데 그런 부분에 대한 평가를 한번 말씀드렸는데 그런 건 다 하는 거라는 말씀을 하셔서 저도 더 이상 여쭤보진 않았습니다.

바라보시는 어떤 문제의 관점이 완전히 다르신 것 같았어요. Bitter Lesson의 그런 느낌.

Noam Brown의 test-time compute — 토큰 예산을 고정한 벤치마크

앞으로 벤치마크의 기준은 inference 토큰의 예산을 고정한 상태에서 early 시점에 고정한 상태에서 벤치마크를 봐야 된다

이 모델의 test-time compute를 계속 늘리면 늘리면 늘리는 대로 여전히 모델이 낼 수 있는 성능은 끝을 모르고 계속 증가할 개연성이 있다

그 풀었던 모델조차 무언가 랩 안에서 돌리는 희귀한 훨씬 뛰어난 모델이 아니라 그냥 우리가 쓰는 GPT-5.5에 막대한 test-time compute를 투입해서 이루어지는 결과들이다

AI x Bio의 두 접근 — Doudna의 회의론

노벨상 받았던 Doudna 교수가 Emily Chang이랑 Bloomberg 인터뷰를 하면서 그냥 챗봇은 문서 요약이나 할 줄 알지 사람이 하는 innovation은 못한다.

Doudna 교수처럼 학교에 계시거나 혹은 전통적으로 굉장히 큰 연구소에 계셨던 분들의 approach와 그다음에 완전 반대편에서 AI의 practice를 가지고 전통적으로는 바이오를 안 하시던 소프트웨어 엔지니어들이 하시는 접근이 두 개가 완전히 다르다는 느낌이 들었어요.

바이오의 CNN 시대 — foundational approach의 등장

이쪽 대형 도메인은요. 그냥 문제별로 파이프라인이 다 달라요. 그리고 그건 이렇게 풀어야만 풀리는 문제야라고 얘기를 해요.

저쪽에 있는 소프트웨어 업자들을 보면 그냥 Transformer base로 foundational model approach를 만들고 그냥 데이터셋의 양을 늘린 다음에 그 모델의 eval을 잘 짜서 원하는 단위 문제들을 설계하는 형태로 돌아가요.

두 번째로는 쟤들이 뭘 하고 있는지 정확하게 모른다는 게 저의 판단이에요. 뭐 하고 있는지 모르더라고요, 정확하게.

OpenCRISPR — 이미 그 도메인에서 혁신한 AI

본인이 발견한 그 Cas9 단백질과 같은 역할을 하는 다른 단백질을 AI가 OpenCRISPR라고 작년에 또 몇 개 후보 물질을 찾아냈거든요. 그러니까 그 AI가 찾은 거죠. 당장 본인 도메인 안에서 innovation을 해 온 거죠.

이 부분이 GPT-1에서 GPT-2 정도 넘어가는 그 시기 정도의 느낌이라는 생각이 좀 들었습니다.

노벨상 수상자인 John Jumper가 DeepMind 나와가지고 Anthropic 갔지 않습니까?

설득할 것인가, 이길 것인가 — 엔지니어가 도메인을 배운다

이분들은 AI가 저거 해 오는 거 눈앞에서 보여줘도 안 믿으시겠다는 생각이 저는 좀 들었어요.

domain expert들을 설득하여 그들과 함께 무언가를 하는 것보다 그냥 AI 소프트웨어 엔지니어가 그 도메인을 배우는 게 더 빠를 수도 있겠다는 생각이 들어요.

therapeutics, 치료나 제약이나 심지어 longevity drug이나 이런 부분들도 expert가 아닌 출발점을 가진 회사가 이길 수 있겠다는 생각이 듭니다.

사흘 만의 유전체 파이프라인 — Codex와 개밥 먹기

예전 같았으면 그냥 하나의 회사가 성립했을 파이프라인을 Codex가 한 3일 동안 다 뽑아주더라고요.

그냥 개밥 먹기. 다 만들어 봤어요. 그래서 제가 왜 그렇구나, 라는 거에 대한 깊은 이해가 생겼습니다.

이미 랩들 사이에는 이 프론티어 모델을 만드는 기술이 그다지 어려운 게 아니다. 한 번 본 사람은 밖에 나가서 동일한 자원과 동일한 게 있으면 시간의 문제지 재현 가능하다는 것들을 그냥 다 서로서로 알음알음 얘기하는 불편한 진실이라고 얘기하더라고요.

"사람들이 다 미쳤어요" — 20대 창업자의 서부 시대

사람들이 다 미쳤어요.

정말 서부 시대구나. 여기 꿈을 찾아서 잘난 사람들은 잘난 사람들대로의 어떤 달려가는 라운드가 형성돼 있고 그냥 꿈꾸는 사람들은 정말 와서 비자도 그냥 관광 비자로 와서 해커톤만 막 다니면서 무언가 생기겠거니 하는 그런 젊음들도 봤고요.

창업자들의 나이가 20대 초반이에요. 다 20대 후반, 30대 초반 들어가면 이거 많이 늙었어요.

그 젊은이들을 보면서 느끼는 게 시간의 상대성이에요. 저 사람들이 느끼는 시간 축과 우리가 느끼는 시간 축이 지금 상대적으로 굉장히 다르구나.

ARR 40억에 4천억 — 공이 하나 더 붙은 밸류에이션

한 매출이 한국 돈으로 한 30억에서 40억 정도 ARR 환산으로, 연 매출로 하는 게 아니라 그냥 연 평균 환산 매출로 했을 때 그 정도에 도달을 하면 회사의 밸류에이션들을 그냥 300 million 정도를 봐줘요. 300 million 밸류가 얼마냐면 4천억이에요.

한국 기준에서 비교해 보면 두세 배가 아니라 뒤에 공이 하나가 더 붙어 있는 거죠.

드리머와 AI 에이전트 — 창업자의 두 부류

무언가 중후장대하게 꿈꾸는 창업가들이 있고요. 예를 들면 이런 거예요. 지금 Transformer 모델은 잘못됐어. Yann LeCun이 말하는 월드 모델도 이런 문제가 있어. 새로운 모델은 이런 거여야 해라고 하는 그런 꿈꾸는 드리머들.

본인이 이미 Meta에서 5 million, 한국 돈으로 치면 80억이죠. ... 그러던 친구 3명이서 창업을 했으니까 우리 셋이 연봉만 합쳐도 240억인데 회사 valuation이 1천억인 건 make sense 한 거 아니야 라는 게 있고

연봉 5 million의 실체 — base·스톡, 그리고 acqui-hire 회수

그냥 평범한 스타트업의 조금 괜찮은 엔지니어면 한 200K에서 300K, 그러니까 20에서 30만 불을 연봉으로 받거든요.

base salary는 예를 들면 한 8억에서 10억 정도가 실제로 우리가 받는 연봉이고, 나머지 60억에서 70억은 그 높은 회사의 높은 valuation으로 환산한 스톡옵션이긴 해요.

그 수많은 대기업들, enterprise들도 AI로 무언가를 해야 되기 때문에 그들이 그냥 회사를 통째로 이렇게 집어가서 acqui-hire 형태로 안아가는 경우가 꽤 많고

YC 200팀, 1분 데모데이 — 아이템이 아니라 사람을 산다

Y Combinator가 한 배치에 거의 200팀 가까이 뽑으니까 그래서 데모데이 하면 발표 시간이 1분이래요. 하루에 다 끝난대요.

피벗을 하는 거를 Y Combinator에서도 나쁘게 생각하지 않고 그래서 아이템들을 다 돌아가면서 빠르게 iteration 하고 어떤 유저들의 evaluation 지표를 보고 아이템이 중요한 게 아니라 사람을 사는 그런 느낌을 조금 받았습니다.

결국은 아이템보다는 항상 사람 고르기 게임이기 때문에 사람을 훨씬 젊은 사람, 훨씬 똑똑한 사람, 그다음에 실행력이 괜찮은 사람으로 해 놓으면 그냥 다른 것보다 훨씬 승률이 높다는 그런 지표가 있었으니까

젊어지는 VC — 데이터센터·칩·인프라로

벤처캐피탈리스트들 나이도 굉장히 어려요. ... 20대 초반도 많고, 30대들도 많고, 그리고 굉장히 독특한 경력의 벤처캐피탈리스트들이 많아져서 거꾸로 VC를 하겠다는 사람들한테도 굉장히 많은 자본들이 쏟아지고 있는 것 같은 그런 느낌이 들고

몇 개만 샘플로 만나본 벤처캐피탈들은 거의 대부분 데이터 센터나 칩, 그다음에 모델을 오케스트레이션해 주고 inference나 트레이닝을 오케스트레이션해 주는 인프라 소프트웨어, 이런 쪽 영역들에 관심이 집중되고 있어요.

이거 이제 끝났기 때문에 굉장히 보수적으로 봐야 되는 거 아니야라는 것과 정반대의 그런 느낌. 거기도 valuation이 엄청나죠. OpenAI랑 일을 제일 열심히 하고 있는 것 같긴 합니다.

개편의 방향 — 가장 한국적인 게 가장 글로벌하다

한국의 강점 가장 한국적인 게 가장 글로벌한 거다라는 그런 생각을 하고 있거든요.

아직 저는 AI가 만드는 컨슈머 서비스 이 부분이 열리지도 않은 시장이라는 생각이 들거든요. 그리고 그 부분에서 무언가 큰 서비스가 나온다면 저는 한국에서 그 씨앗이 가장 먼저 보일 거라는 생각을 하고 있습니다.

월에 한 번 정도는 데모데이 같은 것을 열어서 한국에 있는 사업이라든지 기술을 글로벌로 소개하는 그런 걸 해야 되겠다. 그래서 Monthly AI Demo Day를 어렵겠지만 영어로만 하는 그런 데모데이를 만들어서