Facta non verba.

메타가 클라우드 하겠다는 뉴스가 나와서 또 한번 시장이 크게 움직이는 것 같은데, 정말 그냥 raw한 짧은 단상 몇개만 남겨보면:1. 우선 xAI가 최근 남는 컴퓨팅 파는 BM이 워킹한다는걸 보여주었고, 여기서 큰 힌트를 얻지 않았을까 싶다. 2. 메타가 AI 사업을 축소한다는 해석을 하는 경우도 많을 것 같은데, 당장은 xAI가 남는 컴퓨팅 판다고 AI 사업을 줄이거나 하진 않는 것 같은데. 심플하게 메타도 본인들 사업이 자리잡기까지는 시간과 노력이 더 필요하니, 그때까지 남는 컴퓨팅을 조금 팔아서 빠듯한 현금흐름을 조금이나마 수월하게 해보겠다는 전략이 아닌지. 3. 내가 장담하는데 AI는 아직 잠재 수요의 1%도 채우지 못했을꺼다. 지금 수준의 모델과 유스케이스만 하더라도 컴퓨팅은 훨씬 더 많이 깔려야한다. 4. 작년 딥시크 사태 때가 떠오른다. 지나고보면 왜 그렇게 무서워했지? 싶었을 순간일 확률이 높다고 본다. 5. 위에까지는 펀더멘탈한 생각이었고, 우선 시장은 (나의 펀더멘탈 해석과는 다르게) 어쨋든 무서워하는게 보인다. 그렇게 생각하기 딱 좋은 뉴스거리인 것도 사실이고. 6. 게다가 최근에는 안그래도 변동성이 극심한걸 보면서 시장이 예전과는 다르다는 생각을 품고 있었는데, 이게 또 하나의 트리거가 되어주면서 당분간은 시장이 쉽지 않을 것 같다는 직감이 든다. 7. 결국 선택지는 1) 주식을 쉬거나 2) 전체 비중을 줄이거나 3) 그냥 가만히 있거나 4) 오히려 기회로 삼고 더 사거나, 이렇게 일텐데, 이건 참으로 어려운 문제다. 8. 아예 뭔가 시장에 새로운 테마가 등장할 가능성도 있다고 보여진다. 안그래도 최근에 토큰 효율의 중요성이 급격히 올라가는 것 같다는 생각을 가지고 있었는데, 메타의 오늘자 뉴스가 이와 함께 해석될 가능성도 있지 않을까 싶은 생각이다. 9. 실제로 지금 당장 몇몇 소프트웨어 기업들은 반등을 하는 모양새인데, (최근 몇 번 당했던 전례에도 불구하고) 다시 한번 잘 살펴봐야하는 시기가 찾아오는 것 같다. https://www.bloomberg.com/news/articles/2026-07-01/meta-is-building-a-cloud-business-to-sell-excess-ai-compute

Visa, Stripe, Mastercard, American Express,The ordering here (Visa → Stripe → Mastercard/AmEx) also feels deliberate.

Introducing Open USD — Link Open Standard’s founding CEO is Zach Abrams, formerly of Bridge (which Stripe acquired). Makes me wonder if the Bridge acquisition was partly about building toward something like OUSD. Reminds me a bit of the old BofA playbook…Circle ❌ (+ Coinbase ✔️)Paxos ❌PayPal ❌We all know what it means (for major issuers).

Introducing Open USD — LinkOpen Standard’s founding CEO is Zach Abrams, formerly of Bridge (which Stripe acquired). Makes me wonder if the Bridge acquisition was partly about building toward something like OUSD.Reminds me a bit of the old BofA playbook — spinning off NBI, which became Visa.Businesses across industries have signed up to use Open USD, including:Visa, Stripe, Mastercard, American Express, Discover, Fiserv, Adyen, Cloudflare, Corpay, Jack Henry, Klarna, Affirm, Ramp, OnePay, Brex, Checkout.com, WEX, PayPay Corporation, Western Union, Nuvei, Remitly, Ria, Marqeta, MoneyGram, Nium, Worldline, Galileo, Highnote, i2C, Lithic, Thredd, Episode Six, Verituity, Félix, Taptap Send, CAL (Israel Credit Cards)BlackRock, BNY, Standard Chartered, Commonwealth Bank of Australia, Sumitomo Mitsui Financial Group, Intercontinental Exchange, National Australia Bank, DBS, U.S. Bank, BBVA, Mizuho Financial Group, Shinhan Financial Group, Westpac, Itaú, OCBC, ANZ, UOB, Chime, Banco Bradesco, Huntington Bank, Citizens Bank, KB Kookmin Card, Emirates NBD, Hanwha Group, Banorte, Bank Hapoalim, FNB South Africa, K Bank, SoFi, Woori Card, Absa, Kakao Bank, Samsung Card, Bank Leumi, Wenia by Grupo Cibest, Nedbank, Isbank, Abu Dhabi Islamic Bank ADIB, Banco de Crédito del Perú, Mashreq, RAK Bank, Hana Card, Hyundai Card, BCcard, Cross River, Grupo Aval, Davivienda, The Bancorp, Pathward, Banca Transilvania, Nonghyup Card, Neo Financial, Maya Bank, Netbank, Freedom Bank Kazakhstan, Lead Bank, Kapital, MAXGoogle, Samsung Electronics, IBM, Shopify, Mercado Libre, Mercado Pago, Infosys, DoorDash, Wix, Grab, Rakuten GroupCoinbase, Tempo, Bybit, Solana, OKX, Ripple, Crypto.com, Fireblocks, Gemini, MetaMask, Aave, eToro, Galaxy, Dunamu, Ledger, MoonPay, Anchorage Digital, Digital Asset, Trust Wallet, Meow, Morpho, Ether.Fi, Lightspark, zerohash, Bitso, Bridge, Rain, BVNK, Mesh, Privy, Bitget Wallet, StraitsX, Yellow Card, Reap, Brale, RedotPay, Immersve, Stellar, Polygon, Aptos Labs, Plas

매번 $400m 정도의 사이즈로 펀드 결성을 해왔던 벤치마크 캐피탈이, 이번주에 $2b 사이즈로 펀드 결성을 했다는 소식이 나왔다. 더이상 작은 사이즈의 펀드로는 AI 시대에서 경쟁이 불가하다고 판단한 것이다. AI가 VC 차원에서의 투자 전략 또한 바꿔놓고 있음을 상징적으로 보여주는 장면이었는데, 이와 관련해서 VC 산업의 위기 의식을 공유한 글이 있어서 아카이브. "(1) 고조기 (1960-1980): 벤처 캐피탈의 새로운 시민 질서가 등장합니다. 1961년 Davis & Rock, 1972년 Sequoia와 Kleiner. 도제 제도, 멱법칙(power law)에 따른 규율, 파트너십 규범, 강력한 기관, 공유된 가치, 집단적 자신감을 바탕으로 자신감 있고 응집력 있는 전문적 장인 정신이 형성됩니다.""(2) 각성기 (1980-2000): 조용한 금융 기술에 불과했던 가치관이 세상을 바꾸는 미션으로 격변하면서, 벤처는 일종의 신앙과도 같은 색채를 띠게 됩니다. 존 도어(John Doerr) 시대의 사명 주도형 전도주의부터 세상을 뒤흔든 PC와 인터넷의 빠른 연속 등장까지. 진정한 영적 격변 속에서 일어난 닷컴 버블과 함께 1970년대의 규율 잡힌 길드(guild) 정신이 과열됩니다.""(3) 해체기 (2000-2020): 사명 주도적이고 창업자 친화적인 세력이 문화 전쟁에서 승리하며 주도권을 쥐었고, 중앙집권화된 표준들을 해체했습니다. a16z는 2009년에 설립되어 플랫폼 모델로 기존의 파트너십 모델을 산산조각 냈고, YC는 시드 투자를 산업화했습니다. 단일하고 응집력 있던 길드 문화는 수천 개의 다양한 브랜드, 전략, 성향으로 파편화되었습니다. 1인 GP처럼 개인주의가 강화되고 나쁜 행동이 만연하는 등 공유 규범은 약화되었습니다.""(4) 위기기 (2020-2040?): 파편화되고 개인화된 질서가 무너집니다. 코로나19가 도화선이었을 수 있지만, 2022년의 금리 충격이 이를 악화시켰고, 우리는 SVB의 붕괴와 Tiger, SoftBank 등으로부터 비롯된 2021년 빈티지의 오버행(overhang)을 목격했습니다. 숨 막히는 분모 효과(denominator effect), 좀비 펀드, 자본 집중. 위기가 새로운 세계 질서를 구축하면서 모든 재탄생의 촉매제 역할을 합니다. 그렇다면 우리의 위기는 무엇일까요? 바로 AI 슈퍼사이클(AI Supercycle)입니다. 기업들은 자본이 더 필요할까요, 아니면 덜 필요할까요? 자본의 형태는 바벨(barbell)형일까요, 아니면 연속적인 스펙트럼일까요?""실질적인 엑싯의 부재는 벤처의 광범위한 모델을 무너뜨리고 있습니다. 엑싯이 이뤄지지 않기 때문에, 펀드 구조 자체를 허물고 컨티뉴에이션 펀드, NAV 대출, 공개 매수, GP 주도 세컨더리 등 금융 공학을 동원해 재건하고 있습니다. 그 결과, LP의 72%가 VC 할당 비중을 줄이고 있다고 보고합니다.""벤치마크 캐피탈이 펀드 규모를 늘린 이유는 변화하는 환경을 인정한 것입니다. 더 큰 회사들은 더 큰 기대감을 가지고 더 큰 규모의 투자를 유치합니다. 그 판에서 경쟁하려면 함께 뛰어들 자본이 있어야만 합니다. 장기적으로 게임의 룰이 변하고 있는가의 문제입니다. 단기적으로는 확실히 그렇습니다. 2026년 1분기에 AI 기업들은 미국 전체 벤처 자본의 81%를 흡수했으며, 이는 1년 전의 55%에서 급증한 수치입니다. 막대한 자본 유입은 벤치마크 같은 이들을 밀어냈고, 그들은 오픈AI, 앤스로픽 등 어떤 파운데이션 모델 기업에도 투자하지 못했습니다."https://investing101.substack.com/p/venture-capitals-fourth-turning

5월 30일, 카카오 AI 캠퍼스에서 'OBA 위켄드톤'이 열렸습니다. 창업자 48명, 30여 개 팀이 모여 1박 2일간 제품을 만들었습니다.AI로 패러다임이 바뀌었습니다. 이제 좁은 시장 안에서 우리끼리 싸우는 건 의미가 없습니다. 글로벌과 경쟁하려면 힘을 합쳐 시장 크기부터 키워야 하고, 그러려면 닫혀 있던 기술 생태계가 먼저 열려야 했습니다.누군가는 이 문제의식을 꺼내야 했습니다. 해시드가 얼라이언스를 제안하며 판을 깔자 시장이 반응했습니다. 넥슨, LG유플러스, GS네오텍 등이 자사 API와 자산을 빌더들에게 내줬고, OpenAI도 스폰서로 참여했습니다.당장 돈이 되지 않더라도 해야 할 일입니다. 영리한 계산이 깔려있을지라도, 우리끼리 싸우지 말고 판을 키우자며 먼저 문을 열어젖히는 액션에는 분명히 리스펙트할 만한 진정성이 있습니다. 해시드의 제작 지원을 통해 함께 제작하였습니다. 이런 이벤트들이 더 많이 소개되고, 한국에 더 많아지길 기대하는 마음입니다.5월 30일, 카카오 AI 캠퍼스에서 'OBA 위켄드톤'이 열렸습니다. 창업자 48명, 30여 개 팀이 모여 1박 2일간 제품을 만들었습니다.AI로 패러다임이 바뀌었습니다. 이제 좁은 시장 안에서 우리끼리 싸우는 건 의미가 없습니다. 글로벌과 경쟁하려면 힘을 합쳐 시장 크기부터 키워야 하고, 그러려면 닫혀 있던 기술 생태계가 먼저 열려야 했습니다.누군가는 이 문제의식을 꺼내야 했습니다. 해시드가 얼라이언스를 제안하며 판을 깔자 시장이 반응했습니다. 넥슨, LG유플러스, GS네오텍 등이 자사 API와 자산을 빌더들에게 내줬고, OpenAI도 스폰서로 참여했습니다.당장 돈이 되지 않더라도 해야 할 일입니다. 영리한 계산이 깔려있을지라도, 우리끼리 싸우지 말고 판을 키우자며 먼저 문을 열어젖히는 액션에는 분명히 리스펙트할 만한 진정성이 있습니다. 해시드의 제작 지원을 통해 함께 제작하였습니다. 이런 이벤트들이 더 많이 소개되고, 한국에 더 많아지길 기대하는 마음입니다.

여러 테크 사이클을 경험해본 게빈 베이커가 계속해서 '전례 없음'을 외치고 있다. "크게 보면, 하락장에는 두 가지 종류가 있습니다. 자신이 틀렸거나, 기업이 기대치를 밑돌았거나, 가설이 무효화되어 쓴약을 삼키고 손실을 확정해야 하는 하락장이 있습니다. 그리고 자신이 정말 잘 아는 기업들 때문에 성과가 부진하지만, 가격 흐름에는 깊이 동의하지 않아서 오히려 공격적으로 투자할 수 있는 하락장이나 실적 부진의 시기가 있습니다. 마이너스 성과를 확정하는 대신, 잠재된 초과 수익과 미래 성과를 쌓아가는 거죠.""저에게는 3월이 바로 그런 느낌이었습니다. 나스닥은 매도세였지만, 동시에 AI 분야에서 벌어지고 있는 일은 자본주의 역사상, 미국 비즈니스 역사상 가장 경이로운 순간이었습니다. 제 말의 뜻은, 앤스로픽이 연간반복매출(ARR) 110억 달러를 추가했다는 것입니다. 이게 왜 놀랍냐면, SaaS와 클라우드 혁명은 대략 5조에서 10조 달러 사이의 가치를 창출했습니다. 지난 10~12년간 가장 널리 알려진 3대 SaaS 기업을 꼽으라면 팔란티어, 스노우플레이크, 데이터브릭스일 겁니다. 이 3개 기업은 각각 수천 명, 합치면 수만 명을 고용하고 있습니다. 이들은 비즈니스를 구축하는 데 10년이 걸렸는데, 앤스로픽은 이 3개 기업의 비즈니스를 합친 규모를 단 한 달 만에 추가한 겁니다.""이런 일은 자본주의 역사상 단 한 번도 일어난 적이 없습니다. 제 커리어는 차치하고라도, 자본주의나 비즈니스의 역사 전체를 통틀어서도요. 정말 미친 일이죠.""우리 같은 기술 투자자들은 S-커브나 기하급수적 성장에 투자하는 것에 대한 논의를 많이 듣습니다. 하지만 전 이런 기하급수적 성장은 본 적이 없습니다. 딥시크 때보다 훨씬 더 극단적으로 느껴졌어요. 딥시크 사태도 이와 매우 비슷한 상황이었고, 거의 비슷한 시기에 일어났죠.""2025년으로 돌아가 보면, 딥시크로 인한 거대한 매도세가 있었는데, 이건 매우 이상한 일이었습니다. 논문이 '딥시크 먼데이(DeepSeek Monday)' 7일 전에 발표됐거든요. 제 기억으로는 미국 휴일이었던 월요일에 발표됐을 겁니다. 제가 그걸 읽고 "음, 이건 AI 투자에 그렇게 긍정적으로 해석되지 않을 수도 있겠는데"라고 생각했습니다. 그래서 조치를 취했고, 일주일 뒤에 AI 주가 폭락한 딥시크 먼데이가 왔죠.""그게 정말 이상했던 이유는, 딥시크 먼데이쯤에는 이것이 컴퓨팅 수요에 있어 역사상 가장 긍정적인 일이 될 것이라는 게 매우 명백했기 때문입니다. 아시아의 AWS 가용 영역 내 가격은 이미 두 배로 뛰었습니다. GPU 가용성은 떨어지고 있었고요. 이는 추론(inference) 과정에서 추론 모델(reasoning models)이 비추론 모델보다 컴퓨팅 자원을 얼마나 더 많이 소비하는지를 우리가 처음 목격한 순간이었습니다.""그래서 비슷한 상황이었던 겁니다. 그걸 파악하려면 약간의 분석이 필요했죠. "오 이런, 주식이 매도되고 있고, D램 가격이 수직 상승하고 있으며, 아시아의 GPU 가격이 수직 상승하고, GPU 가용성은 떨어지고 있구나."라고 판단하는 게 그리 어려운 일은 아닙니다. 그러고 나서 이틀이나 사흘 뒤, 미국의 GPU 대여 가격도 오르기 시작했죠. 3월에 여러분이 했어야 할 일은 그저 앤스로픽에 무슨 일이 일어나고 있는지 관찰하는 것뿐이었습니다. 2022년에 사지 않은 것, 코로나 때 사지 않은 것, 딥시크 때 사지 않은 것을 후회하는 사람들이 참 많습니다. 4월 초에도 똑같은 밸류에이션 상황이 주어졌고, AI의 변곡점은 더욱 명확해졌습니다. 이처럼 AI에 투자할 기회는 계속 있었습니다."https://colossus.com/episode/watts-and-wafers/

기본소득 이전에, 기본AI: 나누기 전에 만들 수 있어야 한다얼마 전 한 개발 특성화고 졸업생과 이야기를 나누다 들은 말이 마음에 오래 남았다. 학생들 상당수가 프론티어 모델 구독 계정을 제대로 쓰지 못한다는 것이다. 누구는 부모가 결제해준 Claude와 Codex로 과제를 수행하고, 누구는 무료 모델의 좁은 한도 안에서 같은 과제와 씨름한다. 학교는 같고, 책상은 같고, 와이파이도 같다. 다른 건 옆에 어떤 도구가 켜져 있느냐다. 개발자가 되겠다고 같은 학교에 들어온 아이들 사이에서 출발선이 갈리고 있다는 이야기였다.이 이원화는 그 교실만의 일이 아니다. 대학 강의실, 자카르타의 부트캠프, 라고스의 직업학교, 그리고 마흔에 진로를 바꾸려는 사람의 노트북 앞에서 동시에 벌어지고 있다. 한쪽은 검색창과 무료 모델로 과제를 푼다. 에러 메시지를 복사하고, 유튜브 강의를 멈춰가며 따라 친다. 다른 한쪽은 프론티어 모델을를 켠다. 이 도구들은 더 이상 설명만 해주는 조교가 아니다. 저장소를 읽고, 파일을 고치고, 테스트를 돌리고, 실패 로그를 보고 다시 수정한다. 이슈를 맡기면 PR까지 만들어 온다. 같은 과제를 받았지만, 한쪽은 혼자 일하고 다른 한쪽은 동료 몇 명을 옆에 앉혀놓고 시작하는 셈이다.에이전트형 도구를 활용한 생산성의 차이는 극명하다. 수 주가 걸리던 프로토타입을 몇 시간 만에 만들고, 혼자서는 손도 못 댔을 규모의 코드를 주말 안에 굴린다. 현업 개발자에게서 2배, 3배의 생산성 향상은 흔한 이야기가 되었고, 초보자에게서는 그 배수가 더 크다. 0과 1의 차이이기 때문이다. 혼자라면 시작조차 못 했을 일을, AI와 함께라면 일단 돌아가게 만든다. 이건 더 이상 컴퓨터공학과만의 풍경이 아니다. 마케터가 데이터 대시보드를 코드로 만들고, 변호사가 계약서 검토 스크립트를 짜고, 의사가 환자 데이터 분석 도구를 직접 돌리고, 디자이너가 인터랙티브 프로토타입을 코드로 뽑는다. 코딩은 직업이 아니라 문해력이 되어가고 있다. AI 코딩 도구의 가격은 그래서 개발자 보조 도구의 가격이 아니다. 21세기의 새로운 글쓰기 도구 가격이다.작년까지만 해도 노트북과 인터넷만 있으면 어떻게든 배울 수 있다는 믿음이 있었다. 영어, 장비, 멘토의 격차는 늘 있었지만, 공개된 지식을 뒤지며 실력을 쌓는 길은 열려 있었다. 인도의 시골 학생이 MIT 강의를 듣고 실리콘밸리에 입사하는 서사가 가능했던 이유다.AI는 이 믿음을 흔든다. 예전 교육은 언어를 배우는 일에 가까웠다. 변수, 조건문, 함수를 익히고 자기 문장을 쓰는 식이었다. 이제는 문법을 다 모르는 학생 옆에 통역사이자 공동 작업자가 앉아 있다. 학생은 빈 파일 앞에서 시작하지 않는다. 이미 움직이는 무언가 앞에서 시작한다. 초보자에게 가장 어려운 것은 문법이 아니라 내가 무엇을 모르는지 모른다는 점이다. 좋은 AI 도구는 그 막막함을 대신 통과해준다. 같은 시간 안에 누가 더 많이 시도하고, 더 빨리 실패하고, 더 빨리 다시 고치는가. 격차는 이 지점에서 벌어진다.그래서 가격 문제가 날카로워진다. 그리고 한 가지 분명히 해야 한다. 월 20달러짜리 입문 구독으로 진짜 개발을 하기는 어렵다. 에이전트가 저장소 전체를 읽고, 여러 파일을 동시에 수정하고, 테스트를 반복해 돌리려면 토큰이 빠르게 소진된다. 입문 구독은 챗봇으로 질문 몇 번 던지기에 적당한 양이지, 실제 프로젝트를 며칠씩 굴리기에는 턱없이 부족하다. 진짜 생산자가 쓰는 도구는 Claude Max나 ChatGPT Pro 같은 월 100~200달러대의 상위 요금제다. 여기에 주요 API 호출 비용까지 더하면 한 달 30만 원이 우습게 나간다. 학생에게는 한 달 용돈을 통째로 넘기는 액수다.그리고 이 가격은 전 세계 어디서나 똑같다. 월 200달러는 미국 학생에게는 무리해서 한 번 결제해볼 만한 액수, 한국 대학생에게는 월세의 일부, 인도네시아 청년에게는 한 달 임금에 가까운 돈, 사하라 이남 아프리카의 많은 청년에게는 몇 달치 임금이다. 일을 해서 벌어들이는 돈보다, 일을 더 잘하기 위한 도구의 가격이 더 비싼 곳이 적

AI 네이티브 회사 입사 후기. 복리가 붙기 시작하면 시간이 지날수록 격차가 벌어진다. 따라잡을 수 없다. AX가 아니라 AI-native다.<번역> AI-native 기업에 입사했다. 이전 회사들과는 차원이 다르다.노트북을 받고 로그인한 순간부터 회사의 AI 에이전트가 전면에 나선다. 개발 환경 세팅, 레포지토리 클론, 의존성 해결, 권한 승인, 백로그 안내, 아키텍처 문서 정리까지 전부 에이전트의 몫이다. 심지어 프로덕션을 건드리기 전 반드시 읽어야 할 슬랙(Slack)의 과거 논의까지 알아서 눈앞에 띄워준다.잘 모르는 것을 물어보면 몇 달 전 결정의 배경이 된 정확한 대화 기록을 찾아낸다. 당시 담당자가 누구였는지, 어떤 문제가 있었고 어떻게 수정되었는지 모든 전후 사정이 실시간으로 연결된다. 여기저기 흩어져 있던 회사의 기록이 하나의 선으로 이어지는 경험이다.출근한 지 고작 3일째다. 하지만 이미 1년은 일한 것 같은 감각이다. 새로 입사했을 때 겪어야 했던 정보 탐색의 피로, 즉 '업무 배경지식을 찾으러 다니는 불필요한 일' 자체가 완전히 사라졌기 때문이다.이 과정을 더 이상 일반적인 '신입 사원 적응(온보딩)'이라 부를 수 없다. 컴퓨터에 외장하드를 연결하듯 내 뇌를 회사 시스템에 꽂는 '마운팅(Mounting)'이 맞다. 몇 달 동안 업무 배경을 천천히 주입받는 것이 아니다. '회사의 모든 기억'이라는 거대한 파일 시스템을 내 뇌에 그대로 연결하는 일이다.

🦞 Ralphthon @ Singapore — Sponsored by OpenAICo-hosts: Team Attention × HashedPartners: 65labs, Superteam SG, Meteora, Network School, AER LabsAI agents hack. You don’t.You write the spec, spin up your agent, then close your laptop.From there — it ships.Want to touch your laptop again?Put on the lobster costume first. 🦞No slides. Live demos only.Frontier AI only — if it was possible 6 months ago, it doesn’t belong.Started in Seoul (overnight) → scaled to SF (150+ builders)Past standouts: Ouroboros, Oh My Codex🏆 $10K Grand Prize💼 $5K Impact Track🛠 $5K Harness TrackOpenAI credits & 6mo ChatGPT Pro📅 May 17 · 9AM–8PM (IRL)10:30 start → 12:30 agents autonomous16:30 submit → 18:30 finals → afterpartyTeams of 1–4 · In-person · Application requiredBring a power strip 🔌👉 Apply: https://luma.com/4hx7p0vs

작년까지의 '답변 추론'과 올해부터 열린 '에이전트 추론'은 분명 구분할 필요가 있다. 컴퓨팅 스택의 우선순위들이 바뀌고 있기 때문이다. 즉, 에이전트 추론에서는 속도보다 기억, 상태, 문맥, 작업 이력, 데이터 접근성이 더욱 중요해지기 때문에 초고속 연산이 아니라 메모리 계층 구조를 얼마나 싸고 크게, 그리고 실용적으로 구성하느냐가 핵심이라는 이야기. "저는 이전 글인 'Agents Over Bubbles' 등을 통해 우리가 LLM 시대에서 세 가지 변곡점을 겪었다고 주장한 바 있습니다."- ChatGPT는 토큰 예측의 유용성을 증명했습니다.- o1은 더 많은 토큰이 더 나은 답변을 의미하는 추론(reasoning)의 개념을 도입했습니다.- Opus 4.5와 Claude Code는 추론 모델과 도구 사용, 작업 검증 등을 활용하는 구조(harness)의 결합을 통해, 실제로 작업을 수행할 수 있는 최초의 사용 가능한 에이전트를 선보였습니다."이 모든 것은 '추론'이라는 범주에 속하지만, 단순한 답변을 제공하는 '답변 추론(answer inference)'과 실제 작업을 수행하는 '에이전트 추론(agentic inference)' 사이의 차이는 점점 더 명확해질 것이라 생각합니다. 세레브라스의 타겟 시장은 '답변 추론'입니다. 하지만 장기적으로 볼 때 '에이전트 추론'을 위한 아키텍처는 세레브라스의 방식뿐만 아니라 기존 GPU의 방식과도 크게 다를 것입니다.""앞서 코딩을 위한 빠른 추론이 일시적인 사용 사례라고 언급했습니다. 구체적으로, LLM을 활용한 코딩은 작업 루프에 인간이 개입해야 합니다. 코딩할 내용을 정의하고, 작업을 확인하고, 풀 리퀘스트를 커밋하는 주체는 인간입니다. 하지만 머지않아 이 모든 과정이 기계에 의해 완전히 처리되는 미래를 상상하는 것은 어렵지 않습니다. 이는 에이전트 작업 전반에 적용될 것입니다. 에이전트의 진정한 힘은 인간을 위해 일한다는 것이 아니라, 인간의 개입 없이 스스로 작업을 수행한다는 데 있을 것입니다.""이는 결국 에이전트 추론을 해결하기 위한 최선의 접근 방식이 답변 추론과 크게 다를 것임을 의미합니다. 답변 추론에서 가장 중요한 요소는 토큰 속도지만, 에이전트 추론에서 가장 중요한 요소는 메모리입니다. 에이전트는 컨텍스트, 상태, 그리고 기록을 필요로 합니다. 그중 일부는 활성 상태의 KV 캐시에, 일부는 호스트 메모리나 SSD에, 그리고 상당 부분은 데이터베이스, 로그, 임베딩, 객체 저장소에 저장될 것입니다. 중요한 점은 에이전트 추론이 단순한 질문에 답하는 GPU 연산보다 모델을 감싸고 있는 메모리 계층 구조(memory hierarchy)에 더 많이 의존하게 될 것이라는 사실입니다.""결정적으로, 에이전트 특화 메모리 계층 구조에 대한 이러한 패러다임은 용량을 확보하기 위해 속도를 필연적으로 희생해야 함을 암시합니다. 하지만 인간이 루프에 개입하지 않는다면 느린 속도는 생각보다 중요한 고려 사항이 아닙니다. 에이전트가 밤새 실행될 작업을 기다리고 있다면, 사용자 경험에 미치는 영향은 알지도 못하고 신경 쓰지도 않을 것입니다. 가장 중요한 것은 작업을 완수할 수 있는가 하는 점이며, 완전히 새로운 방식의 메모리를 통해 그것이 가능해진다면 약간의 지연은 문제가 되지 않습니다.""지연이 괜찮다면, 순수 컴퓨팅 성능과 고대역폭 메모리에만 집중하는 것은 상황에 맞지 않아 보입니다. 대기 시간(latency)이 최우선 순위가 아니라면, 기존의 DRAM과 같이 더 느리고 저렴한 메모리가 훨씬 더 합리적입니다. 전체 시스템이 대부분 메모리를 기다리는 상황이라면 칩 역시 최첨단으로 빠를 필요가 없습니다. 이는 미래 아키텍처의 근본적인 변화를 의미하지만, 그렇다고 현재 아키텍처가 사라진다는 뜻은 아닙니다."- 훈련은 계속해서 중요할 것이며, 고속 컴퓨팅, 대용량 고대역폭 메모리, 고속 네트워킹을 포함한 엔비디아의 현재 아키텍처는 앞으로도 시장을 지배할 가능성이 높습니다.- 답변 추론은 상대적으로 규모는 작겠지만 의미 있는 시장으로 남을 것이며, 세레브라스나 Groq 같은 칩의 속