팔란티어 AIPCon 11

믿기 어렵겠지만, 실리콘밸리 엔지니어들이 이제는 자신들이 얼마나 많은 AI 토큰을 사용하는지에 따라 평가받고 있습니다. 문제는 무엇일까요? 그렇게 되면 전체 AI 수요가 부풀려질 수 있다는 점입니다. 오늘 밤 이 내용은 디어드리 보사가 더 자세히 전해드리겠습니다.

그리고 기업은, 진정한 미국의 기업은 이 지구상에서 가장 폭넓게 지적인, 진정한 사람들에 의해 운영됩니다.

저는 제품을 보겠고, 스테이크 저녁 식사에는 눈을 돌리지 않겠습니다. 저는 식당에 앉아 있다가 ‘왜 음식이 이렇게 맛있지?’라고 생각하곤 합니다. 그건 웨이터가 음식에 대해 전문가이고, 마지막까지 음식 준비 과정을 책임지고 챙기기 때문입니다. 그리고 식당을 망가뜨릴 정도로 말도 안 되고 어리석은 걸 요구하면, 그쪽 가서 하라고 합니다. 저희는 최고의 엔지니어들을 보유하고 있으며, 탁월함이라는 기준 외에는 어떤 변수에도 좌우되지 않도록 독립적으로 인재를 채용했습니다. 저희는 기업 환경에서 옳고 바람직한 방향, 그리고 실제로 효과적으로 작동하는 방식에 완전히 정렬되어 있습니다.

꽤 화난 것처럼 들리네요. 아니요, 이건 미국 비즈니스의 목소리입니다.

팔란티어의 공동 창업자이자 최고경영자(CEO)인 닥터를 환영해 주시기 바랍니다. 알렉스 카프입니다. 안녕하세요. 아, 정말 제가 나오는 걸 보는 건 싫지만, 그래도 이제는 익숙해져야 할 것 같네요.

여기 와 주신 여러분께 감사드리며, 오늘 청중석에는 오랜 기간 함께해 주신 친구분들도 많이 계십니다. 여기에는 개인투자자 대표분도 계시고, 여러 해 동안 저희와 함께 일해 온 정말 많은 분들이 와 계십니다. 오래전부터 쭉 함께해 온 팔란티어 구성원들도 많이 계십니다. 그리고 아시다시피 혁명이라고 하면 보통 우리는 섹스, 마약, 그리고 록앤롤을 떠올리곤 합니다. 그리고 그런 것들이 세상을 어떻게 바꾸는지에 대해서요. 그리고 대부분의 혁명은 사실, 처음에는 다소 결함이 있는 아이디어 같은 것에서 출발해 점차 결함이 줄어든 아이디어로 발전하고, 결국에는 세상을 바꾸게 됩니다. 우리가 어떻게 헌법을 갖게 됐는지 보시고, 실리콘밸리가 어떻게 만들어졌는지도 보시고, 미국이 어떻게 세워졌는지, 그리고 다른 위대한 문명들이 어떻게 세워졌는지도 살펴보십시오. 그리고 우리는 또 관련된 사람들 모두가 그랬을 거라고 생각하죠. 예를 들면 제 부모님도 온갖 일에 항의하는 데 참여하셨고, 시민권 운동에도 참여하셨는데, 실제로 그걸 해보면 아주아주 큰 차이로 이어지는 건 대부분 정말 작은 변화들이 축적된 결과라는 겁니다. 그리고 그런 아이디어를 중심으로 인재들이 모이면서 그 역량의 강도가 복리처럼 계속 누적됩니다. 그래서 지금도 미국과 실리콘밸리가 전 세계에서 실제로 기능하고 유용하며 복리처럼 계속 축적되는 인재의 밀도가 가장 높다는 것이죠.

그리고 사실 그건, 제가 다녔던 스탠퍼드라는 학교와 함께 미국 산업계와 미국 정부가 문제 해결에 나섰던 일이었는데, 당시에는 그 학교가 대체로 2류로 여겨지던 곳이었습니다. 저는 속으로 ‘아, 그래. 그렇게 2류라면 라틴어랑 그리스어만 배우는 데서 벗어나서 실제 문제 몇 가지를 해결할 수도 있겠네. 그래, 우리가 전통적인 학문을 하는 건 아니지만, 대신 회사를 만들고 있잖아’라고 생각했습니다. 그리고 그런 정신 말입니다. 그리고 AI 혁명을 보면, 사실 NLP 같은 것들로 아주 오래전부터 초기 형태로 시작되었지만 그때는 이런 것들이 제대로 작동하지 않았고, ‘전방 배치 엔지니어’라는 개념도 프랑스에서 음식이 더 맛있게 느껴졌던 이유를 관찰하면서 그대로 가져온 측면이 있습니다. 본질적으로 웨이터가 전방에 배치되어 있었기 때문인데, 즉 자기 일이 무엇인지에 대한 전문가였고, 제품을 이해했으며, 파트너나 고객의 식사하는 사람들의 필요에 맞춰서만 제품을 바꾸되, 돈을 얼마나 주든 푸아그라 위에 옥수수 시럽을 붓는 일 같은 건 절대 하지 않았다는 뜻입니다. 그리고 그런 점은 팔란티어에서도 중요합니다. 저희는 헛소리 같은 건 만들지 않을 겁니다. 그리고 사실 저희가 헛소리 같은 걸 만들지 않겠다는 건, 예를 들어 누군가가—처음에 미국에서 이런 일이 있었는데요— 정부를 상대로 결국 미국 정부를 상대로 소송을 제기해야 했습니다. 그건 꽤 잘 알려진 일입니다.

그런데 저희가 미국 정부를 상대로 소송을 제기해야 했던 주된 이유는 미국 정부를 상대로 소송을 제기해야 했던 또 다른 이유는, 전쟁터에 대해서는 저도 많이 아시리라 확신하지만, 당시 저희에게 전임 장군이 있었는데 기술에 대해서는 잘 알지 못했다는 점입니다. 그는 마치 “나한테 이 말도 안 되는 외계인 반중력 장치를 만들어 와라. 그리고 내가 얼마나 대단한지도 알려주는 걸로.”라고 말하는 듯했습니다. 그리고 전방에 배치돼 있던 저희 엔지니어 한 명이 그 장군에게 말 그대로 “하지만 당신은 본인이 얼마나 멍청한지 알 만큼 똑똑하지도 않습니다.”라고 말했습니다. 물론, 원래는 그러면 안 되는 일이었지만, 그건 정말, 정말 중요한 일이었습니다. 그리고 나서 지금의 AI 혁명에서 어떤 일이 벌어졌는지 보면, 처음에는 “아, 이게 현실이 됐네” 하는 수준에서 시작해서, 거대 언어 모델이 정말로 매우 중요한 일들을 해낼 수 있게 됐습니다. 물론, 정밀도는 부족했습니다. 그리고 물론, 애플리케이션 계층에서는 사실 제대로 작동하지 않았습니다. 하지만 ‘그래도 뭔가 변화가 일어나고 있고, 맞아요, 토큰에 너무 많은 비용을 지불하고 있습니다’라고 말하려는 의지는 있었습니다. 그리고 기밀(클래시파이드) 환경에서는 애초에 불가능했던 경우를 제외하면, 우리 모든 사업에서 알파가 빠져나가고 있었다는 점에 충분히 주의를 기울이지도 않았습니다. 그래서 저희는 모델이 정밀해지도록 해서 모델이 제대로 작동하게 만드는 방법에 대해 많은 것을 알고 있었습니다.

이 부분은 테드가 설명하겠지만, 핵심은 안전성을 기반으로 한 정밀도라는 점입니다. 그러니까 유용성 자체가 이미 큰 장애물이었고, 전방 배치 엔지니어들이 온톨로지를 다시 구축하고 포스트 트레이닝 모델을 찾아내는 작업이 필요했는데요. 또 아시다시피 이에 대해 프랑스어로는 실제로 훨씬 더 노골적인 표현들이 수없이 많았습니다. 예를 들면, ‘보호장치 없이 여러 행위를 감당할 여유는 없다’ 같은 식이죠. 하지만 애플리케이션 레이어 없이는 이런 모델들을 사용할 수 없습니다. 그리고 그 점이 아주 분명해졌습니다. 그런데 최근 들어 분명해진 점이 하나 있었는데요. 여기 NVIDIA와 시스코 등에서 오셔서 포스트 트레이닝에 대해 말씀하실 분들도 계시지만, 문란한 것으로 알려져 있고 여러분의 가치를 가져가 다른 사람들에게 넘기는 것으로 알려진 누군가와의 무작위한 접촉이 가져올 위험에 굳이 여러분 자신을 노출할 필요는 없다는 것이었습니다. 프런티어 모델이나 파인튜닝된 오픈 웨이트 모델을 활용해 자체 모델을 구축하시면, 엔터프라이즈 내에서 여러분의 스택이 만들어내는 가치를 전부 내부에 축적하실 수 있습니다. 실제로 현재 여러 환경에서 이를 사용하고 있으며, 특히 흥미로운 기밀 환경에서는 안전성 우려가 없는 애플리케이션 레이어를 통해 알파를 여러분이 통제할 수 있기 때문에, 프런티어 모델보다 더 뛰어난 성능의 모델을 더 낮은 비용으로 쓰면서도 모든 이점을 누리고 있습니다.

그게 뭐냐고요? 바로 그것이 지금 판도를 바꾸고 있는 혁명입니다. 이는 미국만의 이야기가 아니라 전반적으로 변화시키고 있지만, 특히 미국의 환경을 지배하고 있는 이유는 미국을 특별하게 만드는 것이 바로 제가 매우 자랑스럽게 대표하고 있는 ‘신경다양성 괴짜 집단’이기 때문입니다. 저희는 창의성과 기발한 발상, 그리고 지식을 비즈니스에 가져오며, 또한 이러한 것들이 현실이라는 냉정함과 자각도 함께 가져옵니다. 이 나라에서 저희는 휴가가 오기만을 기다리며 느긋하게 빈둥거리고 있는 게 아닙니다. 비즈니스에서 그런 식으로는 누구도 살아남지 못합니다. 그렇게 하면 대체되고, 완전히 경쟁에서 밀려 사라진 뒤, 결국 집으로 돌아가 다른 일을 하게 될 겁니다. 저희는 저희가 하는 일을 수행하는 데 매우 전문화된 방식이 있는, 역동적인 환경에 있습니다. 저희는 이들을 보완하고 보호하며, 더 정밀하게 만들고, 더 안전하게 만들어야 합니다. 그리고 전장에서의 적이든 삶에서의 경쟁자든, 그들이 할 수 없는 일을 우리가 왜 하는지 그 이유를 정확히 알게 해서는 절대 안 됩니다. 그리고 그 시스템들은 대규모로 운영되고 있습니다. 예를 들어 엔비디아는 전 세계에서 가장 복잡한 공급망을 갖고 있습니다. 그들의 공급망은, 그리고 우리는 전 세계 곳곳의 전장에 있습니다. 그들의 공급망은 대부분의 기업은 물론 많은 국가들의 공급망보다도 더 복잡합니다. 그리고 그 공급망이 제대로 작동해야 합니다. 그렇지 않으면 우리가 이 나라에서 만드는 것들 가운데 상당수는 전 세계로 출하되지도 못하고, 전 세계가 제대로 돌아가지 않을 것입니다.

그리고 흥미롭게도, 네, 그것은 하나의 혁명입니다. 저희가 섹스나 마약을 하는 건 아니지만, 록앤롤은 하고 있습니다. 그리고 그게 말 그대로 지금 벌어지고 있는 일입니다. 그리고 그런 모습이 저희 회사에서 보이고 있습니다. 그리고 제가 또 매우 자랑스럽게 생각하는 점은, 이 주권 중심의 집중이 여러 가지를 해내지만, 서방을 돕는 데 초점을 맞추는 것과 마찬가지로 저희가 같은 방향으로 정렬되어 있기 때문에 결국 최고의 비즈니스 파트너들을 얻게 된다는 것입니다. 저희는 여러분과 같은 방향으로 정렬되어 있고, 그 결과 그들의 비즈니스와 같은 방향으로 정렬된 비즈니스 담당자, 엔지니어, IT 담당자들을 함께하게 됩니다. 그리고 그런 점이 정말 대단한 이유는, 이런 일들을 해내는 과정 자체가 훨씬 더 즐겁기 때문입니다. 그리고 승리를 거두고 같은 방향으로 정렬되면, 결국 세계 최고의 사람들과 함께 일하게 되고 아이디어를 서로 나누게 되며, 저희는 자부심을 가지고 파트너로 협업하며 함께 공유합니다. 저희는 가치를 창출한 뒤에 그에 대한 대가를 받는 비즈니스를 하고 있습니다. 저희는 그것이 가치 있다고 여러분을 설득하는 비즈니스를 하는 것도 아니고, 스테이크 저녁을 대접하는 것도 아니며, 여러분의 알파를 가져가는 비즈니스를 하는 것도 아닙니다. 그리고 그 일을 하지 않는 이유 중 하나는, 그게 비도덕적이라는 점은 말할 것도 없고, 실제로 작동하지도 않으며 저희에게도 통하지 않기 때문입니다. 또한 재미도 덜하고, 결국 반쯤은 멍청한 사람들만 남게 됩니다.

그건 재미가 없습니다. 그리고 그렇게 해야 결국 여러분처럼, 세상에서 가장 훌륭한 파트너들과 함께하게 됩니다. 그리고 이걸 지켜보고 계신 많은 분들, 그리고 세상에서 가장 뛰어난 투자자 여러분도 마찬가지입니다. 저희는 DPO를 했고요. 그런데 참고로, 여러분에게 투자하지 말라고 했던 온갖 헛소리 전문가들, 아무것도 모르는 그 전문가들은 다 쳐냈습니다. 살면서 그런 분들을 많이 만나기란 쉽지 않습니다. 그것도 정말 좋습니다. 그러면, 환영합니다. 저희는 아주 즐겁게 진행하고 있습니다. 저희 사업을, 아시다시피 훨씬 더 큰 규모로 키우고 파트너들과 함께, 그리고 파트너들을 통해 확장해 나가는 것입니다. 그리고 이렇게 함께해 주셔서 정말 기쁩니다. 네, 그리고 음악은 계속 이어가죠. 잘 지내세요. 안녕히 계세요. NVIDIA 솔루션 아키텍처 시니어 디렉터인 알렉스 니퍼스를 환영해 주시기 바랍니다.

감사합니다. 감사합니다. 세상은 컴퓨팅 자원의 부족으로 제약을 받고 있습니다.

NVIDIA는 당사의 공급망이 웨이퍼에서 시작해 첫 번째 토큰이 생성되는 지점에서 끝난다고 보고 있습니다. 그리고 현재 당사 제품에 대한 수요가 전례 없이 높습니다. 이는 아마도 이 자리에 계신 모든 분들의 AI 워크로드를 구동하고 있습니다. 그리고 저희가 가진 질문은, 여러분과 여러분의 끝을 모르는 수요를 어떻게 따라잡을 수 있느냐는 것입니다. 이를 위해 엔비디아는 제약 요인을 파악해 전 세계에서 가장 탄탄한 공급망을 구축할 수 있도록 전례 없는 수준의 가시성이 필요합니다. 저희는 신뢰할 수 있는 AI 인프라 공급망을 유지해야 합니다. 이것은 그레이스 블랙웰 NVL72입니다. 이는 전 세계에 분산된 수천 개의 공급업체로부터 공급되는 수백만 개의 부품으로 구성되어 있습니다. 알고 계시든 아니든, 이 장비는 오늘도 여러분의 AI 워크로드를 돌리고 있을 가능성이 큽니다. 방금 보신 컴퓨트 보드를 예로 들어보겠습니다. 여기에도 자체 자재명세서(BOM) 공급업체와 리드타임이 있습니다. 수십 곳의 개별 OEM들이 최종 시스템을 구축하기 위해 동일한 컴퓨트 보드를 확보하는 데 의존하고 있습니다. 하지만 저희 제조사들은 CPU, GPU, 메모리 등 필요한 핵심 부품을 모두 확보하기 전에는 생산을 시작할 수 없습니다. 저희는 이를 제약 자재 할당 문제, 즉 CMA라고 부릅니다.