엔비디아 Goldman Sachs Communacopia + Technology Conference 2026

감사합니다. 여기 함께하게 되어 매우 기쁩니다.

네, 그렇게 하죠. 잠깐 멈추겠습니다.

질문은, 제가 왜 그걸 알고 있었느냐는 겁니다. 질문은, 제가 왜 그걸 알고 있었느냐는 겁니다. 사실 꽤 간단합니다. 지난 산업혁명은 우리가 모든 것에 전력을 공급할 수 있게 만들었고, 전력을 어디에나 보급했습니다. 그리고 물론 인터넷은 우리가 무엇이든 찾아낼 수 있게 해줬습니다. 그게 핵심 아이디어입니다. 예전에는 벽면 콘센트에 꽂고, 이더넷 잭이나 모뎀을 쓰다가, 이제는 Wi-Fi입니다. 연결만 하면 무엇이든 찾을 수 있습니다. 이건 작은 일이 아닙니다. 정말 큰 의미가 있습니다. 연결만 하면 무엇이든 찾을 수 있었고, 또 모두가 모든 것을 찾고 싶어 했기 때문에, 우리는 이를 인프라의 일부로 만들어야 했습니다. 전력을 어디에든 공급할 수 있게 되자 우리는 모든 것에 전력을 공급하고 싶었고, 그래서 전력을 어디에나 공급했습니다. 그것은 인프라의 일부가 되었습니다.

이제 우리는 무엇이든 찾고, 모든 것을 찾을 수 있지만, 분명히 그것이 사람들이 원하는 것은 아닙니다. 우리 모두가 원하는 것은 모든 것을 아는 것입니다. 우리는 무엇이든 물어보고, 모든 것을 알고 싶습니다. 우리가 지금 구축하고 있는 것은, 무엇을 묻고 무엇을 알고 싶든 가능하게 해주는 컴퓨팅 계층입니다. 이것이 인공지능의 큰 구상이고, 그 과정의 한가운데에 컴퓨터가 있습니다. 첫 번째 장치는 다이너모라고 불렸고, 그다음은 말할 것도 없이 컴퓨터라고 불렸으며, 이제는 이런 AI 팩토리가 있고, 인터넷이 숫자를 만들어내듯이 그것들도 숫자를 만들어냅니다. 어떤 수준에서는 그건 지나치게 단순한 설명일 수 있습니다. 이제 질문은 아주 간단합니다. 컴퓨터 산업이 어떻게 거기서 여기로 넘어오게 됐고, 그 의미는 무엇입니까? 서로 맞물려 커지는 문제 두 가지, 서로 맞물려 커지는 과제가 두 가지 있습니다.

첫 번째는 지난 세대의 컴퓨터가 인간에 의해 사용됐다는 점입니다. 여러분은 정보를 찾아봤고, 컴퓨터를 도구이자 단말로 구매했으며, 그렇게 해서 무엇이든 찾고 모든 것을 찾을 수 있었습니다. 이제 이 새로운 세계에서는, 모두가 무엇이든 물어보고 모든 것을 찾아 알고 싶어 한다는 생각에 동의하고, 그런 세계가 가능하다고 믿으며, 그것이 우리가 하는 거의 모든 일에 어떤 식으로든 통합될 수 있다고 본다면, 질문은 전 세계적으로 그 컴퓨팅 계층을 어떻게 구축하느냐입니다. 그리고 알고 보니 그 컴퓨터는 생성형 컴퓨터입니다. 그건 검색형 컴퓨터가 아니고, 이 부분은 제가 이전에도 여러분께 설명드린 것 같습니다. 지난 60년 동안은 모든 것이 미리 기록돼 있었고, 우리는 그것을 어딘가의 스토리지에 저장해 두었습니다.

휴대폰에서 무언가를 터치하면, 그 정보 조각을 가져오는데, 실제로는 아마 3개에서 10개 사이의 정보 조각을 가져왔을 겁니다. 여러분이 누구인지, 여러분과 연관된 쿠키, 그리고 과거 이력과 이전 선호도를 바탕으로 추천 시스템이 그 정보 조각들 중 하나를 여러분께 추천했지만, 그 모든 것은 미리 기록된 것이었습니다. 그런 컴퓨팅 모델을 ‘검색 기반(retrieval-based)’이라고 부릅니다. 질문을 하나—무엇이든 물어보고 모든 것을 알고 싶다면, 실제로는 ‘찾는’ 게 아니라 ‘아는’ 것이어야 하고, 그러려면 답을 생성해야 합니다. 그건 합리적으로는 검색해서 가져올 수 없습니다. 그 이유는, 과거에는 ‘추천 시스템’이라는 개념이 있었고 그것이 여러분의 선호도에 기반했기 때문입니다.

그런데 무엇이든 물어보고 모든 것을 알고 싶다면, 그 선호도는 다른 무언가로 대체돼야 하는데, 그게 바로 ‘컨텍스트’입니다. 질의는 ‘프롬프트(prompt)’라고 부르고, 주변 환경에는 컨텍스트와 여러분의 선호도도 포함됩니다. 그 모든 것을 결합해서, 답을 생성해야 합니다. 핵심은, 들어오는 모든 질의에 기반해 지속적으로 답을 생성하는 새로운 컴퓨터 계층을 구축해야 한다는 얘기입니다. 그건 더 이상 스토리지 묶음이 아닙니다. 컴퓨터 묶음입니다. 그 컴퓨터는 어떤 모습이고, 거기서 돌아가는 알고리즘은 무엇일까요? 거의 모든 사람이 각자 자기만의 추천 엔진을 갖게 되는 것과 비슷합니다. 그렇게 생각해 보시면 됩니다. 메타 전체를 위한 거대한 RecSys 엔진 하나를 두는 대신, 이제는 말 그대로 모든 사람을 위한 추천 엔진이 생기는 겁니다.

이 추천 엔진들은 AI 모델이 크기 때문에 정말 복잡합니다. 똑똑해야 합니다. 세상의 방대한 정보를 압축해 담고 있습니다. 이제 두 번째 문제는 이렇게 전개됩니다. 무어의 법칙의 종말입니다. 여러분, 제가 이 얘기를 처음 했던 게 대략 15년 전인데, 마치 제가 누군가의 기분을 상하게 하는 말을 한 것처럼 다들 숨을 헉 들이켰습니다. 그냥 트랜지스터가 더 이상 스케일링되지 않는다는 뜻이고, 그게 큰일은 아닙니다. 트랜지스터가 매년 2배로 스케일링되지도 않고, 격년으로 크기가 절반이 되지도 않는다면, 우리가 하려고 하는 다른 일의 미래가 어떻게 될지가 질문이 됩니다. 여러분이 떠올리시는 생성형 AI, 혹은 인공지능이라고 불리는 그 일 말입니다.

무어의 법칙이 끝나고 트랜지스터가 훨씬 더 많이 필요한 이 새로운 세상에서는, 몇 가지가 반드시 일어나야 합니다. 첫 번째로, 여러분은 여전히 몇 년마다 100배, 1,000배의 개선을 원하실 텐데, 그렇게 하려면 칩 내부에만 머물러서는 안 됩니다. 공동 설계를 해야 합니다. 엔비디아가 공동 설계 회사, 그것도 극단적인 공동 설계 회사가 된 이유가 바로 그겁니다. 여러분은 저희에게서 그 얘기를 늘 들으시죠. 두 번째로 해야 할 일은, 트랜지스터를 두 배로 늘리고 싶다면 칩도 두 배로 만들어야 한다는 겁니다. 그래서 엔비디아가 NVLink를 발명한 겁니다. 보시다시피, 저희가 처음 한 일은 CoWoS를 사용한 것이고, 그 덕분에 여러 개의 칩을 하나로 융합할 수 있었습니다.