퀄컴 Deutsche Bank 2026 Technology Conference

네, 물론입니다. 저는 1998년에 퀄컴에 입사해서, 지금이 29년째입니다. 퀄컴 내부에서는 지난 25년여 동안 최소 두 번 정도, DNA가 변이하듯 큰 변화를 겪었습니다. 그리고 지금이 세 번째입니다. 저는 약 10년 전까지 가장 오랜 기간 동안 연구 및 R&D 조직을 이끌었습니다. 그때 지금의 CEO이자 제 상사인 크리스티아노가 "이쪽으로 와서 비즈니스를 도와줬으면 한다"고 했고요. 이후 지난 몇 년이라고 하기엔 벌써 8~9년 정도인데, 저는 제품 기획을 총괄해 왔습니다.

현재는 가장 하위단의 IoT부터 데이터센터에 이르기까지, 전 사업 전반의 기술 로드맵을 모두 총괄하고 있습니다. 작년에 데이터센터 사업을 재시작했을 때는, 방향이 제대로 잡혀 있는지 확인하는 차원에서 제가 1년간 그 사업을 맡았고, 지금은 독립적으로 운영되는 완전한 사업부가 갖춰져 자체적으로 돌아가고 있습니다. 그게 제 역할입니다. 좋네요.

네. 우선 저희가 하이 밴드위스 컴퓨트 제품 포트폴리오와, 현재 개발 중인 여러 세대를 공개했을 때 이해하셔야 할 중요한 점은, 이게 1년 정도 만에 갑자기 만든 것이 아니라는 것입니다. 아주 오랜 기간 동안 준비해 온 일이었습니다. 작년에 저는 저희 R&D가 이제 이걸 상용화할 시점에 도달했다고 느꼈습니다. 그 지점에서 거꾸로 올라가 보면, 이것이 해결하려는 문제는 무엇인가라는 질문이 나오죠. 그 점은 2021년 무렵에 저희에게 꽤 분명해졌습니다.

저희가 각 데이터센터 랙에서의 컴퓨팅이 어떻게 변하는지 관찰해 보면(사실 다른 몇몇 영역에서도 마찬가지인데요), 세대가 바뀔 때마다 컴퓨팅은 상당히 지수적으로 늘어나는 반면, 메모리 대역폭은 정체되어 있거나 더 완만하게 증가하는 수준이었습니다. 즉, 선형적인 성장에 가깝습니다. 결국에는 ‘메모리 월(memory wall)’로 이어지게 되는데, 컴퓨팅을 아무리 많이 투입해도 메모리 대역폭 문제를 함께 해결하지 않으면 추론 디코딩(inference decode) 구간에서는 전혀 효과가 없게 됩니다. 저희는 R&D에 상당히 큰 규모로 투자했고, 작년에 ‘이제 가능하겠다’고 할 만한 지점에 도달했습니다. 그 과정에서 많은 해법을 찾아냈습니다.

참고로 저희가 이를 ‘고대역폭 컴퓨트(High Bandwidth Compute)’라고 부르는 이유는, 이것이 순수한 메모리 기술은 아니기 때문입니다. 핵심은 컴퓨트를 메모리 바로 옆에 어떻게 배치할지, 이를 어떻게 설계하고 공동 설계(co-design)할지, 그리고 AI 가속기의 나머지 부분과 제대로 인터페이스되도록 하는지의 조합입니다. HBM과는 다른 방식으로 접근한, 대안적인 구현에 대한 직접적인 시도였습니다. 현재 상황에 대해 저희는 매우 자신 있고 편안하게 보고 있으며, 그래서 내년에 1세대가 출시되고 그 다음에 2세대가 이어지는 형태로 다세대(multi-generation) 솔루션을 공개했습니다.

이건 매우 독특한 가치 제안이고, 한동안 파트너였던 다수의 메모리 벤더들도 이제 이를 전면적으로 지지하고 있습니다. 예전에도 함께했지만, 이제는 그들도 공개적으로 나서서 이런 내용에 대해 이야기하고 있습니다.

좋습니다. 여기에는 두 가지가 있습니다. 첫째는 일부 수치에 관한 것이고, 둘째는 검증 포인트(proof points)입니다. 또 하이퍼스케일러들과의 논의가 어떻게 진행되고 있는지도 조금 말씀드리겠습니다. 수치 측면에서는 전력 소비가 매우 중요하기 때문에 저희는 항상 와트당 토큰(tokens per watt)을 이야기합니다. 그리고 현재 HBM은 전력 소모가 매우 큽니다. 참고로 재미있는 일화가 있는데요. 저희가 와트당 초당 토큰(tokens per second per watt) 기준으로 HBM 대비 6배 개선이라고 말씀드렸습니다. 두 번째로, 현재 HBM의 대역폭은 대략 21~22테라바이트/초(terabytes per second) 수준입니다. 저희는 수백 테라바이트/초 단위입니다. SRAM과 비교해 보면, SRAM도 자체적인 제약이 있습니다. 인터페이스 속도는 가장 빠르지만, 면적을 더 많이 차지합니다.

같은 일을 하려면 랙(rack) 수가 더 많이 필요해지기 때문에, SRAM에 대해서는 총소유비용(TCO) 관점에서 반론이 가능합니다. 이 세 가지가 저희가 인베스터 데이에서 말씀드렸던 내용입니다. 중요한 포인트는, 좋아요, 이건 숫자라는 겁니다. 그럼 이를 입증할 근거는 무엇인가요? 좋은 점은, 네, 저희가 실리콘을 테이프아웃(tape-out)했다는 것입니다. 실리콘이 지금 랩으로 돌아와 있습니다. 진행 상황이 매우 좋습니다. 앞으로 수치가 어떤 모습으로 나오기 시작하는지 저희가 조금 더 공개해 나갈 때까지 계속 지켜봐 주시고요. 다만 제품 1세대에 대해서는 저희가 꽤 자신감을 갖고 있습니다. 이와 관련해 간단한 일화가 하나 있습니다. 인베스터 데이 직후에 저희가 이 얘기를 했습니다. 저희가 “자, 여기 HBM이 있습니다”라고 했고, 두 개의 괜찮은 애니메이션이 있었는데, 그중 하나는 ‘좋아요, HBM으로는 이건 별로다’라는 내용을 설명했습니다.

반면 HPC에서는 이게 아주 좋습니다. 그 직후에 제가 한국에서 두 곳의 메모리 업체를 만났는데, 저는 그들이 “무슨 말씀을 하시는 거죠?”라고 말할 거라고 충분히 예상했습니다. “HBM은 정말 훌륭한 로드맵이 있고, 아주 좋습니다. HPC보다 훨씬 더 좋아질 겁니다.”라고요. 하지만 저희가 받은 피드백은 그렇지 않았습니다. 대신 “이 부분에서 어떻게 하면 저희가 더 긴밀하게 함께 일할 수 있을까요?”라는 반응이었습니다. 실제로 상용화를 진행하면서 적절한 공급을 확보해야 하기 때문에 저희는 그들과 함께 일해 왔습니다. 그에 더해, 메모리 업계 자체로부터도 직접적인 관심이 많이 들어왔는데요. 이는 매우 긍정적이고 기분 좋은 경험이었고, 실제로 아주 좋았습니다.

또한 데이터센터 랙에서 앞으로 나아갈수록 다른 형태의 솔루션이 필요하다는 저희의 주장 일부를 뒷받침해 주는 측면도 있습니다. 제품의 2세대에 대해 말씀드리면, 1세대는 2027년에 상용화되어 출하될 예정입니다. 저희는 이미 2028년을 목표로 하는 2세대를 개발하고 있고, 그 수치는 더 높습니다. 그 이유 중 하나는 HBM4E에서 저희가 예상하는 것과의 상대 비교 측면에서 보면, 2028년을 내다볼 때 여러 요소들이 자체적으로 진화하고 있기 때문입니다.

한편으로는 AI 모델 자체가 진화하고 있고, 이는 DRAM 스택 아래에 있는 컴퓨트 다이 또는 로직 다이에서 수행하게 되는 연산이 늘어난다는 뜻이며, 저희는 필요한 작업을 미리 예상해 더 많은 산술 연산을 추가하고 있습니다. 이 부분은 HBM으로는 스케일링하기가 더 어렵기 때문에, 상대적인 개선 효과가 더 좋아 보입니다. 현재 저희는 그 단계에 와 있습니다.