암바렐라 Citi Global TMT Conference

네. 감사합니다, 켈시님. 먼저 오늘 함께해 주셔서 감사합니다. 앰배렐라는 2004년에 설립된 팹리스 반도체 회사이며, 그동안 디지털 비디오 애플리케이션에 초점을 맞춰 왔습니다. 지난 10년 동안은 에지 AI 처리용 솔루션을 구축하는 데 집중해 왔습니다. 기본적으로 저희가 말씀드리는 것은, 단순히 추론 엔진만이 아니라 이미지 처리 파이프라인, CPU, 주변장치까지 통합해 전체 시스템을 위한 SoC를 만들고 있다는 것입니다. 저희가 타깃으로 하는 버티컬이 매우 다양합니다. AI 추론이 필요한 에지 디바이스와 관련된 영역이라면, 저희는 기본적으로 그 안에 있습니다. 기업용 보안 같은 대형 시장부터 휴대용 비디오, 자동차용 텔레매틱스, 그리고 이제는 로보틱스 애플리케이션까지 말씀드리고 있습니다.

최근 실적 발표 컨퍼런스콜에서는 캡제미니(Capgemini)와 매그니카(Magnica) 같은 신규 파트너들과 함께 에지 인프라스트럭처 시장을 어떻게 공략할지에 대해 말씀드렸습니다. 요약하면, 저희는 지난 10년간 에지 AI에 집중해 왔고, 사람들이 기대했던 대로 시장이 본격적으로 성장하기를 바라고 있습니다. 하지만 분명히 말씀드리면, 그 부분이 바로 저희가 집중하고 있는 핵심입니다.

네. 우선 저는 모든 확신이 고객들과의 협업 및 논의에서 나온다고 생각합니다. 사실 저희가 대화하는 모든 고객들은 에지 디바이스에 더 많은 AI 성능을 넣고 싶어 합니다. 10년 전에는 CNN 계열의 신경망에서 시작했고, 지금은 트랜스포머로 옮겨갔으며, 그다음에는 대규모 언어 모델로까지 이동하고 있습니다. 그 모든 것들이 저희 실리콘 하드웨어와 소프트웨어 플랫폼에서 구현 가능합니다. 지난 12~24개월 동안 아주 분명해진 한 가지는, 대규모 언어 모델(LLM) 때문이기도 해서, 모두가 자기들 디바이스에서 AI 성능을 계속 더 높이고 싶어 한다는 점입니다. 다만 에지 AI나 피지컬 AI에 대해서는 사람들이 정말 많이 이야기해 왔지만, 오늘날 이 시장의 가장 큰 문제는 데이터센터의 코딩 같은 ‘하나의’ 버티컬이 아직 없다는 점입니다, 그렇죠?

지금은 데이터센터 매출의 대부분이 하나의 큰 애플리케이션에서 나오지만, 에지 쪽에는 그런 애플리케이션이 없습니다. 그래서 저희 전략은 항상 여러 가지 가능한 버티컬에 집중하고, 그중 하나가 성장하길 기대하는 것입니다. 인수 얘기를 하셨는데, Analog Devices, Inc.가 방금 거래를 발표했습니다. 매출은 크지 않지만 AI 성능을 가진 스타트업을 15억 달러에 인수하는 딜입니다. 참고로 Ambarella가 제공하는 AI 성능은 1 TOP에서 1,000 TOPS까지의 라인업입니다. 제가 그 회사에 대해 공개된 정보로 확인한 바로는, 성능이 대략 1 TOP 미만에서 1 TOP 정도 수준입니다. 네, 그들도 에지 AI 회사이긴 하지만, 저희와 약간 겹치는 부분이 있습니다. 저희는 Synaptics와 비교하면 4억 달러의 매출을 내고 있습니다.

저는 이것이 에지 AI가 실제로 진행되고 있다는 신호라고 봅니다. 많은 회사들이 ‘로드맵이 필요하다’고 말하면서, 인수를 통해 그 공백을 메우는 방법을 찾고 있는 거죠.

음-hmm. 당연히 그렇습니다. 저희가 설계 수주(design win)를 기반으로 매번 확장해 나갈 때, 저희의 가장 큰 차별점은 항상 와트당 성능입니다. 그 성능은 와트당 AI 추론 성능일 수도 있고, 와트당 비디오 처리 성능일 수도 있고, 혹은 기타 관련 기능의 와트당 성능일 수도 있습니다, 그렇죠? 결국은 전력 효율입니다. 저희도 이를 이해하고 있습니다. 사실 대부분의 고객들은 1세대 제품을 만들 때 GPU를 사용합니다. 프로그래밍이 쉽고, 구하기도 쉽기 때문입니다. 하지만 그들이 쓰는 일부 애플리케이션은 전력 소모의 한계에 부딪힙니다. 어떤 애플리케이션은 배터리 수명이 필요하거나, 매우 제한된 방열/전력 소모 솔루션만 쓸 수 있기 때문이죠. 그런 관점에서 전력 효율이 저희에게는 가장 중요한 차별점입니다.

그리고 두 번째는, 저희의 뿌리가 디지털 비디오 애플리케이션에 있기 때문에, 저희의 디지털 비디오 처리 기술이 대부분의 경쟁사, 어쩌면 시중의 모든 경쟁사보다도 더 뛰어나다고 생각한다는 점입니다. 이것도 또 하나의 매우 큰 차별점입니다. 하지만 세 번째로, 많은 분들이 간과하는 부분이 있는데, 저희 제품 포트폴리오를 보면 고객에게 제공하는 AI SoC가 15개나 있다는 점입니다. 게다가 전체 제품 라인업을 아우르는 Cooper라는 통합 SDK가 있습니다. 기본적으로 Cooper를 사용해 저희 칩 기반으로 한 번 제품을 설계하시면, 큰 수정 없이도 동일한 애플리케이션을 다른 실리콘으로 손쉽게 옮길 수 있습니다. 그리고 그런 소프트웨어 아키텍처는, 여러 제품 라인업을 구축해야 하고 제품마다 소프트웨어를 새로 만들고 싶어 하지 않는 고객에게는 결정적으로 중요하다고 생각합니다.

네. 지금 세 가지 유형의 경쟁사에 대해 말씀하시는 거죠. NVIDIA는 분명히 매우 높은 성능을 제공할 수 있습니다. 그게 그들의 강점입니다. 하지만 말씀드린 것처럼 GPU의 전력 소모는 이미 널리 알려진 문제이고, 전력 효율적인 솔루션을 정말로 원하는 고객에게는 GPU가 최선의 해법이 아니라고 저희는 생각합니다. 그런 관점에서 저희는 전력 효율을 기반으로 그 부분을 전부 커버하고 있습니다. Qualcomm은 조금 다릅니다. Qualcomm은 GPU보다는 확실히 더 효율적입니다. 하지만 저희 접근 방식과 비교하면, 저희가 여전히 상당한 전력 효율 우위를 갖고 있습니다. 그런데 그뿐만 아니라, 저희는 계속해서 다만 그들이 더 가까운 위치에 있기 때문에, 저희는 Qualcomm과 확실히 겹치는 부분이 많습니다. 저희는 항상 Qualcomm을 저희에게 가장 큰 경쟁사로 보고 있습니다. Synaptics는 다릅니다. Synaptics는 2년 전에 제품 라인업을 인수하면서 이 AI 분야에 들어왔고, 그들이 커버하는 범위는 1 TOPS에서 많아야 10 TOPS 수준의 애플리케이션입니다.

네, 일부 겹치는 부분은 있지만 많지는 않습니다. 제 관점에서는 Synaptics와 맞붙는 경우가 많지 않지만, 시장에서 경쟁할 때는 NVIDIA와 Qualcomm을 항상 만나게 됩니다.