インテル The Six Five Summit：AI Unleashed 2026

皆さん、こんにちは。The Six Five Summit 2026、AI Unleashedへようこそ。AIインフラストラクチャー・スポットライトの続編として、対談をお届けします。私はライアン・シュラウトです。同僚のマット・キンボールと一緒にお送りします。本日は、今やほぼすべての企業が向き合っている課題についてお話しします。AIインフラストラクチャーをどう構築するか。それを十分な速さで構築するにはどうすればよいか。パイロットを超えて実際の本番運用へと移行するために、十分な柔軟性とコスト効率をどう実現するか。これは最近よく取り上げられているテーマのようです。この対談には、私の親しい友人であるアニル・ナンドゥリ氏、インテルのデータセンター部門でAI製品およびGo-To-Marketを担当する副社長をお迎えしています。The Six Fiveへの再登場、ようこそ、アニルさん。

やあ、ライアン。元気にしていましたか? 久しぶりですね。元気にしていましたよ。

今日の対談を楽しみにしています。御社では興味深い取り組みが進んでいると聞いています。

いえ、こちらこそありがとうございます。番組に呼んでいただき光栄ですし、この対談を本当に楽しみにしています。

良い質問ですね、マットさん。根本的な点として、多くのお客様はまずハードウェアから考え始めます。本当はROIを軸に会話を変えていく必要があると思います。なぜかというと、すべてはAIがどのように問題を解決できるかにかかっているからです。その観点から、AIをビジネスのどの領域に適用し、どこで価値を生み出すのかを、きちんと分解して考える必要があります。それに基づいて初めて、どのような予算規模で、どのようなコスト経済性で、どの程度の生産性向上を目指すべきかという枠組みが見えてきます。これは、運用面をどのように進めていくかという基本的な第一原理です。

興味深いことに、AIは非常に速いペースで進化しているため、そのイノベーションのエンジンを回し続けたいという思いから、多くのパイロットを行いたくなります。それ自体は問題ありません。サンドボックス環境を用意し、パイロットを作っていくわけです。しかし、本番運用への移行を考えるときには、どのように展開するかについて、もっと明確にしておく必要があります。おっしゃる通り、さまざまなことが起きています。もはやトークンの最大化が目的ではありません。トークン数が最も多ければ最良のROIが得られるわけではないのです。実際にROIをもたらすのは、トークンの最も効率的な使い方です。そしてもう一つ、視聴者の皆さんに理解しておいていただきたいのは、すべてのトークンが同じではないということです。それが本当にどういう意味なのか、この後30分かけて詳しく説明したいと思います。

すべてのトークンが同じではないということは、超プレミアムなトークン、つまり超低遅延で超高速、インタラクティブ用途に非常に適したものが存在するということです。クレジットカードの不正利用対策を行おうとする場合、ほぼリアルタイムのAIが必要になります。それくらいの速さが求められます。一方で、監査業務を行っていて、20日以内に監査報告書を提出する必要がある場合はどうでしょうか。それほど超高速なAIは必要ありません。バッチモードで全く異なる形で処理することができます。そのため、こうしたROIに関する議論が、AIを本番運用に投入する際の考え方に影響してくるのです。

The Six Five Summitを通してずっと話題に上っていることの一つが、エージェンティックAIです。初期のLLMから推論型LLM、そして今のエージェンティックAIへと進化してきましたが、これは今、最大の話題であり、すべてのトークンが同等ではないというあなたの指摘にもつながってきます。インフラストラクチャーの観点から気になるのですが、AIシステムが単に応答を生成するだけでなく、計画を立て、調整し、実際に行動を取り始めると、根本的に何が変わるのでしょうか。

ライアンさん、これもまた良い質問ですね。エージェントは何をするのでしょうか。エージェントは、私たちが本来行おうとしていた作業を自動化します。エージェントが増えていくにつれて、エージェントの動作を制御するためのエージェントループを持つことが本当に必要になります。一歩下がってこれらのAIシステムがどう動いているかを見ると、私たちはAIをどこで実行するかを考えることに多くの時間を費やしています。そのAIはトークンを生成しており、それが消費の仕方です。先ほど申し上げた通り、トークン生成は一つのやり方がすべてに当てはまるわけではありません。小さなモデルでトークンを生成し、速度を落として実行することもできますが、CPU上であっても非常に効率的に、ある程度のトークンを処理する能力があります。ご存じの通り、GPUはさらに上位のスタックへと進んでいきます。GPUは柔軟性という点で優れており、ある程度の密度でトークンを実行できます。

しかし、本当に大きなスループットを求めて大規模にスケールさせようとすると、GPUでさえパレート限界にぶつかります。だからこそ、RDUやGroqのようなLPUを用いたデータフローアーキテクチャのようなソリューションが存在するのです。これらが、必要とされる低遅延・高インタラクティブ性・大量のトークン生成といった要件を引き受け始めています。トークン生成自体にも多くの最適化の余地がありますが、それがどのようにビジネス経済性に結びつくかについても後ほどお話しできればと思います。次に重要なのは、これらのトークンをどう活用するかという点です。特にエージェンティックな世界では、これらのトークンは実際に成果を生み出しています。例えば、アプリケーションを作成したり、既存のアプリケーションを改善・リファクタリングしようとしているとします。その過程で、エージェントがコード作成を支援してくれます。

そのコードをテストすることになります。そのコードを検証し、テストし、実行する必要があります。ここでCPUが大きな役割を果たすようになります。CPUは実行エンジンであり、検証エンジンであり、サンドボックスエンジンでもあるからです。最近CPUが不足している理由をご覧になれば分かる通り、システム内でこうした行き来が頻繁に発生しているからです。さらに一歩進んで考えると、エージェントが増えるにつれて、誰がそれをオーケストレーションするのか、誰がクォーターバックなのかを見極める必要が出てきます。このクォーターバックの機能が、ますます重要になってきています。私たちが「ハーネス」と呼んでいる考え方です。つまり、どのワークロードをどう実行するかということです。どこで実行するのか、そして誰が実行するのかということです。ここで、どのようなエージェントが必要かを検討することになります。

どのようなエージェントループをオーケストレーションする必要があるのか。どのようなセキュリティが必要なのか。データがある場所、つまりオンプレミスでモデルを実行すべきか、それともクラウドで実行してデータを移動させるべきか。これらはすべて非常に重要なCIOの意思決定事項となり、企業はデータをAIに持っていくのか、それともAIをデータのところに持ってくるのか、真剣に検討する必要があります。それが一つの考え方です。しかし、これを実行に移していくと、データセンターのシステムにさまざまな問題が見えてきます。ストレスがかかるポイントが変化しているのです。

ストレスポイントは、トークン生成という重要な機能で多くのコストがかかる部分から、ウォールクロックタイムが重要になるエンドツーエンドのワークフロー全体の実行へと移っています。これらのトークンは、実行しているシステムによって、コンテキスト長に応じてストレスがかかり、メモリにストレスがかかり、ストレージに依存し、データベースにアクセスし、そして関数の応答を待つことになります。良い例として、企業がサプライチェーンの調達から顧客需要、財務ツールまでを見て、いつ投資すべきかを判断しようとしている場合が挙げられます。例えば、膨大な需要があり、それをAIに管理してもらいたいとします。