NVIDIA一強はメモリ高騰で崩れるのか？

TL;DR

NVIDIAは好調な決算を維持する一方、メモリ調達費の増加で粗利率の低下に直面している。推論コストを下げ、オープンモデルや新興クラウド企業を支援して利用者と販売先を増やすことが、一強を守る戦略の中核である。

Transcript

ワンオンワンテック始まります。今日の テーマはNVIDIAバubルの次に 起こることです。ま、今収録しているのが 8月27日木曜日なんですけども、日本 時間の今朝NVIDIAの最新決算が発表 されています。結果は絶好調です。売上高 も埋増してるんですけども、川ジと ジェンソンフワンCEOも自信を深めて いるようです。ただその影でメモリ不足は 未だに深刻な状況が続いています。で、 AI企業は反動体チップを自社開発する 動きのも加速してるんですけども、この NVIDディアを取り巻くAI業界が今後 どうなるのか反動市場のエキスパートの方 に今後の展望をお伺いしていきたいと思い ます。ゲストをご紹介します。ハンド 業界一筋30年の経過レイド代表安城一郎 郎さんです。よろしくお願いします。 よろしくお... Read More

Key Insights

• ・NVIDIAの決算は売上高が前年同期比で倍増する好調さを示した一方、粗利率は75％から次四半期74％、その後71～72％程度へ低下する見通しである。
• ・粗利率低下の主要因はメモリを含む部材費の上昇であり、長期購入契約による調達予約額は前四半期の約1100億ドルから2000億ドル超へ倍増した。
• ・Vera RubinはGPU用HBMに加えてCPU側にも大容量DRAMを必要とし、ラック単位でシステムを供給するNVIDIAが調達すべきメモリの範囲を広げる。
• ・エージェントAIは推論と処理を反復して履歴やログを保持するため、KVキャッシュを置くメモリの需要を増やし、従来の単発的な推論より容量を必要とする。
• ・メモリメーカーは過去の価格下落を踏まえて生産能力を慎重に拡大しており、需要より供給の伸びが緩やかなため、価格が上昇し続けやすい状況である。
• ・NVIDIAの戦略はGPU販売にとどまらず、推論コストを下げてAI利用者を増やし、OpenAIとAnthropicのどちらが伸びても自社需要につなげることである。
• ・オープンモデルのNemotronや推論最適化基盤のDynamoは無償で利用を広げつつ、実運用時にはNVIDIAのGPUや最適化ツールが選ばれやすい構造を作る。
• ・NVIDIAはハイパースケーラー以外の新興クラウドにも出資や債務保証を行い、顧客間の競争を維持することで、自社の価格決定力と高い利益率を守ろうとしている。

Questions & Answers

Q: NVIDIAの好決算で注目すべき指標は何ですか？

売上高が前年同期比で倍増し、市場予想を上回ったことに加え、粗利率の低下が重要である。粗利率は今回75％、次四半期の会社見通しは74％で、その後は71～72％程度まで下がるとされた。高い利益を先行投資へ回して競争力を保ってきたため、粗利率の変化は将来の投資余力にも関係する。

Q: なぜNVIDIAの粗利率は低下する見通しなのですか？

GPUやAIサーバーに必要なメモリの価格が上昇し、部材調達の負担が増えているためである。長期購入契約による調達予約額は、前四半期の約1100億ドルから今回2000億ドル超へ増えた。HBMを確保できなければGPUを出荷できず、ラック全体を提供するにはCPU側のDRAMも調達する必要がある。

Q: AIサーバーでメモリ需要が増える理由は何ですか？

AI推論では、トークンを処理した際のキーと値をKVキャッシュとしてメモリに保存し、同じ処理を繰り返さずに結果を再利用する。エージェントAIは推論、アプリによる処理、再推論を何度も繰り返すため、保持する履歴やログが大きくなる。AIが多くの内容を記憶するほど、必要なメモリ容量も増える。

Q: Vera Rubinはなぜ多くのメモリを必要とするのですか？

Vera Rubinは、Armベースの次世代CPUであるVeraと、新しいGPUのRubinを同一パッケージに載せる構成である。GPU上にはHBMを搭載し、CPU用メモリはパッケージ外のボード上に置く。NVIDIAはチップ単体ではなくラック単位で提供するため、システム全体に搭載する大容量DRAMまで確保しなければならない。

Q: なぜメモリ価格の高騰が長引くと考えられていますか？

メモリメーカーが過去のシリコンサイクルで、供給過剰による値下がりや買いたたきを経験し、生産能力の拡大を慎重に進めているためである。需要が急増しても供給能力は緩やかにしか増えず、需給が締まりやすい。NVIDIAの最高財務責任者も、価格上昇が想定を上回り、2028年にかけて続くとの見方を示した。

Q: NVIDIAはGPU以外でどのように収益基盤を広げていますか？

NVIDIAはAI推論を広く普及させ、最終的な計算需要を自社GPUへ導く仕組みを構築している。オープンモデルのNemotron、推論を最適化してGPUの待ち時間を減らすDynamo、エージェント向けツールなどを提供する。モデル自体を無料で広げても、運用時にNVIDIAの基盤が選ばれれば収益につながる。

Q: NVIDIAがオープンモデルを推進する狙いは何ですか？

開発者やSaaS企業がモデルを自由に採用、改変し、その派生モデルを広く普及させることで、NVIDIAに最適化された計算需要を増やす狙いがある。Nemotronは他社の計算基盤でも動かせるが、最適化ツールはNVIDIAが用意している。SaaS企業が自社サービスへ組み込めば、その企業自体がNVIDIA基盤の販売を後押しする形になる。

Q: NVIDIAが新興AIクラウド企業を支援するのはなぜですか？

大手ハイパースケーラーの一社が強くなりすぎると、NVIDIAに対する価格交渉力が高まり、GPUを高い価格で販売しにくくなるためである。そこでCoreWeaveや豪州の新興AIクラウドなどへ出資し、場合によっては債務保証も行う。複数の顧客を競争させ、販売先を広げながら価格決定力を維持する狙いがある。

Summary & Key Takeaways

• NVIDIAの売上高は前年同期比で倍増し、市場予想を上回ったが、注目点は粗利率の変化である。粗利率は今回75％、次四半期の見通しは74％で、その後は71～72％程度まで低下する見通しとされた。背景にはメモリ価格の上昇があり、部材の長期購入契約額は前四半期の約1100億ドルから2000億ドル超へ増えた。高い利益から先行投資を続けてきたNVIDIAにとって、調達費の増大は価格や収益力を左右する問題となる。

• 次世代システムのVera Rubinでは、GPU用のHBMだけでなく、CPU側にも大容量のDRAMが必要になる。AI推論ではトークン処理で生じるキーと値をKVキャッシュとして保存し、同じ処理の繰り返しを避ける。さらにエージェントAIは推論、アプリによる処理、再推論を連続して行うため、保持すべき履歴やログが増える。メモリメーカーは供給能力を慎重に拡大しており、需要増加に供給が追いつかず、価格上昇が続きやすい構造になっている。

• NVIDIAはGPUの販売だけでなく、AI推論を広く普及させ、最終的に自社基盤の需要へ結び付ける戦略を進めている。オープンモデルのNemotron、推論最適化のDynamo、エージェント向けツールなどを提供し、開発者やSaaS企業を取り込む。また、ハイパースケーラーだけに依存せず、CoreWeaveや豪州の新興AIクラウドなども支援する。顧客同士の競争を保ち、価格交渉力を維持しながら、推論コスト低下による利用拡大を狙っている。