OpenAI Sora ビデオツールの大規模導入では、216 億ドル相当の 720,000 個の NVIDIA H100 GPU を使用

OpenAI の印象的な新しいテキスト動画変換ツール Sora は、ある程度の GPU 計算能力を必要とします。 Factorial Funds の新しい数値によると、Sora のピーク時には 720,000 個の NVIDIA H100 AI GPU が必要になると推定されています。

AI 推論計算の比較 (出典: Factorial Funds)

ギャラリーを見る – 2 枚の画像

720,000 x NVIDIA AI GPU は、驚異的な量の AI GPU コンピューティング能力です。それぞれの費用が約 30,000 ドル x 720,000 なので、216 億ドルになります。金額が山のように大きいだけでなく、GPU あたり 700 W の電力量も驚異的で、合計 5 億 4,000,000 W になります。ええ、それはとても大きな力です。

Factorial Funds は、Sora が 1 か月間 4,200 ～ 10,500 個の NVIDIA H100 AI GPU を使用したと推定しており、1 つの H100 AI GPU で 1 分間のビデオを約 12 分で生成できる、つまり 1 時間あたり約 5 個の 1 分間ビデオを生成できると推定しています。

NVIDIA の記録的な収益により、同社の時価総額は 2 兆 1,000 億ドルを超え、NVIDIA が AI GPU 市場シェアの 90% 以上を占め、AI GPU 市場を完全に支配しています。 OpenAI の新しい Sora テキスト動画変換ツールは、世界最大手の企業や人々によって使用されることになるため、AI GPU の需要は今後さらに急増するでしょう。

Hopper H100 に比べて AI パフォーマンスが大幅に向上していることを示すため、Sora ビデオを駆動する NVIDIA の新しい Blackwell B200 AI GPU の内訳をぜひ見てみたいと思っています。

Factorial Funds は、Sora のようなモデルで大きな市場シェアを達成する推論計算を行った場合、NVIDIA H100 AI GPU ごとに 1 時間あたり約 5 分のビデオが生成されることになり、「Sora のようなモデルを大規模に実行するには、AI が必要になることになる」と書いています。 -生成されたビデオは、TikTok や YouTube などの人気のあるビデオプラットフォームで大幅な市場浸透を達成します。

NVIDIA H100 あたり 1 時間あたり 5 分のビデオが生成されると想定しています (詳細については上記を参照)。これは、H100 あたり 1 日あたり 120 分のビデオに相当します。
TikTok: 1 日あたり 1,700 万分のビデオ (総ビデオ 3,400 万 × 平均の長さ 30 秒)、AI による 50% の普及を想定 (出典)
YouTube: 1 日あたり 4,300 万分のビデオ、AI による 15% の普及を想定 (ほとんどが 2 分未満のビデオ)
AI によって毎日生成される合計ビデオ: 850 万 + 650 万 = 1,070 万分
TikTok と YouTube のクリエイターコミュニティをサポートするために必要な NVIDIA H100 の合計: 1,070 万 / 120 ≈ 89k

同サイトはさらに、この数字は「考慮すべきさまざまな要因により低すぎる可能性がある」と述べている。

100% FLOPS 使用率を想定しており、メモリと通信のボトルネックは考慮していません。実際には、2 倍の係数を追加する 50% の使用率がより現実的です。
需要は時間全体にわたって均等に分散されるのではなく、爆発的に発生します。すべてのトラフィックを処理するには、それに比例してより多くの GPU が必要になるため、ピーク時の需要が特に問題になります。ピーク需要により、必要な GPU の最大数にさらに 2 倍の係数が追加されると考えられます。
クリエイターはおそらく複数の候補ビデオを生成し、これらの候補の中から最適なものを選択することになります。アップロードされたビデオごとに平均 2 つの候補が生成されるという控えめな仮定を立てており、さらに 2 倍の係数が追加されます。
これにより、ピーク時で合計約 720,000 個の NVIDIA H100 GPU が残ることになります。