GPU・DC ニュース

NVIDIA、GPU基盤をKubernetesで運用する部品を公開 推論の立ち上げを数十秒に

 出典:NVIDIA Blog(2026-11-10 16:00 UTC 公開)

NVIDIAは、AIファクトリー向けのDSX AI Factory Platformに、GPU基盤のKubernetesを管理するNVKE・NVKRと、推論の再開を速めるSnapshotを加えた。

何が起きたか

NVIDIAは、KubeCon + CloudNativeCon にあわせて、AIファクトリー向けのソフトウェア群「NVIDIA DSX AI Factory Platform」に3つのオープンソースの部品を加えると発表しました。

NVIDIA Kubernetes Engine(NVKE)と NVIDIA Kubernetes Recipes(NVKR)は、GPU基盤の上でマネージドの Kubernetes を提供するための部品で、パブリックプレビューとして公開されました。クラスターの管理を自動化します。

NVIDIA Snapshot は、チェックポイントから推論のレプリカを数秒で戻し、モデルの読み込み直しやウォームアップを省きます。NVIDIA HGX B300 で評価した Crusoe では、ワークロードが使えるようになるまでの時間が約8分から31秒に縮みました。

なぜ大事か

推論の量を増やすときや障害から戻すとき、モデルの読み込みとウォームアップが遅れの原因になる、と NVIDIA は説明しています。Snapshot は、推論の計算をすばやく足すための部品です。

AIコンテナでは

AIコンテナは、水冷の B200・B300 などのGPUサーバーを置けるコンテナ型データセンターです。GPUサーバーを月額で借りるホスティングは H100 で230万円〜です。

料金を見る 仕組みと仕様

原典:NVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructure(NVIDIA Blog)

GPU・DC ニュースの一覧へ ↗