NVIDIA、GPU基盤をKubernetesで運用する部品を公開 推論の立ち上げを数十秒に
出典:NVIDIA Blog(2026-11-10 16:00 UTC 公開)
NVIDIAは、AIファクトリー向けのDSX AI Factory Platformに、GPU基盤のKubernetesを管理するNVKE・NVKRと、推論の再開を速めるSnapshotを加えた。
何が起きたか
NVIDIAは、KubeCon + CloudNativeCon にあわせて、AIファクトリー向けのソフトウェア群「NVIDIA DSX AI Factory Platform」に3つのオープンソースの部品を加えると発表しました。
NVIDIA Kubernetes Engine(NVKE)と NVIDIA Kubernetes Recipes(NVKR)は、GPU基盤の上でマネージドの Kubernetes を提供するための部品で、パブリックプレビューとして公開されました。クラスターの管理を自動化します。
NVIDIA Snapshot は、チェックポイントから推論のレプリカを数秒で戻し、モデルの読み込み直しやウォームアップを省きます。NVIDIA HGX B300 で評価した Crusoe では、ワークロードが使えるようになるまでの時間が約8分から31秒に縮みました。
なぜ大事か
推論の量を増やすときや障害から戻すとき、モデルの読み込みとウォームアップが遅れの原因になる、と NVIDIA は説明しています。Snapshot は、推論の計算をすばやく足すための部品です。
AIコンテナでは
AIコンテナは、水冷の B200・B300 などのGPUサーバーを置けるコンテナ型データセンターです。GPUサーバーを月額で借りるホスティングは H100 で230万円〜です。
原典:NVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructure(NVIDIA Blog)