GPU 名は開始点として役立ちますが、完全なホスティング要件ではありません。 「H200 サーバー」を求めても、重要な質問は答えられないままになります。つまり、サーバー上で何が実行されるのか、GPU メモリにどれだけのデータが収まる必要があるのか、何人が使用するのか、いつ容量が必要になるのかなどです。短いワークロードの概要は、サプライヤーが適切な構成を調査し、実際に比較できる見積もりを作成するのに役立ちます。
RTX 6000、H100、H200、または B300 のオプションを検討している場合は、価格をリクエストする前に次の 7 つの詳細を収集してください。初日にすべての答えを得る必要はありません。不明な点を明確にマークして、会話がその点に集中できるようにします。
1. GPU だけでなく、作品についても説明してください
必要なアプリケーションと結果から始めます。シーンのレンダリング、GPU アプリケーションの開発、AI モデルの提供、既存モデルの微調整、または最初からのトレーニングを行っていますか?ソフトウェアまたはフレームワーク、モデルまたはプロジェクトのサイズ、必要なオペレーティング システムまたはドライバーのバージョンを含めます。
成功をどのように判断するかを説明してください。対話型サービスの場合は、指定された同時リクエスト数における許容可能な応答時間を気にすることがあります。バッチ ジョブの場合は、営業日以内に完了する必要がある場合があります。これらは評価すべき要件であり、サプライヤーが GPU 名だけからパフォーマンスを約束するものではありません。
2. 正確な世代と構成を指定します。
類似した製品名は、実質的に異なるハードウェアを隠す可能性があります。特に、従来の Quadro RTX 6000、RTX 6000 Ada、および RTX PRO 6000 Blackwell は、互換性のある名前ではありません。書面による見積書で正確な GPU モデルを、GPU 数、サーバー構成、関連する相互接続の詳細とともに尋ねてください。
データセンターの GPU 名もマシン全体を識別するものではありません。 NVIDIA は、H200 のさまざまなフォーム ファクターとサーバー オプションをリストしています。 HGX ドキュメントでは、HGX B300 を含む完全なマルチ GPU プラットフォーム構成について説明しています。それらの区別を利用して、より良い質問をしましょう。特定のプラットフォームがサプライヤーのオファーに含まれているとは想定しないでください。を参照してください。 H200の正式仕様 と NVIDIA HGX プラットフォームの詳細.
3. GPU メモリをシステム RAM から分離する
GPU メモリとホスト システム RAM を別の行に書き込みます。したがって、32GB のシステム RAM を搭載していると宣伝されているサーバーは、32GB の VRAM を搭載した GPU ではありません。単一の「記憶」番号を解釈するのではなく、両方の数量を明示的に特定するようサプライヤーに依頼してください。
測定したメモリ使用量があれば共有してください。 AI 作業の場合は、その測定に使用されるモデル、数値精度、コンテキストの長さ、バッチ サイズを含めます。推定値しかない場合は、それを推定値としてラベル付けし、代表的なテストをどのように配置できるかを尋ねます。モデル ファイルが十分小さいと思われるためだけに構成を選択することは避けてください。
4. 同時実行性とワークロード パターンについて説明する
モデルをテストする 1 人の開発者と、同時リクエストを処理する顧客対応サービスでは、動作要件が異なります。予想されるユーザーまたはジョブの数、通常の需要とピークの需要、およびタスクがキューで待機できるかどうかを述べます。複数のアプリケーションが同じ容量を共有する必要があるかどうかについて言及します。
継続的なアクセス、時折の実験、またはスケジュールされたバッチ作業が必要かどうかを説明してください。リソースがどのように割り当てられるか、提案された構成に何が含まれるかを尋ねます。異なるサービス契約をあたかも同一であるかのように比較しないように、見積もりではこれらの前提を明確にする必要があります。
5. ストレージ、リージョン、データの移動を含める
モデル ファイル、データセット、出力、一時ファイルに必要なスペースを見積もります。どのストレージが永続的であるか、マシンが停止または削除されたときに何が起こるか、バックアップが含まれているのか、それとも個別に用意されているのかを尋ねます。ストレージとバックアップが同じ意味であると仮定するのではなく、リカバリ要件を指定します。
希望する地域と、ユーザーまたはソース データが存在する場所に名前を付けます。予想されるアップロード、ダウンロード、システム間の転送を含めます。該当する場合、ストレージ、ネットワーク、データ転送料金の内訳をリクエストします。これらの詳細は、見積もりを行う前に GPU 自体を超えた要件を特定するのに役立ちます。
6. 予算、開始日、予想される期間を入力します。
役立つ質問には、予算範囲、通貨、希望の開始日、および予想されるレンタル期間が含まれます。日付が柔軟であるかどうか、またプロジェクトが拡大する可能性があるかどうかをチームに伝えます。これにより、表示価格を予約として扱うことなく、オプションについて話し合うための基礎が得られます。
同じ期間と範囲を使用して、書かれた引用を比較します。請求単位、含まれるリソース、適用される税金、追加料金、キャンセル条件を確認してください。試用中のワークロードや不確実なワークロードの場合は、どのようなオプションが利用できるかを尋ねてください。月次参照には、時間単位の請求、無料トライアル、または返金ポリシーが含まれると想定しないでください。
7. 注文前に供給量と最終見積もりを確認する
CloudHosting.App での GPU の問い合わせには、注文を進める前に在庫確認と確定した見積もりが必要です。 RTX 6000 の供給には限りがあります。 H100、H200、B300 は問い合わせオプションであり、確認された CloudHosting 在庫の記載ではありません。公開されたモデル名またはチャットの会話では容量は予約されません。
現在の公開参考価格は、レガシー Quadro RTX 6000 1 台、8 vCPU、32 GB のシステム RAM、および 640 GB のディスク容量で月額 2,232 米ドルです。これは単一構成のリファレンスであり、Ada、Blackwell、またはマルチ GPU 構成の価格ではありません。地域、正確な仕様、在庫状況、最終料金については確認が必要です。チェックしてください CloudHosting GPU 問い合わせページ 。
今日送信できる概要
このチェックリストを使用します: アプリケーションまたはモデル。正確な GPU 設定と数。 GPU メモリ要件。システムRAM。予想される同時実行数。ストレージ;優先地域。データ転送のニーズ。予算;開始日;そして持続時間。名前を追加してメールに返信し、チームに評価してもらいたい項目にマークを付けます。
まずは、 GPU ページの CloudHosting AI アシスタント または [email protected] にメールでご連絡ください。会話は AI の支援から始まります。スタッフのフォローアップは、必要に応じて電子メールで行われ、人間による即時の対応は約束されません。ワークロードが標準 VM に適合する可能性がある場合は、 クラウドホスティング Web サイト とアプリケーションについて説明してから、GPU が必要であると判断します。 承認された参照および問い合わせルートについては、
簡単な質問
GPU メモリ要件がわからない場合、見積もりを取得できますか?
はい - アプリケーションまたはモデルの詳細と測定値を提供してください。チームが次の評価ステップについて話し合えるように、不明な点を述べます。
お問い合わせは在庫や導入日を保証しますか?
いいえ。お問い合わせを注文として扱う前に、在庫状況、仕様、価格、プロビジョニングの取り決めについてチームが明確に確認するまで待ってください。
ワークロードを説明し、正確な GPU の名前を指定し、環境のサイズを設定し、予算とタイミングを設定して、注文前に供給と書面による見積もりを確認します。