Имя графического процессора является полезной отправной точкой, но не является полным требованием хостинга. Запрос на «сервер H200» оставляет без ответа важные вопросы: что будет на нем работать, какой объем данных должен поместиться в памяти графического процессора, сколько людей будут его использовать и когда потребуется такая мощность? Краткое описание рабочей нагрузки помогает поставщику изучить подходящую конфигурацию и подготовить ценовое предложение, которое можно будет сравнить.
Если вы изучаете варианты RTX 6000, H100, H200 или B300, соберите следующие семь деталей, прежде чем запрашивать цену. Вам не нужен каждый ответ в первый день. Отмечайте неизвестные четко, чтобы разговор мог сосредоточиться на них.
1. Опишите работу, а не только графический процессор
Начните с применения и нужного вам результата. Вы выполняете рендеринг сцен, разрабатываете приложение для графического процессора, обслуживаете модель искусственного интеллекта, настраиваете существующую модель или тренируетесь с нуля? Укажите программное обеспечение или платформу, размер модели или проекта, а также любую необходимую версию операционной системы или драйвера.
Объясните, как вы будете оценивать успех. Для интерактивной службы вас может волновать приемлемое время ответа при заданном количестве одновременных запросов. Для пакетного задания может потребоваться завершить его в течение рабочего дня. Это требования для оценки, а не обещания производительности, которые поставщик должен давать только на основании названия графического процессора.
2. Укажите точное поколение и конфигурацию
Похожие названия продуктов могут скрывать существенно разное оборудование. В частности, устаревшие Quadro RTX 6000, RTX 6000 Ada и RTX PRO 6000 Blackwell не являются взаимозаменяемыми названиями. Запросите точную модель графического процессора в письменном предложении, а также количество графических процессоров, конфигурацию сервера и любую соответствующую информацию о межсоединении.
Имя графического процессора центра обработки данных также не идентифицирует всю машину. NVIDIA перечисляет различные форм-факторы и варианты серверов для H200. В документации HGX описаны полные конфигурации платформы с несколькими графическими процессорами, включая HGX B300. Используйте эти различия, чтобы задавать более правильные вопросы; не предполагайте, что конкретная платформа включена в предложение поставщика. См. официальные характеристики H200 и Подробности о платформе NVIDIA HGX.
3. Отделите память графического процессора от оперативной памяти системы.
Запишите память графического процессора и оперативную память хост-системы в отдельные строки. Сервер, рекламируемый с 32 ГБ системной оперативной памяти, не является графическим процессором с 32 ГБ видеопамяти. Попросите поставщика явно указать обе величины, а не интерпретировать одно число «памяти».
Поделитесь своими измерениями использования памяти, если она у вас есть. Для работы с искусственным интеллектом укажите модель, числовую точность, длину контекста и размер пакета, использованные в этом измерении. Если у вас есть только приблизительная оценка, отметьте ее как приблизительную и спросите, как можно организовать репрезентативный тест. Не выбирайте конфигурацию только потому, что файл модели кажется достаточно маленьким.
4. Объясните параллелизм и структуру рабочей нагрузки.
Один разработчик, тестирующий модель, и клиентский сервис, обрабатывающий одновременные запросы, имеют разные эксплуатационные требования. Укажите ожидаемое количество пользователей или заданий, типичную и пиковую нагрузку, а также могут ли задачи стоять в очереди. Укажите, должны ли несколько приложений использовать одну и ту же емкость.
Опишите, нужен ли вам постоянный доступ, периодические эксперименты или запланированная пакетная работа. Поинтересуйтесь, как распределяются ресурсы и что входит в предлагаемую конфигурацию. Ценовое предложение должно сделать эти предположения видимыми, чтобы вы не сравнивали различные схемы обслуживания, как если бы они были идентичными.
5. Укажите хранилище, регион и перемещение данных.
Оцените пространство, необходимое для файлов моделей, наборов данных, выходных данных и временных файлов. Спросите, какое хранилище является постоянным, что происходит, когда машина останавливается или удаляется, а также включены ли резервные копии или создаются отдельно. Укажите все требования к восстановлению, а не предполагайте, что хранилище и резервное копирование означают одно и то же.
Укажите предпочтительный регион и местонахождение пользователей или источников данных. Включите ожидаемые загрузки, загрузки и передачу между системами. Запросите разбивку расходов на хранение, сеть и передачу данных, где это применимо. Эти сведения помогают определить требования, выходящие за рамки самого графического процессора, прежде чем вы примете предложение.
6. Укажите бюджет, дату начала и ожидаемую продолжительность.
Полезный запрос включает диапазон бюджета, валюту, желаемую дату начала и ожидаемую продолжительность аренды. Сообщите команде, является ли дата гибкой и может ли проект расшириться. Это дает им основу для обсуждения вариантов, не рассматривая индикативную цену как оговорку.
Сравните письменные цитаты, используя тот же период и объем. Проверьте единицу выставления счетов, включенные ресурсы, применимые налоги, дополнительные сборы и условия отмены. В случае пробной или неопределенной рабочей нагрузки спросите, какие варианты доступны; не предполагайте, что ежемесячная ссылка включает в себя почасовую оплату, бесплатную пробную версию или политику возврата средств.
7. Перед заказом подтвердите поставку и окончательную цену.
По телефону CloudHosting.App для запросов GPU требуется проверка наличия на складе и подтверждение котировки, прежде чем заказ будет принят. Предложение RTX 6000 ограничено. H100, H200 и B300 — это варианты запроса, а не подтверждение подтвержденного инвентаря CloudHosting. Опубликованное название модели или разговор в чате не резервируют емкость.
Текущая общедоступная цена составляет 2232 доллара США в месяц за одну устаревшую видеокарту Quadro RTX 6000, 8 виртуальных ЦП, 32 ГБ системной оперативной памяти и 640 ГБ дискового пространства. Это справочник по одной конфигурации, а не цены на Ada, Blackwell или конфигурацию с несколькими графическими процессорами. Регион, точная спецификация, наличие и окончательная стоимость по-прежнему требуют подтверждения. Проверьте Страница запроса графического процессора CloudHosting для утвержденного маршрута справки и запроса.
Бриф, который вы можете отправить сегодня
Используйте этот контрольный список: приложение или модель; точные предпочтения и количество графических процессоров; Требования к памяти графического процессора; системная оперативная память; ожидаемый параллелизм; хранилище; предпочтительный регион; потребности в передаче данных; бюджет; Дата начала; и продолжительность. Добавьте свое имя и ответный адрес электронной почты, а также отметьте все, что вы хотели бы, чтобы команда помогла оценить.
Вы можете начать с AI-помощник CloudHosting на странице графического процессора. или напишите по адресу [email protected]. Разговор начинается с помощи ИИ; При необходимости сотрудники отслеживают ситуацию по электронной почте, а не обещают немедленный живой ответ. Если ваша рабочая нагрузка может соответствовать стандартной виртуальной машине, изучите также Веб-сайт CloudHosting и опишите приложение, прежде чем принять решение о необходимости графического процессора.
Быстрые вопросы
Могу ли я получить ценовое предложение, если я не знаю требований к памяти моего графического процессора?
Да — укажите сведения о приложении или модели и любые имеющиеся у вас размеры. Укажите, что неизвестно, чтобы команда могла обсудить следующий этап оценки.
Гарантирует ли запрос наличие товара или дату развертывания?
Нет. Прежде чем рассматривать запрос как заказ, дождитесь от команды явного подтверждения наличия, спецификации, цены и условий поставки.
Опишите рабочую нагрузку, назовите точный графический процессор, определите размер среды, установите бюджет и сроки, затем подтвердите поставку и письменное предложение перед заказом.