NVIDIA представила новый мини-ПК DGX Spark, который обеспечивает высокую вычислительную мощность в компактном корпусе весом 1,2 кг. Устройство предназначено для инженеров и разработчиков, работающих с современными моделями искусственного интеллекта без необходимости подключения к облаку.
Ключевые факты
- NVIDIA запускает DGX Spark 2023-10-15 с процессором Grace и графикой Blackwell.
- DGX Spark оснащён 128 ГБ LPDDR5x и 4 ТБ NVMe, что позволяет локально запускать крупные языковые модели.
- Устройство работает на DGX OS, основанной на Ubuntu, с интеграцией AI-инструментов, как CUDA и PyTorch.
- Цена DGX Spark составляет 3999 долларов, и это самый доступный вариант в линейке DGX.
- Позже в этом году NVIDIA представит более мощную DGX Station GB300 с архитектурой Blackwell.
Контекст и перспективы
DGX Spark предлагает возможность локальной оптимизации и тонкой настройки моделей, а также выполнение inference для моделей уровня GPT-4-mini без внешнего GPU-сервера. Среди ближайших конкурентов устройства свои версии мини-суперкомпьютеров представят такие компании, как Asus, Dell, Gigabyte, HP, Lenovo и MSI. Ожидается, что DGX Spark найдет широкое применение в различных областях, включая исследовательскую деятельность и разработку программного обеспечения для моделирования и анализа данных.