NVIDIA DGX Spark 64 ГБ дает разработчикам больше способов создания и масштабирования локального ИИ
nvidia ·
NVIDIA расширяет возможности локального ИИ с помощью новой конфигурации DGX Spark на 64 ГБ, которая станет доступна от таких крупных партнеров, как Acer, ASUS, Dell и HP, начиная с 23 октября. Этот компактный суперкомпьютер оснащен суперчипом GB10 Grace Blackwell и унифицированной памятью, что позволяет разработчикам запускать модели объемом до 100 миллиардов параметров непосредственно на устройстве без зависимости от облачных сервисов. Система поставляется предварительно настроенной с DGX OS и полным программным стеком NVIDIA AI, поддерживая популярные фреймворки, такие как Ollama, vLLM и PyTorch, из коробки. Для масштабирования рабочих нагрузок два устройства могут быть объединены в кластер с помощью инструмента NVIDIA Sync Cluster Assistant через сеть ConnectX-7, что эффективно увеличивает объем памяти до 128 ГБ и повышает производительность до 1,7 раза. Эта возможность кластеризации позволяет обрабатывать более крупные модели или одновременные запросы агентов при сохранении бесшовной совместимости программного обеспечения между узлами. Кроме того, forthcoming инструменты, такие как NVIDIA Sync Model Launcher, призваны упростить развертывание локальных ИИ-приложений для разработчиков. Стоимость устройства начинается от 4999 долларов США, что позиционирует его как доступную точку входа для персональных ИИ-суперкомпьютеров и разработки на периферийных устройствах (edge).
nvidia