NVIDIA DGX Spark 64GB 为开发者提供更多构建和扩展本地 AI 的方式
nvidia ·
NVIDIA 通过新增 DGX Spark 64GB 配置扩展其本地 AI 能力,该产品将于 10 月 23 日起由宏碁、华硕、戴尔和惠普等主要合作伙伴提供。这款紧凑型超级计算机采用 GB10 Grace Blackwell 超级芯片和统一内存架构,使开发者能够在无需依赖云端的情况下,在设备端完整运行参数量高达 1000 亿的大模型。系统预装了 DGX OS 及完整的 NVIDIA AI 软件栈,开箱即用支持 Ollama、vLLM 和 PyTorch 等流行框架。为应对扩展性需求,用户可通过 ConnectX-7 网络使用 NVIDIA Sync Cluster Assistant 将两台设备集群化,从而将内存池化至 128GB,并将性能提升多达 1.7 倍。此集群功能能够处理更大的模型或并发代理请求,同时保持节点间无缝的软件兼容性。此外,即将推出的 NVIDIA Sync Model Launcher 等工具旨在简化开发者的本地 AI 应用部署。该设备起售价为 4,999 美元,定位为个人 AI 超级计算和边缘开发的入门级选择。
nvidia