个人超级计算机
Posted: Sun Feb 09, 2025 6:25 am
在 2025 年国际消费电子展 (CES 2025) 上,Nvidia 惊喜地发布了 Project DIGITS,这是一款体积小巧但计算能力堪比最高效云基础设施的微型计算机。这款与联发科合作设计的新设备允许开发人员、研究人员和人工智能学生在本地创建和训练机器学习模型,而无需依赖云服务。
DIGITS 项目不仅仅是一台计算机,它还是一台个人超级计算机。通过集成与联发科合作开发的新芯片GB10 Grace Blackwell ,Nvidia 成功在比Mac mini还小的机箱内集中了 1 petaflops 的FP4 精度算力。该芯片基于20核ARM CPU ,支持Blackwell架构,专门针对人工智能计算进行了优化。
在硬件方面,DIGITS 的规格令人印象深刻:128 GB 的 LPDDR5 内存、高达4 TB 的 NVMe 存储,以及与USB-C、HDMI、以太网和 SFP28 端口的多样化连接。由于其专用操作系统DGX OS(源自 Linux),它可以完全自主运行。整个 亚美尼亚电报数据 系统预先配置了 Nvidia AI 软件套件,可立即用于原型设计、微调和边缘应用程序开发。
通过该项目,Nvidia 希望满足日益增长的本地电力需求。事实上,在云端训练机器学习模型很快就会变得昂贵,而像 DIGITS 这样的设备可以让这项工作在本地进行,从而更好地控制成本。
4050 亿个参数,售价 3000 美元
DIGITS更为突出的地方在于,它能够训练高达 2000 亿个参数的语言模型,其性能堪比一些专业基础设施。通过Nvidia ConnectX连接,两个 DIGITS 单元可以连接在一起,从而实现高达4050 亿个参数的模型训练。这为研究大规模模型的研究人员和开发人员开辟了新的视角。
3,000 美元的价格对于典型的个人电脑来说虽然有点高,但与目前的替代品相比还是很有竞争力的。如今,在AWS或Azure等云平台上训练一个具有数千亿个参数的模型每月的费用高达数万美元。借助 DIGITS,Nvidia 提供了强大、可持续的内部部署解决方案,使用户能够显著减少与云相关的费用。
Nvidia并没有与基于 ARM 的 Windows PC制造商直接竞争,而是开辟了自己的利基市场,专注于高性能计算和人工智能的工作站。来自制造商合作伙伴的初步反馈非常积极,表明该产品具有潜在的商业成功。 DIGITS 项目预计将于 2025 年 5 月开始向公众开放。
如果您喜欢这篇文章,并且正在考虑从事数据科学职业或只是想提高您所在领域的技能,请不要犹豫,了解我们的培训优惠或有关 DataScientest 的博客文章。
DIGITS 项目不仅仅是一台计算机,它还是一台个人超级计算机。通过集成与联发科合作开发的新芯片GB10 Grace Blackwell ,Nvidia 成功在比Mac mini还小的机箱内集中了 1 petaflops 的FP4 精度算力。该芯片基于20核ARM CPU ,支持Blackwell架构,专门针对人工智能计算进行了优化。
在硬件方面,DIGITS 的规格令人印象深刻:128 GB 的 LPDDR5 内存、高达4 TB 的 NVMe 存储,以及与USB-C、HDMI、以太网和 SFP28 端口的多样化连接。由于其专用操作系统DGX OS(源自 Linux),它可以完全自主运行。整个 亚美尼亚电报数据 系统预先配置了 Nvidia AI 软件套件,可立即用于原型设计、微调和边缘应用程序开发。
通过该项目,Nvidia 希望满足日益增长的本地电力需求。事实上,在云端训练机器学习模型很快就会变得昂贵,而像 DIGITS 这样的设备可以让这项工作在本地进行,从而更好地控制成本。
4050 亿个参数,售价 3000 美元
DIGITS更为突出的地方在于,它能够训练高达 2000 亿个参数的语言模型,其性能堪比一些专业基础设施。通过Nvidia ConnectX连接,两个 DIGITS 单元可以连接在一起,从而实现高达4050 亿个参数的模型训练。这为研究大规模模型的研究人员和开发人员开辟了新的视角。
3,000 美元的价格对于典型的个人电脑来说虽然有点高,但与目前的替代品相比还是很有竞争力的。如今,在AWS或Azure等云平台上训练一个具有数千亿个参数的模型每月的费用高达数万美元。借助 DIGITS,Nvidia 提供了强大、可持续的内部部署解决方案,使用户能够显著减少与云相关的费用。
Nvidia并没有与基于 ARM 的 Windows PC制造商直接竞争,而是开辟了自己的利基市场,专注于高性能计算和人工智能的工作站。来自制造商合作伙伴的初步反馈非常积极,表明该产品具有潜在的商业成功。 DIGITS 项目预计将于 2025 年 5 月开始向公众开放。
如果您喜欢这篇文章,并且正在考虑从事数据科学职业或只是想提高您所在领域的技能,请不要犹豫,了解我们的培训优惠或有关 DataScientest 的博客文章。