Vultr 和 Domino 数据实验室创建联合 MLOps 和计算解决方案以加速企业 AI 的价值实现时间
chatgpt和生成式ai迎来了AI的“iPhone时刻”,企业正在努力通过AI获得竞争优势,但也面临着挑战。
虽然 95% 的数据主管(CDO 和 CDAO)表示他们的领导层期望 AI 和 ML 应用程序带来收入增长,但只有 19% 的人表示他们拥有满足这些期望的资源(根据 domino 最近对企业 CDO 和 CDAO 的调查)。为数据科学团队的研究人员提供首选工具和基础设施对于 AI/ML 计划至关重要——对于雇用/留住顶尖人才、保持人才的生产力以及维持稳健的治理流程。
《福布斯》预测芯片和 GPU 的需求激增将持续到 2023 年底。主要的云提供商正在限制客户的可用性——一些报告称需要数月的硬件访问等待,优先考虑那些已经进行了多年支出的公司信息所报告的承诺。
Domino 和 vultr 合作开发联合 mlops 和计算解决方案
我们很高兴地宣布,数据科学和云计算行业的两家行业领导者 Domino Data Lab 和 Vultr 之间新的集成 MLOps 和 GPU 解决方案全面上市。此次合作将为我们的客户和潜在客户提供无与伦比的访问权限,以访问 Vultr 上最先进的 NVIDIA 基础架构,包括 NVIDIA A100 和 H100 Tensor Core GPU,以训练、部署和管理他们自己的深度学习模型,包括用于生成 AI 的模型,轻松且负担得起。
随着 AI 继续快速发展,能够访问强大的计算基础设施已成为训练和部署 AI/ML 模型的关键。 Domino 和 Vultr 的合作伙伴关系提供了独特的优势,为客户提供了在数周内访问尖端 GPU 的机会,使数据科学家和开发人员能够构建复杂的 AI 模型,以比超大规模企业更低的成本推动跨行业的创新。
Domino 和 Vultr 的联合解决方案(于 3 月宣布)加快了数据科学投资的价值实现时间,因此数据科学团队和 IT 领导者对其投资的即时投资回报率充满信心。数据科学团队和 IT 领导者不再需要单独采购、建立、配置和集成所有用于 AI/ML 的机器——Domino & Vultr 解决方案经过验证,可以将 Domino 的企业 MLOps 平台无缝集成到由 Vultr 提供支持的云 GPU 产品上英伟达。这将 Domino 领先的企业 MLOps 平台和 Vultr 上行业领先的基于 NVIDIA GPU 的基础架构结合在一起,与最流行的数据科学软件和工具集成,例如 NVIDIA AI Enterprise,NVIDIA AI 平台的软件层; NVIDIA NGC 企业服务、软件和支持门户; Anaconda 的开源 Python 工具等。
解决方案概述
我们的联合产品以 Vultr Kubernetes Engine (VKE) 和 Domino Nexus(Domino 的混合/多云 MLOps 产品)为基础。 Domino 的 Kubernetes 原生平台在 VKE 上无缝运行,VKE 提供自动化容器编排,因此您可以自信地操作并轻松扩展数据科学工作流。
Domino 的 Enterprise MLOps 平台提供数据科学编排层,在 IT 的治理下提供对通用数据科学工具和基础设施的治理自助访问——从一个“控制平面”。
我们的联合产品使客户能够:
利用 NVIDIA A100 和 H100 Tensor Core GPU 的高性能计算能力,几周内即可上市。平衡成本、性能和可用性以按需扩展或缩减 GPU 资源,确保 AI 工作负载的最佳利用率和成本管理——包括访问部分 GPU。
使用 Domino 的企业 MLOps 加速数据科学和模型生命周期,培养更高效和有效的数据科学流程。
通过包、框架和行业解决方案(包括 NVIDIA AI Enterprise、NVIDIA NGC、Anaconda 等)提高数据科学家的生产力,所有这些都在 Domino 和 Vultr 解决方案上得到验证。
使用 Domino Nexus 从单个“控制平面”跨混合云/多云无缝开发和扩展数据科学,使您能够跨任何计算集群运行数据科学工作负载。
通过使用 Domino Nexus 解耦数据科学“控制平面”和“数据/计算”平面来优化成本和性能,这意味着客户可以无缝地“爆发”到 Vultr 云中的 GPU,以缓解模型训练期间的基础设施容量问题。或者,利用不同的计算用于模型训练与托管/推理的集群,以进一步减少基础设施支出。
加快每个行业的数据科学价值实现时间
Domino 开放灵活的平台已经受到 20% 的财富 100 强企业的信任,可以在多个行业扩展企业数据科学。用例包括:
金融服务:利用人工智能进行欺诈检测、信用评分、算法交易和个性化客户体验,释放新的增长机会并提高效率。 Moody’s Analytics 将部署模型的时间缩短了 50%,因此他们可以更快地将信息交到客户手中。
医疗保健和生命科学:加速药物发现和开发,优化临床试验设计,并通过使用人工智能解决方案的个性化医疗来加强患者护理。 Janssen 是 Johnson & Johnson 的制药部门,开发深度学习模型的速度提高了 10 倍以加速深度学习。
公共部门:利用人工智能加强公共安全,优化城市规划,改善资源配置,并实现数据驱动的决策以实现更有效的治理。 Lockheed Martin 每年产生 2000 万美元的价值,并更快地提供新的创新。
经济实惠且高效的 AI 模型推理托管
生成 AI 模型经过训练后,就可以部署它们进行推理了。由于 Vultr 具有成本效益的云基础设施与 Domino Nexus 的混合/多云功能相结合,您可以在不影响性能的情况下享受经济实惠、灵活的模型托管和推理。
Vultr 的全球云数据中心网络确保您的 AI 模型可以快速部署、低延迟,并且可以处理大量请求,使其成为托管 AI 驱动的应用程序和服务的理想平台。 Domino 灵活的平台支持各种部署和托管选项——从本地数据中心到云再到边缘——所有这些都通过 Domino 的单一管理平台进行管理。
详细了解 Vultr 和 Domino 的结合如何帮助您加快 AI 投资的价值实现时间。
本文由 vps主机对比评测网 刊发,转载请注明出处