GreenLake携LLM云服务进入人工智能市场

2023年06月21日 由 Samoyed 发表 541045 0
HPE周二在HPE发现大会上宣布,针对LLM的新型超级计算云服务GreenLake将于2023年底或2024年初在美国推出。面向LLM的GreenLake将允许企业培训、调整和部署每个企业独有的大规模的人工智能。



HPE表示,新的云服务应该是100%碳中和的,并将在Cray超级计算机上运行。

在美国发布之后,针对LLM的GreenLake将向欧洲客户开放,预计发布时间为2024年初。

HPE与人工智能软件初创公司Aleph Alpha合作

“人工智能正处于转折点,我们看到各种客户开始利用生成式人工智能的需求,”HPE实验室执行副总裁兼HPC和人工智能业务集团总经理Justin Hotard在虚拟演示中表示。

针对LLM的GreenLake在人工智能原生架构上运行,根据工作负载,该架构跨越数百或数千个CPU或GPU。HPE表示,在一个人工智能原生架构产品中的这种灵活性,使其比并行运行多个工作负载的通用云选项更高效。针对LLM的GreenLake是与德国人工智能初创公司Aleph Alpha合作创建的,后者提供了一个名为Luminous的预训练LLM。Luminous LLM可以用英语、法语、德语、意大利语和西班牙语工作,并可以使用文本和图像进行预测。

双方的合作是双向的,Aleph Alpha首先使用了HPE的基础设施来培训Luminous。

Aleph Alpha的创始人兼首席执行官Jonas Andrulis表示:“通过使用HPE的超级计算机和人工智能软件,我们高效、快速地训练了Luminous。”“我们很自豪能成为HPEGreenLake的启动合作伙伴,我们期待着扩大与HPE的合作,将Luminous扩展到云端,并为我们的客户提供服务,为商业和研究计划提供新的应用程序。”

最初发布的内容将包括一套用于再培训或微调的开源和专有模型。未来,HPE希望为气候建模、医疗保健、金融、制造和运输等相关任务提供专门的人工智能。

目前,面向LLM的GreenLake将成为HPE整体人工智能软件堆栈的一部分,其中包括Luminous模型、机器学习开发、数据管理和开发程序以及Cray编程环境。



HPE的Cray XD超级计算机实现了企业人工智能性能

用于LLM的GreenLake在HPE的Cray XD超级计算机和NVIDIA的H100 GPU上运行。通过超级计算机和HPE Cray编程环境,开发人员可以在高性能计算和人工智能应用中进行数据分析、自然语言处理和其他任务,而无需运行自己昂贵并需要超级计算专业技术的硬件设备。

Hotard在演讲中指出,大规模的人工智能企业生产需要大量的性能资源、技术人员以及安全与信任。

从可再生能源中获得更多的电力

通过使用托管设施,HPE的目标是用100%的可再生能源为其超级计算机供电。HPE正在与北美的计算中心专家QScale合作,设计专门用于此目的的设备。

“在我们所有的云部署中,我们的目标是为我们的客户提供100%的碳中和产品,”霍德说。“液体冷却的好处之一是,你可以把废水,热水,再利用。我们在其他超级计算机安装中也有这种技术,我们也在利用这种云部署的专业知识。”

HPE GreenLake的LLM替代方案

其他用于运行LLM的基于云的服务包括NVIDIA的NeMo(目前处于早期访问阶段)、Amazon Bedrock和Oracle Cloud Infrastructure。

Hotard在演讲中指出,HPE的GreenLake将是对大型云服务(如AWS和谷歌云平台)的补充,而不是替代它们。

“我们可以并且打算与公共云集成。我们认为这是一种免费的产品;我们不认为这是一个竞争者。”

 

来源:https://www.techrepublic.com/article/hpe-discover-2023/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消