Seldon.io发布新开源平台,用于Kubernetes上的机器学习

机器学习部署有很多挑战,但是新的Seldon Core打算帮助它的新的开源平台,用于在Kubernetes上部署机器学习模型。

Seldon.io发布新开源平台,用于Kubernetes上的机器学习

Kubernetes(通常称为K8s) 是用于自动部署、扩展和管理容器化(containerized)应用程序的开源系统。它旨在提供“跨主机集群的自动部署、扩展以及运行应用程序容器的平台”。它支持一系列容器工具, 包括Docker等。

Seldon.io宣布了一个新的开源平台—Seldon Core,该平台可以让数据科学团队在规模上运行和管理模型。Seldon Core专注于解决任何机器学习项目的最后一步,帮助公司将模型投入生产,解决现实问题,并最大化投资回报。

传统的基础设施堆栈(stack)和devops流程不能很好地转化为机器学习,而且在这个领域中存在有限的开源创新,这迫使企业以巨大的代价建立自己的或者使用专有的服务。拥有必要的多科性技能的数据工程师是非常罕见的。低效率导致数据科学家被投入到服务质量和与性能相关的挑战中,这些挑战将他们的注意力从他们可以增加价值的地方转移到构建更好的模型上。

数据科学家专注于创建更好的模型,而devops团队能够更有效地使用他们所理解的工具来管理部署。

平台的特点包括:

  • 使数据科学家能够部署使用任何机器学习工具包或编程语言构建的模型。Seldon Core计划最初支持基于python的工具/语言,包括Tensorflow、scikitlearn、Spark和H20。
  • 在部署时,通过REST和gRPC将机器学习模型自动地集成到需要预测的业务应用程序和服务中。
  • 处理部署的模型的完整生命周期管理,没有停机,包括更新运行时图、缩放、监视和安全。

安装

官方版本:https://storage.googleapis.com/seldon-charts

安装seldon-core:

helm install seldon-core --name seldon-core --repo https://storage.googleapis.com/seldon-charts

要安装包括Prometheus和Grafana在内的可选分析组件,使用一个内置的指示板来监控运行的机器学习部署:

helm install seldon-core --name seldon-core \
 --set grafana_prom_admin_password=password \
 --set persistence.enabled=false \
 --repo https://storage.googleapis.com/seldon-charts

部署指南

Seldon.io发布新开源平台,用于Kubernetes上的机器学习

更多详情请参阅:https://github.com/SeldonIO/seldon-core

发表评论