Apache Spark技术团队所成立的新创Databricks正式推出Model Serving,这是一项无伺服器机器学习模型服务,透过将模型部署在湖边小屋(Lakehouse)就近整合资料,用户可以利用REST API存取模型,以快速建构包括个人化建议、聊天机器人和诈骗侦测等即时机器学习应用程式。
不少企业希望在应用程式添加机器学习技术,提供创新服务,但Databricks提到,即时机器学习系统需要快速可扩展的服务基础架构,不只需要专家知识建立和维护,也需要进行监控、自动部署和模型再训练等工作,这对企业来说是一大挑战。
透过API提供机器学习服务则有助克服此挑战,Databricks模型服务将模型部署於资料和训练基础设施旁,以进一步简化用户在机器学习生命周期管理工作。模型服务建构在Databricks湖边小屋服务之上,使资料和人工智慧整合至同平台,提供一个无伺服器解决方案,供企业以整合工具的方式添加机器学习技术,加速创新应用开发。
用户不需要考虑底层,由Databricks处理基础设施的可扩展性,以及版本相容性和程式修补,且模型服务能够原生与各种服务整合,用户在单一平台就能管理资料撷取、训练、部署和监控整个机器学习工作流程,掌握模型生命周期整体情况。
模型服务整合Databricks特徵商店,而特徵商店是一个方便查询和共享特徵的集中式储存库,用户可在训练期间定义一次特徵,之後便由Databricks自动撷取并联合相关特徵,以完成推论工作负载。Databricks模型服务还整合MLflow自动部署模型,用户只要提供模型,MLflow便能自动准备容器,并将其部署成无伺服器服务。