Seldon Core 核心概念¶

此页面是一个正在进行的工作，提供 Seldon Core 的核心理念。这项工作正在进行中，我们欢迎反馈。

机器学习发布 / 推理图¶

机器学习部署/推理图的概念概述¶

机器学习部署（或推理图）是指 Seldon 系统下 Seldon（Seldon Deployments）相关的一组组件。它表示工作流程，将机器学习系统的组件分组到逻辑管道中。ML 部署包含组件的配置、系统输入和输出的定义以及每个组件的定义。

组件/推理服务器¶

组件/推理服务器的概念概述¶

组件（或推理服务器）是：

模型
路由
合并器
转换器
输出转换器

一个程序提供工作流中的一个步骤。

模型¶

模型的概念概述¶

机器学习部署中的组件，从训练数据中获取的训练模型。

语言封装¶

语言封装的概念概述¶

语言封装一种针对特定编程语言 A language wrapper is a model which enables cross language and/or runtime interoperability with a particular programming language.

预封装推理服务器¶

预封装推理服务器的概念概述¶

预封装推理服务器包含如下：

SKLearn Server
XGBoost Server
Tensorflow Serving
MLflow Server

可以发布训练模型的服务。

Seldon Core 中内置了预封装的推理服务器，允许用户轻松地从 artifact (即序列化模型) 到 ML 部署而无需考虑工具包。请参阅以下文档页面，供用户查找有关如何创建自己的「预封装」推理服务器的说明：

图¶

图的概念简述¶

图将机器学习组件表示为节点，其表示从一个组件到下一个组件的传递输入和输出的操作。

请求¶

请求的概念概述¶

请求代表对模型的单个调用以进行预测。该请求附加一个有效负载，其中包含通过特定协议传递的预测数据（通常以数组的形式）。它需遵循特定格式。

Request 日志¶

请求日志的概念描述¶

请求日志记录是 Seldon 的一项功能，能够跟踪已提交给模型的请求。在默认设置中，请求被记录并存储在 Elasticsearch 中。

有用的链接¶