笔记本¶ Seldon Core 设置¶ 安装 Seldon Core 安装 MinIO 预包装推理服务示例¶ 发布二进制 Scikit-learn 模型 发布 Tensorflow 到处模型 MLflow 预包装服务 A/B 测试 MLflow v2 协议点对点 Workflow (孵化中) 发布二进制 XGBoost 模型 发布集成集群 MinIO 的预包装模型服务 自定义预包装 LightGBM 服务 Python 语言封装示例¶ SKLearn Spacy NLP SKLearn 虹膜分类器 Sagemaker SKLearn 示例 TFserving MNIST Statsmodels Holt-Winter's 时序模型 运行时指标及标签 Triton GPT2 示例 专门的框架示例¶ NVIDIA TensorRT MNIST OpenVINO ImageNet OpenVINO ImageNet Ensemble Triton 示例 孵化项目示例¶ Kubeflow Seldon E2E 管道 H2O Java MoJo 合并器异常值检测 KNative Eventing 流处理 Kafka CIFAR10 Kafka SpaCy SKlearn NLP Kafka KEDA 自动缩放 CPP 单文件封装 Advanced CPP Buildsystem Override Environment Variables 基于云的基础示例¶ AWS EKS Tensorflow Deep MNIST Azure AKS Tensorflow Deep MNIST GKE 的 GPU Tensorflow Deep MNIST Alibaba Cloud Tensorflow Deep MNIST Triton GPT2 Azure 示例 Setup Azure Kubernetes Infrastructure Create Storage Account for training data Install Kubernetes Blob CSI Driver 高级机器学习监控¶ 统计指标的实时监控 Explainer for Iris model with Poetry-defined Environment Deploy Iris Model Train Explainer Save and deploy Explainer Test Deployed explainer 模型 V2 协议解释器示例「孵化中」 Outlier Detection on CIFAR10 Outlier Detector for Cifar10 model with Poetry-defined Environment Train Outlier Detector Seldon Core 批处理¶ 集成 Argo Workflows 和 S3 / Minio 的批处理 集成 Argo Workflows 和 HDFS 的批处理 集成 Kubeflow Pipelines 的批处理 MLOps: 扩展、监控和可观察性¶ 自动缩放示例 Example KEDA 自动缩放示例 ELK 请求负载记录 Grafana & Prometheus 自定义指标 Jaeger 链路追踪 CI / CD 集成 Jenkins Classic CI / CD 集成 Jenkins X 副本控制 生产配置及实现¶ Helm 部署示例 最大 gRPC 消息大小 部署多 Seldon Core Operators 协议示例 可配置超时 自定义 Protobuf Data 示例 熔断示例 AB 测试及渐进式部署¶ Istio AB 测试 Ambassador AB 测试 Seldon/Iter8 - 单次 Seldon Deployment 的渐进式 AB 测试 Seldon/Iter8 - 多个 Seldon Deployments 的渐进式 AB 测试 复杂图示例¶ Chainer MNIST Model Deployment Test using Minikube 使用 V2 协议的自定义预处理器 入口¶ Ambassador 金丝雀 Ambassador 影子流量 Ambassador 头 Ambassador 自定义配置 Istio 示例 Istio 金丝雀 基础设施¶ 1.2.0 版升级的补丁卷 基准测试和负载测试¶ 服务编排器开销 Tensorflow 基准测试 Argo Workflows 基准测试 Python 序列化消耗基准测试 KMP_AFFINITY 基准测试示例 Kafka 负载记录 升级示例¶ RClone Storage Initializer - 测试新密钥格式 RClone Storage Initializer - 升级集群 (AWS S3 / MinIO)