熔断

高可用性是运行生产系统的一个重要方面。 为此,您可以将 Pod 熔断规范添加到您创建的 Pod 模板规范中。 根据相应地定义来让应用程序处理熔断。

Seldon Deployment 熔断配置实例:

apiVersion: machinelearning.seldon.io/v1
kind: SeldonDeployment
metadata:
  name: seldon-model
spec:
  name: test-deployment
  replicas: 2
  predictors:
  - componentSpecs:
    - pdbSpec:
        minAvailable: 90%
      spec:
        containers:
        - image: seldonio/mock_classifier_rest:1.3
          imagePullPolicy: IfNotPresent
          name: classifier
          resources:
            requests:
              cpu: '0.5'
        terminationGracePeriodSeconds: 1
    graph:
      children: []
      endpoint:
        type: REST
      name: classifier
      type: MODEL
    name: example

这个例子确保我们的服务能力不会下降超过10%。