AI云原生本质来讲就是结合K8s实现服务部署自动化,结合Istio来做流量治理,实现应用全面部署及管控。
AI模型对外提供服务肯定离不开模型部署,那么刚好可以借助K8s的能力来实现自动化。而对外提供出的API肯定离不开流量治理与限速相关的功能,这也恰好是Istio的能力。
本文结合HP云,看看在实践过程中应该怎么,以及应该注意的事项。
AI云原生本质来讲就是结合K8s实现服务部署自动化,结合Istio来做流量治理,实现应用全面部署及管控。
AI模型对外提供服务肯定离不开模型部署,那么刚好可以借助K8s的能力来实现自动化。而对外提供出的API肯定离不开流量治理与限速相关的功能,这也恰好是Istio的能力。
本文结合HP云,看看在实践过程中应该怎么,以及应该注意的事项。