Model Serving
Model Serving
Auch bekannt als:
Model Deployment
Model Serving bringt trainierte Modelle zuverlässigig in die Produktion.
Komponenten
- Inference Server (TensorFlow Serving, TorchServe)
- Modell-Versionierung
- A/B Testing Infrastruktur
- Auto-Scaling