Machine Learning
•
Machine Learning ist ein Ansatz der KI, bei dem Algorithmen Muster in Daten erkennen und daraus Vorhersagen oder Entscheidungen ableiten.
Lernmethoden
- Supervised Learning: Lernen mit gelabelten Daten
- Unsupervised Learning: Mustererkennung ohne Labels
- Reinforcement Learning: Lernen durch Belohnung und Bestrafung
MCP standardisiert die Art, wie LLMs mit externen Tools und Datenquellen interagieren.
Features
- Einheitliche Tool-Definition
- Ressourcen-Management
- Prompt-Templates
- Sampling-Kontrolle
Memory Modules
•
Memory Modules strukturieren das Gedächtnis von KI-Systemen.
Typen
- Conversation Buffer: Chat-Historie
- Summary Memory: Zusammenfassungen
- Entity Memory: Entitaeten und Beziehungen
- Knowledge Base: Externes Wissen
Mistral
•
Mistral AI aus Paris bietet effiziente Open-Source Sprachmodelle.
Modelle
- Mistral 7B: Kompakt und effizient
- Mixtral: Mixture of Experts Architektur
- Mistral Large: Enterprise-Grade
Vorteile
- Open-Source und selbst-hostbar
- Effizient pro Parameter
- EU-basiert (Datenschutz)
Mixture of Experts
•
MoE-Modelle wie GPT-4 nutzen spezialisierte Expertennetze für verschiedene Aufgabentypen.
Vorteile
- Höhere Kapazität bei gleicher Rechenleistung
- Spezialisierung auf Teilaufgaben
- Effizientere Inference
MLOps ueberträgt DevOps-Prinzipien auf Machine Learning für zuverlässigige ML-Systeme.
Kernbereiche
- Modell-Versionierung
- Automatisiertes Training
- Kontinuierliches Monitoring
- A/B-Testing
Model Card
•
Model Cards sind strukturierte Dokumente, die ML-Modelle transparent beschreiben.
Inhalte
- Modellbeschreibung und Zweck
- Trainings- und Evaluationsdaten
- Leistungsmetriken
- Bekannte Limitierungen und Bias
- Empfohlene Anwendungsfaelle
Model Serving
•
Model Serving bringt trainierte Modelle zuverlässigig in die Produktion.
Komponenten
- Inference Server (TensorFlow Serving, TorchServe)
- Modell-Versionierung
- A/B Testing Infrastruktur
- Auto-Scaling
Multimodal RAG
•
Multimodal RAG integriert verschiedene Datentypen für umfassendere Informationsverarbeitung.
Unterstützte Modalitaeten
- Text und Dokumente
- Bilder und Diagramme
- Audio und Transkripte
- Videos und Frames
- Tabellen und strukturierte Daten
Multimodale KI
•
Multimodale KI kann verschiedene Eingabeformate verstehen und miteinander verknuepfen.
Beispiele
- GPT-4V: Text + Bilder
- Claude 3: Text + Bilder + PDFs
- Gemini: Text + Bilder + Audio + Video
Ein MVP ermöglicht schnelles Lernen durch fruehes Nutzer-Feedback bei minimalem Aufwand.
MVP-Vorteile
- Risikominimierung
- Schnelle Marktvalidierung
- Ressourcenschonung
- Iterative Verbesserung