Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
GenAIOps oder Generative Artificial Intelligence Operations (manchmal als LLMOps bezeichnet) beschreibt die operativen Verfahren und Strategien für die Verwaltung großer Sprachmodelle (LLMs) in der Produktion. Dieser Artikel enthält einen Leitfaden dazu, wie Sie Ihre Fähigkeiten bei GenAIOps basierend auf dem aktuellen Reifegrad Ihrer Organisation voranbringen.
Verwenden Sie die nachstehenden Beschreibungen, um die Ebene für Ihr GenAIOps-Reifegradmodell zu finden. Diese Ebenen bieten ein allgemeines Verständnis und eine praktische Anwendungsebene Ihrer Organisation. Die Leitfäden enthalten hilfreiche Links, um Ihre GenAIOps-Wissensdatenbank zu erweitern.
Tipp
Verwenden Sie diese Bewertungen für das GenAIOps-Reifegradmodell, um den aktuellen GenAIOps-Reifegrad Ihrer Organisation zu ermitteln. Der Fragebogen hilft Ihnen, die aktuellen Funktionen Ihrer Organisation zu verstehen und Bereiche zur Verbesserung zu identifizieren.
Ebene 1 – initial
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Anfangsphase (0–9).
Beschreibung: Ihre Organisation befindet sich in der initialen grundlegenden Phase des GenAIOps-Reifegrads. Sie untersuchen die Funktionen von LLMs, haben aber noch keine strukturierten Praktiken oder systematischen Ansätze entwickelt.
Machen Sie sich zunächst mit verschiedenen LLM-APIs und ihren Funktionen vertraut. Beginnen Sie als Nächstes mit dem Entwerfen strukturierter Eingabeaufforderungen und dem grundlegenden Prompt Engineering zu experimentieren. Lesen Sie die Microsoft Learn-Artikel als Ausgangspunkt. Erfahren Sie, was Sie gelernt haben, und erfahren Sie, wie Sie grundlegende Metriken für die Auswertung der LLM-Anwendungsleistung einführen.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 1
- Gießereimodellkatalog
- Erkunden des Microsoft Foundry-Portalmodellkatalogs
- Einführung in prompt Engineering
- Prompt Engineering-Techniken
- Systemnachrichtenframework
- Aufforderungsfluss im Findry-Portal
- Bewerten von GenAI-Anwendungen mit Foundry
- GenAI Evaluierungs- und Überwachungsmetriken mit Foundry
Um GenAIOps besser zu verstehen, sollten Sie die verfügbaren Microsoft Learning-Kurse und Workshops in Betracht ziehen:
Ebene 2 – definiert
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Ausreifung (10–14).
Beschreibung: Ihre Organisation hat begonnen, LLM-Vorgänge zu systematisieren, wobei der Fokus auf der strukturierten Entwicklung und Experimentierung liegt. Es gibt jedoch Platz für anspruchsvollere Integration und Optimierung.
Um Ihre Fähigkeiten und Fähigkeiten zu verbessern, erfahren Sie, wie Sie komplexere Eingabeaufforderungen entwickeln und effektiv in Anwendungen integrieren. Implementieren Sie einen systematischen Ansatz für die LLM-Anwendungsbereitstellung, um möglicherweise die CI/CD-Integration zu untersuchen. Beginnen Sie mit der Verwendung komplexerer Auswertungsmetriken wie Grundheit, Relevanz und Ähnlichkeit. Konzentrieren Sie sich auf die Sicherheit von Inhalten und ethische Überlegungen in der LLM-Nutzung.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 2
- Machen Sie unseren Schritt-für-Schritt-Workshop, um Ihre GenAIOps-Praktiken zu erhöhen.
- Aufforderungsfluss im Findry-Portal
- Erstellen mit Aufforderungsfluss
- Bereitstellen eines Flusses als verwalteter Onlineendpunkt für Real-Time Inference
- Integrieren des Eingabeaufforderungsflusses in GenAIOps
- GenAI-Auswertung mit Foundry
- GenAI Evaluations- und Überwachungskennzahlen
- Azure Content Safety
- Verantwortungsvolle KI-Tools und -Praktiken
Ebene 3 – verwaltet
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Ausreifung (15–19).
Beschreibung: Ihre Organisation verwaltet erweiterte LLM-Workflows mit proaktiven Überwachungs- und strukturierten Bereitstellungsstrategien. Sie sind in der Nähe, operative Exzellenz zu erreichen.
Um Ihre Wissensbasis zu erweitern, konzentrieren Sie sich auf kontinuierliche Verbesserung und Innovation in Ihren LLM-Anwendungen. Verbessern Sie Ihre Überwachungsstrategien mit Predictive Analytics und umfassenden Sicherheitsmaßnahmen für Inhalte. Erfahren Sie, wie Sie Ihre LLM-Anwendungen für bestimmte Anforderungen optimieren und feinabstimmen können. Stärken Sie Ihre Asset Management-Strategien durch erweiterte Versionssteuerungs- und Rollbackfunktionen.
Vorgeschlagene Referenzen für die Weiterentwicklung der Stufe 3
- Feinabstimmung mit Azure ML Learning
- Modellanpassung mit Feinabstimmung
- GenAI-Modellüberwachung
- Erhöhen von LLM-Apps zur Produktion mit GenAIOps
Ebene 4 – optimiert
Tipp
Score der Bewertung des GenAIOps-Reifegradmodells: Optimierung (20–28).
Beschreibung: Ihre Organisation demonstriert betriebliche Exzellenz bei GenAIOps. Sie haben einen anspruchsvollen Ansatz für die LLM-Anwendungsentwicklung, -bereitstellung und -überwachung.
Während sich LLMs weiterentwickeln, behalten Sie Ihre Spitzenposition bei, indem Sie mit den neuesten LLM-Fortschritten auf dem neuesten Stand bleiben. Bewerten Sie kontinuierlich die Ausrichtung Ihrer LLM-Strategien mit sich entwickelnden Geschäftszielen. Fördern Sie eine Innovationskultur und ein kontinuierliches Lernen in Ihrem Team. Teilen Sie Ihr Wissen und bewährte Methoden mit der breiteren Community, um die Denken-Führung auf dem Gebiet zu etablieren.