Nuta
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować się zalogować lub zmienić katalog.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Generowanie operacji sztucznej inteligencji lub GenAIOps (czasami nazywanych LLMOps ) opisuje praktyki operacyjne i strategie zarządzania dużymi modelami językowymi (LLM) w środowisku produkcyjnym. Ten artykuł zawiera wskazówki dotyczące postępu możliwości w usłudze GenAIOps na podstawie bieżącego poziomu dojrzałości organizacji.
Skorzystaj z poniższych opisów, aby znaleźć poziom klasyfikacji modelu dojrzałości GenAIOps. Te poziomy zapewniają ogólne zrozumienie i praktyczny poziom aplikacji w organizacji. Wskazówki zawierają przydatne linki do rozszerzania baza wiedzy GenAIOps.
Napiwek
Użyj oceny modelu dojrzałości GenAIOps, aby określić bieżący poziom dojrzałości genAIOps organizacji. Kwestionariusz pomaga zrozumieć bieżące możliwości organizacji i zidentyfikować obszary poprawy.
Poziom 1 — początkowy
Napiwek
Wynik z oceny modelu dojrzałości GenAIOps: początkowy (0–9).
Opis: Twoja organizacja jest na początkowym podstawowym etapie dojrzałości GenAIOps. Eksplorujesz możliwości usługi LLMs, ale nie opracowaliśmy jeszcze rozwiązań ustrukturyzowanych ani systematycznego podejścia.
Zacznij od zapoznania się z różnymi interfejsami API LLM i ich możliwościami. Następnie zacznij eksperymentować z projektem monitów strukturalnych i podstawowymi monitami inżynieryjnymi. Zapoznaj się z artykułami w usłudze Microsoft Learn jako punktem wyjścia. Biorąc pod uwagę zdobytą wiedzę, dowiedz się, jak wprowadzić podstawowe metryki na potrzeby oceny wydajności aplikacji LLM.
Sugerowane odwołania do postępu na poziomie 1
- Wykaz modeli usługi Foundry
- Eksplorowanie katalogu modeli portalu Microsoft Foundry
- Wprowadzenie do monitowania inżynieryjnego
- Monituj techniki inżynieryjne
- System Message Framework
- Przepływ poleceń w portalu Foundry
- Ocena aplikacji GenAI za pomocą narzędzia Foundry
- Metryki oceny i monitorowania usługi GenAI za pomocą rozwiązania Foundry
Aby lepiej zrozumieć metodę GenAIOps, rozważ dostępne kursy i warsztaty usługi Microsoft Learning:
Poziom 2 — zdefiniowany
Napiwek
Wynik z oceny modelu dojrzałości GenAIOps: dojrzewanie (10–14).
Opis: Twoja organizacja zaczęła systemalizować operacje LLM, koncentrując się na strukturalnych programowaniu i eksperymentowaniu. Istnieje jednak miejsce na bardziej zaawansowaną integrację i optymalizację.
Aby poprawić możliwości i umiejętności, dowiedz się, jak opracowywać bardziej złożone monity i efektywnie integrować je z aplikacjami. Zaimplementuj systematyczne podejście do wdrażania aplikacji LLM, prawdopodobnie eksplorując integrację ciągłej integracji/ciągłego wdrażania. Rozpocznij stosowanie bardziej zaawansowanych metryk oceny, takich jak uziemienie, istotność i podobieństwo. Skoncentruj się na zagadnieniach związanych z bezpieczeństwem zawartości i etycznymi zagadnieniami dotyczącymi korzystania z usługi LLM.
Sugerowane odwołania do rozwoju poziomu 2
- Wykonaj nasze warsztaty krok po kroku, aby podnieść poziom praktyk genAIOps
- Prompt Flow w portalu Foundry
- Jak kompilować przy użyciu przepływu monitów
- Wdrażanie przepływu jako zarządzanego punktu końcowego online na potrzeby wnioskowania Real-Time
- Integrowanie przepływu monitów z usługą GenAIOps
- Ocena genAI za pomocą narzędzia Foundry
- Metryki oceny i monitorowania usługi GenAI
- Bezpieczeństwo zawartości platformy Azure
- Narzędzia i praktyki odpowiedzialnej sztucznej inteligencji
Poziom 3 — zarządzany
Napiwek
Ocena na podstawie oceny modelu dojrzałości GenAIOps: dojrzewanie (15–19).
Opis: Twoja organizacja zarządza zaawansowanymi przepływami pracy LLM przy użyciu proaktywnych strategii monitorowania i wdrażania ze strukturą. Jesteś bliski osiągnięcia doskonałości operacyjnej.
Aby rozszerzyć bazę wiedzy, skoncentruj się na ciągłym ulepszaniu i innowacjach w aplikacjach LLM. Ulepszanie strategii monitorowania dzięki analizie predykcyjnej i kompleksowym środkom bezpieczeństwa zawartości. Dowiedz się, jak optymalizować i dostosowywać aplikacje LLM pod kątem określonych wymagań. Wzmocnienie strategii zarządzania zasobami dzięki zaawansowanym funkcjom kontroli wersji i wycofywania.
Sugerowane odwołania do poziomu 3 postępu
- Dostrajanie za pomocą usługi Azure ML Learning
- Dostosowywanie modelu za pomocą dostrajania
- Monitorowanie modelu GenAI
- Podnoszenie poziomu aplikacji LLM do środowiska produkcyjnego za pomocą metody GenAIOps
Poziom 4 — zoptymalizowany
Napiwek
Wynik z oceny modelu dojrzałości GenAIOps: zoptymalizowany (20–28).
Opis: Organizacja demonstruje doskonałość operacyjną w usłudze GenAIOps. Masz zaawansowane podejście do tworzenia, wdrażania i monitorowania aplikacji LLM.
W miarę rozwoju oprogramowania LLM utrzymaj swoją przewagę, aktualizując się dzięki najnowszym postępom LLM. Stale oceniaj dopasowanie strategii LLM z zmieniającymi się celami biznesowymi. Wspieraj kulturę innowacji i ciągłego uczenia się w zespole. Podziel się swoją wiedzą i najlepszymi rozwiązaniami z szerszą społecznością, aby ustanowić przywództwo myślowe w tej dziedzinie.