Monitoruj swoje aplikacje z generatywną sztuczną inteligencją (wersja zapoznawcza)

Monitorowanie generowanych aplikacji sztucznej inteligencji nigdy nie było ważniejsze ze względu na złożoność i szybką ewolucję branży sztucznej inteligencji. Możliwość obserwowania, zintegrowana z usługą Azure Monitor Application Insights, umożliwia ciągłe monitorowanie wdrożonych aplikacji sztucznej inteligencji w celu zapewnienia, że są one wydajne, bezpieczne i generują wysokiej jakości wyniki w środowisku produkcyjnym. Oprócz możliwości ciągłego monitorowania udostępniamy również funkcje ciągłej oceny dla agentów , aby jeszcze bardziej ulepszyć pulpit nawigacyjny obserwacji rozwiązania Foundry z wglądem w dodatkowe krytyczne metryki jakości i bezpieczeństwa.

Jak włączyć monitorowanie

Aby korzystać z funkcji monitorowania w rozwiązaniu Microsoft Foundry, musisz połączyć zasób usługi Application Insights z projektem foundry.

1. Przejdź do obszaru Monitorowanie w okienku nawigacji po lewej stronie portalu Foundry.
2. Wybierz kartę Analiza aplikacji .
3. Utwórz nowy zasób usługi Application Insights, jeśli jeszcze go nie masz.
4. Połącz zasób z projektem Foundry.

Zbieranie danych produkcyjnych na potrzeby monitorowania

W tym miejscu chcesz rozpocząć zbieranie danych telemetrycznych dla aplikacji, które można monitorować w naszych wbudowanych widokach. W tym celu zalecamy:

• Instrumentacja śladów umożliwia zbieranie szczegółowych danych telemetrycznych z aplikacji. Te dane zapewniają wgląd w wydajność, opóźnienie i zachowanie aplikacji w środowisku produkcyjnym.

• Ciągłe oceny pomagają monitorować jakość i bezpieczeństwo agenta w środowisku produkcyjnym, oceniając jego dane wyjściowe przed wstępnie zdefiniowanymi metrykami i progami.

Wyświetlanie wyników monitorowania

W portalu Foundry widok pulpitu nawigacyjnego analityki aplikacji korzysta z sygnałów z Azure Monitor Application Insights, wykonując zapytania za pomocą Azure Workbooks i tworzac wizualizacje.

Te widoki mają na celu zapewnienie kluczowych metryk — zużycie tokenów, opóźnienie, wyjątki, jakość odpowiedzi w jednym okienku szkła, które zapewnia przezroczystość zespołom w celu śledzenia kondycji operacyjnej i jakości, zrozumienia trendów i ciągłej oceny w celu ulepszenia aplikacji.

Wykonaj następujące kroki, aby uzyskać dostęp do wbudowanego widoku monitorowania w projekcie Foundry i korzystać z nich:

1. Przejdź do swojego projektu Foundry w portalu Foundry.
2. Wybierz pozycję Monitorowanie w okienku nawigacji po lewej stronie.
3. Na karcie Analiza aplikacji przejrzyj przegląd kondycji aplikacji.
4. Użyj filtrów, aby określić zakres czasu, aplikację i/lub model w celu wyodrębnienia szczegółowych informacji.
5. Jeśli zauważysz problemy, takie jak pogarszające się metryki jakości, przejdź do Śledzenie, aby rozwiązywać problemy w aplikacji.
6. Aby jeszcze bardziej dostosować środowisko monitorowania i korzystać z zaawansowanych funkcji w usłudze Azure Monitor, przewiń do dołu i wybierz pozycję Wyświetl w usłudze Azure Monitor Application Insights.

Dostosowywanie i udostępnianie pulpitu nawigacyjnego

Usługa Application Insights to zaawansowane narzędzie do monitorowania wydajności aplikacji (APM), które zapewnia wgląd w kondycję i wydajność aplikacji.

Pulpit nawigacyjny analizy aplikacji można otworzyć w galerii skoroszytów usługi Azure Monitor Application Insights, wybierając link Widok w usłudze Azure Monitor Application Insights na końcu strony.

Ten pulpit nawigacyjny jest otwierany jako skoroszyt edytowalny, w którym można dostosować skoroszyt i zapisać zgodnie z potrzebami.

1. Wybierz pozycję Edytuj na pasku poleceń.

2. Zmodyfikuj elementy zgodnie z potrzebami twojego przypadku użycia. Wybierz pozycję ... w elemecie, aby edytować, dodawać, przenosić/zmieniać rozmiar, klonować lub usuwać. Możesz na przykład dodać kafelek za pomocą języka KQL, aby śledzić niestandardowy atrybut, który zbierasz, ale nie jest wyświetlany w naszym wbudowanym widoku.

3. Zapisz najnowsze zmiany i utwórz różne widoki zgodnie z potrzebami, wybierając pozycję Zapisz.

4. Udostępnij zespołowi, wybierając ikonę Udostępnij na pasku poleceń.

Eksplorowanie i analizowanie za pomocą języka Kusto Query Language (KQL)

KQL (Kusto Query Language) to zaawansowany język zapytań używany na platformie Azure do eksplorowania, analizowania i wizualizowania dużych ilości danych telemetrycznych i danych dzienników.

W widoku pulpitu nawigacyjnego analizy aplikacji możesz otworzyć link Otwórz zapytanie , wybierając ikonę w prawym górnym rogu dla określonego kafelka lub wykresu.

Po wybraniu tej opcji możesz wyświetlić i uruchomić te same zapytania KQL, które umożliwiają monitorowanie widoku i szczegółowe omówienie powiązanych danych.

Konfigurowanie alertów platformy Azure

Reguły alertów platformy Azure można zdefiniować na podstawie poprzednich zapytań KQL, aby aktywnie wykrywać problemy z operacjami poprodukcyjnymi w przyszłości. Wybierz pozycję ... aby wyświetlić więcej opcji, takich jak Nowa reguła alertu.

Wybranie przycisku Nowa reguła alertu powoduje otwarcie kreatora w celu utworzenia reguły alertu dla powiązanego sygnału.

Aby dowiedzieć się więcej na temat konfigurowania alertów platformy Azure i zarządzania nimi w celu proaktywnego rozwiązywania problemów, zobacz Alerty w usłudze Azure Monitor.

Treści powiązane

• Monitorowanie wdrożeń modelu