Tabele wnioskowania agenta: dzienniki żądań i ocen (przestarzałe)

Podczas wdrażania agenta sztucznej inteligencji usługa Databricks tworzy trzy tabele wnioskowania, które automatycznie przechwytują żądania i odpowiedzi do i z agenta. Te tabele ułatwiają monitorowanie wydajności, problemów z debugowaniem i analizowanie opinii użytkowników.

• Nieprzetworzone dane JSON są przekazywane do tabeli ładunków w ciągu godziny od otrzymania żądania przez agenta.
• Dzienniki żądań i dzienniki oceny żądań przetwarzają i formatują dane z tabeli ładunku. Zajmuje to dodatkowy czas.
• W razie potrzeby możesz ręcznie wyodrębnić i przetworzyć dane z tabeli ładunków.
• Zmiany w tabeli ładunku (usunięcia lub aktualizacje) nie są automatycznie synchronizowane z tabelami pochodnymi.

Co się zmienia?

Usługa Databricks nie wypełnia już automatycznie tabel payload_request_logs i payload_assessment_logs.

Co nadal działa: nieprzetworzona payload tabela nadal odbiera dane z nowych żądań.

Przejście na MLflow 3 i używanie śledzenia w czasie rzeczywistym do ujednolicenia dzienników agentów

Usługa Databricks zdecydowanie zaleca migrowanie punktów końcowych agenta do korzystania z platformy MLflow 3. Śledzenie MLflow 3 w czasie rzeczywistym eliminuje konieczność oddzielnych request_logs i assessment_logs tabel, dzięki ujednoliceniu wszystkich dzienników agenta w jednej lokalizacji śledzenia.

Narzędzie MLflow 3 dołącza oceny do śladów, a następnie rejestruje ślady na serwerze śledzenia MLflow wraz ze wszystkimi dziennikami ładunku, odpowiedzi i kroku pośredniego. Zobacz Etykieta podczas opracowywania i Pojęcia i model danych.

Kroki migracji

1. Zaktualizuj do MLflow 3: Upewnij się, że agent używa MLflow 3.1.3 lub nowszej. Śledzenie zostanie automatycznie włączone podczas wdrażania agentów za pomocą platformy MLflow 3.

# Install prerequisites
%pip install mlflow>=3.1.3

# Restart Python to make sure the new packages are picked up
dbutils.library.restartPython()

2. Zaloguj agenta: Zaloguj agenta w zwykły sposób, upewniając się, że wymaga on platformy MLflow 3.1.3 lub nowszej. Następnie zarejestruj model w usłudze UC.

# Log your agent
with mlflow.start_run():
    logged_agent_info = mlflow.pyfunc.log_model(
        name="my_agent",
        pip_requirements=[
            "mlflow>=3.1.3",
        ],
        ...
    )

# Register your model to UC
uc_registered_model_info = mlflow.register_model(
    model_uri=logged_agent_info.model_uri, name=UC_MODEL_NAME
)

3. Wdróż agenta: Wdróż agenta tak, jak zwykle. Opcjonalnie ustaw eksperyment MLflow przed wdrożeniem, aby kontrolować miejsce rejestrowania śladów. Jeśli tego nie zrobisz, ślady zostaną zarejestrowane w aktualnie aktywnym eksperymencie MLflow.

import mlflow
from databricks import agents

# Set experiment for trace logging
mlflow.set_experiment("/path/to/your/experiment")

# Deploy with automatic tracing
deployment = agents.deploy(uc_model_name, uc_model_info.version)

# Retrieve the query endpoint URL for making API requests
deployment.query_endpoint

Zobacz Agentów śledzenia wdrożonych na platformie Databricks po więcej informacji.

Alternatywne opcje kontynuowania korzystania z biblioteki MLflow 2

Jeśli nie możesz uaktualnić do platformy MLflow 3, usługa Databricks nadal wypełnia nieprzetworzoną tabelę payload. Jednak usługa Databricks nie przetwarza już tych danych do tabel payload_requests_logs i payload_assessment_logs.

Zamiast tego usługa Databricks generuje widoki dla tabel ładunku, które zapewniają te same sformatowane dane. Dostępne są dwie opcje uzyskiwania dostępu do tych danych. Użyj udostępnionych widoków lub utwórz zmaterializowane widoki.

Opcja 1. Korzystanie z udostępnionych widoków

Najprostszą metodą jest użycie wygenerowanych widoków payload_request_logs_view i payload_assessment_logs_view zamiast przestarzałych tabel.

Te widoki wysyłają zapytanie do tabeli ładunków, aby zapewnić te same sformatowane dane i działają natychmiast bez konieczności konfigurowania.

Opcjonalnie zmień nazwy widoków tak, aby odpowiadały oryginalnym nazwom tabel, aby zminimalizować zmiany kodu.

Opcja 2. Tworzenie zmaterializowanych widoków

Udostępnione widoki (payload_request_logs_view i payload_assessment_logs_view) obliczają dane w czasie rzeczywistym, wysyłając zapytanie do tabeli ładunków. W przypadku scenariuszy wymagających fizycznych tabel delty, takich jak monitorowanie w czasie rzeczywistym, zamiast tego utwórz zmaterializowane widoki.

Uruchom następujący notes, aby przekonwertować widoki na zmaterializowane widoki:

Tworzenie zmaterializowanych widoków dla dzienników wnioskowania agenta

Pobierz laptopa

Często zadawane pytania

Co się stanie z danymi w istniejących dziennikach żądań i dziennikach oceny?

Istniejące dane w tabelach wnioskowania będą nadal dostępne. Jednak po 4 grudnia 2025 r. żadne nowe dane nie będą wprowadzane do tabel request_logs i assessment_logs.

Czy wdrożenie agenta kończy się niepowodzeniem?

Nie, wcześniejsze wdrożenia agentów nadal działają, a tabele inferencji ładunku będą nadal wypełniane. Jednak po datach wycofania dane nie będą dostępne w tabelach request_logs i assessment_logs. Użyj udostępnionych widoków lub przeprowadź migrację do platformy MLflow 3, aby zachować równoważne funkcje.

Jeśli potrzebujesz pomocy dotyczącej migracji, skontaktuj się z zespołem pomocy technicznej usługi Databricks.

Co dalej

• Wdróż agenta z użyciem śledzenia w MLflow 3
• Poznaj interfejsy API oceniania MLflow 3
• Ustaw monitorowanie produkcji dla generatywnej sztucznej inteligencji