Agent-inferentietabellen: Aanvraag- en evaluatielogs (verouderd)

Wanneer u een AI-agent implementeert, maakt Databricks drie deductietabellen waarmee aanvragen en antwoorden van en naar uw agent automatisch worden vastgelegd. Deze tabellen helpen u bij het bewaken van prestaties, foutopsporingsproblemen en het analyseren van gebruikersfeedback.

• Ruwe JSON-gegevens worden binnen één uur na ontvangst van een aanvraag door uw agent in de payload-tabel ingevoerd.
• De aanvraaglogboeken en evaluatielogboeken verwerken en formatteren gegevens van de payloadtabel. Dit duurt extra tijd.
• U kunt gegevens handmatig extraheren en verwerken uit de nettoladingtabel, indien nodig.
• Wijzigingen in de nettoladingtabel (verwijderingen of updates) worden niet automatisch gesynchroniseerd met de afgeleide tabellen.

Wat verandert er?

Databricks vult de tabellen payload_request_logs en payload_assessment_logs niet meer automatisch in.

Wat nog steeds werkt: De onbewerkte payload tabel blijft gegevens ontvangen van nieuwe aanvragen.

Migreren naar MLflow 3 en realtime tracering gebruiken om agentlogboeken te combineren

Databricks raadt sterk aan om agent-eindpunten te migreren naar het gebruik van MLflow 3. MLflow 3 realtime tracering elimineert de noodzaak van afzonderlijke request_logs tabellen en assessment_logs tabellen door al uw agentlogboeken op één traceringslocatie samen te voegen.

MLflow 3 koppelt evaluaties aan traceringen en registreert vervolgens de traceringen naar de MLflow-traceringsserver, samen met alle payload-, respons- en tussenstaplogboeken. Zie Label tijdens ontwikkeling en Concepten & gegevensmodel.

Migratiestappen

1. Voer een upgrade uit naar MLflow 3: Zorg ervoor dat uw agent MLflow 3.1.3 of hoger gebruikt. Tracering wordt automatisch ingeschakeld wanneer u agents implementeert met MLflow 3.

# Install prerequisites
%pip install mlflow>=3.1.3

# Restart Python to make sure the new packages are picked up
dbutils.library.restartPython()

2. Registreer uw agent: registreer de agent zoals u dat normaal zou doen, zorg ervoor dat MLflow 3.1.3 of hoger is vereist. Registreer vervolgens het model bij UC.

# Log your agent
with mlflow.start_run():
    logged_agent_info = mlflow.pyfunc.log_model(
        name="my_agent",
        pip_requirements=[
            "mlflow>=3.1.3",
        ],
        ...
    )

# Register your model to UC
uc_registered_model_info = mlflow.register_model(
    model_uri=logged_agent_info.model_uri, name=UC_MODEL_NAME
)

3. Uw agent implementeren: Implementeer de agent zoals u dat normaal zou doen. Stel eventueel uw MLflow-experiment in voordat u gaat implementeren om te bepalen waar traceringen worden vastgelegd. Als u dit niet doet, worden traceringen geregistreerd bij het momenteel actieve MLflow-experiment.

import mlflow
from databricks import agents

# Set experiment for trace logging
mlflow.set_experiment("/path/to/your/experiment")

# Deploy with automatic tracing
deployment = agents.deploy(uc_model_name, uc_model_info.version)

# Retrieve the query endpoint URL for making API requests
deployment.query_endpoint

Zie Trace-agents die zijn geïmplementeerd op Databricks voor meer informatie.

Alternatieve opties om MLflow 2 te blijven gebruiken

Als u geen upgrade naar MLflow 3 kunt uitvoeren, blijft Databricks de onbewerkte payload tabel vullen. Databricks verwerkt deze gegevens echter niet meer in de payload_requests_logs en payload_assessment_logs tabellen.

In plaats daarvan genereert Databricks weergaven van uw payloadtabellen die dezelfde opgemaakte gegevens bieden. U hebt twee opties voor toegang tot deze gegevens. Gebruik de opgegeven weergaven of maak gematerialiseerde weergaven.

Optie 1: De opgegeven weergaven gebruiken

De eenvoudigste methode is het gebruik van de gegenereerde weergaven payload_request_logs_view en payload_assessment_logs_view in plaats van de afgeschafte tabellen.

Deze weergaven voeren een query uit op de payload-tabel om dezelfde opgemaakte gegevens te leveren, en ze werken onmiddellijk zonder dat installatie vereist is.

Wijzig desgewenst de weergaven zodat deze overeenkomen met de oorspronkelijke tabelnamen om codewijzigingen te minimaliseren.

Optie 2: Gerealiseerde weergaven maken

De opgegeven weergaven (payload_request_logs_view en payload_assessment_logs_view) berekenen in realtime gegevens door een query uit te voeren op de payloadtabel. Maak in plaats daarvan gerealiseerde weergaven voor scenario's waarvoor fysieke Delta-tabellen nodig zijn, zoals realtime-bewaking.

Voer het volgende notebook uit om uw weergaven te converteren naar gerealiseerde weergaven:

Gerealiseerde weergaven maken voor agentdeductielogboeken

Notebook krijgen

Veelgestelde vragen

Wat gebeurt er met de gegevens in mijn bestaande aanvraaglogboeken en evaluatielogboeken?

Bestaande gegevens in uw deductietabellen blijven toegankelijk. Na 4 december 2025 worden er echter geen nieuwe gegevens ingevuld in request_logs en assessment_logs tabellen.

Mislukt de implementatie van mijn agent?

Nee, uw oude agentimplementaties blijven werken en uw payload-inferentietabellen blijven gevuld. Na de afschaffingsdatums ontvangt u echter geen gegevens in de request_logs en assessment_logs tabellen. Gebruik de opgegeven weergaven of migreer naar MLflow 3 om gelijkwaardige functionaliteit te behouden.

Neem contact op met het ondersteuningsteam van Databricks als u hulp nodig hebt bij de migratie.

Wat is de volgende stap?

• Uw agent implementeren met tracering met MLflow 3
• Meer informatie over MLflow 3-evaluatie-API's
• Productiebewaking instellen voor Gen AI