Partager via


InferenceScope class

Fournit l’étendue de suivi OpenTelemetry pour les opérations d’inférence IA génératives.

Extends

Méthodes

recordFinishReasons(string[])

Enregistre les raisons de fin du suivi des données de télémétrie.

recordInputMessages(string[])

Enregistre les messages d’entrée pour le suivi des données de télémétrie.

recordInputTokens(number)

Enregistre le nombre de jetons d’entrée pour le suivi des données de télémétrie.

recordOutputMessages(string[])

Enregistre les messages de sortie pour le suivi des données de télémétrie.

recordOutputTokens(number)

Enregistre le nombre de jetons de sortie pour le suivi des données de télémétrie.

recordResponseId(string)

Enregistre l’ID de réponse pour le suivi des données de télémétrie.

start(InferenceDetails, AgentDetails, TenantDetails)

Crée et démarre une nouvelle étendue pour le suivi d’inférence.

Méthodes héritées

dispose()

Méthode de suppression héritée pour la compatibilité

recordError(Error)

Enregistre une erreur qui s’est produite pendant l’opération

withActiveSpanAsync<T>(() => Promise<T>)

Rend cette étendue active pendant la durée de l’exécution de rappel asynchrone

Détails de la méthode

recordFinishReasons(string[])

Enregistre les raisons de fin du suivi des données de télémétrie.

function recordFinishReasons(finishReasons: string[])

Paramètres

finishReasons

string[]

Tableau des raisons de fin

recordInputMessages(string[])

Enregistre les messages d’entrée pour le suivi des données de télémétrie.

function recordInputMessages(messages: string[])

Paramètres

messages

string[]

Tableau de messages d’entrée

recordInputTokens(number)

Enregistre le nombre de jetons d’entrée pour le suivi des données de télémétrie.

function recordInputTokens(inputTokens: number)

Paramètres

inputTokens

number

Nombre de jetons d’entrée

recordOutputMessages(string[])

Enregistre les messages de sortie pour le suivi des données de télémétrie.

function recordOutputMessages(messages: string[])

Paramètres

messages

string[]

Tableau de messages de sortie

recordOutputTokens(number)

Enregistre le nombre de jetons de sortie pour le suivi des données de télémétrie.

function recordOutputTokens(outputTokens: number)

Paramètres

outputTokens

number

Nombre de jetons de sortie

recordResponseId(string)

Enregistre l’ID de réponse pour le suivi des données de télémétrie.

function recordResponseId(responseId: string)

Paramètres

responseId

string

ID de réponse

start(InferenceDetails, AgentDetails, TenantDetails)

Crée et démarre une nouvelle étendue pour le suivi d’inférence.

static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope

Paramètres

details
InferenceDetails

Détails de l’appel d’inférence

agentDetails
AgentDetails

Détails de l’agent

tenantDetails
TenantDetails

Détails du locataire

Retours

Nouvelle instance InferenceScope

Détails de la méthode héritée

dispose()

Méthode de suppression héritée pour la compatibilité

function dispose()

Héritéd’OpenTelemetryScope.dispose

recordError(Error)

Enregistre une erreur qui s’est produite pendant l’opération

function recordError(error: Error)

Paramètres

error

Error

L’erreur qui s’est produite

Héritéd’OpenTelemetryScope.recordError

withActiveSpanAsync<T>(() => Promise<T>)

Rend cette étendue active pendant la durée de l’exécution de rappel asynchrone

function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>

Paramètres

callback

() => Promise<T>

Retours

Promise<T>

Héritéd’OpenTelemetryScope.withActiveSpanAsync