InferenceScope class
Fournit l’étendue de suivi OpenTelemetry pour les opérations d’inférence IA génératives.
- Extends
Méthodes
| record |
Enregistre les raisons de fin du suivi des données de télémétrie. |
| record |
Enregistre les messages d’entrée pour le suivi des données de télémétrie. |
| record |
Enregistre le nombre de jetons d’entrée pour le suivi des données de télémétrie. |
| record |
Enregistre les messages de sortie pour le suivi des données de télémétrie. |
| record |
Enregistre le nombre de jetons de sortie pour le suivi des données de télémétrie. |
| record |
Enregistre l’ID de réponse pour le suivi des données de télémétrie. |
| start(Inference |
Crée et démarre une nouvelle étendue pour le suivi d’inférence. |
Méthodes héritées
| dispose() | Méthode de suppression héritée pour la compatibilité |
| record |
Enregistre une erreur qui s’est produite pendant l’opération |
| with |
Rend cette étendue active pendant la durée de l’exécution de rappel asynchrone |
Détails de la méthode
recordFinishReasons(string[])
Enregistre les raisons de fin du suivi des données de télémétrie.
function recordFinishReasons(finishReasons: string[])
Paramètres
- finishReasons
-
string[]
Tableau des raisons de fin
recordInputMessages(string[])
Enregistre les messages d’entrée pour le suivi des données de télémétrie.
function recordInputMessages(messages: string[])
Paramètres
- messages
-
string[]
Tableau de messages d’entrée
recordInputTokens(number)
Enregistre le nombre de jetons d’entrée pour le suivi des données de télémétrie.
function recordInputTokens(inputTokens: number)
Paramètres
- inputTokens
-
number
Nombre de jetons d’entrée
recordOutputMessages(string[])
Enregistre les messages de sortie pour le suivi des données de télémétrie.
function recordOutputMessages(messages: string[])
Paramètres
- messages
-
string[]
Tableau de messages de sortie
recordOutputTokens(number)
Enregistre le nombre de jetons de sortie pour le suivi des données de télémétrie.
function recordOutputTokens(outputTokens: number)
Paramètres
- outputTokens
-
number
Nombre de jetons de sortie
recordResponseId(string)
Enregistre l’ID de réponse pour le suivi des données de télémétrie.
function recordResponseId(responseId: string)
Paramètres
- responseId
-
string
ID de réponse
start(InferenceDetails, AgentDetails, TenantDetails)
Crée et démarre une nouvelle étendue pour le suivi d’inférence.
static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope
Paramètres
- details
- InferenceDetails
Détails de l’appel d’inférence
- agentDetails
- AgentDetails
Détails de l’agent
- tenantDetails
- TenantDetails
Détails du locataire
Retours
Nouvelle instance InferenceScope
Détails de la méthode héritée
dispose()
Méthode de suppression héritée pour la compatibilité
function dispose()
recordError(Error)
Enregistre une erreur qui s’est produite pendant l’opération
function recordError(error: Error)
Paramètres
- error
-
Error
L’erreur qui s’est produite
withActiveSpanAsync<T>(() => Promise<T>)
Rend cette étendue active pendant la durée de l’exécution de rappel asynchrone
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
Paramètres
- callback
-
() => Promise<T>
Retours
Promise<T>