InferenceScope クラス
生成 AI 推論操作用の OpenTelemetry トレース スコープを提供します。
推論スコープを初期化します。
コンストラクター
InferenceScope(details: InferenceCallDetails, agent_details: AgentDetails, tenant_details: TenantDetails, request: Request | None = None)パラメーター
| 名前 | 説明 |
|---|---|
|
details
必須
|
推論呼び出しの詳細 |
|
agent_details
必須
|
呼び出しを行っているエージェントの詳細 |
|
tenant_details
必須
|
テナントの詳細 |
|
request
|
追加コンテキストの省略可能な要求の詳細 規定値: None
|
メソッド
| record_finish_reasons |
テレメトリ追跡の完了理由を記録します。 |
| record_input_messages |
テレメトリ追跡用の入力メッセージを記録します。 |
| record_input_tokens |
テレメトリ追跡用の入力トークンの数を記録します。 |
| record_output_messages |
テレメトリ追跡用の出力メッセージを記録します。 |
| record_output_tokens |
テレメトリ追跡用の出力トークンの数を記録します。 |
| record_thought_process |
思考プロセスを記録します。 |
| start |
推論トレースの新しいスコープを作成して開始します。 |
record_finish_reasons
テレメトリ追跡の完了理由を記録します。
record_finish_reasons(finish_reasons: List[str]) -> Noneパラメーター
| 名前 | 説明 |
|---|---|
|
finish_reasons
必須
|
終了理由の一覧 |
record_input_messages
テレメトリ追跡用の入力メッセージを記録します。
record_input_messages(messages: List[str]) -> Noneパラメーター
| 名前 | 説明 |
|---|---|
|
messages
必須
|
入力メッセージの一覧 |
record_input_tokens
テレメトリ追跡用の入力トークンの数を記録します。
record_input_tokens(input_tokens: int) -> Noneパラメーター
| 名前 | 説明 |
|---|---|
|
input_tokens
必須
|
入力トークンの数 |
record_output_messages
テレメトリ追跡用の出力メッセージを記録します。
record_output_messages(messages: List[str]) -> Noneパラメーター
| 名前 | 説明 |
|---|---|
|
messages
必須
|
出力メッセージの一覧 |
record_output_tokens
テレメトリ追跡用の出力トークンの数を記録します。
record_output_tokens(output_tokens: int) -> Noneパラメーター
| 名前 | 説明 |
|---|---|
|
output_tokens
必須
|
出力トークンの数 |
record_thought_process
思考プロセスを記録します。
record_thought_process(thought_process: str) -> Noneパラメーター
| 名前 | 説明 |
|---|---|
|
thought_process
必須
|
記録する思考プロセス |
start
推論トレースの新しいスコープを作成して開始します。
static start(details: InferenceCallDetails, agent_details: AgentDetails, tenant_details: TenantDetails, request: Request | None = None) -> InferenceScopeパラメーター
| 名前 | 説明 |
|---|---|
|
details
必須
|
推論呼び出しの詳細 |
|
agent_details
必須
|
呼び出しを行っているエージェントの詳細 |
|
tenant_details
必須
|
テナントの詳細 |
|
request
|
追加コンテキストの省略可能な要求の詳細 規定値: None
|
戻り値
| 型 | 説明 |
|---|---|
|
新しい InferenceScope インスタンス |