代理后台响应

启用后台响应

若要启用后台响应，请将AllowBackgroundResponses属性设置为 true ：AgentRunOptions

AgentRunOptions options = new()
{
    AllowBackgroundResponses = true
};

某些代理可能不允许显式控制后台响应。 无论设置如何， AllowBackgroundResponses 这些代理都可以根据作的复杂性自主决定是否启动后台响应。

非流式处理后台响应

对于非流式处理方案，当你最初运行代理时，它可能会或可能不会返回延续令牌。 如果未返回延续标记，则表示作已完成。 如果返回延续令牌，则表示代理已启动仍在处理的后台响应，并且需要轮询才能检索最终结果：

AIAgent agent = new AzureOpenAIClient(
    new Uri("https://<myresource>.openai.azure.com"),
    new AzureCliCredential())
    .GetOpenAIResponseClient("<deployment-name>")
    .CreateAIAgent();

AgentRunOptions options = new()
{
    AllowBackgroundResponses = true
};

AgentThread thread = agent.GetNewThread();

// Get initial response - may return with or without a continuation token
AgentRunResponse response = await agent.RunAsync("Write a very long novel about otters in space.", thread, options);

// Continue to poll until the final response is received
while (response.ContinuationToken is not null)
{
    // Wait before polling again.
    await Task.Delay(TimeSpan.FromSeconds(2));

    options.ContinuationToken = response.ContinuationToken;
    response = await agent.RunAsync(thread, options);
}

Console.WriteLine(response.Text);

要点：

• 初始调用可能立即完成（无继续标记）或启动后台作（带有继续标记）
• 如果未返回延续标记，则作已完成，响应包含最终结果
• 如果返回延续令牌，代理已启动需要轮询的后台进程
• 在后续轮询调用中使用上一响应中的延续标记
• null何时ContinuationToken完成作

流式处理后台响应

在流式处理方案中，后台响应的工作方式非常类似于常规流式处理响应 - 代理实时将所有更新流式传输到使用者。 但是，主要区别在于，如果原始流中断，代理支持通过延续令牌恢复流。 每个更新都包含一个延续令牌，该标记捕获当前状态，允许通过将此令牌传递给后续流 API 调用，从其离开的位置完全恢复流式处理：

AIAgent agent = new AzureOpenAIClient(
    new Uri("https://<myresource>.openai.azure.com"),
    new AzureCliCredential())
    .GetOpenAIResponseClient("<deployment-name>")
    .CreateAIAgent();

AgentRunOptions options = new()
{
    AllowBackgroundResponses = true
};

AgentThread thread = agent.GetNewThread();

AgentRunResponseUpdate? latestReceivedUpdate = null;

await foreach (var update in agent.RunStreamingAsync("Write a very long novel about otters in space.", thread, options))
{
    Console.Write(update.Text);

    latestReceivedUpdate = update;

    // Simulate an interruption
    break;
}

// Resume from interruption point captured by the continuation token
options.ContinuationToken = latestReceivedUpdate?.ContinuationToken;
await foreach (var update in agent.RunStreamingAsync(thread, options))
{
    Console.Write(update.Text);
}

要点：

• 每个 AgentRunResponseUpdate 标记都包含可用于恢复的延续标记
• 在中断之前存储上次收到的更新中的延续令牌
• 使用存储的继续标记从中断点恢复流