OpenAIMockResponsePlugin

使用本地语言模型模拟来自 Azure OpenAI 和 OpenAI 的响应。

命令提示符的屏幕截图,其中开发人员代理模拟了对 Azure OpenAI API 的请求的响应。

配置示例

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.0.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

配置属性

命令行选项

注解

OpenAIMockResponsePlugin 插件使用本地语言模型模拟来自 Azure OpenAI 和 OpenAI 的响应。 使用此插件,可以在应用中模拟使用语言模型,而无需连接到 OpenAI 或 Azure OpenAI 服务并产生费用。

该插件使用开发代理 语言模型配置 来与本地语言模型通信。 若要使用此插件,请将开发代理配置为使用本地语言模型。

重要

插件生成的响应的准确性取决于你使用的本地语言模型。 在将应用部署到生产环境之前,请务必使用计划用于生产的语言模型对其进行测试。

OpenAIMockResponsePlugin 插件模拟完成和聊天完成。 该插件不支持其他 OpenAI API 终结点。

后续步骤