通过

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

Azure AI 推理 SDK 支持的编程语言

注释

本文档引用 Microsoft Foundry （经典） 门户。

🔍 查看 Microsoft Foundry （new） 文档 ，了解新门户。

重要

如果当前将 Azure AI 推理 beta SDK 与 Microsoft Foundry 模型或 Azure OpenAI 服务配合使用，强烈建议过渡到正式版 OpenAI/v1 API，该 API 使用 OpenAI 稳定 SDK。

有关如何使用所选编程语言中的 SDK 迁移到 OpenAI/v1 API 的详细信息，请参阅 从 Azure AI 推理 SDK 迁移到 OpenAI SDK。

部署到 Microsoft Foundry 模型的所有模型都支持 Azure AI 模型推理 API 及其关联的 SDK 系列。

若要使用这些 SDK，请将它们连接到 Azure AI 模型推理 URI（通常采用形式 https://<resource-name>.services.ai.azure.com/models）。

Azure AI 推理包

Azure AI 推理包允许使用部署到 Foundry 资源的所有模型，并轻松地将模型部署从一个模型切换到另一个模型。 Azure AI 推理包是 Microsoft Foundry SDK 的一部分。

语言 文档 包装 例子
C# 引用 azure-ai-inference （NuGet） C# 示例
Java 引用 azure-ai-inference （Maven） Java 示例
JavaScript 引用 @azure/ai-inference （npm） JavaScript 示例
Python 引用 azure-ai-inference （PyPi） Python 示例

集成

Framework 语言 文档 包装 例子
LangChain Python 引用 langchain-azure-ai （PyPi） Python 示例
Llama-Index Python 引用 llama-index-llms-azure-inference （PyPi）
llama-index-embeddings-azure-inference （PyPi）		 Python 示例
语义内核 Python 引用 semantic-kernel[azure] （PyPi） Python 示例
AutoGen Python 引用 autogen-ext[azure] （PyPi） 快速入门

局限性

Foundry 不支持 Cohere SDK 或 Mistral SDK。

后续步骤

  • Last updated on