你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

Microsoft Foundry 体系结构

注释

本文档引用 Microsoft Foundry (经典) 门户。

🔄 如果你使用的是新门户,请切换到 Microsoft Foundry(新)文档

注释

本文档指的是 Microsoft Foundry(新) 门户网站。

Microsoft Foundry 提供了一套全面的工具,用于支持开发团队构建、自定义、评估和操作 AI 代理及其组成模型和工具。

本文介绍 IT 运营和安全团队,其中包含有关 Foundry 资源和基础 Azure 服务体系结构、其组件以及与其他 Azure 资源类型的关系的详细信息。 使用此信息指导如何根据组织的要求自定义 Foundry 部署。 有关如何在组织中推出 Foundry 的详细信息,请参阅 Foundry 推出

Azure AI 资源类型和供应商

在 Azure AI 产品系列中,我们区分这些 Azure 资源提供程序,这些资源提供程序 支持堆栈中不同层的用户需求。

资源提供者 Purpose 支持资源类型类型
Microsoft.CognitiveServices 支持代理和 GenAI 应用程序开发组合和自定义预生成模型。 铸造;Azure OpenAI 服务;Azure 语音;Azure 视觉
Microsoft.Search 支持对数据进行知识检索 Azure AI 搜索
Microsoft.MachineLearningServices 训练、部署和运行自定义和开源机器学习模型 Azure AI 中心(及其项目):Azure 机器学习工作区
资源提供者 Purpose 支持资源类型类型
Microsoft.CognitiveServices 支持代理和 GenAI 应用程序开发组合和自定义预生成模型。 铸造;Azure OpenAI 服务;Azure 语音;Azure 视觉
Microsoft.Search 支持对数据进行知识检索 Azure AI 搜索

Foundry 资源是 Azure AI 的主要资源,建议用于大多数用例。 它基于与 Azure OpenAI、Azure 语音、Azure 视觉和 Azure 语言服务相同的 Azure 资源提供程序和资源类型 构建。 它提供对各个服务合并后形成的完整功能集的访问权限。

资源类型 资源提供者和类型 种类 支持的功能
Microsoft Foundry Microsoft.CognitiveServices/account AIServices 代理、评估、Azure OpenAI、语音、视觉、语言和内容理解
Foundry 项目 Microsoft.CognitiveServices/account/project AIServices 上述子资源
Foundry 工具中的 Azure 语音 Microsoft.CognitiveServices/account Speech 语音
Foundry 工具中的 Azure 语言 Microsoft.CognitiveServices/account Language 语言
在 Foundry 工具中使用 Azure 视觉 Microsoft.CognitiveServices/account Vision 视觉

同一提供程序命名空间下的资源类型共享相同的管理 API,并使用类似的 Azure 基于角色的访问控制 操作、网络配置和用于 Azure Policy 配置的别名。 如果要从 Azure OpenAI 升级到 Foundry,现有自定义 Azure 策略和 Azure 基于角色的访问控制作将继续应用。

安全驱动的关注点分离

Foundry 强制在管理和开发操作之间进行明确的分离,以确保安全且可扩展的 AI 工作负载。

  • Top-Level 资源治理: 管理作(例如配置安全性、与其他 Azure 服务建立连接以及管理部署)的范围限定为顶级 Foundry 资源。 开发活动在专用项目容器中隔离,这些容器封装用例并提供访问控制、文件、代理和评估的边界。

  • 角色基于访问控制(RBAC): Azure RBAC 操作旨在反映这种职责分离。 控制平面作(例如创建部署和项目)不同于数据平面作(例如生成代理、运行评估和上传文件)。 可以在顶级资源级别和单个项目级别定义 RBAC 分配范围。 可以在任一范围内分配托管标识,以支持安全的自动化和服务访问。

  • 监视和可观测性: Azure Monitor 指标按范围细分。 管理和使用情况指标在顶级资源中可用,而特定于项目的指标(例如评估性能或代理活动)的范围限定为单个项目容器。

计算基础结构

Foundry 应用灵活的计算体系结构来支持不同的 模型访问 和工作负荷执行方案。

  • 工作负荷执行: 代理、评估和 Batch 作业作为托管容器计算执行,由Microsoft完全管理。

  • 网络集成: 为了增强安全性与符合性,当代理连接到外部系统时, 容器注入 允许平台网络托管 API 并将子网注入网络,从而在同一虚拟网络中实现 Azure 资源的本地通信。

数据存储

Foundry 提供灵活且安全的数据存储选项,以支持各种 AI 工作负载。

  • 文件上传的托管存储:在默认设置中,Foundry 使用逻辑分隔的Microsoft托管存储帐户,并支持用于选择用例(例如 OpenAI 模型、助手和代理)的直接文件上传,而无需客户提供的存储帐户。

  • 自带存储(可选):用户可以选择连接自己的 Azure 存储帐户。 Foundry 工具可以根据工具和用例从这些帐户读取输入并将输出写入这些帐户。

  • 用于存储智能体状态的自带存储

    • 在基本配置中,代理服务将线程、消息和文件存储在Microsoft托管的多租户存储中,逻辑分离。
    • 使用 代理标准设置,可以为线程和消息数据自带存储。 在此配置中,数据在客户的存储帐户中按照项目进行隔离。
  • 客户管理的密钥加密:默认情况下,Azure 服务使用 Microsoft 管理的加密密钥来加密传输中的数据和静态数据。 使用符合 FIPS 140-2 的 256 位 AES 加密对数据进行加密和解密。 加密和解密都是透明的,这意味着将替你管理加密和访问。 你的数据默认情况下就是安全的,你无需修改代码或应用程序,即可利用加密。

  • 自带 Key Vault:默认情况下,Foundry 将所有基于 API 密钥的连接机密存储在托管的 Azure Key Vault 中。 对于想要自行管理此资源的用户,他们可以连接到其 Key Vault 到 Foundry 资源。 一个 Azure Key Vault 连接将管理所有项目和资源级连接机密。 去了解如何 设置与 Foundry 的 Azure Key Vault 连接

    使用客户管理的密钥时,使用密钥对Microsoft托管基础结构上的数据进行加密。

    若要了解有关数据加密的详细信息,请参阅 使用 Foundry 进行加密的客户管理的密钥

后续步骤