管理智能 Microsoft 365 Copilot 副驾驶® 对话助手的有害内容保护设置

Microsoft 365 Copilot 使用内容筛选来保护用户免受用户提示中的有害内容的影响,并生成响应 (请参阅 Copilot 如何阻止有害内容?) 。 但是,在某些用例(例如调查、执法、法律审查或社会工作方案中),必须能够适当调整负责任的有害内容保护。

Microsoft正在推出调整有害内容保护设置的功能,以便Copilot 对话助手能够在符合目的时响应有关有害内容的查询。

重要

核心负责任的 AI 保护(如即时注入防御、版权保护、生物安全和图像保护)始终会强制实施,并且无法禁用。

配置 Adjust responsible AI protections for Microsoft 365 Copilot 策略时,策略不会影响映像或代理。 即使用户在Copilot 对话助手对话中禁用有害内容保护,图像和代理的默认内容筛选器也会保留。 禁用有害内容保护仅适用于文本响应。

有害内容保护设置的工作原理

应用调整 AI 保护的策略时,用户可以使用切换开关在 Copilot 对话助手 中启用或禁用有害内容保护。 菜单包含 有害内容保护 设置,如以下屏幕截图所示:

显示智能 Microsoft 365 Copilot 副驾驶® 对话助手中的“更多”菜单的屏幕截图。

默认情况下,在每个会话开始时启用 有害内容保护 设置。 用户可以将开关设置为 off,以便在会话期间禁用有害内容保护。

  • 启用此设置后,Copilot 对话助手中会阻止有害内容。
  • 禁用此设置后,用户可以在该会话的上下文中查询有害内容。 在这种情况下,用户可能会看到与其查询相关的敏感或潜在冒犯性内容。

在Copilot 对话助手的对话中禁用有害内容保护后,在启动新对话之前,无法重新启用该保护。

注意

无论启用还是禁用有害内容保护,都将继续强制执行 负责任的 AI 治理,包括即时注入防御、版权防护和图像保护。

如何配置有害内容保护设置

警告

禁用有害内容保护后,Copilot 对话助手响应可能包括违反Microsoft生成 AI 服务行为准则的敏感内容或潜在冒犯性内容。

  1. 在MICROSOFT ENTRA ID 中设置或标识安全组。 该组应仅包括需要为某些场景(例如调查、执法、法律审查或类似用例)禁用有害内容保护的用户。

    若要获取有关安全组的帮助,请参阅 了解组类型、成员身份类型和访问管理

  2. 作为 Office Apps 管理员 (或全局管理员) ,登录到 Microsoft 365 应用版 管理中心

    重要

    Microsoft 建议使用权限最少的角色。 使用权限较低的帐户有助于提高组织的安全性。 全局管理员是一个权限很高的角色,应仅限于在无法使用现有角色的紧急情况下使用。 详细了解管理员角色

  3. 在导航窗格中,选择“ 自定义”。

    显示 Microsoft 365 应用管理中心中的“自定义”部分的屏幕截图。

  4. Microsoft 365 Copilot 创建或编辑调整负责任的 AI 保护的策略配置。

    显示“调整负责任的 AI 保护”浮出控件窗格的屏幕截图。

  5. 在浮出控件窗格中,按如下所示指定配置设置:

    显示“调整负责任的 AI 保护”策略的配置选项的屏幕截图。

    1. “配置设置”下,选择“ 已启用”。

    2. “选项”下,选择一个选项,例如 为用户提供用于调整有害内容保护的选项

    3. 选择“应用”。

  6. 将策略应用到在步骤 1 中创建的安全组,并保存所做的更改。

策略生效后,用户在Copilot 对话助手中具有“有害内容保护”开关。 详细了解用户体验

注意

有害内容保护设置仅适用于文本响应。 即使Copilot 对话助手对话中禁用有害内容保护,图像和代理的默认内容筛选器也会保留。

最佳做法和要点

  • 建议对有害内容保护策略使用Microsoft Entra ID 中的安全组。 仅包括在适合用途时使用此功能的用户,例如在执法、法律或社会工作场景中执行调查工作时。 并非组织中的每个人都需要关闭有害内容保护。
  • 让用户了解该功能的工作原理以及何时使用它。 有关用户体验的详细信息,请参阅使用 智能 Microsoft 365 Copilot 副驾驶® 对话助手 中的有害内容保护开关