Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
[Cet article fait partie de la documentation en version préliminaire et peut faire l’objet de modifications.]
La fonctionnalité de supervision humaine permet à l’outil d’utilisation de l’ordinateur d’escalader vers le réviseur que vous avez configuré dans les paramètres de supervision humaine lorsqu’il détecte des préoccupations potentielles en matière de sécurité, actuellement classées dans la catégorie des instructions malveillantes.
Note
Cette fonctionnalité est déployée progressivement vers des environnements de cycle de lancement anticipé dans la région États-Unis et peut ne pas encore être disponible dans votre environnement.
Important
Cet article contient la documentation sur Microsoft Copilot Studio en version préliminaire et peut faire l’objet de modifications.
Les fonctionnalités d´évaluation ne sont pas destinées à une utilisation en production et peuvent être restreintes. Ces fonctionnalités sont disponibles avant une publication officielle afin que vous puissiez y accéder en avant-première et fournir des commentaires.
Si vous créez un assistant prêt pour la production, consultez Vue d’ensemble de Microsoft Copilot Studio.
Le modèle IA effectue la détection en analysant des captures d’écran afin d’identifier tout contenu hostile susceptible de modifier le comportement du modèle. Lorsque le modèle signale de telles instructions en cours d’exécution (ce qui entraînait auparavant un arrêt immédiat), il transmet désormais la requête à un humain pour validation. Le réviseur humain décide si le problème de sécurité signalé est avéré et doit entraîner l’arrêt de l’exécution, ou si le modèle l’a signalé à tort et que le processus peut se poursuivre en toute sécurité. Dans de tels cas, le système envoie une demande de révision aux réviseurs humains configurés par courrier électronique (Outlook). Si aucune réponse n’est reçue dans le délai spécifié, l’exécution de l’utilisation de l’ordinateur s’arrête une fois cette limite de temps atteinte.
Important
- Les assistants utilisant l’outil d’utilisation de l’ordinateur peuvent être confrontés à des attaques par injection de prompt, dans lesquelles des instructions dissimulées dans des captures d’écran, des pages web ou d’autres entrées cherchent à influencer les actions de manière non intentionnelle. Pour réduire ce risque, utilisez ces assistants dans des environnements approuvés et isolés et appliquez des vérifications de validation robustes avant d’exécuter des instructions. L’activation de la supervision humaine ajoute une visibilité et un contrôle supplémentaires en permettant aux réviseurs humains autorisés de valider les actions avec indicateur lorsque le modèle détecte des instructions potentiellement dangereuses ou malveillantes, ce qui peut réduire le risque de comportement involontaire.
- Les contrôles de sécurité effectués par l’assistant utilisant l’outil d’utilisation de l’ordinateur peuvent être déclenchés par une seule réponse, une entrée ou une capture d’écran, ou par plusieurs éléments de ce type. Les contrôles de sécurité ont pour objectif de déclencher une révision humaine avant que l’assistant utilisant l’outil d’utilisation de l’ordinateur n’effectue des actions potentiellement irréversibles ou non autorisées, mais l’assistant peut commettre des erreurs lors de l’exécution de ces contrôles. Par exemple, l’assistant utilisant l’outil d’utilisation de l’ordinateur peut ne pas détecter certaines actions, ou au contraire solliciter une révision alors qu’aucun risque de sécurité n’est en jeu. Les contrôles de sécurité ne se substituent pas à une conception et à un encadrement responsables de l’assistant.
- La fonctionnalité de supervision humaine permet de demander une révision pour des actions potentiellement irréversibles ou non autorisées, mais elle ne prend pas en charge pour le moment les requêtes de confirmation générales, les sollicitations d’informations manquantes ni d’autres types de contrôles de sécurité.
Vérifier l’activité de l’assistant et de l’outil d’utilisation de l’ordinateur
Lorsque l’assistant utilisant l’outil d’utilisation de l’ordinateur détecte des instructions potentiellement malveillantes ou dangereuses, les réviseurs configurés reçoivent un courrier électronique Outlook. Avant toute réponse, il est essentiel d’identifier précisément l’activité de l’assistant concernée ainsi que l’activité d’utilisation de l’ordinateur à laquelle se rapporte la requête.
Note
Chaque exécution d’assistant et son activité sont associées à l’utilisateur qui l’a déclenchée. Si vous choisissez un réviseur autre que la personne qui exécute l’assistant utilisant l’outil d’utilisation de l’ordinateur, il est probable qu’il ne voie pas l’activité, puisqu’il n’a pas lancé l’exécution. Si vous configurez plusieurs réviseurs humains, chacun reçoit un courrier électronique, mais seul l’initiateur de l’exécution a accès aux détails de l’activité.
La table suivante présente les informations principales incluses dans une requête de révision humaine par courrier électronique :
| Champ | Description |
|---|---|
| L’assistant qui utilise l’outil | Le nom de l’assistant Copilot Studio. |
| L’outil d’utilisation de l’ordinateur | Le nom de l’outil d’utilisation de l’ordinateur qui a déclenché la requête. |
| ID de conversation | L’ID de conversation que vous pouvez utiliser pour rechercher une activité spécifique. |
| Délai d’expiration de la demande | La date et l’heure d’expiration de la requête. |
| Demandé par | Le créateur (propriétaire de connexion) de l’outil d’utilisation de l’ordinateur. |
| Envoyer (avec les options) | La décision finale du réviseur, à savoir une réponse Oui ou Non, qui détermine si l’exécution de l’utilisation de l’ordinateur doit se poursuivre ou s’interrompre. |
Passer en revue les requêtes de révision humaine concernant l’outil d’utilisation de l’ordinateur
Note
Pour passer en revue les requêtes de révision humaine dans le panneau latéral des actions d’utilisation de l’ordinateur, au sein de la carte d’activité de l’assistant, vous devez activer la fonctionnalité Activité avancée d’utilisation de l’ordinateur dans votre environnement. Si l’expérience d’activité avancée d’utilisation de l’ordinateur n’apparaît pas dans la carte activités, votre administrateur a peut-être désactivé cette fonctionnalité pour votre environnement. En savoir plus sur l’activité d’utilisation avancée de l’ordinateur.
Pour passer en revue les requêtes de révision humaine :
- Copiez l’ID de conversation (GUID) à partir du corps du courrier électronique de demande de révision humaine.
- Sélectionnez le lien Assistant utilisant l’outil pour ouvrir la page vue d’ensemble de l’assistant dans Microsoft Copilot Studio.
- Accédez à Activités.
- En haut de la liste d’activités, sélectionnez Rechercher l’exécution par ID et entrez l’ID de conversation que vous avez copié.
- Recherchez l’action d’utilisation de l’ordinateur avec le nom de l’outil d’utilisation de l’ordinateur configuré et ouvrez son panneau latéral.
- Dans la section Activité du panneau latéral, passez en revue la liste des activités. Les activités en attente de révision humaine affichent un symbole d’attente en regard du texte de réponse du modèle. Les contrôles de sécurité effectués par l’assistant utilisant l’outil d’utilisation de l’ordinateur peuvent être déclenchés par une seule réponse, une entrée ou une capture d’écran, ou par plusieurs éléments de ce type. Par conséquent, la capture d’écran affichée dans une demande de révision humaine peut ne pas contenir de contenu potentiellement malveillant.
- Passez en revue attentivement l’historique des activités et les captures d’écran pour déterminer si le contrôle de sécurité du modèle de l’outil d’utilisation de l’ordinateur est valide.
- Lorsque vous avez terminé, revenez à la notification par courrier électronique dans Outlook et prenez les mesures appropriées en fonction de vos conclusions.