Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
[Dieser Artikel ist Teil der Dokumentation zur Vorabversion und kann geändert werden.]
Mit dem Feature „Menschliche Aufsicht“ kann das Computernutzungstool an den Prüfer eskaliert werden, den Sie unter den Einstellungen für die menschliche Aufsicht konfigurieren, wenn potenzielle Sicherheitsbedenken erkannt werden, die derzeit in der Kategorie der böswilligen Anweisungen enthalten sind.
Anmerkung
Dieses Feature wird schrittweise für Early Release-Zyklusumgebungen in der Region USA eingeführt und ist möglicherweise noch nicht in Ihrer Umgebung verfügbar.
Wichtig
Dieser Artikel enthält Dokumentation zur Vorschauversion von Microsoft Copilot Studio und kann noch geändert werden.
Funktionen in der Vorschauversion sind nicht für den produktiven Einsatz gedacht und können eine eingeschränkte Funktionalität aufweisen. Diese Funktionen stehen vor dem offiziellen Release zur Verfügung, damit Sie früher Zugriff darauf erhalten und Feedback geben können.
Weitere Informationen zur Erstellung eines produktionsbereiten Agenten finden Sie unter Übersicht über Microsoft Copilot Studio.
Das KI-Modell führt die Erkennung durch Auswerten von Screenshotbildern für gegnerische Inhalte durch, die das Verhalten des Modells ändern könnten. Wenn das Modell solche Anweisungen während der Ausführung kennzeichnet (was zuvor einen sofortigen Stopp verursacht), leitet es die Anforderung zur Überprüfung an einen Menschen weiter. Der menschliche Prüfer entscheidet, ob das gekennzeichnete Sicherheitsproblem echt ist und die Ausführung anhalten soll oder ob das Modell sie falsch gekennzeichnet hat und der Prozess sicher fortgesetzt werden kann. In solchen Ereignissen löst das System eine Überprüfungsanforderung an die konfigurierten menschlichen Prüfer per E-Mail (Outlook) aus. Wenn innerhalb des angegebenen Timeoutzeitraums keine Antwort empfangen wird, wird die Computerverwendung beendet, sobald diese Zeitgrenze erreicht ist.
Wichtig
- Computerverwendungs-Agents können auf Eingabeaufforderungsangriffe stoßen, bei denen ausgeblendete Anweisungen in Screenshots, Webseiten oder anderen Eingaben versuchen, Aktionen unbeabsichtigt zu beeinflussen. Um dieses Risiko zu minimieren, führen Sie diese Agents in vertrauenswürdigen, isolierten Umgebungen aus, und wenden Sie robuste Überprüfungen an, bevor Sie Anweisungen ausführen. Durch die Aktivierung der menschlichen Aufsicht wird zusätzliche Sichtbarkeit und Kontrolle hinzugefügt, indem autorisierte Personenprüfer gekennzeichnete Aktionen überprüfen können, wenn das Modell potenziell schädliche oder böswillige Anweisungen erkennt, was die Wahrscheinlichkeit eines unbeabsichtigten Verhaltens verringern kann.
- Die vom Computer verwendeten Agent durchgeführten Sicherheitsüberprüfungen können durch eine Antwort, Eingabe oder einen Screenshot oder durch mehrere Teile dieses Kontexts ausgelöst werden. Die Sicherheitskontrollen sollen die menschliche Überprüfung veranlassen, bevor potenziell unwiderrufliche oder nicht abgeschlossene Aktionen vom Computerverwendungs-Agent durchgeführt werden, der Computerverwendungs-Agent kann jedoch Fehler machen, wenn die Prüfungen durchgeführt werden. Der Computerverwendungs-Agent erkennt z. B. möglicherweise bestimmte Aktionen nicht, oder er fordert eine Überprüfung auf, wenn sicherheit kein Problem darstellt. Die Sicherheitskontrollen sind kein Ersatz für die verantwortungsvolle Gestaltung und Anleitung des Agenten.
- Das Feature „Menschliche Aufsicht“ fordert eine Überprüfung potenziell unwiderruflicher oder nicht abgegebener Aktionen auf, unterstützt jedoch derzeit keine allgemeinen Bestätigungsanforderungen, Aufforderungen zu fehlenden Informationen oder andere Arten von Sicherheitsprüfungen.
Überprüfen der Agent- und Computerverwendungsaktivität
Wenn der Computerverwendungs-Agent potenziell böswillige oder schädliche Anweisungen erkennt, erhalten die konfigurierten Prüfer eine Outlook-E-Mail. Bevor Sie antworten, ist es wichtig zu bestätigen, welche Agent-Aktivität sie ist und welche Computernutzungsaktivität sich die Anforderung bezieht.
Anmerkung
Jeder Agent wird ausgeführt, und seine Aktivität ist an den Benutzer gebunden, der ihn initiiert hat. Wenn Sie einen anderen Prüfer als die Person auswählen, die den Computerverwendungs-Agent ausführt, wird die Aktivität wahrscheinlich nicht angezeigt, da sie die Ausführung nicht initiiert haben. Wenn Sie mehrere menschliche Prüfer konfigurieren, erhält jeder eine E-Mail, aber nur der Initiator der Ausführung hat Zugriff auf die Aktivitätsdetails.
In der folgenden Tabelle sind die wichtigsten Informationen aufgeführt, die in einer E-Mail-Anforderung für menschliche Überprüfungen enthalten sind:
| Feld | Beschreibung |
|---|---|
| Agent, der das Tool verwendet | Der Name des Copilot Studio-Agents. |
| Tool der Computerbenutzung | Der Name des Computerverwendungstools, das die Anforderung ausgelöst hat. |
| Unterhaltungs-ID | Die Unterhaltungs-ID, die Sie verwenden können, um eine bestimmte Aktivität zu finden. |
| Anforderungszeitlimit | Das Anforderungstimeoutdatum und die Uhrzeit. |
| Angefordert von | Der Hersteller (Verbindungsbesitzer) des Computerverwendungstools. |
| Absenden (mit Optionen) | Die endgültige Entscheidung mit Ja oder Nein des Bearbeiters, um die Ausführung der Computerverwendung fortzusetzen oder zu beenden. |
Überprüfen von Anforderungen für die computerbasierte Überprüfung
Anmerkung
Um die Anfragen zur manuellen Überprüfung im Seitenbereich „Computerbenutzung“ der Aktivitätsübersicht des Agenten zu überprüfen, müssen Sie die Funktion Erweiterte Computerbenutzungsaktivitäten in Ihrer Umgebung aktivieren. Wenn die erweiterte Computernutzungsaktivität nicht in der Aktivitätszuordnung angezeigt wird, hat Ihr Administrator dieses Feature möglicherweise für Ihre Umgebung deaktiviert. Erfahren Sie mehr unter Erweiterte Computernutzungsaktivitäten.
So überprüfen Sie die Anforderungen der menschlichen Überprüfung:
- Kopieren Sie die Unterhaltungs-ID (GUID) aus dem E-Mail-Textkörper der menschlichen Überprüfungsanforderung.
- Wählen Sie den Agent über den Toollink in der E-Mail aus, um die Seite „Agent-Übersicht“ in Microsoft Copilot Studio zu öffnen.
- Gehen Sie zu Aktivitäten.
- Wählen Sie oben in der Aktivitätenliste die Option Nach ID suchen aus und geben Sie die kopierte Unterhaltungs-ID ein.
- Suchen Sie die Computerverwendungsaktion mit dem Namen des konfigurierten Tools zur Computerverwendung, und öffnen Sie dessen Seitenbereich.
- Überprüfen Sie im Abschnitt Aktivität des Seitenbereichs die Liste der Aktivitäten. Aktivitäten, die auf eine menschliche Überprüfung warten, zeigen ein Wartesymbol neben dem Modellantworttext an. Die vom Computerausführungsagent durchgeführten Sicherheitsüberprüfungen können durch eine einzelne Antwort, Eingabe oder einen Screenshot oder durch mehrere solcher Kontextelemente ausgelöst werden. Folglich enthält der Screenshot, der in einer menschlichen Überprüfungsanforderung angezeigt wird, möglicherweise keine potenziell schädlichen Inhalte.
- Überprüfen Sie sorgfältig den Aktivitätsverlauf und Screenshots, um festzustellen, ob die Sicherheitsüberprüfung des Computernutzungsmodells gültig ist.
- Wenn Sie fertig sind, kehren Sie zu der E-Mail-Benachrichtigung in Outlook zurück, und führen Sie die entsprechende Aktion basierend auf Ihren Ergebnissen aus.