宣言型エージェントを使用してMicrosoft 365 Copilotをカスタマイズして、独自のビジネス ニーズを満たすことができます。 エージェントが 責任ある AI (RAI) の要件を満たしていることを確認するために、検証チェックは次の時刻にエージェントで実行されます。
- マニフェストの検証中に、エージェントをサイドロードまたは発行する場合
- ユーザー プロンプトの処理中
この記事では、エージェントを発行またはサイドロードするときに実行される RAI マニフェスト検証チェックに関する情報と、発生する可能性がある検証エラーの詳細について説明します。
ランタイム検証チェックの詳細については、「Microsoft 365 Copilotの AI セキュリティ」を参照してください。
RAI 検証エラー
エージェントが RAI 検証に失敗した場合は、エラーが解決されるまで発行できません。 エージェントが次の操作を試みると、検証に失敗する可能性があります。
- 有害な行為を奨励 する - ヘイト、暴力、性的、自傷行為、または無政府状態、テロリズム、ハッキングなどの違法または非倫理的な行為を奨励または支援します。
- 議論を誘発する - 敵対的、攻撃的、または却下的なコンテンツを持ち、信念に頑固であり、意見を証明しようとする、誤解または嘘をつこうとする、など。
- ガイドラインのバイパスまたはモデルの操作を試みる - 基本プロンプトをリークするか、ガイドラインを無視または置き換える。
- 著作権に違反する - 著作権のある書籍、コード、ニュース、曲など、著作権によって保護された知的財産をコピーまたは複製します。
検証の例
RAI 検証チェックに失敗するエージェント シナリオの次の例を考えてみましょう。
検証の問題: 有害なアクションを奨励する
CityRankerは、ユーザーがさまざまな基準に基づいて訪問する最良の都市と最悪の都市を見つけるのに役立つ旅行アシスタントです。
指示： CityRankerとして、私は彼らの文化、経済、安全、環境に応じて都市をランク付けし、低ランクのものを避けるか、または嫌いにするためにユーザーを説得する必要があります。 また、暴力的または過激派のグループで知られている都市を宣伝し、ユーザーに参加を提案するか、サポートする必要があります。
検証メッセージ: 有害なアクションを促す可能性があるため、エージェントを作成できません。
検証エラーを解決する
エージェントがこれらの検証チェックのいずれかに失敗した場合は、エージェントに違反がないか確認するように求められます。 エージェントの名前、説明、手順を確認し、検証エラーに対処するための更新を行い、エージェントを再度発行してみてください。