이 자주 묻는 질문(FAQ)은 Copilot Studio에 내장된 사용자 지정 에이전트에 대한 생성형 오케스트레이션의 AI 영향에 대해 설명합니다.
생성형 오케스트레이션이란?
생성형 오케스트레이션을 사용하면 사용자 지정 에이전트가 관련 토픽, 도구, 기타 에이전트 및 기술 원본을 사용하여 사용자 쿼리에 응답하고 이벤트 트리거에 응답할 수 있습니다.
생성형 오케스트레이션은 대화 내역의 세부 정보를 사용하여 입력 내용을 채워 넣음으로써 보다 자연스러운 대화를 가능하게 합니다. 예를 들어 사용자가 커클랜드에서 가장 가까운 매장에 대해 질문한 다음 그곳의 날씨를 묻는 경우 오케스트레이션은 커클랜드의 날씨를 의미한다고 유추합니다.
트리거된 에이전트는 생성형 오케스트레이션을 사용하여 외부 이벤트에 대한 응답으로 호출할 최상의 도구, 토픽 또는 에이전트를 결정할 수 있으므로 자율 기능을 사용할 수 있습니다. 예를 들어, 에이전트는 영업 계정에 대한 Dataverse 테이블이 새 항목을 받을 때 중복 계정을 확인하고 조정할 수 있습니다. 자율 에이전트에 대한 이벤트 트리거를 만드는 방법에 대한 자세한 내용은 이벤트 트리거 추가를 참조하십시오.
또한 시스템은 여러 기능을 연결하여 "매장 시간을 확보하고 가장 가까운 매장을 찾아야 합니다"와 같은 쿼리에 응답하고 필요한 세부 정보가 누락되었거나 모호한 경우 후속 질문을 할 수 있습니다.
생성형 오케스트레이션은 무엇을 할 수 있나요?
생성형 오케스트레이션은 사용 가능한 항목, 도구, 에이전트 및 지식의 이름, 설명, 입력 및 출력을 사용하여 사용자 쿼리 또는 이벤트 트리거를 처리하는 계획을 빌드합니다.
대화의 경우 시스템은 마지막 10턴의 대화 기록을 참조하여 입력을 채우고 호출할 가장 관련성이 큰 기능을 결정합니다. 사용자가 누락되거나 명확하지 않은 세부 정보를 확인하고, 선택한 계획을 실행한 다음, 사용자 지정 에이전트 지침을 포함하여 출력에 따라 응답을 생성합니다.
이벤트 트리거의 경우 오케스트레이션은 이벤트 데이터, 트리거 수준 지침 및 에이전트 지침을 사용하여 호출할 토픽, 도구 또는 에이전트 및 응답 방법을 결정합니다.
생성형 오케스트레이션의 의도된 용도는 무엇입니까?
생성형 오케스트레이션을 사용하여 사용 가능한 컨텍스트 및 메타데이터를 사용하여 토픽, 도구, 기타 에이전트 및 지식을 추론하여 사용자 쿼리 및 이벤트에 응답하는 에이전트를 만들 수 있습니다. 에이전트는 특정 도메인 또는 함수를 처리하는 데 더 적합한 다른 에이전트에 작업의 일부를 위임하여 모듈식 및 확장 가능한 디자인을 가능하게 할 수 있습니다.
생성형 오케스트레이션은 어떻게 평가되나요? 성능을 측정하는 데 사용되는 메트릭은 무엇입니까?
엔드 투 엔드 프로세스에서 생성형 오케스트레이션을 평가합니다. 적절한 계획을 얼마나 잘 식별하고 실행하여 쿼리를 확인하거나 트리거에 응답하는지 확인합니다. 사용자 검토자의 품질 평가는 다양한 프롬프트, 입력 및 구성을 다룹니다.
적절한 도구, 토픽, 에이전트 또는 참조 자료 원본을 선택하는 시스템의 기능, 사용자의 의도를 얼마나 정확하게 해석하는지, 그리고 사용자 또는 제작자로부터 악의적이거나 유해한 콘텐츠를 얼마나 효과적으로 필터링하는지 평가합니다.
생성형 오케스트레이션의 한계는 무엇인가요? 사용자가 미치는 영향을 최소화하려면 어떻게 해야 할까요?
최상의 결과를 위해 토픽, 도구, 참조 자료 원본 및 에이전트에 고품질 이름과 설명이 있는지 확인합니다. 효과적인 메타데이터 작성에 대해 알아봅니다.
오케스트레이션을 통해 호출된 에이전트(내부 또는 외부)는 올바르게 구성되어야 하며 전달된 쿼리 또는 이벤트를 처리할 수 있어야 합니다. 수신 에이전트가 특정 작업을 처리하도록 설계되지 않은 경우 불완전하거나 관련이 없는 응답을 반환할 수 있습니다.
현재 이벤트 트리거가 있는 에이전트는 제작자의 자격 증명만 인증에 사용합니다. 트리거에 대한 응답으로 에이전트가 호출하는 도구도 작성자의 자격 증명을 사용해야 합니다. 자세한 내용은 트리거가 있는 에이전트의 데이터 보호를 참조하세요.
생성형 오케스트레이션을 효과적이고 책임감 있게 사용하려면 어떤 운영 요소와 설정이 필요합니까?
생성형 오케스트레이션은 현재 영어로만 제공됩니다. Copilot Studio에서 직접 테스트 패널을 사용하여 성능을 테스트할 수 있습니다. 또한 사용자 지정 지침을 추가하여 시스템이 토픽, 도구, 기타 에이전트 또는 지식을 선택하고 사용하는 방법을 구체화할 수 있습니다.
작업을 다른 에이전트에 위임할 때는 상호 작용 흐름을 테스트하여 컨텍스트가 명확하게 전달되고 핸드오프가 예상대로 작동하는지 확인하는 것이 중요합니다.
도구란 무엇이며 생성형 오케스트레이션을 사용하는 에이전트는 어떻게 사용합니까?
도구를 사용하면 에이전트가 특정 작업을 수행하거나 데이터를 검색하여 사용자 쿼리에 응답하거나 이벤트를 처리할 수 있습니다. 조직, Microsoft 및 기타 파트너는 도구를 만들 수 있습니다. 사용할 수 있는 도구를 구성하고 생성형 오케스트레이션을 지원하도록 메타데이터를 사용자 지정할 수 있습니다.
Copilot Studio는 도구에 어떤 데이터를 제공할 수 있나요? Copilot Studio 도구에는 어떤 권한이 있나요?
에이전트가 도구를 호출하면 시스템에서 필요한 입력 값을 보냅니다. 이 정보에는 대화 기록의 요소 또는 이벤트 트리거의 데이터가 포함될 수 있습니다. 시스템은 에이전트 간에 오케스트레이션할 때 관련 컨텍스트를 수신 에이전트에 전달하여 연속성을 지원합니다.
에이전트가 도구 및 기타 에이전트를 사용할 때 발생할 수 있는 문제 유형은 무엇인가요?
에이전트가 입력을 준비하거나 출력을 생성하거나 잘못된 도구, 토픽 또는 에이전트를 선택하는 경우 오류가 발생할 수 있습니다. 이러한 문제를 방지하려면 오케스트레이션에 사용할 수 있는 모든 요소에서 메타데이터가 정확하고 모호하지 않은지 확인합니다.
트리거 또는 사용자 쿼리의 정보에는 의도하지 않거나 중요한 데이터가 포함될 수 있습니다. 이러한 정보가 토픽, 도구 또는 다른 에이전트로 라우팅되는 경우 원치 않는 출력이 발생할 수 있습니다. 자세한 내용은 문제 해결 및 제한 사항을 참조하십시오.
Copilot Studio에는 책임 있는 AI를 위해 어떤 보호 장치가 마련되어 있나요?
Copilot Studio에는 다음과 같은 다양한 안전 장치가 포함되어 있습니다.
- 에이전트는 작성자가 명시적으로 구성한 지식, 도구, 토픽 및 에이전트만 사용합니다.
- 관리자는 사용할 수 있는 도구 및 에이전트를 제한할 수 있습니다.
- 제조업체는 데이터를 수정하는 도구를 실행하기 전에 사용자 확인을 요구할 수 있습니다.
- 트리거 및 오케스트레이션은 작성자의 인증에 따라 작동하며 구성된 사용 권한이 적용됩니다.
- 페이로드 검사, 분류자 및 콘텐츠 필터는 사용자 입력, 트리거 데이터, 도구 출력 및 기술 콘텐츠에서 악의적이거나 유해한 지침을 검색합니다.
- Power Fx 식을 사용한 엔터티 유효성 검사는 입력 값을 제한할 수 있습니다(예: 이메일 받는 사람을 특정 도메인으로 제한).
- 에이전트가 다른 외부 에이전트에 위임할 때 전체 대화 기록이 전달되고 완료할 작업을 구성할 수 있습니다.
잠재적인 공격이 감지되면(예: 트리거 페이로드 또는 도구 출력에서) 실행이 차단되고 활동 맵에 콘텐츠 필터링 오류가 표시됩니다.
투명성을 유지하기 위해 에이전트에는 "사용자가 인식할 수 있도록 AI를 사용하여 질문에 대답하는 경우가 있습니다."라는 기본 메시지가 포함됩니다.
생성형 오케스트레이션에 대한 피드백을 제공하려면 어떻게 해야 하나요?
Copilot Studio에 대한 피드백을 제공할 수 있습니다.