에이전트는 생성 오케스트레이션 또는 클래식 오케스트레이션을 사용할 수 있습니다. 기본적으로 새로 생성된 에이전트는 생성 오케스트레이션을 사용하도록 구성됩니다. 생성 오케스트레이션을 통해 에이전트는 사용자 문의에 답하거나 이벤트 트리거에 대응할 최적의 도구, 지식, 주제 및 기타 에이전트 를 선택할 수 있습니다. 대안은 에이전트가 트리거 문구가 사용자의 쿼리와 가장 근접하게 일치하는 토픽을 트리거하여 사용자에게 응답하는 클래식 오케스트레이션입니다.
중요
미리 빌드된 에이전트에서 에이전트를 만드는 경우 미리 빌드된 에이전트의 구성에 따라 사용되는 오케스트레이션 방법이 결정됩니다.
관리자가 환경에서 생성형 오케스트레이션을 사용하는 기능을 끄면 해당 환경에서 만든 에이전트는 클래식 오케스트레이션만 사용할 수 있습니다.
다음 표에서는 생성 오케스트레이션과 클래식 오케스트레이션 간의 에이전트 동작을 비교합니다.
| 동작 | 생성형 오케스트레이션 | 클래식 오케스트레이션 |
|---|---|---|
| 토픽 | 주제는 목적에 대한 설명에 따라 선택됩니다. | 주제는 트리거 문구와 사용자 쿼리 일치를 기반으로 선택됩니다. |
| 자식 및 연결된 에이전트 | 하위 및 연결된 에이전트는 설명에 따라 선택됩니다. | 적용할 수 없습니다. |
| 도구 | 에이전트는 이름과 설명에 따라 도구를 호출하도록 선택할 수 있습니다. | 도구는 토픽 내에서만 명시적으로 호출할 수 있습니다. |
| 참조 자료 | 에이전트는 사용자의 쿼리에 답변하기 위해 지식을 사전에 검색하도록 선택할 수 있습니다. | 지식은 사용자의 쿼리와 일치하는 주제가 없는 경우(또는 주제 내에서 명시적으로 호출되는 경우) 대체로 사용할 수 있습니다. |
| 여러 항목, 도구, 기술 자료 사용 | 에이전트는 토픽, 도구 및 지식의 조합을 사용할 수 있습니다. | 에이전트는 사용자에게 응답할 단일 토픽을 선택하려고 시도하며, 설정된 경우 지식을 백업으로 사용합니다. |
| 사용자에게 입력 요청 | 에이전트는 자동으로 질문을 생성하여 항목 및 도구에 대한 입력을 채우는 데 필요한 누락된 정보를 사용자에게 표시할 수 있습니다. | 토픽에서 질문 노드를 사용하여 사용자에게 필요한 정보를 묻는 메시지를 작성해야 합니다. |
| 사용자에게 응답 | 에이전트는 토픽, 도구, 기타 에이전트 및 사용된 지식의 사용 가능한 정보를 사용하여 응답을 자동으로 생성합니다. | 토픽의 메시지 노드를 사용하여 사용자에게 응답하는 메시지를 작성하거나 토픽에서 도구를 호출해야 합니다. |
팁
고전적 오케스트레이션과 생성형 오케스트레이션에는 지식 검색 방식과 지원되는 데이터 소스 등 중요한 차이점이 있습니다. 기존 에이전트에 대해 생성형 모드를 켜기 전에 알려진 제한 사항에 대해 읽어보세요.
생성형 오케스트레이션은 어떻게 작동하나요?
생성형 AI를 사용하여 에이전트가 응답하는 방식을 결정하면 사용자에게 더 자연스럽고 유연한 대화를 만들 수 있습니다. 생성형 AI를 사용하면 에이전트가 자율적으로 작업을 수행할 수도 있습니다.
올바른 항목, 도구, 기타 에이전트 및 기술 자료 선택
사용자가 메시지를 보내면 에이전트는 하나 이상의 도구, 토픽, 다른 에이전트 또는 기술 자료를 선택하여 응답을 준비합니다. 여러 요인이 선택을 결정합니다. 가장 중요한 요소는 토픽, 도구, 에이전트 및 지식 원본에 대한 설명입니다. 다른 요인으로는 토픽, 도구, 에이전트 또는 기술 자료의 이름, 입력 또는 출력 매개 변수, 해당 이름 및 설명이 포함됩니다. 설명은 사용자 의도를 도구, 다른 에이전트 및 토픽과 연결할 때 에이전트를 보다 정확하게 만들 수 있도록 합니다. 사용자가 필요한 것을 표시할 수 있는 모든 방법을 예측할 필요는 없습니다.
생성 오케스트레이션을 사용하도록 에이전트를 구성할 때, 사용자 쿼리(다중 의도 쿼리 포함)를 처리하거나 이벤트에 자율적으로 응답할 도구, 주제, 기타 에이전트 또는 지식 소스를 선택할 수 있습니다. 에이전트가 여러 도구, 에이전트 또는 주제를 선택하면, 누락된 정보를 위해 질문을 생성한 후 순서대로 호출합니다.
생성 오케스트레이션이 켜졌을 때 에이전트가 지식 소스를 탐색하는 방법에 대해 더 알아보세요.
사용자 입력 또는 이벤트 트리거에 응답
에이전트는 사용자 입력이나 이벤트 트리거에 응답하여 선택한 모든 지식 소스, 도구, 에이전트, 주제에서 반환된 정보를 받아, 생성된 사용자 쿼리에 대한 답변을 요약합니다.
팁
생성 오케스트레이션으로 구성된 에이전트는 지식, 도구, 다른 에이전트, 주제에서 얻은 정보를 활용해 응답을 생성할 수 있으므로, 최종 응답을 메시지 노드로 보내지 않고 출력 변수로 에이전트에게 반환함으로써 주제를 더 유연하게 만들 수 있습니다. 이 방법을 사용하면 에이전트가 사용자에게 상황에 맞는 응답을 제공할 수 있습니다. 토픽 입력 및 출력 구성에 대해 자세히 알아보세요.
테스팅
Copilot Studio에서 생성형 오케스트레이션을 사용하는 에이전트를 테스트할 때 활동 맵을 열어서 에이전트가 어떻게 반응하는지 확인할 수 있습니다.
에이전트에 대한 생성 오케스트레이션 끄기
해당 에이전트의 설정 페이지로 이동하세요.
생성형 AI 섹션의 오케스트레이션에서 에이전트의 응답에 생성형 AI 오케스트레이션을 사용하시겠습니까?에 대해 아니요를 선택합니다. 이제 에이전트가 클래식 오케스트레이션을 사용하도록 구성되었습니다.
에이전트에 대해 생성형 오케스트레이션 켜기
해당 에이전트의 설정 페이지로 이동하세요.
생성형 AI 섹션의 오케스트레이션에서 에이전트의 응답에 생성형 AI 오케스트레이션을 사용하시겠습니까?에 대해 예를 선택합니다.
팁
사용자에게 일부 대화(예: 도구를 실행할 때 생성된 질문)가 AI에 의해 생성될 수 있음을 알리는 것이 좋습니다. 예를 들어, 대화 시작시스템 토픽에 추가 메시지를 추가하여 에이전트와 새로운 대화가 시작될 때 사용자에게 표시되는 메시지를 제어할 수 있습니다.
설명 작성
에이전트를 생성 오케스트레이션을 사용하도록 설정한다면, 각 자식 에이전트, 연결된 에이전트, 주제, 도구, 지식 소스에 대해 고품질의 설명을 제공하세요. 적절한 설명을 통해 에이전트는 사용자에게 응답할 올바른 토픽, 도구, 기타 에이전트 및 기술 자료를 선택합니다.
도구의 경우 설명을 작성하는 것은 에이전트에 추가하는 데 사용되는 마법사의 일부입니다. 설명은 미리 채워져 있는 경우가 많지만 적절하게 변경할 수 있습니다. 도구 추가 및 관리에 대한 자세한 내용은 사용자 지정 에이전트에 도구 추가를 참조하세요.
주제의 경우, 생성 오케스트레이션을 켜면 에이전트가 선택한 버튼이 트리거 노드에 나타나며( 사용자가 구절을 말하는 대신 나타납니다), 이 경우 주제의 설명을 추가하거나 편집할 수 있습니다.
팁
처음 작성한 에이전트에 대해 생성 오케스트레이션을 켜면 Copilot Studio가 각 기존 주제의 트리거 구문을 기반으로 기본 설명을 자동으로 생성합니다. 생성된 설명은 관련 사용자 쿼리에 대한 응답으로 이러한 토픽을 선택할 수 있을 만큼 충분히 좋은 경우가 많습니다. 그러나 생성된 설명을 수정하려면 이 문서에 제공된 조언을 따르는 것이 좋습니다.
생성 오케스트레이션을 사용하는 다국어 지원
생성 오케스트레이션을 사용하는 에이전트의 경우 생성되는 모든 콘텐츠는 현재 활성 언어(에이전트의 기본 언어 또는 보조 언어 중 하나)에 있습니다. 에이전트는 클라이언트 또는 브라우저 언어의 사용자 언어를 자동으로 결정합니다. 에이전트에 대한 언어를 추가하는 방법에 대한 자세한 내용은 다국어 에이전트 구성 및 만들기를 참조하세요. 생성 오케스트레이션에서 지원되는 언어 목록은 언어 지원을 참조하세요.
모범 사례
주제, 도구, 지식 출처 명명에 관한 다음 모범 사례를 활용하세요. 또한 이 요소들에 대해 명확하고 간결하며 관련성 높은 설명을 작성하는 데도 활용하세요.
비고
여러 항목에 비슷한 설명이 있는 경우 에이전트가 모두 호출하여 질문에 대답할 수 있습니다. 이런 행동을 방지하기 위해 에이전트를 철저히 테스트하고 중복되는 설명을 수정하세요.
명령어에 대한 자세한 내용은 생성 오케스트레이션에 관한 지침 지침을 참조하세요.
작문 스타일
간단하고 직접적인 언어를 사용하세요. 전문 용어, 속어 또는 기술 용어를 사용하지 마세요.
설명에는 능동태와 현재 시제를 사용하세요. 예를 들어 "이 도구에서 날씨 정보를 제공하는 경우" 대신 "이 도구는 날씨 정보를 제공합니다."를 작성합니다.
글머리 기호 목록과 번호 매기기 목록을 사용하여 일련의 항목, 작업 또는 고려 사항을 명확하게 구분할 수 있습니다.
정확도
도구 또는 토픽의 기능 및 사용자의 의도와 관련된 키워드를 사용합니다. 예를 들어 도구에서 날씨 정보를 제공하는 경우 "날씨", "예측", "온도", "비", "눈" 등의 키워드를 사용합니다.
설명에는 도구나 주제의 기능에 대한 짧고 유익한 요약을 작성하세요. 요약은 한두 문장으로 제한하세요. 도구나 주제가 무엇을 하는지, 그리고 사용자에게 어떤 이점이 있는지 설명하세요.
짧은 문구로 구성된 설명적이고 고유한 이름을 사용하십시오. 혼란스러울 수 있는 일반적이거나 모호한 이름은 사용하지 마세요. 예를 들어 도구 이름을 "날씨"로 지정하는 대신 이름을 "일기 예보" 또는 "날씨 보고서"로 지정합니다.
특정 언어를 사용하여 유사한 토픽과 도구 간의 모호성을 방지합니다.
예를 들어 에이전트에 현재 기상 조건에 대한 정보를 제공하는 도구가 이미 있지만 내일의 일기 예보를 제공하기 위해 다른 항목을 추가하려는 경우 이러한 항목의 이름과 설명이 모호성을 방지하기에 충분히 구체적인지 확인합니다. 이러한 유사한 토픽의 이름과 설명이 다른지 확인합니다. 또한 자신이 할 수 없는 일을 나타내는 데 도움이 될 수 있습니다. 다음은 사용할 수 있는 이름 및 설명의 예입니다.
이름: 현재 날씨
설명: 이 토픽은 전 세계 모든 위치의 일기 예보를 제공합니다. 기온, 비가 오거나 눈이 오는지 등 현재 날씨를 물어볼 수 있습니다. 향후 날짜에 대한 일기 예보는 제공되지 않습니다.
이름: 내일 일기 예보
설명: 이 토픽에서는 다음 날의 전 세계 모든 위치에 대한 날씨 정보를 제공합니다. 온도를 제공합니다. 오늘의 현재 날씨는 제공되지 않습니다.
하지 말아야 할 일의 예
다음 예시들은 지침을 따르지 않습니다. 첫 번째 예시는 도구가 어떤 유형의 질문에 답할 수 있는지 명확히 명시하지 않아 너무 모호합니다.
이름: 질문에 답하기
설명: 이 도구는 질문에 대답할 수 있습니다.
다음 예에서는 전문 용어를 사용합니다. 대신 주당순이익(EPS)을 명시해야 합니다.
이름: EPS 가져오기
설명: 모든 주식 시세에 대한 EPS를 가져옵니다.
생성형 오케스트레이션을 사용하여 사용자 요청을 처리하는 에이전트와의 상호 작용 예
다음 예제는 두 가지 사용자 지정 항목이 있는 에이전트를 기반으로 합니다. 하나는 매장 시간을 찾기 위한 항목이고 다른 하나는 가까운 상점을 찾는 데 사용되며 미리 빌드된 MSN Weather 커넥터를 기반으로 하는 도구입니다.
예 1
이 예에서 사용자는 "시애틀 날씨는 어때요?"라고 묻습니다. 에이전트는 현재 날씨 도구를 선택하고 사용자의 질문에서 인식한 "Seattle"을 사용하여 위치 입력을 미리 채우기도 합니다.
예제 2
이 예시에서 사용자는 "매장 영업 시간을 확인하고 가장 가까운 매장을 찾아야 합니다."라고 말합니다. 에이전트는 매장 영업시간 주제와 매장 위치 추적 기 주제 두 가지를 선택해 사용자의 쿼리 두 부분에 모두 응답하도록 연쇄 연결합니다.
예 3
이 예시에서 사용자는 대화 초반에 가장 가까운 가게인 커클랜드(Kirkland)를 찾게 됩니다. 사용자는 "거기 날씨는 어떤가요?"라고 묻습니다. 여기서 상담원은 현재 날씨 도구를 선택하되, 최근 대화 상황을 바탕으로 위치를 "Kirkland"로 미리 채워둡니다.
생성형 오케스트레이션을 위한 더 많은 제어 옵션
현재 계획 취소
주제 내 End all topics 노드를 사용해 오케스트레이터가 사용자 또는 이벤트 트리거에 대응할 예정이었던 남은 단계를 취소합니다.
토픽 트리거 사용 및 대화 기록 사용 제어
다음 주제 트리거 중 하나를 사용하여 에이전트의 행동을 결정하세요:
- AI 응답 생성: 에이전트가 사용자에 대한 응답을 생성할 때.
- 계획 완료: 계획이 완료될 때(즉, 에이전트가 사용자에게 응답하기 위해 모든 단계를 수행한 경우 완료됩니다).
이러한 토픽 트리거 및 기타 토픽 트리거에 대해 자세히 알아보세요.
대화 기록 제어
에이전트는 사용자에게 응답하는 방법을 결정하거나 응답 생성 또는 사용 가능한 컨텍스트에서 입력 값 채우기와 같은 다른 작업을 수행할 때 최근 대화 기록을 사용합니다. 언제든지 Clear variable value 노드를 사용하여 플래너가 사용하는 대화 기록을 삭제할 수 있으며, 현재 세션에 대한 대화 기록 옵션을 선택할 수 있습니다.
생성형 오케스트레이션에 대한 알려진 제한 사항
생성형 오케스트레이션 모드를 사용할 때 다음과 같은 알려진 문제 및 제한 사항이 있습니다.
참조 자료
생성 오케스트레이션이 켜져 있으면, 에이전트는 지식 소스를 검색할 때 대화형 부스터팅 시스템 주제를 사용하지 않습니다. 따라서 에이전트는 이 시스템 주제에 대해 사용자가 어떤 수정을 해도 데이터를 검색하는 방식을 맞춤화하지 않습니다. 이 제한은 사용자 지정 데이터 원본을 포함하여 생성형 답변 노드에 구성된 클래식 데이터 원본에도 적용됩니다. 지식이 생성형 오케스트레이션과 함께 작동하는 방식에 대해 자세히 알아보세요.
토픽 및 도구 입력 매개 변수에 대한 사용자 지정 엔터티 지원
도구 및 토픽은 아직 사용자 지정 엔터티(닫힌 목록 및 정규식 엔터티)를 입력 매개 변수로 지원하지 않습니다. 커스텀 엔터티를 사용해 정보를 수집하려면 주제 내 질문 노드를 사용하세요.
명확성
에이전트가 사용자의 의도와 매우 일치하는 여러 주제가 있을 때 주제 간 중의성을 구분하지 못할 수 있습니다. 일반적으로 에이전트는 여러 토픽 일치 시스템 토픽을 통해 사용자에게 자신의 의도와 일치하는 하나 이상의 토픽 중에서 선택하도록 요청합니다. 그러나 생성 오케스트레이션을 사용하는 에이전트는 현재 이 항목을 호출하지 않습니다. ' 다중 주제 매칭' 시스템 주제를 켜둔 상태로 두면, 이 문제가 해결되면 상담원이 자동으로 주제 간 중의성을 해소하기 시작합니다. 앞으로 에이전트가 자동으로 주제 간 중동성을 없애는 것을 막으려면, '다중 주제 매칭(Multiple Topics Matched) ' 시스템 주제를 끄세요. 이 토픽을 끄면 에이전트를 테스트할 수 있습니다. 에이전트를 테스트한 후 주제를 다시 켜면 중의성 해소 사용에 다시 참여할 수 있습니다.
이전 대화 컨텍스트
생성형 오케스트레이션을 통해 에이전트는 사용자와 에이전트 간의 최근 대화를 사용하여 호출할 도구를 결정하거나 입력을 값으로 채울 때 컨텍스트를 제공합니다. 현재 대화 기록의 양이 제한되어 있으므로 에이전트가 대화의 이전 부분에 있는 정보를 보거나 사용할 수 없는 경우가 있습니다. 이런 경우에는 사용자로부터 정보를 다시 수집하거나, 핵심 정보가 정기적으로 전사본에 포함되도록 해야 할 수도 있습니다.