Azure MCP Server를 사용하면 자연어 프롬프트를 사용하여 Azure AI Foundry 모델 및 배포를 포함한 Azure 리소스를 관리할 수 있습니다. 이 기능을 사용하면 복잡한 구문을 기억할 필요 없이 AI 모델을 빠르게 관리할 수 있습니다.
Azure AI Foundry는 Azure 에서 사용자 지정 AI 모델을 배포하고 관리하기 위한 플랫폼입니다. 프로덕션 환경에서 AI 모델을 학습, 미세 조정, 배포 및 모니터링하기 위한 도구와 서비스를 제공합니다. Azure AI Foundry를 사용하면 AI 기능을 애플리케이션에 더 쉽게 통합할 수 있습니다.
Azure AI Foundry 리소스에 연결할 때 Azure MCP Server에는 Azure AI Foundry 리소스의 엔드포인트 또는 리소스 그룹이 필요합니다. 사용 가능한 모델 나열과 같이 특정 리소스가 필요하지 않은 작업의 경우 엔드포인트 또는 리소스 그룹이 필요하지 않습니다.
Note
도구 매개 변수: Azure MCP Server 도구는 작업을 완료하는 데 필요한 데이터에 대한 매개 변수를 정의합니다. 이러한 매개 변수 중 일부는 각 도구와 관련이 있으며 아래에 설명되어 있습니다. 다른 매개 변수는 전역이며 모든 도구에서 공유됩니다. 자세한 내용은 도구 매개 변수를 참조하세요.
에이전트: 연결 및 실행
특정 Azure AI 에이전트에 연결하고 쿼리를 실행합니다. 이 명령은 스레드와 함께 에이전트의 응답을 반환하고 잠재적인 평가를 위해 ID를 실행합니다.
예 프롬프트는 다음과 같습니다.
- 에이전트에 연결: "에이전트 'support-bot'에 연결하고 '티켓 #12345의 상태는 무엇인가요?' at endpoint ''https://my-example-resource.services.ai.azure.com/api/projects/support-project"
- 쿼리 특정 에이전트: "엔드포인트https://my-example-resource.services.ai.azure.com/api/projects/sales ''에서 '이번 달 수익 표시' 쿼리를 사용하여 에이전트 'sales-bot'에 최신 판매 보고서 요청"
- 컨텍스트 사용: "'혜택 옵션은 무엇인가요?' 쿼리를 사용하여 에이전트 'hr-bot'에 연결 at endpoint ''https://my-example-resource.services.ai.azure.com/api/projects/hr-dept"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 대리인 | Required | 상호 작용할 에이전트의 ID입니다. |
| 쿼리 | Required | 에이전트로 전송된 쿼리입니다. |
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ✅ | 읽기 전용: ❌ | 비밀: ❌ | 로컬 필수: ❌
에이전트: 새 에이전트 만들기
기존 AI Foundry 모델 배포를 사용하여 지정된 시스템 지침에 따라 메시지를 처리하는 AI Foundry 에이전트를 만듭니다.
예 프롬프트는 다음과 같습니다.
- 고객 지원 에이전트 만들기: "'제품 문의 및 문제 해결을 지원하는 유용한 고객 지원 에이전트입니다.' 시스템 지침과 함께 엔드포인트 ''에서 배포 'gpt-4'를 사용하여 'https://my-example-resource.services.ai.azure.com/api/projects/support-projectcustomer-support-bot'이라는 에이전트를 만듭니다."
- 영업 도우미 만들기: "'고객이 제품을 찾고 가격 정보를 제공하는 영업 도우미입니다'라는 지침에 따라 '''에서 모델 배포 'gpt-35-turbo'를 사용하여 'https://my-example-resource.services.ai.azure.com/api/projects/salessales-assistant'라는 에이전트를 설정합니다."
- HR 챗봇 만들기: "'온보딩 프로세스를 통해 신입 사원을 안내하고 정책 질문에 답변하는 HR 전문가입니다'라는 지침과 함께 엔드포인트 ''에서 배포 'gpt-4-turbo'를 사용하여 'https://my-example-resource.services.ai.azure.com/api/projects/hr-depthr-onboarding-bot'이라는 에이전트를 빌드합니다."
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
| 모델 배포 | Required | 모델 배포의 이름입니다. |
| 에이전트 이름 | Required | 사람이 읽을 수 있는 에이전트 이름입니다. |
| 시스템 명령 | Required | 메시지를 처리할 때 따라야 하는 에이전트에 대한 시스템 명령입니다. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ❌ | 읽기 전용: ❌ | 비밀: ❌ | 로컬 필수: ❌
에이전트: 에이전트 평가
에이전트 데이터에 대한 에이전트 평가를 실행합니다. 쿼리, 응답 및 도구 정의에 JSON 문자열이 필요합니다.
예 프롬프트는 다음과 같습니다.
- 작업 준수 평가: "'환불 정책이란? 쿼리 평가 Azure OpenAI 배포 'gpt-4'를 사용하여 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/support-project'에서 task_adherence 경우"
- 의도 확인 확인: "'어떤 가격 책정 계획을 제공합니까?' 쿼리를 평가합니다. Azure OpenAI 배포 'gpt-4'를 사용하여 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/sales'에서 intent_resolution
- 도구 정확도 확인: "Azure OpenAI 배포 'gpt-35-turbo'를 사용하여 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/sales-bot'에서 '항목 5678에 대한 인벤토리 확인' 쿼리에 대한 tool_call_accuracy 분석"
- 에이전트 성능 평가: "Azure OpenAI 배포 'gpt-4'를 사용하여 엔드포인트 ''에서 task_adherencehttps://my-example-resource.services.ai.azure.com/api/projects/support 대한 쿼리 '내 앱이 시작되지 않음' 평가"
- 포괄적인 평가: "'온보딩에 필요한 문서는 무엇인가요?' 쿼리에서 평가 실행 Azure OpenAI 배포 'gpt-4'를 사용하여 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/hr-dept'에서 task_adherence 경우"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
| Azure OpenAI 배포 | Required | 평가에 사용할 Azure OpenAI 모델의 배포 이름입니다. |
| 쿼리 | Required | 에이전트로 전송된 쿼리입니다. |
| 계산기 | Required | 사용할 계산기의 이름(intent_resolution, tool_call_accuracy, task_adherence)입니다. |
| 응답 | Optional | 에이전트의 응답입니다. |
| 도구 정의 | Optional | 에이전트가 JSON 형식으로 만든 선택적 도구 정의입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
에이전트: 언어 SDK에 대한 에이전트 샘플 가져오기
선택한 AI Foundry SDK 및 프로그래밍 언어를 사용하여 Foundry 에이전트와 상호 작용하는 코드 샘플을 가져옵니다.
예 프롬프트는 다음과 같습니다.
- Python 샘플 가져오기: "Foundry 에이전트와 상호 작용하기 위한 Python 코드 샘플 표시"
- C# 샘플 가져오기: "내 AI Foundry 에이전트로 작업하는 csharp 코드 예제 생성"
- TypeScript 샘플 가져오기: "Foundry 에이전트에 연결하고 사용하기 위한 typescript 샘플 코드 제공"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 프로그래밍 언어 | Required | Foundry 에이전트와 상호 작용하기 위한 sdk의 프로그래밍 언어입니다. 지원되는 값은 다음과 csharp 같습니다pythontypescript. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
에이전트: 에이전트 나열
Azure AI Foundry 프로젝트의 모든 Azure AI 에이전트를 나열합니다. AI 워크플로, 평가 및 대화형 작업에 사용할 수 있는 에이전트를 보여 줍니다.
예 프롬프트는 다음과 같습니다.
- 모든 에이전트 보기: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에서 모든 에이전트 표시"
- 프로젝트별 목록: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/customer-service에서 모든 AI 에이전트 나열"
- 사용 가능한 에이전트 확인: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에 어떤 에이전트가 있나요?"
- 에이전트 인벤토리: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에서 에이전트의 전체 목록이 필요합니다."
- 특정 에이전트 찾기: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에서 모든 챗봇 에이전트 표시"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
에이전트: 에이전트 쿼리 및 실행
에이전트를 쿼리하고 단일 작업에서 해당 응답을 평가합니다. 이 명령은 에이전트 응답 및 평가 결과를 모두 반환합니다.
예 프롬프트는 다음과 같습니다.
- 쿼리 및 평가: "'티켓 123 상태가란?'을 사용하여 에이전트 'support-bot' 쿼리 Azure OpenAI 엔드포인트 '' 및 배포 'https://my-example-resource.services.ai.azure.com/api/projects/support-projectgpt-4'를 사용하여 엔드포인트 'https://my-openai.openai.azure.com'에서 작업 준수를 평가합니다."
- 단일 작업: "Azure OpenAI 엔드포인트 '' 및 배포 'gpt-4'를 사용하여 에이전트 'sales-bot' 쿼리 '월별 수익 표시' 및 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/saleshttps://my-openai.openai.azure.com'에서 의도 확인 확인 확인"
- 결합된 작업: "'온보딩 프로세스란?' 쿼리를 사용하여 에이전트 'hr-bot'에 연결 Azure OpenAI 엔드포인트 '' 및 배포 'https://my-example-resource.services.ai.azure.com/api/projects/hr-deptgpt-35-turbo'를 사용하여 엔드포인트 'https://my-openai.openai.azure.com'에서 도구 호출 정확도 평가"
- 전체 주기: "Azure OpenAI 엔드포인트 '' 및 배포 'gpt-4'를 사용하여 '캠페인 아이디어 제안'을 사용하여 에이전트 'https://my-example-resource.services.ai.azure.com/api/projects/marketingmarketing-bot'을 쿼리하고 엔드포인트 'https://my-openai.openai.azure.com'에서 작업 준수를 평가합니다."
- 엔드투엔드 검사: "에이전트 'devops-bot' 쿼리 '배포 상태가란? Azure OpenAI 엔드포인트 '' 및 배포 'https://my-example-resource.services.ai.azure.com/api/projects/devopsgpt-4'를 사용하여 엔드포인트 'https://my-openai.openai.azure.com'에서 의도 확인을 평가합니다."
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | 형식의 Azure AI Foundry 프로젝트 또는 서비스에 대한 엔드포인트 URL https://<resource>.services.ai.azure.com/api/projects/<project-name> |
| Azure OpenAI 엔드포인트 | Required | 평가에 사용할 Azure OpenAI 서비스의 엔드포인트 URL입니다. |
| Azure OpenAI 배포 | Required | Azure OpenAI 모델의 배포 이름입니다. |
| 상담원 ID | Required | 상호 작용할 에이전트의 ID입니다. |
| 쿼리 | Required | 에이전트로 전송된 쿼리입니다. |
| 평가기 | Optional | 평가에 사용할 계산기 목록으로, 쉼표로 구분됩니다. 지정하지 않으면 모든 계산기가 사용됩니다. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ✅ | 읽기 전용: ❌ | 비밀: ❌ | 로컬 필수: ❌
지식: 지식 인덱스 나열
Azure AI Foundry에서 지식 인덱스 목록을 가져옵니다.
- Azure AI Foundry 프로젝트 내에서 만든 지식 인덱스를 찾습니다.
- 지식 검색 및 RAG 애플리케이션에 AI 에이전트와 함께 이러한 인덱스를 사용합니다.
- 새 인덱스를 만들거나 기존 인덱스를 업데이트하면 목록이 업데이트됩니다.
예 프롬프트는 다음과 같습니다.
- 모든 인덱스 보기: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에서 모든 지식 인덱스 표시"
- 프로젝트별로 필터링: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/support-bot에서 기술 인덱스 나열"
- 이름으로 검색: "엔드포인트https://my-example-resource.services.ai.azure.com/api/projects/my-project ''에서 'product-faqs'라는 지식 인덱스 찾기"
- 태그로 필터링: "엔드포인트https://my-example-resource.services.ai.azure.com/api/projects/my-project ''에서 '보안'으로 태그가 지정된 기술 인덱스 나열"
- 인덱스 세부 정보 표시: "엔드포인트https://my-example-resource.services.ai.azure.com/api/projects/my-project ''에서 'customer-service' 지식 인덱스 세부 정보 표시"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | 형식의 Azure AI Foundry 프로젝트 또는 서비스에 대한 엔드포인트 URL https://<resource>.services.ai.azure.com/api/projects/<project-name> |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
지식: 인덱스 스키마 가져오기
Azure AI Foundry에서 특정 지식 인덱스의 자세한 스키마 구성을 가져옵니다.
이 작업은 필드 정의, 데이터 형식, 검색 가능한 특성 및 기타 스키마 속성을 포함하여 지식 인덱스의 구조 및 구성에 대한 포괄적인 정보를 보여 줍니다. 이 스키마 정보를 사용하여 인덱스가 검색을 위해 데이터를 구조화하고 인덱싱하는 방법을 이해합니다.
예 프롬프트는 다음과 같습니다.
- 인덱스 스키마 보기: "엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/my-project'에서 지식 인덱스 'product-facts'에 대한 스키마 표시"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | 형식의 Azure AI Foundry 프로젝트 또는 서비스에 대한 엔드포인트 URL https://<resource>.services.ai.azure.com/api/projects/<project-name> |
| Index | Required | 지식 인덱스의 이름입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
모델: 사용 가능한 모델 나열
AI Foundry 리소스에 사용 가능한 모든 Azure OpenAI 모델 및 배포를 나열합니다. 이 도구는 모델 이름, 버전, 기능 및 배포 상태를 포함하여 AI Foundry 리소스에 배포된 Azure OpenAI 모델에 대한 정보를 검색합니다.
예 프롬프트는 다음과 같습니다.
- 모든 모델 보기: "Azure AI Foundry에서 사용 가능한 모든 AI 모델 표시"
- 무료 사용량으로 필터링: "놀이터에서 사용할 수 있는 Azure AI Foundry에서 프로토타입 제작에 사용할 수 있는 모든 무료 모델 나열"
- 무료 사용량으로 필터링: "Azure AI Foundry에서 프로토타입에 사용할 수 있는 모든 무료 모델 나열"
- 게시자별 필터: "Azure AI Foundry에서 Microsoft에서 게시한 모델 표시"
- 라이선스로 필터링: "Azure AI Foundry에서 사용할 수 있는 Apache 라이선스가 있는 모델은 무엇인가요?"
- 이름으로 검색: "Azure AI Foundry에서 라마 모델 찾기"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 무료 놀이터 검색 | Optional | true로 설정하면 GitHub 유추 엔드포인트 및 GitHub PAT 토큰과 함께 사용할 수 있는 Azure AI Foundry의 모델 목록을 반환합니다. false이면 GitHub 지원에 관계없이 Azure AI Foundry에서 모델 목록을 반환합니다. 자세한 내용은 GitHub 모델을 참조하세요. |
| Publisher | Optional | 검색할 모델의 게시자를 지정하는 필터입니다. |
| 면허 | Optional | 검색할 모델의 라이선스 유형을 지정하는 필터입니다. |
| 모델 | Optional | 검색할 모델의 이름입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
모델: 모델 배포
Azure 환경에 AI 모델을 배포합니다. 이 명령을 사용하여 Azure AI Foundry에서 선택한 모델을 배포하고 애플리케이션에서 사용할 수 있도록 합니다.
예 프롬프트는 다음과 같습니다.
- 필수 매개 변수를 사용하여 배포: "리소스 그룹 'my-resource-group'의 ai-services 계정에 OpenAI 형식의 GPT-4 모델 배포"
- 배포 이름 지정: "표준 SKU를 사용하여 리소스 그룹 'my-resource-group'의 AI 서비스 계정에 Ada 포함 모델에 대한 텍스트 포함이라는 배포 설정"
- 모델 버전 포함: "크기 조정 용량이 3인 리소스 그룹 'my-resource-group'의 Meta에서 Azure AI 서비스 계정으로 Llama 모델 버전 2 배포"
- 특정 리소스 그룹에 배포: "리소스 그룹 'my-resource-group'의 ai-central 서비스에서 GPT-4 모델을 사용하여 콘텐츠 생성이라는 배포 만들기"
- 크기 조정 구성: "자동 크기 조정이 사용하도록 설정되고 최대 용량이 5인 리소스 그룹 'my-resource-group'에서 내 Azure AI 서비스에 Claude 모델 배포"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 리소스 그룹 | Required | Azure 리소스 그룹의 이름입니다. Azure 리소스에 대한 논리적 컨테이너입니다. |
| Deployment | Required | Azure AI Foundry 모델 배포의 이름입니다. |
| 모델 | Required | 배포할 모델의 이름입니다. |
| 모델 형식 | Required | 모델의 형식(예: OpenAI, , MetaMicrosoft)입니다. |
| Azure AI 서비스 | Required | 배포할 Azure AI 서비스 계정의 이름입니다. |
| 모델 버전 | Optional | 배포할 모델의 버전입니다. |
| 모델 원본 | Optional | 모델의 원본입니다. |
| SKU | Optional | 배포의 SKU 이름입니다. |
| SKU 용량 | Optional | 배포에 대한 SKU 용량입니다. |
| 배율 유형 | Optional | 배포의 크기 조정 유형입니다. |
| 용량 크기 조정 | Optional | 배포의 크기 조정 용량입니다. |
파괴: ✅ | Idempotent: ❌ | 오픈 월드: ❌ | 읽기 전용: ❌ | 비밀: ❌ | 로컬 필수: ❌
모델: 모델 배포 나열
Azure AI Foundry(Cognitive Services) 프로젝트의 모델 배포를 나열합니다. 프로젝트 수준에서 현재 배포된 AI 모델을 표시합니다.
예 프롬프트는 다음과 같습니다.
- 프로덕션의 배포 나열: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/production에서 모든 모델 배포 표시"
- 특정 엔드포인트를 확인합니다. "현재 엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에 배포된 모델은 무엇인가요?"
- 지역별 배포 보기: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/west-region에서 모든 배포 나열"
- 배포 상태 확인: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/my-project에 배포된 모든 모델의 상태 표시"
- 활성 모델을 참조하세요. "현재 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/my-project'에서 실행 중인 AI 모델은 무엇인가요?"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | 형식의 Azure AI Foundry 프로젝트 또는 서비스에 대한 엔드포인트 URL https://<resource>.services.ai.azure.com/api/projects/<project-name> |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
OpenAI: 채팅 완료 만들기
AI Foundry에서 Azure OpenAI를 사용하여 채팅 완료를 만듭니다. AI Foundry 리소스에 배포된 Azure OpenAI 채팅 모델에 메시지를 보내고 AI에서 생성된 대화형 응답을 수신합니다. 메시지 기록, 시스템 지침 및 응답 사용자 지정을 사용하는 다중 턴 대화를 지원합니다.
예 프롬프트는 다음과 같습니다.
- 간단한 인사말: "리소스 'openai-prod'에 배포 'gpt-35-turbo'를 사용하여 메시지 배열 '[{"role":"user","content":"Hello, how are today?"}]'를 사용하여 채팅 완성 만들기"
- 시스템 메시지: "리소스 'openai-west'에 배포 'gpt-35-turbo'를 사용하여 시스템 메시지 '당신은 유용한 도우미입니다'와 사용자 메시지 '양자 컴퓨팅 설명'을 사용하여 채팅 완성을 만듭니다."
- 창의성 제어: "리소스 'ai-central'에서 온도가 0.8 및 최대 150개 토큰인 배포 'gpt-4'를 사용하여 '창의적인 스토리 작성'을 위한 채팅 완성 생성"
- 결정적 응답: "리소스 'ai-services-prod'에서 온도가 0.1이고 시드 12345가 있는 배포 'gpt-35-turbo'를 사용하여 '화성에 대한 5가지 사실 나열' 메시지로 채팅 완료 만들기"
- 기록과의 대화: "메시지로 채팅 완료 계속: 시스템 '코딩 도우미입니다.', 사용자 'Python에서 함수를 만드는 방법', 도우미 '방법은...', 사용자 '예제를 표시할 수 있나요?' 리소스 'dev-openai'에 배포 'gpt-4'를 사용"
- 반복에 대한 처벌: "리소스 'ai-services-main'에 대한 주파수 페널티 0.5 및 프레즌스 페널티 0.3과 함께 배포 'gpt-35-turbo'를 사용하여 '클라우드 컴퓨팅의 이점 설명'에 대한 완성 만들기"
- 스트리밍 응답: "리소스 'openai-research'에 대한 스트림 true와 함께 배포 'gpt-4'를 사용하여 '단계별 기계 학습 설명'에 대한 스트리밍 채팅 완성 생성"
- 중지 시퀀스 사용: "리소스 'ai-test'에서 중지 시퀀스 ['5', 'STOP']과 함께 배포 'gpt-35-turbo'를 사용하여 '1에서 10까지의 개수'에 대한 완료 만들기"
- 사용자 추적: "'Azure AI란?'에 대한 완료 생성 리소스 'prod-openai'에서 사용자 식별자 'user-123'과 함께 배포 'gpt-4'를 사용"
- 미세 조정된 컨트롤: "온도 0.2, top_p 0.9, 최대 토큰 200 및 리소스 'secure-ai'에 대한 AAD 인증을 사용하는 배포 'gpt-35-turbo'를 사용하여 '이 문서 요약'에 대한 채팅 완성 만들기"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 리소스 이름 | Required | Azure OpenAI 리소스의 이름입니다. |
| Deployment | Required | Azure AI Foundry 모델 배포의 이름입니다. |
| 메시지 배열 | Required | 대화의 메시지 배열(JSON 형식)입니다. 각 메시지에는 속성과 role 속성이 content 있어야 합니다. |
| 최대 토큰 | Optional | 완료 시 생성할 최대 토큰 수입니다. |
| 온도 | Optional | 출력의 임의성을 제어합니다. 값이 낮을수록 더 결정적입니다. |
| 위쪽 p | Optional | 핵 샘플링(0.0~ 1.0)을 통해 다양성을 제어합니다. 기본값은 1.0입니다. |
| 빈도 페널티 | Optional | 빈도(-2.0~2.0)에 따라 새 토큰을 처벌합니다. 기본값은 0입니다. |
| 프레즌스 페널티 | Optional | 현재 상태(-2.0 ~ 2.0)에 따라 새 토큰을 처벌합니다. 기본값은 0입니다. |
| 중지 | Optional | API가 추가 토큰 생성을 중지하는 최대 4개의 시퀀스입니다. |
| 스트림 | Optional | 부분 진행률을 다시 스트리밍할지 여부를 나타냅니다. 기본값은 false입니다. |
| 시드 | Optional | 지정된 경우 시스템은 결정적으로 샘플링하기 위해 최선의 노력을 기울입니다. |
| User | Optional | 추적 및 남용 모니터링을 위한 선택적 사용자 식별자입니다. |
| 인증 유형 | Optional | 사용할 인증 형식입니다.
key 옵션은 (기본값) 또는 aad. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
OpenAI: 포함 만들기
AI Foundry에서 Azure OpenAI를 사용하여 포함을 만듭니다. 의미 체계 검색, 유사성 비교, 클러스터링 또는 기계 학습을 위해 AI Foundry 리소스에서 Azure OpenAI 배포를 사용하여 텍스트에서 벡터 포함을 생성합니다.
예 프롬프트는 다음과 같습니다.
- 기본 텍스트 포함: "리소스 그룹 'my-resource-group'의 'text-embedding-ada-002' 배포를 사용하여 'Azure OpenAI 서비스' 텍스트에 대한 포함 생성"
- 벡터 포함 만들기: "리소스 그룹 'my-resource-group'의 리소스 'ai-services-prod'에 배포 'text-embedding-3-large'가 있는 Azure OpenAI를 사용하여 내 텍스트에 대한 벡터 포함 만들기"
- 문서 포함: "리소스 그룹 'my-resource-group'의 리소스 'embedding-service'에 배포 'ada-002'를 사용하여 '기계 학습이 데이터 분석에 혁명을 일으킵니다'에 대한 포함 생성"
- 여러 문장: "클라우드 컴퓨팅은 확장 가능한 인프라를 제공합니다. 전역 접근성을 지원합니다.' 리소스 그룹 'my-resource-group'에 내 포함 배포 사용"
- 사용자 추적 사용: "리소스 그룹 'my-resource-group'의 사용자 식별자 'analytics-team'과 함께 배포 'text-embedding-3-small'을 사용하여 '자연어 처리 애플리케이션'에 대한 포함 생성"
- 특정 차원: "리소스 그룹 'my-resource-group'의 리소스 'ai-central'에 1536 차원의 'text-embedding-3-large' 배포를 사용하여 '인공 지능 변환 비즈니스 작업'에 대한 포함을 만듭니다."
- Base64 형식: "리소스 그룹 'my-resource-group'의 리소스 'ml-services'에 대한 base64 인코딩 형식으로 배포 'ada-002'를 사용하여 '딥 러닝 신경망'에 대한 포함 생성"
- 연구 텍스트: "'양자 컴퓨팅'에 대한 벡터 포함 만들기는 리소스 그룹 'my-resource-group'의 텍스트 포함 배포를 사용하여 특정 알고리즘의 계산 이점을 보여줍니다."
- 제품 설명: "리소스 그룹 'my-resource-group'의 리소스 'product-ai'에 배포 'text-embedding-3-small'을 사용하여 '고급 그래픽 처리 장치가 있는 고성능 노트북' 포함 생성"
- 기술 설명서: "리소스 그룹 'my-resource-group'의 리소스 'docs-embedding'에 대한 부동 인코딩과 함께 배포 'ada-002'를 사용하여 'API 인증에 대한 포함을 만들려면 유효한 자격 증명 및 적절한 권한 부여 헤더가 필요합니다.'
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 리소스 그룹 | Required | Azure 리소스 그룹의 이름입니다. Azure 리소스에 대한 논리적 컨테이너입니다. |
| 리소스 이름 | Required | Azure OpenAI 리소스의 이름입니다. |
| Deployment | Required | Azure AI Foundry 모델 배포의 이름입니다. |
| 입력 텍스트 | Required | 포함을 생성할 입력 텍스트입니다. |
| User | Optional | 추적 및 남용 모니터링을 위한 선택적 사용자 식별자입니다. |
| 인코딩 형식 | Optional | 포함을 반환할 형식(float 또는 base64)입니다. |
| 차원 | Optional | 포함 출력의 차원 수입니다. 일부 모델에서만 지원됩니다. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
OpenAI: 완성 만들기
AI Foundry에서 Azure OpenAI를 사용하여 텍스트 완성을 만듭니다. AI Foundry 리소스에 배포된 Azure OpenAI 모델에 프롬프트 또는 질문을 보내고 생성된 텍스트 답변을 받습니다. 완성을 만들거나, AI에서 생성된 콘텐츠를 얻거나, 질문에 대한 답변을 생성하거나, 입력 프롬프트에 따라 Azure OpenAI에서 텍스트 완성을 생성해야 할 때 사용합니다. 온도 및 최대 토큰을 사용하여 사용자 지정을 지원합니다.
예 프롬프트는 다음과 같습니다.
- 기본 완성: "'Azure란? 리소스 그룹 'my-resource-group'에서 내 'gpt-35-turbo' 배포 사용"
- 온도 제어 사용: "리소스 그룹 'my-resource-group'에서 온도가 0.3인 배포 'text-davinci-003'을 사용하여 '기계 학습 설명'에 대한 텍스트 완성 생성"
- 제한된 토큰: "리소스 그룹 'my-resource-group'에서 최대 100개의 토큰이 있는 내 'gpt-4' 배포를 사용하여 '요약 작성' 프롬프트로 완료 만들기"
- 크리에이티브 쓰기: "리소스 그룹 'my-resource-group'의 온도 0.8 및 최대 토큰이 200개인 배포 'gpt-35-turbo'를 사용하여 'AI에 대한 이야기'에 대한 완성을 생성합니다."
- 기술 설명: "'클라우드 컴퓨팅은 어떻게 작동하나요?' 프롬프트를 사용하여 완성 만들기 리소스 그룹 'my-resource-group'에서 내 OpenAI 리소스 'ai-services-east' 및 배포 'gpt-4'를 사용"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 리소스 그룹 | Required | AI 리소스가 호스트되는 Azure 리소스 그룹의 이름입니다. |
| 리소스 이름 | Required | Azure OpenAI 리소스의 이름입니다. |
| Deployment | Required | 배포의 이름입니다. |
| 프롬프트 텍스트 | Required | 완료 모델로 보낼 프롬프트 텍스트입니다. |
| 최대 토큰 | Optional | 완료 시 생성할 최대 토큰 수입니다. |
| 온도 | Optional | 출력의 임의성을 제어합니다. 값이 낮을수록 더 결정적입니다. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
OpenAI: 모델 및 배포 나열
Azure 리소스에서 사용 가능한 모든 OpenAI 모델 및 배포를 나열합니다. 이 도구는 모델 이름, 버전, 기능 및 배포 상태를 포함하여 배포된 모델에 대한 정보를 검색합니다.
예 프롬프트는 다음과 같습니다.
- 모든 모델 보기: "리소스 그룹 'my-resource-group'의 'ai-services-prod' 리소스에 있는 모든 OpenAI 모델 나열"
- 배포 확인: "리소스 그룹 'my-resource-group'의 리소스 'openai-east'에 배포된 모든 모델 및 해당 상태를 표시합니다."
- 프로덕션 인벤토리: "리소스 그룹 'my-resource-group'의 'production-openai' 리소스에서 사용할 수 있는 모델은 무엇인가요?"
- 개발 검사: "리소스 그룹 'my-resource-group'의 'dev-ai-services' 리소스에 모든 모델 및 배포 나열"
- 모델 기능: "리소스 그룹 'my-resource-group'의 리소스 'ai-central'에서 해당 기능을 사용하여 사용 가능한 모든 OpenAI 모델을 표시합니다."
- 배포 상태: "리소스 그룹 'my-resource-group'의 'openai-west' 리소스에 있는 모든 배포의 현재 상태는 무엇인가요?"
- 지역 모델: "리소스 그룹 'my-resource-group'의 'europe-openai' 리소스에서 사용할 수 있는 모든 모델을 나열합니다."
- 서비스 개요: "리소스 그룹 'my-resource-group'의 리소스 'customer-ai'에서 모델 및 배포에 대한 전체 개요를 제공합니다."
- 모델 버전: "리소스 그룹 'my-resource-group'의 'ai-services-main' 리소스에서 사용할 수 있는 모든 모델 버전 표시"
- 리소스 감사: "리소스 그룹 'my-resource-group'의 리소스 'enterprise-ai'에서 모든 OpenAI 모델 및 배포를 감사해야 합니다."
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 리소스 그룹 | Required | Azure 리소스 그룹의 이름입니다. Azure 리소스에 대한 논리적 컨테이너입니다. |
| 리소스 이름 | Required | Azure OpenAI 리소스의 이름입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
리소스: Foundry 리소스 가져오기
엔드포인트 URL, 위치, SKU 및 해당 구성을 사용하여 배포된 모든 모델을 포함하여 Azure AI Foundry 리소스에 대한 자세한 정보를 가져옵니다. 특정 리소스 이름이 제공된 경우 해당 리소스에 대한 세부 정보만 반환합니다. 리소스 이름이 제공되지 않으면 구독 또는 리소스 그룹의 모든 AI Foundry 리소스를 나열합니다.
예 프롬프트는 다음과 같습니다.
- 특정 리소스 가져오기: "배포된 모든 모델을 포함하여 'ai-foundry-prod' Azure AI Foundry 리소스에 대한 세부 정보 표시"
- 모든 리소스 나열: "내 구독에 있는 Azure AI Foundry 리소스는 무엇인가요?"
- 구성이 있는 리소스: "내 'customer-ai-foundry' 파운드리 리소스에 대한 엔드포인트 URL, 위치 및 SKU 정보 가져오기"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 리소스 이름 | Optional | Azure OpenAI 리소스의 이름입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
스레드: 새 스레드 만들기
에이전트와 사용자 간의 메시지를 보유하는 AI Foundry 에이전트 스레드를 만듭니다.
예 프롬프트는 다음과 같습니다.
- 지원 스레드 만들기: "'내 계정 로그인에 도움이 필요해요'라는 사용자 메시지를 사용하여 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/support-project'에 새 스레드 만들기"
- 대화 스레드 시작: "'https://my-example-resource.services.ai.azure.com/api/projects/customer-service' '업무 시간이란?'이라는 메시지와 함께 스레드를 만듭니다."
- 채팅 스레드 초기화: "'프리미엄 요금제 구매에 관심이 있습니다'라는 사용자 메시지와 함께 엔드포인트 'https://my-example-resource.services.ai.azure.com/api/projects/sales-bot'에서 새 스레드 시작"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
| 사용자 메시지 | Required | 스레드에 추가할 사용자 메시지입니다. |
파괴: ❌ | Idempotent: ❌ | 오픈 월드: ❌ | 읽기 전용: ❌ | 비밀: ❌ | 로컬 필수: ❌
스레드: 스레드 메시지 가져오기
AI Foundry 에이전트 스레드에서 메시지를 가져옵니다.
예 프롬프트는 다음과 같습니다.
- 대화 기록 검색: "엔드포인트https://my-example-resource.services.ai.azure.com/api/projects/support-project ''의 스레드 'thread_abc123xyz'에서 모든 메시지 가져오기"
- 스레드 메시지 보기: "엔드포인트https://my-example-resource.services.ai.azure.com/api/projects/customer-service ''에서 스레드 'thread_456def789'의 메시지 표시"
- 스레드 콘텐츠 확인: "''에서 스레드 ID 'thread_xyz789abc'에https://my-example-resource.services.ai.azure.com/api/projects/sales-bot 대한 메시지 검색"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
| 스레드 ID | Required | Foundry 에이전트 스레드 ID입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
스레드: 모든 스레드 나열
AI Foundry 에이전트 스레드를 나열합니다.
예 프롬프트는 다음과 같습니다.
- 모든 스레드 나열: "엔드포인트 ''https://my-example-resource.services.ai.azure.com/api/projects/support-project에서 모든 에이전트 스레드 표시"
- 프로젝트 스레드 보기: "'https://my-example-resource.services.ai.azure.com/api/projects/customer-service에서 모든 스레드 나열"
- 스레드 인벤토리 가져오기: "'https://my-example-resource.services.ai.azure.com/api/projects/sales-bot'에서 모든 에이전트 스레드 검색"
| Parameter | 필수 또는 선택 사항 | Description |
|---|---|---|
| 엔드포인트 | Required | Azure AI Foundry 프로젝트 또는 서비스의 엔드포인트 URL 형식 https://<resource>.services.ai.azure.com/api/projects/<project-name>입니다. |
파괴: ❌ | Idempotent: ✅ | 오픈 월드: ❌ | 읽기 전용: ✅ | 비밀: ❌ | 로컬 필수: ❌
관련 콘텐츠
- Azure MCP Server 도구란?
- Azure MCP Server 사용 시작
- Azure AI Foundry 설명서
- Azure AI 서비스 개요
- 모델 배포 및 사용