Azure AI Foundry 유추
이는 채팅 완료 작업을 위해 특별히 설계된 Azure AI Foundry 모델에 대한 자사 Swagger 사양입니다. 현재 채팅 완료 엔드포인트만 지원합니다.
이 커넥터는 다음 제품 및 지역에서 사용할 수 있습니다.
| 서비스 | 클래스 | Regions |
|---|---|---|
| Copilot Studio | 스탠다드 | 모든 Power Automate 지역 |
| 논리 앱 | 스탠다드 | 모든 Logic Apps 지역 |
| Power Apps | 스탠다드 | 모든 Power Apps 지역 |
| Power Automate | 스탠다드 | 모든 Power Automate 지역 |
| 연락처 | |
|---|---|
| 이름 | Microsoft |
| URL | https://support.microsoft.com/ |
| 전자 메일 | abapi@microsoft.com |
| 커넥터 메타데이터 | |
|---|---|
| 게시자 | Microsoft |
| 웹 사이트 | https://learn.microsoft.com/en-us/azure/ai-foundry/ |
| 개인 정보 보호 정책 | https://privacy.microsoft.com/en-us/privacystatement |
| 카테고리 | AI |
연결을 만드는 중
커넥터는 다음 인증 유형을 지원합니다.
| 기본값 | 연결을 만들기 위한 매개 변수입니다. | 모든 지역 | 공유 가능 |
기본값
적용 가능: 모든 지역
연결을 만들기 위한 매개 변수입니다.
공유 가능한 연결입니다. 전원 앱이 다른 사용자와 공유되면 연결도 공유됩니다. 자세한 내용은 캔버스 앱에 대한 커넥터 개요를 참조하세요. - Power Apps | Microsoft Docs
| 이름 | 유형 | Description | 필수 |
|---|---|---|---|
| 대상 Uri | 문자열 | Foundry 모델의 유추 엔드포인트 지정 | 진실 |
| API 키 | 시큐어스트링 (보안 문자열) | 이 모델 유추 엔드포인트의 API 키 | 진실 |
| 모델 배포 이름 | 문자열 | Foundry 모델의 모델 배포 이름 지정 | |
| 기본 모델 이름 | 문자열 | Foundry 모델의 기본 모델 이름 지정 |
제한 한도
| Name | 호출 | 갱신 기간 |
|---|---|---|
| 연결당 API 호출 | 5000 | 60초 |
동작
| 채팅 완료 만들기 |
제공된 메시지 및 모델 구성에 따라 대화 완료를 생성합니다. |
채팅 완료 만들기
제공된 메시지 및 모델 구성에 따라 대화 완료를 생성합니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
API 버전
|
api-version | string |
이 모델 채팅 완료 엔드포인트에 사용할 API 버전입니다. |
|
|
역할
|
role | string |
메시지 보낸 사람의 역할(예: 'user', 'assistant') |
|
|
내용
|
content | object | ||
|
온도
|
temperature | float |
사용할 샘플링 온도(0에서 1 사이)입니다. 값이 높을수록 출력이 더 임의로 생성됩니다. |
|
|
top_p (탑 피)
|
top_p | float |
0에서 1 사이의 최상위 p 샘플링 매개 변수입니다. |
|
|
최대 토큰 수
|
max_tokens | integer |
응답에서 생성할 최대 토큰 수입니다. |
|
|
model
|
model | string |
모델 배포 이름입니다. |
반환
정의
선택
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
content_filter_results
|
content_filter_results | object |
응답에 적용된 콘텐츠 필터의 결과입니다. |
|
완료_이유
|
finish_reason | string |
모델이 추가 토큰 생성을 중지한 이유입니다. 가능한 값으로는 'stop', 'length', 'content_filter' 등이 있습니다. |
|
index
|
index | integer |
생성된 완료 집합 내에서 선택한 인덱스입니다. |
|
logprobs
|
logprobs | string |
응답의 각 토큰과 연결된 확률을 기록합니다(요청된 경우). |
|
내용
|
message.content | string |
대화에서 생성된 메시지의 콘텐츠입니다. 사용자의 NL 쿼리에 대한 응답입니다. |
|
refusal
|
message.refusal | string |
모델에서 메시지 생성을 거부하는 경우 이 필드는 거부에 대해 설명합니다. |
|
역할
|
message.role | string |
메시지 보낸 사람의 역할(예: 'user', 'assistant') |
PromptFilterResult
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
prompt_index
|
prompt_index | integer |
원래 입력에 있는 프롬프트의 인덱스입니다. |
|
content_filter_results
|
content_filter_results | object |
프롬프트에 적용된 콘텐츠 필터 메타데이터입니다. |
CompletionTokensDetails
완료를 위한 토큰 사용량에 대한 세부 정보입니다.
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
accepted_prediction_tokens
|
accepted_prediction_tokens | integer |
응답에 대한 유효한 예측으로 허용되는 토큰 수입니다. |
|
추론 토큰
|
reasoning_tokens | integer |
모델의 추론 프로세스에 사용되는 토큰 수입니다. |
|
rejected_prediction_tokens
|
rejected_prediction_tokens | integer |
예측 프로세스 중에 거부된 토큰 수입니다. |
PromptTokensDetails
프롬프트에 사용되는 토큰에 대한 세부 정보입니다.
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
cached_tokens
|
cached_tokens | integer |
프롬프트에 캐시되고 재사용된 토큰의 수입니다. |
Usage
프롬프트 및 완료 토큰을 포함하여 요청에 대한 토큰 사용 세부 정보입니다.
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
completion_tokens
|
completion_tokens | integer |
완료에 사용된 토큰 수입니다. |
|
completion_tokens_details
|
completion_tokens_details | CompletionTokensDetails |
완료를 위한 토큰 사용량에 대한 세부 정보입니다. |
|
prompt_tokens
|
prompt_tokens | integer |
프롬프트에서 사용하는 토큰 수입니다. |
|
prompt_tokens_details
|
prompt_tokens_details | PromptTokensDetails |
프롬프트에 사용되는 토큰에 대한 세부 정보입니다. |
|
total_tokens
|
total_tokens | integer |
전체 요청에서 사용하는 총 토큰 수입니다(프롬프트 + 완료). |
ChatCompletionResponse
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
choices
|
choices | array of Choice |
지정된 프롬프트에 대해 생성된 완료 목록입니다. |
|
아이디
|
id | string |
채팅 완료 요청에 대한 고유 식별자입니다. |
|
model
|
model | string |
채팅 완료를 생성하는 데 사용되는 모델입니다. |
|
prompt_filter_results
|
prompt_filter_results | array of PromptFilterResult |
요청의 각 프롬프트에 대한 콘텐츠 필터 결과입니다. |
|
usage
|
usage | Usage |
프롬프트 및 완료 토큰을 포함하여 요청에 대한 토큰 사용 세부 정보입니다. |