Azure AI Foundry 推斷
這是 Azure AI Foundry 模型的第一方 Swagger 規格,專為聊天完成工作所設計。 它目前僅支援聊天完成端點。
此連接器適用於以下產品和區域:
| 服務 | Class | Regions |
|---|---|---|
| 副駕駛工作室 | 標準 | 所有 Power Automate 區域 |
| 邏輯應用程式 | 標準 | 所有 Logic Apps 區域 |
| Power Apps | 標準 | 所有 Power Apps 區域 |
| Power Automate(自動化服務) | 標準 | 所有 Power Automate 區域 |
| 連絡人 | |
|---|---|
| 名稱 | Microsoft |
| URL | https://support.microsoft.com/ |
| abapi@microsoft.com |
| 連接器中繼資料 | |
|---|---|
| Publisher | Microsoft |
| 網站 | https://learn.microsoft.com/en-us/azure/ai-foundry/ |
| 隱私策略 | https://privacy.microsoft.com/en-us/privacystatement |
| 類別 | AI |
正在建立連線
連接器支援下列驗證類型:
| 預設值 | 建立連線的參數。 | 所有區域 | 可共用 |
預設
適用:所有地區
建立連線的參數。
這是可共享的連接。 如果 Power App 與其他使用者共用,也會共用連線。 如需詳細資訊,請參閱 畫布應用程式的連接器概觀 - Power Apps |Microsoft 文件
| 名稱 | 類型 | Description | 為必填項目 |
|---|---|---|---|
| 目標 Uri | 字串 | 指定 Foundry 模型的推斷端點 | 對 |
| API 金鑰 | securestring | 此模型推論端點的 API 金鑰 | 對 |
| 模型部署名稱 | 字串 | 指定 Foundry 模型的模型部署名稱 | |
| 基本型號名稱 | 字串 | 指定 Foundry 模型的基本模型名稱 |
節流限制
| 名稱 | 呼叫 | 續約期間 |
|---|---|---|
| 每個連線的 API 呼叫 | 5000 | 60 秒 |
動作
| 建立聊天完成 |
根據提供的訊息和模型組態,產生交談的完成。 |
建立聊天完成
根據提供的訊息和模型組態,產生交談的完成。
參數
| 名稱 | 機碼 | 必要 | 類型 | Description |
|---|---|---|---|---|
|
API 版本
|
api-version | string |
要用於此模型聊天完成端點的 API 版本。 |
|
|
角色
|
role | string |
訊息寄件者的角色(例如「使用者」、「助理」)。 |
|
|
內容
|
content | object | ||
|
溫度
|
temperature | float |
要使用的取樣溫度,介於 0 到 1 之間。 值越高,輸出越隨機。 |
|
|
top_p
|
top_p | float |
top-p 取樣參數介於 0 和 1 之間。 |
|
|
最大代幣數
|
max_tokens | integer |
回覆中要產生的權杖數目上限。 |
|
|
型號
|
model | string |
模型部署名稱。 |
傳回
定義
選擇
| 名稱 | 路徑 | 類型 | Description |
|---|---|---|---|
|
content_filter_results
|
content_filter_results | object |
套用至回應的內容篩選器的結果。 |
|
finish_reason
|
finish_reason | string |
模型停止產生進一步代幣的原因。 可能的值包括 'stop'、'length'、'content_filter' 等。 |
|
索引
|
index | integer |
產生的完成集中此選擇的索引。 |
|
logprobs
|
logprobs | string |
記錄與回應中每個權杖相關聯的機率 (如果要求)。 |
|
內容
|
message.content | string |
交談中產生的訊息內容。 這是對使用者 NL 查詢的回應。 |
|
refusal
|
message.refusal | string |
如果模型拒絕產生訊息,則此欄位會說明拒絕。 |
|
角色
|
message.role | string |
訊息寄件者的角色(例如「使用者」、「助理」)。 |
提示篩選結果
| 名稱 | 路徑 | 類型 | Description |
|---|---|---|---|
|
prompt_index
|
prompt_index | integer |
原始輸入中提示的索引。 |
|
content_filter_results
|
content_filter_results | object |
套用至提示的內容篩選器中繼資料。 |
CompletionTokens詳細資料
完成權杖使用量的詳細資料。
| 名稱 | 路徑 | 類型 | Description |
|---|---|---|---|
|
accepted_prediction_tokens
|
accepted_prediction_tokens | integer |
接受為回應有效預測的權杖數目。 |
|
reasoning_tokens
|
reasoning_tokens | integer |
用於模型推理過程的標記數量。 |
|
rejected_prediction_tokens
|
rejected_prediction_tokens | integer |
預測過程中拒絕的代幣數量。 |
PromptTokens詳細資料
提示中使用的權杖的詳細資料。
| 名稱 | 路徑 | 類型 | Description |
|---|---|---|---|
|
cached_tokens
|
cached_tokens | integer |
快取並重複用於提示的權杖數目。 |
Usage
要求的權杖使用詳細資料,包括提示和完成權杖。
| 名稱 | 路徑 | 類型 | Description |
|---|---|---|---|
|
completion_tokens
|
completion_tokens | integer |
完成所耗用的權杖數目。 |
|
completion_tokens_details
|
completion_tokens_details | CompletionTokensDetails |
完成權杖使用量的詳細資料。 |
|
prompt_tokens
|
prompt_tokens | integer |
提示所耗用的權杖數目。 |
|
prompt_tokens_details
|
prompt_tokens_details | PromptTokensDetails |
提示中使用的權杖的詳細資料。 |
|
total_tokens
|
total_tokens | integer |
整個請求所耗用的權杖總數 (提示 + 完成)。 |
ChatCompletion回應
| 名稱 | 路徑 | 類型 | Description |
|---|---|---|---|
|
選擇
|
choices | array of Choice |
針對指定提示產生的完成清單。 |
|
識別碼
|
id | string |
聊天完成請求的唯一識別碼。 |
|
型號
|
model | string |
用於產生聊天完成的模型。 |
|
prompt_filter_results
|
prompt_filter_results | array of PromptFilterResult |
要求中每個提示的內容篩選結果。 |
|
使用方式
|
usage | Usage |
要求的權杖使用詳細資料,包括提示和完成權杖。 |