Freigeben über

ai_chat_completion Plug-In (Vorschau)

Gilt für: ✅Microsoft Fabric✅Azure Data Explorer

Das ai_chat_completion Plug-In ermöglicht das Generieren von Chatabschlussen mithilfe von Sprachmodellen, die KI-bezogene Szenarien wie unterhaltungsbezogene KI und interaktive Systeme unterstützen. Das Plug-In verwendet den In-Azure OpenAI-Dienst-Chat-Endpunkt und kann über eine verwaltete Identität oder die Identität des Benutzers (Identitätswechsel) zugegriffen werden.

Das ai_chat_completion Plug-In ermöglicht das Generieren von Chatabschlussen mithilfe von Sprachmodellen, die KI-bezogene Szenarien wie unterhaltungsbezogene KI und interaktive Systeme unterstützen. Das Plug-In verwendet den In-Azure OpenAI-Dienst-Chat-Endpunkt und kann über die Identität des Benutzers (Identitätswechsel) zugegriffen werden.

Voraussetzungen

  • Ein Azure OpenAI-Dienst, der mindestens mit der Rolle "Cognitive Services OpenAI User" konfiguriert ist, die der verwendeten Identität zugewiesen ist.
  • Eine Popuprichtlinie , die so konfiguriert ist, dass Anrufe an KI-Dienste zugelassen werden.
  • Konfigurieren Sie bei Verwendung der verwalteten Identität für den Zugriff auf den Azure OpenAI-Dienst die Verwaltete Identitätsrichtlinie , um die Kommunikation mit dem Dienst zu ermöglichen.

Syntax

evaluate ai_chat_completion ( Chat, ConnectionString [, [,IncludeErrorMessages]])

Erfahren Sie mehr über Syntaxkonventionen.

Die Parameter

Name Typ Erforderlich BESCHREIBUNG
Plaudern dynamic ✔️ Ein Array von Nachrichten, die bisher aus der Unterhaltung bestehen. Der Wert kann ein Spaltenverweis oder ein konstanter Skalar sein.
ConnectionString- string ✔️ Die Verbindungszeichenfolge für das Sprachmodell im Format<ModelDeploymentUri>;<AuthenticationMethod>; ersetzen <ModelDeploymentUri> und <AuthenticationMethod> durch den AI-Modellbereitstellungs-URI bzw. die Authentifizierungsmethode.
Optionen dynamic Die Optionen, die Anrufe an den Chatmodellendpunkt steuern. Weitere Informationen finden Sie unter Optionen.
IncludeErrorMessages bool Gibt an, ob Fehler in einer neuen Spalte in der Ausgabetabelle ausgegeben werden sollen. Standardwert: false.

Optionen

In der folgenden Tabelle werden die Optionen beschrieben, die steuern, wie die Anforderungen an den Chatmodellendpunkt gestellt werden.

Name Typ BESCHREIBUNG
RetriesOnThrottling int Gibt die Anzahl der Wiederholungsversuche an, wenn die Drosselung auftritt. Standardwert: 0.
GlobalTimeout timespan Gibt die maximale Wartezeit für eine Antwort aus dem KI-Chatmodell an. Standardwert: null.
ModelParameters dynamic Für das KI-Chatmodell spezifische Parameter. Mögliche Werte: temperature, , top_p, stop, max_tokensmax_completion_tokens, presence_penalty, frequency_penalty, . userseed Alle anderen angegebenen Modellparameter werden ignoriert. Standardwert: null.
ReturnSuccessfulOnly bool Gibt an, ob nur die erfolgreich verarbeiteten Elemente zurückgegeben werden sollen. Standardwert: false. Wenn der Parameter IncludeErrorMessages auf true festgelegt ist, wird diese Option immer auf false.

Konfigurieren der Beschriftungsrichtlinie

Die azure_openaiPopuprichtlinie ermöglicht externe Aufrufe an Azure AI-Dienste.

So konfigurieren Sie die Popuprichtlinie, um die KI-Modellendpunktdomäne zu autorisieren:

.alter-merge cluster policy callout
```
[
  {
    "CalloutType": "azure_openai",
    "CalloutUriRegex": "https://[A-Za-z0-9-]{3,63}\.(?:openai\\.azure\\.com|cognitiveservices\\.azure\\.com|cognitive\\.microsoft\\.com|services\\.ai\\.azure\\.com)(?:/.*)?",
    "CanCall": true
  }
]
```

Konfigurieren der verwalteten Identität

Wenn Sie verwaltete Identität für den Zugriff auf Den Azure OpenAI-Dienst verwenden, müssen Sie die Richtlinie für verwaltete Identität konfigurieren, damit die vom System zugewiesene verwaltete Identität bei Azure OpenAI Service authentifiziert werden kann.

So konfigurieren Sie die verwaltete Identität:

.alter-merge cluster policy managed_identity
```
[
  {
    "ObjectId": "system",
    "AllowedUsages": "AzureAI"
  }
]
```

Rückgaben

Gibt die folgenden neuen Chatabschlussspalten zurück:

  • Eine Spalte mit dem Suffix _chat_completion , die die Chatabschlusswerte enthält.
  • Wenn für die Rückgabe von Fehlern konfiguriert ist, ist eine Spalte mit dem Suffix _chat_completion_error , die Fehlerzeichenfolgen enthält oder leer bleibt, wenn der Vorgang erfolgreich ist.

Je nach Eingabetyp gibt das Plug-In unterschiedliche Ergebnisse zurück:

  • Spaltenverweis: Gibt einen oder mehrere Datensätze mit zusätzlichen Spalten zurück, die dem Namen der Bezugsspalte vorangestellt sind. Wenn die Eingabespalte z. B. "PromptData" heißt, werden die Ausgabespalten PromptData_chat_completion benannt, und wenn dies für die Rückgabe von Fehlern konfiguriert ist, PromptData_chat_completion_error.
  • Konstanter Skalar: Gibt einen einzelnen Datensatz mit zusätzlichen Spalten zurück, die nicht präfixiert sind. Die Spaltennamen sind _chat_completion und, wenn dies für die Rückgabe von Fehlern konfiguriert ist, _chat_completion_error.

Beispiele

Im folgenden Beispiel wird eine Systemaufforderung verwendet, um den Kontext für alle nachfolgenden Chatnachrichten in der Eingabe auf das Azure OpenAI-Chatabschlussmodell festzulegen.

let connectionString = 'https://myaccount.openai.azure.com/openai/deployments/gpt4o/chat/completions?api-version=2024-06-01;managed_identity=system';
let messages = dynamic([{'role':'system', 'content': 'You are a KQL writing assistant'},{'role':'user', 'content': 'How can I restrict results to just 10 records?'}]);
evaluate ai_chat_completion(messages, connectionString);

let connectionString = 'https://myaccount.openai.azure.com/openai/deployments/gpt4o/chat/completions?api-version=2024-06-01;impersonate';
let messages = dynamic([{'role':'system', 'content': 'You are a KQL writing assistant'},{'role':'user', 'content': 'How can I restrict results to just 10 records?'}]);
evaluate ai_chat_completion(messages, connectionString);

Verwandte Inhalte

  • Last updated on