Eingabeaufforderungs-Token

Ein Eingabeaufforderungsmodell arbeitet nicht mit Wörtern oder Zeichen als Texteinheiten, sondern verwendet stattdessen etwas dazwischen: Token.

• Ein Token kann ein einzelnes Zeichen, ein Bruchteil eines Wortes oder ein ganzes Wort sein.
  • Viele gebräuchliche Wörter werden durch ein einzelnes Token dargestellt.
  • Weniger gebräuchliche Wörter werden durch mehrere Token dargestellt.
• Wenn Bilder oder Dokumente in einer Eingabeaufforderungsanweisung enthalten sind, werden sie gemäß den Konvertierungsregeln in Token übersetzt.

Token, die von einer Eingabeaufforderung verbraucht werden

Wenn Sie eine Eingabeaufforderungsanweisung erstellen und ausführen, geschieht Folgendes:

• Die Eingabeaufforderungsanweisung wird in eine Sequenz von Token zerlegt, die als Eingabetoken bezeichnet werden.
• Das Modell generiert eine Antwort als Sequenz von Token, die als Ausgabetoken bezeicnet werden.

Die Eingabetoken sind eine Summe der Token, die aus Folgendem stammen:

• Die System-Metaaufforderung von Microsoft. Diese Systemeingabeaufforderung ist nicht sichtbar und für die Sicherheit Ihrer Eingabeaufforderung unerlässlich. Es kann ungefähr 1.200 Token entsprechen, obwohl dies variieren kann.
• Die Eingabeaufforderungsanweisung.
• Falls vorhanden, die Eingabewerte.
• Falls vorhanden, die abgerufenen Wissensdaten.

Ausgabetoken beziehen sich auf die vom Modell generierten Token in ihrer Antwort. Dazu gehören Token sowohl aus dem Begründungsvorgang als auch aus dem endenden Ergebnis, das von der Eingabeaufforderung erzeugt wird.

Auswirkungen von Token auf die Lizenzierung

Anhand der Kombination aus Eingabetoken, Ausgabetoken und der Modellversion können Sie die Kosten Ihrer Eingabeaufforderungsausführung berechnen. Weitere Informationen finden Sie im Abschnitt AI Builder Preisliste in der herunterladbaren PDF-Datei des Microsoft Power Platform Lizenzierungshandbuchs .

Wenn Sie Lösungen erstellen, die Eingabeaufforderungen enthalten, kann es für Sie wichtig sein, die durchschnittlichen Kosten einer Eingabeaufforderung zu bewerten. Die beiden Möglichkeiten, dieses Ziel zu erreichen, werden in den folgenden Abschnitten erläutert.

Anzahl der Credits im Prompt Builder

Wenn Sie eine Eingabeaufforderung im KI-Hub innerhalb des Power Automate Power Apps oder-Portals testen, können Sie sich die von Ihrer Eingabeaufforderung verbrauchten Credits anzeigen lassen. Das Testen ist kostenlos, es handelt sich also um einen prognostizierten Wert.

Tokenanzahl aus einem Power Automate-Flow

Wenn Sie eine Eingabeaufforderungsaktion in einem Flow aufrufen, können Sie die zugehörigen Eingaben und Token mithilfe von Formeln abrufen.

Eingabetoken

outputs('Run_a_prompt')?['body/responsev2/predictionOutput/promptTokens']

Ausgabetoken

outputs('Run_a_prompt')?['body/responsev2/predictionOutput/completionTokens']

Wie Bilder oder Dokumente in Token übersetzt werden

Wenn Sie ein Bild an eine Eingabeaufforderung übergeben, wird es in Token konvertiert.

Wenn Sie ein PDF-Dokument an eine Eingabeaufforderung übergeben, wird es zuerst mit einem Bild pro Seite in Bilder und dann in Token konvertiert.

Bei der Konvertierung von Token in Bild wird die Azure OpenAI Logik vollständig angewendet.

Wir verwenden die automatische Einstellung, wenn Bilder an Azure OpenAI übergeben werden. Das bedeutet, dass die Tokenkosten eines Bildes von seiner anfänglichen Auflösung abhängen.

Bild mit niedriger Auflösung

Bilder mit einer Auflösung von weniger als 512 x 512 Pixeln haben die pauschale Konvertierungsrate von 85 Token pro Bild, unabhängig von der Größe.

Hochauflösende Bilder

Bei Bildern mit einer Auflösung von mehr als 512 x 512 Pixeln erfolgt die Token-Konvertierung in zwei Schritten. Die Schritte werden in der folgenden Tabelle beschrieben.

Verwandte Informationen

• Lizenzierung und AI Builder-Gutschriften
• Microsoft Power Platform Lizenzierungshandbuch (PDF)
• Text-, Bild- oder Dokumenteingabe zu einer Eingabeaufforderung hinzufügen