Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
In dieser Anleitung erfahren Sie, wie Sie die API zur Erkennung der Quellenübereinstimmung verwenden. Dieses Feature erkennt und korrigiert automatisch Text, der den bereitgestellten Quelldokumenten widerspricht, und stellt sicher, dass der generierte Inhalt mit faktischen oder beabsichtigten Referenzen ausgerichtet ist. Im Folgenden untersuchen wir mehrere gängige Szenarien, die Ihnen helfen, zu verstehen, wie und wann diese Features angewendet werden, um die besten Ergebnisse zu erzielen.
Voraussetzungen
- Ein Azure-Konto. Wenn Sie noch keine haben, können Sie eine kostenlos erstellen.
- Eine Azure KI-Ressource.
Konfiguration
Führen Sie die folgenden Schritte aus, um die Seite Ausprobieren der Inhaltssicherheit zu verwenden:
- Wechseln Sie zu Azure KI Foundry, und navigieren Sie zu Ihrem Projekt/Hub. Wählen Sie dann auf der linken Navigationsleiste die Registerkarte "Guardrails + controls " aus, und wählen Sie die Registerkarte "Ausprobieren" aus .
- Auf der Seite "Ausprobieren " können Sie mit verschiedenen Guardrails & Controls-Features wie Text- und Bildinhalten experimentieren, indem Sie anpassbare Schwellenwerte verwenden, um nach unangemessenen oder schädlichen Inhalten zu filtern.
Fundiertheitserkennung verwenden
Im Bereich „Fundiertheitserkennung“ können Sie erkennen, ob die Textantworten großer Sprachmodelle (Large Language Models, LLMs) von den durch Benutzer bereitgestellten Quellmaterialien gestützt werden.
- Wählen Sie den Bereich Fundiertheitserkennung aus.
- Wählen Sie eine Beispielinhaltsgruppe auf der Seite aus, oder geben Sie Ihren eigenen Inhalt zum Testen ein.
- Aktivieren Sie optional das Feature „Begründung“, und wählen Sie Ihre Azure OpenAI-Ressource aus der Dropdownliste aus.
- Wählen Sie "Test ausführen" aus. Der Dienst gibt das Ergebnis der Fundiertheitserkennung zurück.
Weitere Informationen finden Sie im Konzeptuellen Leitfaden zur Fundiertheitserkennung.
Voraussetzungen
- Azure-Abonnement: Kostenloses Azure-Konto
- Sobald Sie über ein Azure-Abonnement verfügen, erstellen Sie im Azure-Portal eine Content Safety-Ressource, um Ihren Schlüssel und Endpunkt zu erhalten. Geben Sie für Ihre Ressource einen eindeutigen Namen ein. Wählen Sie Ihr Abonnement aus, und wählen Sie dann eine Ressourcengruppe, eine unterstützte Region und einen unterstützten Tarif. Klicken Sie anschließend auf Erstellen.
- Die Bereitstellung der Ressource dauert einige Minuten. Navigieren Sie danach zur neuen Ressource. Wählen Sie im linken Bereich unter Ressourcenverwaltung die Option API-Schlüssel und Endpunkte aus. Kopieren Sie einen der Abonnementschlüsselwerte und den Endpunkt an einen temporären Speicherort für die spätere Verwendung.
- (Optional) Wenn Sie das Begründungsfeature verwenden möchten, erstellen Sie eine Azure OpenAI-Ressource in Azure AI Foundry Models mit einem bereitgestellten GPT-Modell.
- cURL oder Python installiert.
Authentifizierung
Für erhöhte Sicherheit müssen Sie eine verwaltete Identität (Managed Identity, MI) verwenden, um den Zugriff auf Ihre Ressourcen zu verwalten. Weitere Informationen finden Sie unter Sicherheit.
Überprüfen der Groundedness ohne Begründung
Im einfachen Fall ohne die Begründungsfunktion klassifiziert die Groundedness-Erkennungs-API die Unbegründetheit des übermittelten Inhalts als true oder false.
Im folgenden Abschnitt wird eine Beispielanforderung mit cURL erläutert. Fügen Sie den nachstehenden Befehl in einen Text-Editor ein, und nehmen Sie folgende Änderungen vor.
Ersetzen Sie
<endpoint>durch die Endpunkt-URL, die Ihrer Ressource zugeordnet ist.Ersetzen Sie
<your_subscription_key>durch einen der Schlüssel für Ihre Ressource.Ersetzen Sie optional Felder
"query"oder"text"im Text durch Ihren eigenen Text für die Analyse.curl --location --request POST '<endpoint>/contentsafety/text:detectGroundedness?api-version=2024-09-15-preview' \ --header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \ --header 'Content-Type: application/json' \ --data-raw '{ "domain": "Generic", "task": "QnA", "qna": { "query": "How much does she currently get paid per hour at the bank?" }, "text": "12/hour", "groundingSources": [ "I'm 21 years old and I need to make a decision about the next two years of my life. Within a week. I currently work for a bank that requires strict sales goals to meet. IF they aren't met three times (three months) you're canned. They pay me 10/hour and it's not unheard of to get a raise in 6ish months. The issue is, **I'm not a salesperson**. That's not my personality. I'm amazing at customer service, I have the most positive customer service \"reports\" done about me in the short time I've worked here. A coworker asked \"do you ask for people to fill these out? you have a ton\". That being said, I have a job opportunity at Chase Bank as a part time teller. What makes this decision so hard is that at my current job, I get 40 hours and Chase could only offer me 20 hours/week. Drive time to my current job is also 21 miles **one way** while Chase is literally 1.8 miles from my house, allowing me to go home for lunch. I do have an apartment and an awesome roommate that I know wont be late on his portion of rent, so paying bills with 20hours a week isn't the issue. It's the spending money and being broke all the time.\n\nI previously worked at Wal-Mart and took home just about 400 dollars every other week. So I know i can survive on this income. I just don't know whether I should go for Chase as I could definitely see myself having a career there. I'm a math major likely going to become an actuary, so Chase could provide excellent opportunities for me **eventually**." ], "reasoning": false }'
Öffnen Sie ein Eingabeaufforderungsfenster, und führen Sie den cURL-Befehl aus.
Um eine Zusammenfassungsaufgabe anstelle einer Fragebeantwortungsaufgabe (QnA) zu testen, verwenden Sie den folgenden JSON-Beispieltext:
{
"domain": "Medical",
"task": "Summarization",
"text": "Ms Johnson has been in the hospital after experiencing a stroke.",
"groundingSources": [
"Our patient, Ms. Johnson, presented with persistent fatigue, unexplained weight loss, and frequent night sweats. After a series of tests, she was diagnosed with Hodgkin’s lymphoma, a type of cancer that affects the lymphatic system. The diagnosis was confirmed through a lymph node biopsy revealing the presence of Reed-Sternberg cells, a characteristic of this disease. She was further staged using PET-CT scans. Her treatment plan includes chemotherapy and possibly radiation therapy, depending on her response to treatment. The medical team remains optimistic about her prognosis given the high cure rate of Hodgkin’s lymphoma."
],
"reasoning": false
}
Die folgenden Felder müssen in der URL enthalten sein:
| Name | Erforderlich | Beschreibung | Typ |
|---|---|---|---|
| API-Version | Erforderlich | Die zu benutzende API-Version. Aktuelle Version: api-version=2024-09-15-preview. Beispiel: <endpoint>/contentsafety/text:detectGroundedness?api-version=2024-09-15-preview |
Schnur |
Die Parameter im Anforderungstext sind in der folgenden Tabelle definiert:
| Name | Beschreibung | Typ |
|---|---|---|
| Domäne | (Optional) MEDICAL oder GENERIC. Standardwert. GENERIC. |
Enum |
| Aufgabe | (Optional) Aufgabentyp: QnA, Summarization. Standardwert. Summarization. |
Enum |
| qna | (Optional) Enthält QnA-Daten, wenn der Aufgabentyp QnA ist. |
Schnur |
- query |
(Optional) Dies stellt die Frage in einer QnA-Aufgabe dar. Zeichengrenzwert: 7500. | Schnur |
| Text | (Erforderlich) Der zu überprüfende LLM-Ausgabetext. Zeichengrenzwert: 7500. | Schnur |
| Erdungsquellen | (Erforderlich) Verwendet ein Array von Grounding-Quellen, um KI-generierten Text zu überprüfen. Informationen zu Grenzwerten finden Sie unter Eingabeanforderungen. | Zeichenfolgenarray |
| Begründung | (Optional) Gibt an, ob das Begründungsfeature verwendet werden soll. Standardwert: false. Bei true müssen Sie Ihr eigenes Azure OpenAI GPT-4o-Modell (Versionen 0513, 0806) verwenden, um eine Erklärung bereitzustellen. Seien Sie vorsichtig: Die Verwendung der Begründung erhöht die Verarbeitungszeit. |
Boolescher Wert |
Interpretation der API-Antwort
Nachdem Sie Ihre Anforderung übermittelt haben, erhalten Sie eine JSON-Antwort, die die durchgeführte Groundedness-Analyse widerspiegelt. So sieht eine typische Ausgabe aus:
{
"ungroundedDetected": true,
"ungroundedPercentage": 1,
"ungroundedDetails": [
{
"text": "12/hour."
}
]
}
Die JSON-Objekte in der Ausgabe werden hier definiert:
| Name | Beschreibung | Typ |
|---|---|---|
| ungroundedDetected | Gibt an, ob der Text nicht begründet ist. | Boolescher Wert |
| ungeerdeterProzentsatz | Gibt den Anteil des als nicht begründet gekennzeichneten Texts an, ausgedrückt als Zahl zwischen 0 und 1, wobei 0 keinen unbegründeten Inhalt angibt und 1 den vollständig unbegründeten Inhalt angibt. Dies ist kein Konfidenzniveau. | Float |
| ungroundedDetails | Bietet Einblicke in unbegründeten Inhalt mit bestimmten Beispielen und Prozentsätzen. | Array |
-text |
Der spezifische Text, der unbegründet ist. | Schnur |
Überprüfen von Groundedness mit Begründung
Die Groundedness-Erkennungs-API bietet die Möglichkeit, Begründungen in die API-Antwort einzuschließen. Wenn die Begründung aktiviert ist, enthält die Antwort ein "reasoning" Feld, das bestimmte Instanzen und Erklärungen für alle erkannten Unbegründetheiten enthält.
Verbinden Ihrer eigenen GPT-Bereitstellung
Tipp
Wir unterstützen nur Azure OpenAI GPT-4o -Ressourcen (Versionen 0513, 0806) und unterstützen keine anderen Modelle. Sie haben die Flexibilität, Ihre Azure OpenAI GPT-4o-Ressourcen (Versionen 0513, 0806) in jeder Region bereitzustellen. Um jedoch potenzielle Wartezeiten zu minimieren und Datenschutz- und Risikobedenken an geografischen Grenzen zu vermeiden, empfehlen wir, sie in derselben Region wie Ihre Azure AI Content Safety-Ressourcen zu platzieren. Ausführliche Informationen zum Datenschutz finden Sie in den Datenschutz-, Datenschutz- und Sicherheitsrichtlinien für Azure OpenAI und Daten, Datenschutz und Sicherheit für Azure AI Content Safety.
Um Ihre Azure OpenAI GPT-4o -Ressource (Version 0513, 0806) zu verwenden, um das Begründungsfeature zu aktivieren, verwenden Sie verwaltete Identität, um Ihrer Inhaltssicherheitsressource den Zugriff auf die Azure OpenAI-Ressource zu ermöglichen:
Aktivieren sie verwaltete Identität für Azure KI Inhaltssicherheit.
Navigieren Sie im Azure-Portal zu Ihrer Azure KI Inhaltssicherheits-Instanz. Suchen Sie den Abschnitt Identität unter der Kategorie Einstellungen. Aktivieren der systemseitig zugewiesenen verwalteten Identität. Diese Aktion gewährt Ihrer Azure KI Inhaltssicherheits-Instanz eine Identität, die in Azure für den Zugriff auf andere Ressourcen erkannt und verwendet werden kann.
Weisen Sie der verwalteten Identität eine Rolle zu.
Navigieren Sie zu Ihrer Azure OpenAI-Instanz, wählen Sie Rollenzuweisung hinzufügen aus, um den Prozess der Zuweisung einer Azure OpenAI-Rolle zur Azure KI Inhaltssicherheits-Identität zu starten.
Wählen Sie die Rolle Benutzer oder Mitwirkender aus.
API-Anforderung stellen
Legen Sie in Ihrer Anforderung an die Groundedness-Erkennungs-API den "reasoning" Textparameter auf true, und geben Sie die anderen erforderlichen Parameter an:
{
"domain": "Medical",
"task": "Summarization",
"text": "The patient name is Kevin.",
"groundingSources": [
"The patient name is Jane."
],
"reasoning": true,
"llmResource": {
"resourceType": "AzureOpenAI",
"azureOpenAIEndpoint": "<your_OpenAI_endpoint>",
"azureOpenAIDeploymentName": "<your_deployment_name>"
}
}
Im folgenden Abschnitt wird eine Beispielanforderung mit cURL erläutert. Fügen Sie den nachstehenden Befehl in einen Text-Editor ein, und nehmen Sie folgende Änderungen vor.
Ersetzen Sie
<endpoint>durch die Endpunkt-URL, die Ihrer Ressource in der Azure KI Inhaltssicherheit zugeordnet ist.Ersetzen Sie
<your_subscription_key>durch einen der Schlüssel für Ihre Ressource.Ersetzen Sie
<your_OpenAI_endpoint>durch die Endpunkt-URL, die Ihrer Azure OpenAI-Ressource zugeordnet ist.Ersetzen Sie
<your_deployment_name>durch den Namen Ihrer Azure-OpenAI-Bereitstellung.Ersetzen Sie optional Felder
"query"oder"text"im Text durch Ihren eigenen Text für die Analyse.curl --location --request POST '<endpoint>/contentsafety/text:detectGroundedness?api-version=2024-09-15-preview' \ --header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \ --header 'Content-Type: application/json' \ --data-raw '{ "domain": "Generic", "task": "QnA", "qna": { "query": "How much does she currently get paid per hour at the bank?" }, "text": "12/hour", "groundingSources": [ "I'm 21 years old and I need to make a decision about the next two years of my life. Within a week. I currently work for a bank that requires strict sales goals to meet. If they aren't met three times (three months) you're canned. They pay me 10/hour and it's not unheard of to get a raise in 6ish months. The issue is, **I'm not a salesperson**. That's not my personality. I'm amazing at customer service, I have the most positive customer service \"reports\" done about me in the short time I've worked here. A coworker asked \"do you ask for people to fill these out? you have a ton\". That being said, I have a job opportunity at Chase Bank as a part time teller. What makes this decision so hard is that at my current job, I get 40 hours and Chase could only offer me 20 hours/week. Drive time to my current job is also 21 miles **one way** while Chase is literally 1.8 miles from my house, allowing me to go home for lunch. I do have an apartment and an awesome roommate that I know wont be late on his portion of rent, so paying bills with 20hours a week isn't the issue. It's the spending money and being broke all the time.\n\nI previously worked at Wal-Mart and took home just about 400 dollars every other week. So I know i can survive on this income. I just don't know whether I should go for Chase as I could definitely see myself having a career there. I'm a math major likely going to become an actuary, so Chase could provide excellent opportunities for me **eventually**." ], "reasoning": true, "llmResource": { "resourceType": "AzureOpenAI", "azureOpenAIEndpoint": "<your_OpenAI_endpoint>", "azureOpenAIDeploymentName": "<your_deployment_name>" }'Öffnen Sie ein Eingabeaufforderungsfenster, und führen Sie den cURL-Befehl aus.
Die Parameter im Anforderungstext sind in der folgenden Tabelle definiert:
| Name | Beschreibung | Typ |
|---|---|---|
| Domäne | (Optional) MEDICAL oder GENERIC. Standardwert. GENERIC. |
Enum |
| Aufgabe | (Optional) Aufgabentyp: QnA, Summarization. Standardwert. Summarization. |
Enum |
| qna | (Optional) Enthält QnA-Daten, wenn der Aufgabentyp QnA ist. |
Schnur |
- query |
(Optional) Dies stellt die Frage in einer QnA-Aufgabe dar. Zeichengrenzwert: 7500. | Schnur |
| Text | (Erforderlich) Der zu überprüfende LLM-Ausgabetext. Zeichengrenzwert: 7500. | Schnur |
| Erdungsquellen | (Erforderlich) Verwendet ein Array von Grounding-Quellen, um KI-generierten Text zu überprüfen. Informationen zu Grenzwerten finden Sie unter Eingabeanforderungen, | Zeichenfolgenarray |
| Begründung | (Optional) Wenn auf true gesetzt, verwendet der Dienst Azure OpenAI-Ressourcen, um eine Erläuterung bereitzustellen. Seien Sie vorsichtig: Die Verwendung der Begründung erhöht die Verarbeitungszeit und verursacht zusätzliche Gebühren. |
Boolescher Wert |
| llmResource | (Erforderlich) Wenn Sie Ihre eigene Azure OpenAI GPT-4o-Ressource (Version 0513, 0806) verwenden möchten, um die Begründung zu ermöglichen, fügen Sie dieses Feld hinzu und fügen Sie die Unterfelder für die verwendeten Ressourcen ein. | Schnur |
- resourceType |
Gibt den Typ der verwendeten Ressource an. Derzeit ist nur AzureOpenAI zulässig. Wir unterstützen nur Azure OpenAI GPT-4o -Ressourcen (Versionen 0513, 0806) und unterstützen keine anderen Modelle. |
Enum |
- azureOpenAIEndpoint |
Ihre Endpunkt-URL für den Azure OpenAI-Dienst. | Schnur |
- azureOpenAIDeploymentName |
Der Name der zu verwendenden spezifischen Modellimplementierung. | Schnur |
Interpretation der API-Antwort
Nachdem Sie Ihre Anforderung übermittelt haben, erhalten Sie eine JSON-Antwort, die die durchgeführte Groundedness-Analyse widerspiegelt. So sieht eine typische Ausgabe aus:
{
"ungroundedDetected": true,
"ungroundedPercentage": 1,
"ungroundedDetails": [
{
"text": "12/hour.",
"offset": {
"utf8": 0,
"utf16": 0,
"codePoint": 0
},
"length": {
"utf8": 8,
"utf16": 8,
"codePoint": 8
},
"reason": "None. The premise mentions a pay of \"10/hour\" but does not mention \"12/hour.\" It's neutral. "
}
]
}
Die JSON-Objekte in der Ausgabe werden hier definiert:
| Name | Beschreibung | Typ |
|---|---|---|
| ungroundedDetected | Gibt an, ob der Text nicht begründet ist. | Boolescher Wert |
| ungeerdeterProzentsatz | Gibt den Anteil des als nicht begründet gekennzeichneten Texts an, ausgedrückt als Zahl zwischen 0 und 1, wobei 0 keinen unbegründeten Inhalt angibt und 1 den vollständig unbegründeten Inhalt angibt. Dies ist kein Konfidenzniveau. | Float |
| ungroundedDetails | Bietet Einblicke in unbegründeten Inhalt mit bestimmten Beispielen und Prozentsätzen. | Array |
-text |
Der spezifische Text, der unbegründet ist. | Schnur |
-offset |
Ein Objekt, das die Position des unbegründeten Texts in verschiedener Codierung beschreibt. | Schnur |
- offset > utf8 |
Die Offsetposition des unbegründeten Texts in UTF-8-Codierung. | Integer |
- offset > utf16 |
Die Offsetposition des unbegründeten Texts in UTF-16-Codierung. | Integer |
- offset > codePoint |
Die Offsetposition des unbegründeten Texts in Bezug auf Unicode-Codepunkte. | Integer |
-length |
Ein Objekt, das die Länge des unbegründeten Texts in verschiedener Codierung beschreibt. (utf8, utf16, codePoint), ähnlich dem Offset. | Objekt |
- length > utf8 |
Die Länge des unbegründeten Texts in UTF-8-Codierung. | Integer |
- length > utf16 |
Die Länge des unbegründeten Texts in UTF-16-Codierung. | Integer |
- length > codePoint |
Die Länge des unbegründeten Texts in Bezug auf Unicode-Codepunkte. | Integer |
-reason |
Bietet Erklärungen für erkannte Unbegründetheit. | Schnur |
Überprüfen von Groundedness mit der Korrekturfunktion
Die API zur Erdungserkennung enthält eine Korrekturfunktion, die automatisch jede erkannte Nicht-Erdung im Text auf der Grundlage der bereitgestellten Erdungsquellen korrigiert. Wenn die Korrekturfunktion aktiviert ist, enthält die Antwort ein "correction Text"-Feld, das den korrigierten Text darstellt, der an den Grounding-Quellen ausgerichtet ist.
Verbinden Ihrer eigenen GPT-Bereitstellung
Tipp
Derzeit unterstützt das Korrekturfeature nur Azure OpenAI GPT-4o (Versions 0513, 0806) -Ressourcen. Um die Latenz zu minimieren und die Datenschutzrichtlinien einzuhalten, empfiehlt es sich, Ihre Azure OpenAI GPT-4o (Versionen 0513, 0806) in derselben Region wie Ihre Azure AI Content Safety-Ressourcen bereitzustellen. Weitere Informationen zum Datenschutz finden Sie in den Datenschutz-, Datenschutz- und Sicherheitsrichtlinien für Azure OpenAI und Daten, Datenschutz und Sicherheit für Azure AI Content Safety.
Um Ihre Azure OpenAI GPT-4o-Ressource (Version 0513, 0806) zum Aktivieren des Korrekturfeatures zu verwenden, verwenden Sie verwaltete Identität, damit Ihre Inhaltssicherheitsressource auf die Azure OpenAI-Ressource zugreifen kann. Führen Sie die Schritte im vorherigen Abschnitt aus, um die verwaltete Identität einzurichten.
API-Anforderung stellen
Legen Sie in Ihrer Anforderung an die API zur Erkennung der Quellenübereinstimmung den Textparameter "correction" auf true, und geben Sie die anderen erforderlichen Parameter an:
{
"domain": "Medical",
"task": "Summarization",
"text": "The patient name is Kevin.",
"groundingSources": [
"The patient name is Jane."
],
"correction": true,
"llmResource": {
"resourceType": "AzureOpenAI",
"azureOpenAIEndpoint": "<your_OpenAI_endpoint>",
"azureOpenAIDeploymentName": "<your_deployment_name>"
}
}
In diesem Abschnitt wird eine Beispielanforderung mit cURL veranschaulicht. Ersetzen Sie die Platzhalter nach Bedarf:
- Ersetzen Sie
<endpoint>durch Ihre Ressourcenendpunkt-URL. - Ersetzen Sie
<your_subscription_key>durch Ihren Abonnementschlüssel. - Ersetzen Sie optional das Feld „Text“ durch den Text, den Sie analysieren möchten.
curl --location --request POST '<endpoint>/contentsafety/text:detectGroundedness?api-version=2024-09-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"domain": "Generic",
"task": "Summarization",
"text": "The patient name is Kevin.",
"groundingSources": [
"The patient name is Jane."
],
"correction": true,
"llmResource": {
"resourceType": "AzureOpenAI",
"azureOpenAIEndpoint": "<your_OpenAI_endpoint>",
"azureOpenAIDeploymentName": "<your_deployment_name>"
}
}'
Die Parameter im Anforderungstext sind in der folgenden Tabelle definiert:
| Name | Beschreibung | Typ |
|---|---|---|
| Domäne | (Optional) MEDICAL oder GENERIC. Standardwert. GENERIC. |
Enum |
| Aufgabe | (Optional) Aufgabentyp: QnA, Summarization. Standardwert. Summarization. |
Enum |
| qna | (Optional) Enthält QnA-Daten, wenn der Aufgabentyp QnA ist. |
Schnur |
- query |
(Optional) Dies stellt die Frage in einer QnA-Aufgabe dar. Zeichengrenzwert: 7500. | Schnur |
| Text | (Erforderlich) Der zu überprüfende LLM-Ausgabetext. Zeichengrenzwert: 7500. | Schnur |
| Erdungsquellen | (Erforderlich) Verwendet ein Array von Grounding-Quellen, um KI-generierten Text zu überprüfen. Informationen zu Grenzwerten finden Sie unter Eingabeanforderungen. | Zeichenfolgen-Array |
| Korrektur | (Optional) Wenn er auf true festgelegt ist verwendet der Dienst Azure OpenAI-Ressourcen, um den korrigierten Text bereitzustellen, um die Konsistenz mit den Erdungsquellen sicherzustellen. Seien Sie vorsichtig: Die Verwendung der Korrektur erhöht die Verarbeitungszeit und verursacht zusätzliche Gebühren. |
Boolescher Wert |
| llmResource | (Erforderlich) Wenn Sie Ihre eigene Azure OpenAI GPT-4o-Ressource (Version 0513, 0806) verwenden möchten, um die Begründung zu ermöglichen, fügen Sie dieses Feld hinzu und fügen Sie die Unterfelder für die verwendeten Ressourcen ein. | Schnur |
- resourceType |
Gibt den Typ der verwendeten Ressource an. Derzeit ist nur AzureOpenAI zulässig. Wir unterstützen nur Azure OpenAI GPT-4o -Ressourcen (Versionen 0513, 0806) und unterstützen keine anderen Modelle. |
Enum |
- azureOpenAIEndpoint |
Ihre Endpunkt-URL für den Azure OpenAI-Dienst. | Schnur |
- azureOpenAIDeploymentName |
Der Name der zu verwendenden spezifischen Modellimplementierung. | Schnur |
Interpretation der API-Antwort
Die Antwort enthält ein "correction Text"-Feld, das den korrigierten Text enthält und die Konsistenz mit den bereitgestellten Erdungsquellen gewährleistet.
Die Korrekturfunktion erkennt, dass Kevin keine Übereinstimmung mit den Quellen aufweist, da dieser Text mit der Erdungsquelle Jane in Konflikt steht. Die API gibt den korrigierten Text zurück: "The patient name is Jane."
{
"ungroundedDetected": true,
"ungroundedPercentage": 1,
"ungroundedDetails": [
{
"text": "The patient name is Kevin"
}
],
"correction Text": "The patient name is Jane"
}
Die JSON-Objekte in der Ausgabe werden hier definiert:
| Name | Beschreibung | Typ |
|---|---|---|
| ungroundedDetected | Gibt an, ob nicht übereinstimmender Inhalt erkannt wurde. | Boolescher Wert |
| ungeerdeterProzentsatz | Der Anteil des nicht übereinstimmenden Inhalts im Text. Dies ist kein Konfidenzniveau. | Float |
| ungroundedDetails | Details zu nicht übereinstimmende Inhalten, einschließlich bestimmter Textsegmente. | Array |
-text |
Der spezifische Text, der unbegründet ist. | Schnur |
-offset |
Ein Objekt, das die Position des unbegründeten Texts in verschiedener Codierung beschreibt. | Schnur |
- offset > utf8 |
Die Offsetposition des unbegründeten Texts in UTF-8-Codierung. | Integer |
- offset > utf16 |
Die Offsetposition des unbegründeten Texts in UTF-16-Codierung. | Integer |
-length |
Ein Objekt, das die Länge des unbegründeten Texts in verschiedener Codierung beschreibt. (utf8, utf16, codePoint), ähnlich dem Offset. | Objekt |
- length > utf8 |
Die Länge des unbegründeten Texts in UTF-8-Codierung. | Integer |
- length > utf16 |
Die Länge des unbegründeten Texts in UTF-16-Codierung. | Integer |
- length > codePoint |
Die Länge des unbegründeten Texts in Bezug auf Unicode-Codepunkte. | Integer |
-correction Text |
Der korrigierte Text, der die Konsistenz mit den Erdungsquellen gewährleistet. | Schnur |
Bereinigung von Ressourcen
Wenn Sie ein Azure KI Services-Abonnement bereinigen und entfernen möchten, können Sie die Ressource oder die Ressourcengruppe löschen. Wenn Sie die Ressourcengruppe löschen, werden auch alle anderen Ressourcen gelöscht, die ihr zugeordnet sind.
Verwandte Inhalte
- Groundedness-Erkennungskonzept
- Kombinieren Sie die Groundedness-Erkennung mit anderen LLM-Sicherheitsfeatures wie Prompt Shields.