Java PetClinic-KI-Beispiel in der Container Apps-Übersicht

Das Spring PetClinic-Beispiel ist eine klassische Referenzanwendung, die die Verwendung von Spring Boot mit Java veranschaulicht. Dieses Tutorial enthält eine mit KI erweiterte Version, die auf Azure Container Apps basiert, die das traditionelle PetClinic-Verwaltungssystem mit modernen KI-Funktionen erweitert.

Die Anwendung, die Sie in diesem Tutorial erstellen, ist ein KI-Chat-Assistent, der Retrieval Augmented Generation (RAG) verwendet. Um eine Verbindung mit Azure OpenAI Service herzustellen, verwendet die Anwendung Spring-KI-SDKs, um die Webanwendung zu unterstützen. Weitere Informationen zu RAG finden Sie unter Implementieren von Retrieval Augmented Generation (RAG) mit Azure OpenAI Service.

Die Anwendung verfügt über viele verschiedene Dienste, die zusammenarbeiten, um die KI-bezogenen Features in das Spring PetClinic-Beispiel einzuführen.

Architektur der KI-App in Azure Container Apps

Das folgende Diagramm zeigt die Architektur der KI-Anwendung in Azure Container Apps:

Das API-Gateway der Anwendung, das in der Azure Container Apps-Umgebung gehostet wird, dient als zentraler Einstiegspunkt für alle externen Anforderungen.

Dieses Gateway führt die folgenden Funktionen aus:

• Leitet die Kommunikation zwischen Anwendungskomponenten weiter und verwaltet sie.
• Authentifiziert Benutzende über Microsoft Entra ID.
• Sichert den Zugriff auf Azure Container Registry und Cognitive Services mithilfe von verwalteten Identitäten.
• Verarbeitet alle eingehenden Anforderungen von externen Benutzenden.

Das Gateway arbeitet innerhalb eines dedizierten virtuellen Netzwerks und stellt eine sichere und isolierte Kommunikation zwischen der Anwendung und externen Systemen sicher.

In der folgenden Tabelle werden die wichtigsten Komponenten und Dienste der Anwendung beschrieben:

Weitere Informationen zu den Infrastructure-as-Code-Elementen der Anwendung finden Sie in den Bicep-Skripten im Repository Bringen Sie Ihre erste KI-App in Azure Container Apps.

Codeimplementierung

Die folgenden Abschnitte enthalten eine Einführung in den Code, damit Sie den Fluss dieser ersten KI-Anwendung verstehen.

Durchführen von REST-Aufrufen

Der Controller ChatClient ist für die Kommunikation mit dem Chatclient-Endpunkt verantwortlich. Die Syntax zum Übermitteln eines Prompts in PetclinicChatClient.java enthält das Objekt chatClient zum Übermitteln von Benutzereingaben.

return this.chatClient.prompt().user(u -> u.text(query)).call().content();

Chatanpassungen

Die Klasse ChatConfiguration passt Anforderungen an, die an chatClient gesendet werden. In der folgenden Liste werden einige wichtige Konfigurationseinstellungen von chatClient beschrieben:

• Verbindungsauthentifizierung: Der Client stellt eine Verbindung mit Azure OpenAI her. Sowohl die API-Schlüsselauthentifizierung als auch die Authentifizierung über verwaltete Identitäten werden unterstützt.
• Speicherort der Konfigurationseinstellungen: Für ChatModel werden die Bereitstellung gpt-4o und die Temperatur 0.7 in der Konfigurationsdatei festgelegt.
• Vektordatenbank: In der Vektordatenbank werden mathematische Darstellungen von Quelldokumenten gespeichert, die als Einbettungen bezeichnet werden. Die Vektordaten werden von der Chat-API verwendet, um Dokumente zu finden, die für die Fragen von Benutzenden relevant sind.
• Systemprompt: Passen Sie das KI-Verhalten an, und verbessern Sie die Leistung.
• API-Endpunkte: Die Anwendung weist angepasste Azure Functions-Endpunkte auf, sodass OpenAI mit der Anwendung interagieren kann.
• Advisors: Advisors bieten eine flexible und leistungsstarke Möglichkeit, KI-gesteuerte Interaktionen in Ihren Spring-Anwendungen abzufangen, zu ändern und zu verbessern.

Beispiel

Das folgende Codebeispiel zeigt, wie die Klasse ChatClientCustomizer Konfigurationsinformationen lädt:

@Bean
public ChatClientCustomizer chatClientCustomizer(VectorStore vectorStore, ChatModel model) {
    ChatMemory chatMemory = new InMemoryChatMemory();

    return b -> b.defaultSystem(systemResource)
        .defaultFunctions("listOwners", "listVets", "addPetToOwner", "addOwnerToPetclinic")
        .defaultAdvisors(new PromptChatMemoryAdvisor(chatMemory),
            new ModeledQuestionAnswerAdvisor(vectorStore, SearchRequest.defaults(), model));
}

API-Endpunkte

Die unter java.util.Function definierten Beans sind Funktionen, die im Anwendungskontext definiert sind. Diese Funktionen sind die Schnittstelle zwischen den KI-Modellen und der PetClinic-Anwendung.

Es gibt Beispielfunktionen in AIFunctionConfiguration.java, die mit der PetClinic-Anwendung kommunizieren. Beachten Sie die folgenden Details zu diesen Funktionen:

• Die @Description-Anmerkungen für Funktionen helfen den KI-Modellen, die Funktionen in einer natürlichen Sprache zu verstehen.
• Der Funktionsinhalt variiert je nach Ihren geschäftlichen Anforderungen.

Berater

Advisors sind Komponenten, die KI-Prompts ändern oder verbessern, die als Middleware für die Promptverarbeitung fungieren.

Diese Anwendung verwendet zwei verschiedene Advisors:

• QuestionAnswerAdvisor ruft die KI-Modelle auf, um eine neue Benutzerabfrage zu generieren, die die Ergebnisse des Suchvektors enthält, bevor der Prompt abgeschlossen wird.
• PromptChatMemoryAdvisor fügt dem Prompt Chatspeicher hinzu und stellt dem Chatmodell einen Unterhaltungsverlauf bereit. Mit diesem Kontext kann sich das KI-Modell an den Kontext des Chats erinnern und die Chatqualität verbessern.

Weitere Informationen finden Sie unter Advisors-API.

Nächste Schritte