Optimieren der Modellleistung
Nachdem Sie Ihr Modell auf einem Endpunkt bereitgestellt haben, können Sie damit interagieren, um zu sehen, wie es funktioniert. Sehen wir uns an, wie Sie die Leistung Ihres Modells mithilfe von Prompt-Engineering-Techniken optimieren können.
Anwenden von Promptmustern zur Optimierung der Modellausgabe
Die Qualität der Fragen, die Sie an das Sprachmodell senden, hat direkten Einfluss auf die Qualität der Antworten, die Sie erhalten. Sie können die Frage bzw. den Prompt sorgfältig konstruieren, um bessere und interessantere Antworten zu erhalten. Der Prozess des Entwerfens und Optimierens von Prompts zum Verbessern der Leistung des Modells wird auch als Pompt Engineering bezeichnet.
Prompt Engineering erfordert, dass Benutzer relevante, spezifische, eindeutige und gut strukturierte Fragen stellen und das Modell anweisen, genauere Antworten zu generieren. Um zu verstehen, wie sie klar definierte Eingabeaufforderungen erstellen, untersuchen wir einige Muster, mit denen Sie die Ausgabe eines Modells verbessern können:
- Weisen Sie das Modell an, als Persona zu fungieren.
- Leiten Sie das Modell, um bessere Fragen vorzuschlagen.
- Stellen Sie eine Vorlage bereit, um die Ausgabe in einem bestimmten Format zu generieren.
- Verstehen Sie, wie ein Modell denkt, indem Sie es bitten, über sein Vorgehen nachzudenken.
- Fügen Sie Kontext hinzu, um die Genauigkeit der Ausgabe des Modells zu verbessern.
Hinweis
Die hier aufgeführten Muster basieren auf der Arbeit von White u.a., (2023), die einen Katalog für Eingabeaufforderungsmuster erstellt haben.
Als Entwickler besteht ein effektiver Ansatz darin, Ihrem bereitgestellten Modell Anweisungen in Form einer Systemaufforderung hinzuzufügen. Die Systemaufforderung legt das Verhalten des Modells fest und ermöglicht es Ihnen, das Modell zu steuern, ohne den Endbenutzer den Anweisungen auszusetzen. Die besten Ergebnisse werden häufig durch die Zuweisung einer expliziten Systemaufforderung und -anleitung (oder Vorlagen) erzielt, die Benutzern helfen, Eingabeaufforderungen zu übermitteln, die die hier beschriebenen Muster widerspiegeln.
Weisen Sie das Modell an, als Persona zu fungieren
Wenn Sie möchten, dass das Modell bei der Beantwortung einer Frage einen bestimmten Standpunkt oder eine bestimmte Perspektive hat, können Sie es bitten, als Persona zu agieren.
Sie können z. B. das Modell bitten, zu antworten, als ob es sich um einen erfahrenen Marketingprofis handelt, wenn Sie im Vertrieb arbeiten und Einblicke in eine neue CRM-Software benötigen.
| Es wurde keine Persona angegeben. | Mit angegebener Persona | |
|---|---|---|
| Systemprompt | None | Sie sind ein erfahrener Marketing-Experte, der Werbetexte für ein technisch orientiertes Publikum schreibt. |
| Benutzerprompt | Schreiben Sie eine Einsatzbeschreibung eines CRM-Produkts. | Schreiben Sie eine Einsatzbeschreibung eines CRM-Produkts. |
| Modellantwort | Ein CRM-Produkt ist ein Softwaretool zur Verwaltung der Interaktionen eines Unternehmens mit aktuellen und potenziellen Kunden, die Vertriebs-, Marketing-, Kundendienst- und technischen Support umfassen. | Erleben Sie ein nahtloses Kundenbeziehungsmanagement mit unserem CRM-Produkt, das sie entwickelt hat, um Ihre Geschäftsabläufe zu optimieren, Kundeninteraktionen zu verbessern und das Umsatzwachstum mit ihren intuitiven Schnittstellen und robusten Analysetools zu fördern. |
Sie können unterschiedliche Personas für verschiedene Geschäftsrollen erstellen. Stellen Sie sich Rollen wie einen Produktmanager, Datenanalysten, Kundendienstexperten oder Lehrer vor. Definieren Sie die Persona und geben Sie mehr Details dazu, was Sie von dieser Persona erwarten, dass sie weiß oder tut, um maßgeschneiderte, kontextgesteuerte Antworten zu erhalten.
Vorschläge für bessere Fragen stellen
Wenn Sie möchten, dass das Modell Ihre Frage verfeinert, können Sie es bitten, bessere Formulierungen vorzuschlagen, wie Sie Ihre Frage formulieren können. Sie können sie auch bitten, zusätzlichen Kontext bereitzustellen.
Wenn Sie z. B. Ratschläge zum Kochen einer Mahlzeit suchen, können Sie das Modell auffordern, klärende Fragen vorzuschlagen, die Ihnen helfen, eine gezieltere Antwort zu erhalten.
| Keine Vorschläge gegeben | Mit gegebenen Vorschlägen | |
|---|---|---|
| Systemprompt | Sie sind ein KI-Koch, der bei Menüs beraten kann. | Sie sind ein KI-Koch, der bei Menüs beraten kann. Sie sind erreichbar und möchten immer den besten Rat geben, den Sie können. |
| Benutzerprompt | Ich muss eine Dinnerparty für vier Personen hosten. Was soll ich kochen? | Ich muss eine Dinnerparty für vier Personen hosten. Was soll ich kochen? Welche weiteren Informationen benötigen Sie, um mir bei der Planung einer tollen Mahlzeit für meine Gäste zu helfen? |
| Modellantwort | Das Hosten einer Dinnerparty für vier ist eine wunderbare Gelegenheit, Um Ihre kulinarischen Fähigkeiten zu präsentieren. Hier ist ein vorgeschlagenes Drei-Gänge-Menü, das Aromen ausgleicht und ein angenehmes kulinarisches Erlebnis bietet. Vorspeise Caprese-Salatspieße - Zutaten: Kirschtomaten, frische Mozzarellakugeln, frische Basilikumblätter, Balsamglasur, Olivenöl, Salz und Pfeffer. - Anleitung: Fädeln Sie eine Kirschtomato, ein Basilikumblatt und eine Mozzarellakugel auf kleine Skewer. Beträufeln Sie mit Olivenöl und Balsamico-Glasur, dann mit Salz und Pfeffer würzen. Dieses Gericht ist leicht, erfrischend und einfach im Voraus zuzubereiten. Hauptgericht Lachs im Kräutermantel mit Zitronenspargel - Zutaten: Lachsfilet, frische Kräuter (wie Parsley, Dill und Thymian), Breadcrumbs, Zitrone, Spargel, Olivenöl, Salz und Pfeffer. - Anweisungen: Vorwärmen Ihres Ofens auf 400°F (200°C). Mischen Sie Breadcrumbs mit gehackten frischen Kräutern und ein bisschen Olivenöl, um eine Paste zu bilden. Drücken Sie diese Mischung auf die Lachsfilet und würzen Sie mit Salz und Pfeffer. Legen Sie den Lachs auf ein Backblech und backen Sie ihn im vorgeheizten Backofen für ca. 15-20 Minuten oder bis er durchgegart ist. Beim Kochen in den letzten 10 Minuten den Spargel mit Olivenöl, Zitronenschale, Salz und Pfeffer vermischen, und neben dem Lachs im Ofen rösten. Mit einem Schuss frischen Zitronensafts auf den Lachs und Spargel servieren. Dessert Schokolade Mousse mit frischen Beeren - Zutaten: Dunkle Schokolade, Eier, Zucker, schwere Creme, Vanilleextrakt und gemischte Beeren (z. B. Erdbeeren, Blaubeeren und Himbeeren). - Anweisungen: Schmelzen Sie die Schokolade über einen Doppelkessel, lassen Sie sie leicht abkühlen. Trennen Sie Eigelb und Weiß. Schlagen Sie das Eiweiß zu weichen Spitzen, und fügen Sie dann allmählich Zucker hinzu, um Eischnee zu machen. Schlagen Sie die Sahne, bis sich weiche Spitzen bilden, und mischen Sie dann den Vanilleextrakt unter. Heben Sie die geschmolzene Schokolade unter das Eigelb, und heben Sie dann sanft die geschlagene Sahne und den Eischnee unter, bis sie sich mischen. Verteilen Sie die Mousse in Servierschalen und stellen Sie sie für mindestens 2 Stunden in den Kühlschrank. Mit frischen Beeren servieren, um Farbe und Frische zu verleihen. Weitere Tipps - Empfehlungen: Erwägen Sie, einen leichten Weißwein mit der Vorspeise und dem Hauptgericht und vielleicht einen Dessertwein mit der Schokoladenmousse zu servieren. - Timing: Bereiten Sie die Vorspeise und das Dessert im Voraus vor, um last-minute Stress zu minimieren. Das Hauptgericht wird am längsten im Ofen sein, also planen Sie entsprechend. Dieses Menü ist so konzipiert, dass sie elegant und dennoch erreichbar ist, um sicherzustellen, dass Ihre Gäste sowohl das Essen als auch das Erlebnis genießen. Genießen Sie Ihre Abendessenparty! |
Das Hosten einer Dinnerparty ist eine wunderbare Gelegenheit, Um Ihre kulinarischen Fähigkeiten zu präsentieren und unvergessliche Erlebnisse für Ihre Gäste zu schaffen. Um Ihnen bei der Planung einer tollen Mahlzeit zu helfen, finden Sie hier einige Fragen, die Sie bei der Auswahl des perfekten Menüs unterstützen können:
Mit diesen Informationen kann ich ein maßgeschneidertes Menü vorschlagen. Hier ist eine allgemeine Idee, die basierend auf Ihren Antworten angepasst werden kann: Starter
Hauptgericht
Nebengerichte
Dessert
Getränke
Sie können weitere Details teilen, und ich kann ihnen helfen, das Menü weiter zu verfeinern! |
Wenn Sie das Modell ermutigen, Klarstellungen oder zusätzliche Details vorzuschlagen, können Sie die richtigen Fragen stellen und bessere, genauere Antworten in weniger Interaktionen erzielen.
Angeben des gewünschten Formats für Antworten
Wenn das Modell die Ausgabe in einem bestimmten Format generieren soll, können Sie eine Vorlage oder Struktur in Ihrer Eingabeaufforderung bereitstellen.
Wenn Sie beispielsweise ein Sportreporter sind, der einen historischen Artikel verfasst, können Sie anfordern, dass das Modell einer bestimmten Vorlage folgt, die Überschriften, Aufzählungszeichen und Datenaufschlüsselungen enthält.
| Keine Vorlage angegeben | Mit angegebener Vorlage | |
|---|---|---|
| Systemprompt | Sie sind ein hilfreicher KI-Assistent. | Sie sind ein hilfreicher KI-Assistent für Sportreporter. |
| Benutzerprompt | Was ist im Finale der Fußballweltmeisterschaft 2018 passiert? | Was ist im Finale der Fußballweltmeisterschaft 2018 passiert? Formatieren Sie das Ergebnis, um das Matchdatum, den Ort und die beiden Teams anzuzeigen, die konkurrieren. Zuerst wird der endgültige Punktestand angegeben, und schließlich werden alle wichtigen Ereignisse zusammengefasst, die während des Spiels auftraten. |
| Modellantwort | Das FIFA Wm-Finale 2018 fand am 15. Juli 2018 im Luzhniki-Stadion in Moskau, Russland, statt. Frankreich stand kroatien im Spiel gegenüber. Frankreich gewann mit einem 4-2-Sieg. Die Tore für Frankreich wurden von Mario Mandzukic (Eigenes Tor), Antoine Griezmann (Strafe), Paul Pogba und Kylian Mbappé getroffen. Kroatiens Tore wurden von Ivan Perišić und Mandzukic erzielt. Kylian Mbappé, bei nur 19 Jahren alt, wurde der zweitjährigste Spieler, der in einem Wm-Finale nach Pelé punktete. Dieser Sieg markierte frankreichs zweiten Wm-Titel, ihr erster 1998. |
Spieldatum: 15. Juli 2018 Ort: Luzhniki Stadion, Moskau, Russland Teams konkurrierend: Frankreich und Kroatien Endergebnis: Frankreich 4, Kroatien 2 Wichtige Ereignisse:
|
Sie können diesen Ansatz auf andere Szenarien anwenden, in denen ein bestimmtes Format erforderlich ist, z. B. das Generieren von E-Mails, Zusammenfassungen, Vorschläge oder sogar Code und Skripts. Definieren Sie die Formatvorlage eindeutig, und geben Sie Details dazu an, wie die Ausgabe strukturiert ist, um konsistente und organisierte Antworten zu erhalten.
Sie können auch einen One-Shot- oder Few-Shot-Ansatz verwenden, indem Sie ein oder mehrere Beispiele bereitstellen, um dem Modell zu helfen, ein gewünschtes Muster zu erkennen.
Fordern Sie eine Erklärung der Begründung an
Wenn Sie möchten, dass das Modell den Grund hinter seinen Antworten erklärt, können Sie das Modell bitten, nach der Bereitstellung einer Antwort automatisch ihre Gründe und Annahmen widerzuspiegeln.
Wenn Sie beispielsweise an einem mathematischen Problem arbeiten, können Sie das Modell bitten, die Begründung hinter bestimmten Berechnungen zu erläutern.
| Keine Spiegelung angegeben | Mit angegebener Spiegelung | |
|---|---|---|
| Systemprompt | Sie sind KI-Mathematik-Assistent. | Sie sind KI-Mathematik-Assistent. Sie erklären immer Ihre Antworten. |
| Benutzerprompt | Ein rechtwinkliges Dreieck hat eine Hypotenuse-Seite der Länge 3 cm und eine angrenzende Seitenlänge von 2 cm. Was ist die Länge der verbleibenden Seite? | Ein rechtwinkliges Dreieck hat eine Hypotenuse-Seite der Länge 3 cm und eine angrenzende Seitenlänge von 2 cm. Was ist die Länge der verbleibenden Seite? |
| Modellantwort | Ca. 2,24 cm. | Wir können den Satz des Pythagoras verwenden, um dieses Problem zu lösen. Der Pythagorische Theorem gibt an, dass in einem rechtwinkligen Dreieck das Quadrat der Länge der Hypotenuse (die Seite gegenüber dem rechten Winkel) gleich der Summe der Quadrate der Längen der anderen beiden Seiten ist. Mathematisch kann dies wie folgt geschrieben werden: c² = a² + b² wobei c die Länge der Hypotenuse ist, und a und b sind die Längen der anderen beiden Seiten. In diesem Problem erhalten wir die Länge der Hypotenuse (c = 3 cm) und die Länge einer der anderen Seiten (a = 2 cm). Wir müssen die Länge der verbleibenden Seite (b) ermitteln. Wenn wir die angegebenen Werte in den pythagoreischen Lehrsatz einsetzen, erhalten wir folgende: 3² = 2² + b² 9 = 4 + b² Jetzt können wir für b² lösen: b² = 9 - 4 b² = 5 Schließlich nehmen wir die Quadratwurzel beider Seiten, um die Länge der verbleibenden Seite zu finden: b = √5 ≈ 2,24 cm Die Länge der verbleibenden Seite beträgt also etwa 2,24 cm. |
Sie können diesen Ansatz anwenden, wenn Sie Erklärungen in der Datenanalyse, Marketingstrategie oder technische Problembehandlung benötigen. Wenn Sie das Modell bitten, seine Begründung zu definieren, verwenden Sie eine Technik namens "Kette des Denkens", um es Schritt für Schritt zu denken.
Kontext hinzufügen
Wenn Sie möchten, dass sich das Modell auf bestimmte Themen konzentriert, können Sie den zu berücksichtigenden Kontext angeben. Sie können das Modell auch anweisen, irrelevante Informationen zu ignorieren.
Wenn Sie beispielsweise eine Reise planen, können Sie dem Modell mehr Kontext bereitstellen, um die Relevanz seiner Antwort zu verbessern.
| Kein Kontext angegeben | Mit angegebenem Kontext | |
|---|---|---|
| Systemprompt | Sie sind ein KI-Reisebegleiter. | Sie sind ein KI-Reisebegleiter. |
| Benutzerfrage | Wann sollte ich Edinburgh besuchen? | Wann sollte ich Edinburgh besuchen? Ich bin besonders daran interessiert, Schottlands Heimspiele im Six Nations-Rugbyturnier zu besuchen. |
| Modellantwort | Edinburgh, die Hauptstadt Schottlands, ist ein wunderbares Ziel mit einer reichen Geschichte und lebendiger Kultur. Die beste Zeit zum Besuch von Edinburgh hängt weitgehend von Ihren Vorlieben für Wetter, Veranstaltungen und Touristenmassen ab.
Zusammenfassend hängt die beste Zeit zum Besuch von Edinburgh von Ihren Vorlieben ab. Frühling und Herbst bieten angenehmes Wetter und weniger Menschenmassen, während der Sommer ideal für Outdoor-Aktivitäten und Festivals ist. Der Winter kann ein ruhigeres, magischeres Erlebnis mit festlichen Veranstaltungen sein, die sie genießen können. |
Das Six Nations-Turnier läuft in der Regel von Ende Januar bis Anfang März. Edinburgh, als Gastgeberstadt, hat oft Spiele im ScotlandField Stadium, das schottlands Nationalstadium ist. Um sicherzustellen, dass Sie schottlands Heimspiele in den Six Nations nicht verpassen, empfehlen wir Ihnen, Ihren Besuch für diesen Zeitraum zu planen. Beachten Sie jedoch, dass die Spieltermine und -zeiten variieren können. Daher empfiehlt es sich, die offizielle Website der Six Nations oder die Website der Schottischen Rugby Union auf den genauen Spielplan der Spiele zu überprüfen. Darüber hinaus hat Edinburgh viel zu bieten, jenseits von Rugby, mit seiner reichen Geschichte, atemberaubenden Architektur und lebendigen Kulturszene, so dass Sie ihren Aufenthalt erweitern können, um die Stadt vor oder nach dem Turnier zu erkunden. Denken Sie auch daran, dass ein Besuch während des Turniers größere Menschenmassen und belebtere Unterkünfte bedeuten könnte, daher buchen Sie Ihre Flüge, das Hotel und den Transport rechtzeitig im Voraus, um ein reibungsloses Erlebnis zu gewährleisten. Genießen Sie Ihre Reise nach Edinburgh und die aufregende Atmosphäre der Six Nations-Turniere! |
Indem Sie definieren, worauf sich das Modell fokussieren oder was es ignorieren soll, können Sie sicherstellen, dass die Unterhaltung auf Kurs bleibt und relevantere, maßgeschneiderte Antworten generiert werden.
Sie können den Kontext angeben, indem Sie beschreiben, was es enthalten soll oder nicht enthalten soll, und indem Sie das Modell mit Datenquellen verbinden, aus denen der Kontext abgerufen werden soll, bevor eine Antwort generiert wird.
Anwendung von Strategien zur Modelloptimierung
Hinweis
In diesem Abschnitt werden Optionen und Überlegungen zur Modelloptimierung erläutert, die Sie möglicherweise über das Prompt-Engineering hinaus in Betracht ziehen können. Eine vollständige Untersuchung der Anwendung dieser Optimierungsstrategien liegt außerhalb des Umfangs dieses Moduls.
Prompt Engineering kann eine effektive Möglichkeit sein, Modellantworten zu optimieren, aber in einigen Fällen bietet es möglicherweise nicht genügend Kontext oder Anleitungen, um Ihre genauen Anforderungen immer zu erfüllen. Als Entwickler können Sie die folgenden zusätzlichen Optimierungsstrategien berücksichtigen, um die Relevanz Der Antworten Ihrer generativen KI-Anwendung zu verbessern:
- Retrieval Augmented Generation (RAG): eine Technik, die die Verwendung einer Datenquelle umfasst, um einen Groundingkontext für Prompts zu schaffen. RAG kann ein nützlicher Ansatz sein, wenn Sie das Modell benötigen, um Fragen basierend auf einer bestimmten Wissensdomäne zu beantworten, oder wenn Sie das Modell benötigen, um Informationen zu Ereignissen zu berücksichtigen, die nach den Schulungsdaten aufgetreten sind, auf denen das Modell basiert.
- Feinabstimmung: Eine Technik, mit der das Training eines Grundlagenmodells erweitert wird, indem Beispielaufforderungen und Antworten bereitgestellt werden, die das gewünschte Ausgabeformat und den gewünschten Stil widerspiegeln.
Beide Ansätze umfassen zusätzliche Kosten-, Komplexitäts- und Wartungsierbarkeitsprobleme, sodass es in der Regel am besten ist, Ihre Optimierungsbemühungen durch promptes Engineering zu starten und dann bei Bedarf zusätzliche Strategien in Betracht zu ziehen.
Die Strategie, die Sie als Entwickler auswählen sollten, hängt von Ihren Anforderungen ab:
- Optimieren nach Kontext: Verwenden Sie diesen Ansatz, wenn das Modell kein kontextbezogenes Wissen umfasst und Sie die Genauigkeit der Antworten maximieren möchten.
- Optimieren des Modells: wenn Sie das Antwortformat, den Stil oder die Sprache durch Maximierung der Konsistenz des Verhaltens verbessern möchten.
Um den Kontext zu optimieren, können Sie ein Retrieval Augmented Generation (RAG)-Muster anwenden. Wenn Sie RAG verwenden, führen Sie zunächst ein Grounding Ihrer Daten durch, indem Sie vor dem Generieren einer Antwort zunächst den Kontext aus einer Datenquelle abrufen. Sie möchten z. B., dass Mitarbeiter Fragen zu Spesenforderungsprozessen und -beschränkungen auf der Grundlage der Ausgabenrichtliniendokumentation Ihres eigenen Unternehmens stellen.
Wenn das Modell in einem bestimmten Stil oder Format antworten soll, können Sie entsprechende Richtlinien in der Systemmeldung hinzufügen. Wenn Sie feststellen, dass das Verhalten eines Modells nicht konsistent ist, können Sie durch Feinabstimmen eines Modells ein konsistentes Verhalten erzwingen. Mit feiner Optimierung trainieren Sie ein Basissprachenmodell für ein Dataset mit Beispielaufforderungen und -antworten, bevor Sie es in Ihre Anwendung integrieren. Dadurch erzeugt das fein abgestimmte Modell Antworten, die mit den Beispielen im Feinabstimmungs-Schulungsdatensatz konsistent sind.
Sie können jede Kombination aus Optimierungsstrategien, z. B. Prompt Engineering, RAG und einem fein abgestimmten Modell, verwenden, um Ihre Sprachanwendung zu verbessern.