Optymalizowanie wydajności modelu
Po wdrożeniu modelu w punkcie końcowym możesz rozpocząć interakcję z nim, aby zobaczyć, jak działa. Przyjrzyjmy się sposobom używania technik inżynierii monitów w celu zoptymalizowania wydajności modelu.
Zastosuj wzorce promptów, aby zoptymalizować wyniki modelu.
Jakość pytań wysyłanych do modelu językowego ma bezpośredni wpływ na jakość odpowiedzi, które otrzymujesz. Możesz dokładnie skonstruować swoje pytanie lub monitować, aby otrzymywać lepsze i bardziej interesujące odpowiedzi. Proces projektowania i optymalizacji podpowiedzi w celu poprawy wydajności modelu jest również nazywany inżynierią podpowiedzi.
Tworzenie zapytań wymaga od użytkowników zadawania odpowiednich, konkretnych, jednoznacznych i dobrze ustrukturyzowanych pytań, aby model generował dokładniejsze odpowiedzi. Aby dowiedzieć się, jak tworzyć dobrze zdefiniowane polecenia, zapoznajmy się z niektórymi wzorcami, które ułatwiają poprawę wyników modelu.
- Poinstruuj model, aby działał jako osoba.
- Pokieruj modelem, aby zasugerować lepsze pytania.
- Podaj szablon do generowania danych wyjściowych w określonym formacie.
- Dowiedz się, jak model rozumuje, prosząc go o refleksję.
- Dodaj kontekst, aby zwiększyć dokładność danych wyjściowych modelu.
Uwaga / Notatka
Wzorce wymienione tutaj są oparte na pracy White i al., (2023), która utworzyła katalog wzorców monitów.
Jako deweloper skuteczne podejście polega na dodaniu instrukcji do wdrożonego modelu w postaci monitu systemowego. Monit systemowy ustawia zachowanie modelu i umożliwia poprowadzenie modelu bez ujawniania użytkownikowi końcowemu instrukcji. Najlepsze wyniki są często osiągane przez przypisanie jawnego monitu systemowego i wskazówek (lub szablonów), które ułatwiają użytkownikom przesyłanie monitów, które odzwierciedlają wzorce opisane tutaj.
Poinstruuj model, aby działał jako osoba
Jeśli chcesz, aby model przejął konkretny punkt widzenia lub perspektywę, odpowiadając na pytanie, możesz poprosić go, aby wcielił się w rolę osoby.
Na przykład możesz poprosić model o odpowiedź tak, jakby był doświadczonym specjalistą ds. marketingu, jeśli pracujesz w sprzedaży i potrzebujesz szczegółowych informacji o nowym oprogramowaniu CRM.
| Nie określono osoby | Z określonymi osobami | |
|---|---|---|
| Monit systemowy | Brak | Jesteś doświadczonym specjalistą ds. marketingu, który pisze kopię reklamową dla odbiorców klientów technicznych. |
| Komunikat użytkownika | Napisz jednodniowy opis produktu CRM. | Napisz jednodniowy opis produktu CRM. |
| Odpowiedź modelu | Produkt CRM to narzędzie programowe przeznaczone do zarządzania interakcjami firmy z bieżącymi i potencjalnymi klientami, obejmującymi sprzedaż, marketing, obsługę klienta i pomoc techniczną. | Korzystaj z bezproblemowego zarządzania relacjami z klientami dzięki naszemu produktowi CRM, zaprojektowanemu w celu usprawnienia operacji biznesowych, zwiększenia interakcji z klientami oraz zwiększenia sprzedaży dzięki intuicyjnemu interfejsowi i niezawodnym narzędziom analitycznym. |
Dla różnych ról biznesowych można tworzyć różne osoby. Zastanów się nad rolami, takimi jak menedżer produktu, analityk danych, ekspert ds. obsługi klienta lub nauczyciel. Zdefiniuj osobę i dodaj więcej szczegółów do tego, czego oczekujesz, aby dana osoba wiedziała lub zrobiła, aby uzyskać dostosowane odpowiedzi oparte na kontekście.
Zadaj lepsze sugestie dotyczące pytań
Jeśli chcesz, aby model pomógł uściślić swoje pytanie, możesz poprosić go o sugerowanie lepszych sposobów frazowania zapytania. Możesz również poprosić o podanie dodatkowego kontekstu.
Jeśli na przykład szukasz porad dotyczących gotowania posiłku, możesz poprosić model o sugerowanie wyjaśnień pytań, które pomogą Ci uzyskać bardziej ukierunkowaną odpowiedź.
| Nie podano żadnych sugestii | Z podanymi sugestiami | |
|---|---|---|
| Monit systemowy | Jesteś szefem kuchni sztucznej inteligencji, który może doradzać w menu. | Jesteś szefem kuchni sztucznej inteligencji, który może doradzać w menu. Jesteś przystępny i zawsze chcesz dostarczyć najlepsze porady, które możesz. |
| Komunikat użytkownika | Muszę zorganizować kolację dla czterech osób. Co należy gotować? | Muszę zorganizować kolację dla czterech osób. Co należy gotować? Jakie inne informacje potrzebujesz, aby mi pomóc zaplanować świetny posiłek dla moich gości? |
| Odpowiedź modelu | Przyjęcie na kolację dla czterech jest wspaniałą okazją do zaprezentowania swoich umiejętności kulinarnych. Oto sugerowane menu z trzema kursami, które równoważy smaki i zapewnia przyjemne doświadczenie w jadalni: Zakąska Szaszłyki sałatkowe Caprese - Składniki: pomidory cherry, świeże kulki mozzarella, świeże liście bazylii, balsamiczny glaze, oliwa z oliwek, sól i pieprz. - Instrukcje: Nic pomidor wiśniowy, liść bazylii i kula mozzarella na małe skewersy. Drizzle z oliwą z oliwek i balsamicznym glazurą, a następnie doprawić solą i pieprzem. To danie jest lekkie, odświeżające i łatwe do przygotowania przed czasem. Kurs główny Herb-Crusted łososia z szparagami cytrynowymi - Składniki: Filety z łososia, świeże zioła (takie jak pietruszki, koperek i tymianek), bułki do chleba, cytryna, szparagi, oliwa z oliwek, sól i pieprz. - Instrukcje: Rozgrzej piekarnik do 400°F (200°C). Wymieszaj bułki do chleba z posiekanymi świeżymi ziołami i odrobiną oliwy z oliwek, aby utworzyć pastę. Naciśnij tę mieszaninę na filety łososia i doprawić solą i pieprzem. Umieść łososia na arkuszu pieczenia i piec przez około 15-20 minut lub aż do gotowania. W ciągu ostatnich 10 minut gotowania, toss szparagi z oliwą z oliwek, pozyskiwania cytryny, soli i pieprzu i pieczone obok łososia. Podawać z wyciskiem świeżego soku z cytryny na łososia i szparagi. Deser Mus czekoladowy ze świeżymi jagodami - Składniki: Ciemna czekolada, jaja, cukier, ciężki krem, ekstrakt waniliowy i mieszane jagody (takie jak truskawki, jagody i maliny). - Instrukcje: Stopić czekoladę nad podwójnym kotłem, a następnie pozwól, aby lekko się ochłodzić. Oddzielaj żółtka jaj i biele. Ubij białek jaj do miękkich szczytów, a następnie stopniowo dodaj cukier, aby bezy. Ubij ciężki krem, aż miękkie szczyty tworzą i mieszają się w ekstraktu waniliowego. Zgnij roztopioną czekoladę do żółtka jaj, a następnie delikatnie złożyć w bitą śmietanę i bez do połączenia. Łyżka musu do serwowania potraw i lodówek przez co najmniej 2 godziny. Służyć zwieńczone świeże jagody do wybuchu koloru i świeżości. Dodatkowe podpowiedzi - Pary: Rozważ porcję lekkiego białego wina z appetizer i głównym oczywiście, a może wino deserowe z musem czekoladowym. - Czas: Przygotuj appetizer i deser z wyprzedzeniem, aby zminimalizować stres w ostatniej chwili. Główny kurs zajmie najwięcej czasu w piekarniku, więc odpowiednio zaplanuj. To menu jest zaprojektowane tak, aby było eleganckie, ale odpowiednie, dzięki czemu goście mogą delektować się zarówno jedzeniem, jak i doświadczeniem. Zapraszamy na kolację! |
Gospodarzem kolacji jest wspaniała okazja do zaprezentowania swoich umiejętności kulinarnych i tworzenia niezapomnianych doświadczeń dla gości. Aby pomóc Ci zaplanować świetny posiłek, oto kilka pytań, które mogą poprowadzić Cię do wyboru idealnego menu:
Dzięki tym informacjom mogę zasugerować dostosowane menu. Oto ogólny pomysł, który można dostosować na podstawie odpowiedzi: Starter
Kurs główny
Potrawy boczne
Deser
Napoje
Możesz udostępnić więcej szczegółów, a ja mogę jeszcze bardziej uściślić menu! |
Zachęcanie modelu do sugerowania wyjaśnień lub dodatkowych szczegółów może pomóc w zadawaniu odpowiednich pytań i uzyskiwaniu lepszych, dokładniejszych odpowiedzi przy mniejszej liczbie interakcji.
Określanie żądanego formatu odpowiedzi
Jeśli chcesz, aby model wygenerował dane wyjściowe w określonym formacie, możesz podać szablon lub strukturę w wierszu polecenia.
Jeśli na przykład jesteś reporterem sportowym tworzącym artykuł historyczny, możesz zażądać, aby model postępował zgodnie z określonym szablonem, który zawiera nagłówki, punkty punktowe i podziały danych.
| Nie określono szablonu | Z określonym szablonem | |
|---|---|---|
| Monit systemowy | Jesteś pomocnym asystentem sztucznej inteligencji. | Jesteś pomocnym asystentem sztucznej inteligencji dla reporterów sportowych. |
| Komunikat użytkownika | Co się stało w finale Pucharu Świata w Piłce Nożnej w 2018 roku? | Co się stało w finale Pucharu Świata w Piłce Nożnej w 2018 roku? Sformatuj wynik, aby wyświetlić datę meczu, lokalizację i dwie drużyny rywalizujące. Następnie wynik końcowy i wreszcie wszelkie istotne zdarzenia, które wystąpiły podczas meczu. |
| Odpowiedź modelu | Finał Pucharu Świata FIFA 2018 odbył się 15 lipca 2018 roku na Stadionie Luzhniki w Moskwie, Rosja. Francja zmierzyła się z Chorwacją w meczu. Francja zwyciężyła z wygraną 4:2. Bramki dla Francji zostały strzelone przez Mario Mandzukic (bramkę), Antoine Griezmann (rzut karny), Paul Pogba i Kylian Mbappé. Bramki Chorwacji strzelił Ivan Perišić i Mandzukic. Kylian Mbappé, w wieku zaledwie 19 lat, został drugim najmłodszym graczem, który strzelił gola w finale Pucharu Świata, po Pelé. To zwycięstwo oznaczało drugi tytuł Pucharu Świata we Francji, a ich pierwszy był w 1998 roku. |
Data meczu: 15 lipca 2018 r. Lokalizacja: Stadion Luzhniki, Moskwa, Rosja Drużyny rywalizujące: Francja vs Chorwacja Wynik końcowy: Francja 4, Chorwacja 2 Zdarzenia godne uwagi:
|
Takie podejście można zastosować do innych scenariuszy, w których wymagany jest określony format, taki jak generowanie wiadomości e-mail, podsumowań, propozycji, a nawet kod i skrypty. Jasno zdefiniuj szablon formatu i podaj szczegółowe informacje na temat struktury danych wyjściowych w celu uzyskania spójnych i zorganizowanych odpowiedzi.
Można również użyć podejścia jedno-przykładowego lub kilku-przykładowego, podając jeden lub więcej przykładów, aby pomóc modelowi zidentyfikować żądany wzorzec.
Zapytaj o wyjaśnienie rozumowania
Jeśli chcesz, aby model wyjaśnił uzasadnienie jego odpowiedzi, możesz poprosić model, aby automatycznie zastanowił się nad uzasadnieniem i założeniami po podaniu odpowiedzi.
Jeśli na przykład pracujesz nad problemem matematycznym, możesz poprosić model o wyjaśnienie przyczyny określonych obliczeń.
| Nie określono odbicia | Z określonym odbiciem | |
|---|---|---|
| Monit systemowy | Jesteś asystentem matematycznym sztucznej inteligencji. | Jesteś asystentem matematycznym sztucznej inteligencji. Zawsze wyjaśniasz swoje odpowiedzi. |
| Komunikat użytkownika | Trójkąt pod kątem prawym ma stronę podcięcie długości 3 cm i przylegającą długość boku 2 cm. Jaka jest długość pozostałej strony? | Trójkąt pod kątem prawym ma stronę podcięcie długości 3 cm i przylegającą długość boku 2 cm. Jaka jest długość pozostałej strony? |
| Odpowiedź modelu | Około 2,24 cm. | Możemy użyć twierdzenie Pythagorean, aby rozwiązać ten problem. Twierdzenie Pythagorean stwierdza, że w trójkącie prawym kątem kwadrat długości hipotenu (strona przeciwległa prawego kąta) jest równa sumie kwadratów długości pozostałych dwóch stron. Matematycznie można to napisać jako: c² = a² + b² gdzie c jest długością hipotenu, a ib są długością pozostałych dwóch stron. W tym problemie otrzymujemy długość hipotenu (c = 3 cm) i długość jednej z pozostałych stron (a = 2 cm). Musimy znaleźć długość pozostałej strony (b). Podłączanie podanych wartości do twierdzenia Pythagorean, otrzymujemy: 3² = 2² + b² 9 = 4 + b² Teraz możemy rozwiązać problem dla b²: b² = 9–4 b² = 5 Na koniec bierzemy pierwiastek kwadratowy obu stron, aby znaleźć długość pozostałej strony: b = √5 ≈ 2,24 cm Tak więc długość pozostałej strony wynosi około 2,24 cm. |
To podejście można zastosować, jeśli chcesz wyjaśnić w analizie danych, strategii marketingowej lub rozwiązywaniu problemów technicznych. Gdy poprosisz model o zdefiniowanie jego rozumowania, użyjesz techniki nazywanej łańcuchem myśli , aby myśleć krok po kroku.
Dodawanie kontekstu
Jeśli chcesz, aby model skupił się na określonych tematach, możesz określić kontekst do rozważenia. Możesz również poinformować model, aby ignorował nieistotne informacje.
Jeśli na przykład planujesz podróż, możesz podać modelowi więcej kontekstu, aby zwiększyć znaczenie jego odpowiedzi.
| Nie określono kontekstu | Z określonym kontekstem | |
|---|---|---|
| Monit systemowy | Jesteś asystentem podróży sztucznej inteligencji. | Jesteś asystentem podróży sztucznej inteligencji. |
| Pytanie użytkownika | Kiedy należy odwiedzić Edynburg? | Kiedy należy odwiedzić Edynburg? Jestem szczególnie zainteresowany udziałem w meczach domowych Szkocji w turnieju rugby Six Nations. |
| Odpowiedź modelu | Edynburg, stolica Szkocji, jest wspaniałym miejscem z bogatą historią i tętniącą życiem kulturą. Najlepszy czas, aby odwiedzić Edynburg w dużej mierze zależy od preferencji dla pogody, wydarzeń i tłumów turystycznych.
Podsumowując, najlepszy czas na wizytę w Edynburgu zależy od Twoich preferencji. Wiosna i jesień oferują przyjemną pogodę i mniej tłumów, podczas gdy lato jest idealne do zajęć na świeżym powietrzu i festiwali. Zima może być cichsze, bardziej magiczne doświadczenie, z świątecznymi wydarzeniami, aby cieszyć się. |
Turniej rugby Six Nations zazwyczaj trwa od końca stycznia do początku marca. Edynburg, jako miasto gospodarza, często ma mecze na Murrayfield Stadium, który jest stadionem narodowym Szkocji. Aby upewnić się, że nie przegap meczów domu Szkocji w Six Nations, polecam zaplanować swoją wizytę na ten okres. Należy jednak pamiętać, że daty i godziny meczu mogą się różnić, więc dobrym pomysłem jest sprawdzenie oficjalnej strony internetowej Six Nations lub strony internetowej Scottish Rugby Union pod kątem dokładnego harmonogramu meczów. Ponadto Edynburg ma wiele do zaoferowania poza rugby, z jego bogatą historią, oszałamiającą architekturą i tętniącą życiem sceną kulturową, więc możesz rozważyć przedłużenie pobytu, aby zbadać miasto przed lub po turnieju. Pamiętaj również, że wizyta podczas turnieju może oznaczać większe tłumy i bardziej ruchliwe zakwaterowanie, więc zarezerwuj loty, hotel i transport z wyprzedzeniem, aby zapewnić płynne doświadczenie. Ciesz się swoją podróżą do Edynburga i porywającą atmosferę meczów rugby Six Nations! |
Definiując, co model powinien skupić się na lub lekceważyć, możesz upewnić się, że konwersacja pozostaje na dobrej drodze i generuje bardziej istotne, dostosowane odpowiedzi.
Kontekst można określić, opisując, czego powinien lub nie powinien zawierać, i łącząc model ze źródłami danych, z których powinien pobierać kontekst, zanim zostanie wygenerowana odpowiedź.
Stosowanie strategii optymalizacji modelu
Uwaga / Notatka
W tej sekcji omówiono opcje i zagadnienia dotyczące optymalizacji modelu, które można rozważyć poza monitem inżynieryjnym. Pełna eksploracja sposobu stosowania tych strategii optymalizacji wykracza poza zakres tego modułu.
Monitowanie inżynieryjne może być skutecznym sposobem optymalizacji odpowiedzi modelu, ale w niektórych przypadkach może nie zapewniać wystarczającego kontekstu lub wskazówek, aby zawsze spełniały twoje dokładne potrzeby. Jako deweloper możesz wziąć pod uwagę następujące dodatkowe strategie optymalizacji, aby poprawić istotność odpowiedzi aplikacji generacyjnych sztucznej inteligencji:
- Pobieranie rozszerzonej generacji (RAG): technika, która polega na użyciu źródła danych w celu zapewnienia kontekstu uziemienia monitów. Rozwiązanie RAG może być przydatne, gdy potrzebny jest model do odpowiadania na pytania na podstawie określonej domeny wiedzy lub gdy potrzebny jest model do rozważenia informacji związanych z zdarzeniami, które wystąpiły po danych treningowych, na których opiera się model.
- Dostrajanie: technika, która obejmuje rozszerzenie trenowania modelu podstawowego, zapewniając przykładowe monity i odpowiedzi odzwierciedlające żądany format i styl danych wyjściowych.
Oba te podejścia obejmują dodatkowe wyzwania związane z kosztami, złożonością i możliwościami utrzymania, dlatego najlepszym rozwiązaniem jest rozpoczęcie działań związanych z optymalizacją za pomocą monitowania inżynieryjnego, a następnie rozważ dodatkowe strategie w razie potrzeby.
Strategia, którą należy wybrać jako deweloper, zależy od wymagań:
- Optymalizacja pod kątem kontekstu: gdy model nie ma kontekstowej wiedzy i chcesz zmaksymalizować dokładność odpowiedzi.
- Zoptymalizuj model: Jeśli chcesz ulepszyć format odpowiedzi, styl lub mowę, maksymalizując spójność zachowania.
Aby zoptymalizować kontekst, można zastosować wzorzec Generowania Wspomaganego przez Wyszukiwanie (RAG). Za pomocą RAG opierasz swoje dane, najpierw pobierając kontekst ze źródła danych przed wygenerowaniem odpowiedzi. Na przykład chcesz, aby pracownicy zadawali pytania dotyczące procesów i limitów roszczeń wydatków w oparciu o dokumentację zasad wydatków własnej firmy.
Jeśli chcesz, aby model odpowiadał w określonym stylu lub formacie, możesz poinstruować model, aby to zrobił, dodając wytyczne w komunikacie systemowym. Gdy zauważysz, że zachowanie modelu nie jest spójne, można dodatkowo wymusić spójność zachowania, dostrajając model. Dzięki dostrajaniu dostrajasz model języka podstawowego na zestawie danych z przykładowymi monitami i odpowiedziami przed zintegrowaniem go w aplikacji z wynikiem, że dostosowany model będzie generować odpowiedzi zgodne z przykładami w zestawie danych dostrajania szczegółowego trenowania.
Aby ulepszyć aplikację językową, możesz użyć dowolnej kombinacji strategii optymalizacji, na przykład inżynierii monitów, rag i dostosowanego modelu.