Sztuczna inteligencja: tworzenie zasobu usługi Azure OpenAI i wdrażanie modelu

Aby rozpocząć korzystanie z usługi Azure OpenAI w aplikacjach, musisz utworzyć usługę Azure OpenAI Service i wdrożyć model, który może służyć do wykonywania zadań, takich jak konwertowanie języka naturalnego na język SQL, generowanie zawartości wiadomości e-mail/SMS i nie tylko.

W tym ćwiczeniu wykonasz następujące czynności:

• Utwórz zasób usługi Azure OpenAI Service.
• Wdrażanie modelu.
• Zaktualizuj plik env przy użyciu wartości z zasobu usługi Azure OpenAI.

Tworzenie zasobu usługi Azure OpenAI Service

1. Odwiedź witrynę Azure Portal w przeglądarce i zaloguj się.

2. Wprowadź ciąg openai na pasku wyszukiwania w górnej części strony portalu i wybierz pozycję Azure OpenAI z wyświetlonych opcji.

   

3. Wybierz pozycję Utwórz na pasku narzędzi.

   Uwaga / Notatka

   Chociaż ten samouczek koncentruje się na usłudze Azure OpenAI, jeśli masz klucz interfejsu API OpenAI i chcesz go użyć, możesz pominąć tę sekcję i przejść bezpośrednio do sekcji Aktualizowanie pliku env projektu poniżej. Przypisz klucz interfejsu API OpenAI do OPENAI_API_KEY w pliku env (możesz zignorować wszelkie inne .env instrukcje związane z interfejsem OpenAI).

4. Modele usługi Azure OpenAI są dostępne w określonych regionach. Zapoznaj się z dokumentem dotyczącym dostępności modelu usługi Azure OpenAI , aby dowiedzieć się, które regiony obsługują model gpt-4o używany w tym samouczku.

5. Wykonaj następujące zadania:

   • Wybierz subskrypcję platformy Azure.
   • Wybierz grupę zasobów do użycia (w razie potrzeby utwórz nową).
   • Wybierz region, w którym model gpt-4o jest obsługiwany na podstawie wcześniej omówionego dokumentu.
   • Wprowadź nazwę zasobu. Ta wartość musi być unikatowa.
   • Wybierz warstwę cenową Standardowa S0 .

6. Wybierz przycisk Dalej , dopóki nie zostanie wyświetlony ekran Przeglądanie i przesyłanie . Wybierz Utwórz.

7. Po utworzeniu zasobu usługi Azure OpenAI przejdź do niego i wybierz pozycję Zarządzanie zasobami —->Klucze i punkt końcowy .

8. Znajdź wartości KLUCZ 1 i Punkt końcowy . Obie wartości będą używane w następnej sekcji, więc skopiujesz je do pliku lokalnego.

   

9. Wybierz pozycję Zarządzanie zasobami —>wdrożenia modelu.

10. Wybierz przycisk Zarządzaj wdrożeniami , aby przejść do usługi Azure OpenAI Studio.

11. Wybierz pozycję Wdróż model -->Wdróż model podstawowy na pasku narzędzi.

    

12. Wybierz pozycję gpt-4o z listy modeli i wybierz pozycję Potwierdź.

    Uwaga / Notatka

    Usługa Azure OpenAI obsługuje kilka różnych typów modeli. Każdy model może służyć do obsługi różnych scenariuszy.

13. Zostanie wyświetlone następujące okno dialogowe. Pośmiń chwilę na sprawdzenie podanych wartości domyślnych.

    

14. Zmień wartość Tokens per Minute Rate Limit (tysiące) na 100K. Pozwoli to na wykonywanie większej liczby żądań do modelu i unikanie osiągnięcia limitu szybkości podczas wykonywania poniższych kroków.

15. Wybierz Wdróż.

16. Po wdrożeniu modelu wybierz pozycję Place zabaw -->Chat.

17. Na liście rozwijanej Wdrożenie powinien zostać wyświetlony model gpt-4o .

    

18. Pośmiń chwilę na przeczytanie dostarczonego tekstu komunikatu systemowego. Informuje to model, jak działać, gdy użytkownik wchodzi z nim w interakcję.

19. Znajdź pole tekstowe w obszarze czatu i wprowadź ciąg Summarize what Generative AI is and how it can be used (Podsumuj, czym jest generowanie sztucznej inteligencji i jak można go używać). Wybierz Enter, aby wysłać komunikat do modelu i wygenerować odpowiedź.

20. Poeksperymentuj z innymi monitami i odpowiedziami. Na przykład wprowadź ciąg Podaj krótką historię stolicy Francji i zwróć uwagę na wygenerowaną odpowiedź.

Aktualizowanie pliku projektu .env

1. Wróć do programu Visual Studio Code i otwórz .env plik w katalogu głównym projektu.

2. Skopiuj wartość KEY 1 z zasobu usługi Azure OpenAI i przypisz ją do OPENAI_API_KEY pliku env znajdującego się w katalogu głównym folderu openai-acs-msgraph :

   OPENAI_API_KEY=<KEY_1_VALUE>
   

3. Skopiuj wartość *Punkt końcowy i przypisz ją do OPENAI_ENDPOINT pliku env . / Usuń znak z końca wartości, jeśli jest obecny.

   OPENAI_ENDPOINT=<ENDPOINT_VALUE>
   

   Uwaga / Notatka

   Zobaczysz, że wartości dla OPENAI_MODEL i OPENAI_API_VERSION są już ustawione w pliku env . Wartość modelu jest ustawiona na wartość gpt-4o zgodną z nazwą wdrożenia modelu utworzoną wcześniej w tym ćwiczeniu. Wersja interfejsu API jest ustawiona na obsługiwaną wartość zdefiniowaną w dokumentacji referencyjnej usługi Azure OpenAI.

4. Zapisz plik env .

Uruchamianie usług aplikacji

Nadszedł czas, aby uruchomić usługi aplikacji, w tym bazę danych, serwer interfejsu API i serwer internetowy.

1. W poniższych krokach utworzysz trzy okna terminalowe w programie Visual Studio Code.

   

2. Kliknij prawym przyciskiem myszy plik env na liście plików programu Visual Studio Code i wybierz polecenie Otwórz w zintegrowanym terminalu. Przed kontynuowaniem upewnij się, że terminal znajduje się w katalogu głównym projektu — openai-acs-msgraph .

3. Wybierz jedną z następujących opcji, aby uruchomić bazę danych PostgreSQL:

   • Jeśli masz zainstalowany i uruchomiony program Docker Desktop , uruchom polecenie docker-compose up w oknie terminalu i naciśnij Enter.

   • Jeśli masz zainstalowaną i uruchomioną aplikację Podman-compose , uruchom polecenie podman-compose up w oknie terminalu i naciśnij Enter.

   • Aby uruchomić kontener PostgreSQL bezpośrednio przy użyciu programu Docker Desktop, Podman, nerdctl lub innego zainstalowanego środowiska uruchomieniowego kontenera, uruchom następujące polecenie w oknie terminalu:

     • Komputery Mac, Linux lub Podsystem Windows dla systemu Linux (WSL):

       [docker | podman | nerdctl] run --name postgresDb -e POSTGRES_USER=web -e POSTGRES_PASSWORD=web-password -e POSTGRES_DB=CustomersDB -v $(pwd)/data:/var/lib/postgresql/data -p 5432:5432 postgres
       

     • Windows z programem PowerShell:

       [docker | podman] run --name postgresDb -e POSTGRES_USER=web -e POSTGRES_PASSWORD=web-password -e POSTGRES_DB=CustomersDB -v ${PWD}/data:/var/lib/postgresql/data -p 5432:5432 postgres
       

4. Po uruchomieniu kontenera bazy danych naciśnij ikonę + na pasku narzędzi terminalu programu Visual Studio Code, aby utworzyć drugie okno terminalu.

   

5. cd w folderze server/typescript uruchom następujące polecenia, aby zainstalować zależności i uruchomić serwer interfejsu API.

   • npm install
   • npm start

6. Naciśnij ponownie ikonę + na pasku narzędzi terminalu programu Visual Studio Code, aby utworzyć trzecie okno terminalu.

7. cd w folderze klienta i uruchom następujące polecenia, aby zainstalować zależności i uruchomić serwer internetowy.

   • npm install
   • npm start

8. Zostanie uruchomiona przeglądarka i nastąpi przekierowanie do http://localhost:4200.

   

Następny krok