Uaktualnianie modeli usługi GitHub do modeli rozwiązania Microsoft Foundry

Z tego artykułu dowiesz się, jak opracować generatywną aplikację sztucznej inteligencji, zaczynając od Modeli GitHub, a następnie ulepszyć swoje doświadczenie, wdrażając zasób narzędzi Foundry za pomocą Modeli Microsoft Foundry.

Modele Usługi GitHub są przydatne, gdy chcesz bezpłatnie znaleźć i eksperymentować z modelami sztucznej inteligencji podczas tworzenia aplikacji generacyjnych sztucznej inteligencji. Gdy będziesz gotowy do wdrożenia aplikacji w środowisku produkcyjnym, popraw swoje doświadczenie, wdrażając zasób Foundry Tools w subskrypcji platformy Azure i zacznij korzystać z modeli Foundry. Nie musisz zmieniać niczego innego w kodzie.

Użycie platformy zabaw i bezpłatnego interfejsu API dla modeli GitHub jest ograniczone przez żądania na minutę, żądania na dzień, tokeny na żądanie i żądania współbieżne. Jeśli osiągniesz limit liczby żądań, musisz poczekać na jego reset, zanim będziesz mógł wysłać więcej żądań.

Wymagania wstępne

Do ukończenia tego samouczka potrzebne są następujące elementy:

• Konto usługi GitHub z dostępem do Modeli GitHub.
• Subskrypcja platformy Azure z prawidłową formą płatności. Jeśli nie masz subskrypcji platformy Azure, utwórz płatne konto platformy Azure, aby rozpocząć. Alternatywnie możesz poczekać, aż wszystko będzie gotowe do wdrożenia modelu w środowisku produkcyjnym. W tym momencie zostanie wyświetlony monit o utworzenie lub zaktualizowanie konta platformy Azure do konta standardowego.
• Modele foundry od partnerów i społeczności wymagają dostępu do witryny Azure Marketplace. Upewnij się, że masz uprawnienia wymagane do subskrybowania ofert modeli. Modele Foundry sprzedawane bezpośrednio przez Azure nie mają tego wymagania.

Aktualizacja do modeli Foundry

Limity szybkości dla środowiska zabaw i bezpłatnego użycia interfejsu API ułatwiają eksperymentowanie z modelami i opracowywanie aplikacji sztucznej inteligencji. Gdy wszystko będzie gotowe do przeniesienia aplikacji do środowiska produkcyjnego, użyj klucza i punktu końcowego z płatnego konta platformy Azure. Nie musisz zmieniać niczego innego w kodzie.

Aby uzyskać klucz i punkt końcowy:

1. Przejdź do GitHub Models i wybierz model, aby przejść do jego środowiska testowego. W tym artykule użyto programu Mistral Medium 3 (25.05).

2. Wpisz niektóre polecenia lub użyj sugerowanych poleceń, aby wchodzić w interakcje z modelem w środowisku testowym.

3. Wybierz Użyj tego modelu w środowisku testowym. Ta akcja powoduje otwarcie okna "Rozpoczynanie pracy z modelami w bazie kodu".

4. W kroku "Konfigurowanie uwierzytelniania" wybierz pozycję Pobierz klucz rozwiązania Microsoft Foundry w sekcji "Azure AI".

   

5. Jeśli już zalogowałeś się do konta platformy Azure, pomiń ten krok. Jeśli jednak nie masz konta platformy Azure lub nie zalogowałeś się do swojego konta, wykonaj następujące kroki:

   1. Jeśli nie masz konta platformy Azure, wybierz pozycję Utwórz moje konto i wykonaj kroki, aby je utworzyć.

   2. Alternatywnie, jeśli masz konto platformy Azure, wybierz pozycję Zaloguj się ponownie. Jeśli istniejące konto jest bezpłatnym kontem, najpierw musisz przeprowadzić uaktualnienie do planu standardowego.

   3. Wróć do placu zabaw dla modelu i ponownie wybierz pozycję Pobierz klucz Microsoft Foundry .

   4. Zaloguj się do swojego konta platformy Azure.

6. Zostaniesz przeniesiony do > i trafisz na stronę główną projektu Foundry. Środowisko Foundry, które zostanie otwarte, zależy od tego, z którego ostatnio korzystałeś:

   1. Możesz trafić na nowy interfejs Foundry. Zwróć uwagę, że przełącznik New Foundry jest włączony w prawym górnym rogu nawigacji.

      

   2. Alternatywnie możesz trafić do Foundry (wersja klasyczna). Zwróć uwagę, że przełącznik New Foundry jest wyłączony w prawym górnym rogu nawigacji.

      

7. Użyj przełącznika New Foundry, jeśli chcesz przejść na inne doświadczenie Foundry.

8. Wykonaj kroki opisane w temacie Wdrażanie modelu , aby wdrożyć wybrany model, przetestować go na placu zabaw i wnioskować wdrożony model za pomocą kodu.

Eksplorowanie dodatkowych funkcji

Modele Foundry obsługują dodatkowe funkcje, które nie są dostępne w modelach GitHub, w tym:

• Wykaz modeli
• Uwierzytelnianie bez klucza za pomocą identyfikatora Entra firmy Microsoft
• Filtrowanie zawartości
• Ograniczanie szybkości dla określonych modeli
• Dodatkowe jednostki SKU wdrożenia dla określonych modeli.

Następny krok

• Wdrażanie modeli rozwiązania Microsoft Foundry w portalu Foundry