Dostosowywanie modeli przy użyciu zarządzanych zasobów obliczeniowych (wersja zapoznawcza)

Dowiedz się, jak dostosować i wdrożyć modele przy użyciu zarządzanych zasobów obliczeniowych w rozwiązaniu Microsoft Foundry. Dostosuj parametry trenowania (szybkość uczenia, rozmiar partii, epoki), aby zoptymalizować wydajność.

Dostrajanie wstępnie wytrenowanego modelu dla powiązanego zadania jest bardziej wydajne niż trenowanie nowego modelu od podstaw.

Użyj ustawień dostrajania w portalu, aby skonfigurować dane, obliczenia i hiperparametry. Po zakończeniu trenowania można ocenić i wdrożyć wynikowy model.

W tym artykule dowiesz się, jak:

• Wybierz model podstawowy.
• Konfigurowanie podziałów zasobów obliczeniowych i danych.
• Bezpiecznie dostrajaj hiperparametry.
• Prześlij i monitoruj zadanie dostrajania.
• Oceń i wdróż dostosowany model.

Wymagania wstępne

• Konto Azure z aktywną subskrypcją. Jeśli go nie masz, utwórz bezpłatne konto platformy Azure, które obejmuje subskrypcję bezpłatnej wersji próbnej.
• Jeśli go nie masz, utwórz projekt oparty na centrum.

• Kontrola dostępu oparta na rolach (RBAC) platformy Azure służy do udzielania dostępu do operacji w portalu Foundry. Aby wykonać kroki opisane w tym artykule, konto użytkownika musi mieć przypisaną rolę właściciela lub współautora dla subskrypcji platformy Azure. Aby uzyskać więcej informacji na temat uprawnień, zobacz Kontrola dostępu oparta na rolach w portalu Foundry.

Dostrajanie modelu podstawowego przy użyciu zarządzanych obliczeń

1. Zaloguj się do usługi Microsoft Foundry. Upewnij się, że przełącznik New Foundry jest wyłączony. Te kroki odnoszą się do rozwiązania Foundry (wersja klasyczna).

   

2. Jeśli nie jesteś jeszcze w projekcie, wybierz go.

3. Wybierz Dostrajanie z okienka po lewej stronie.

   1. Wybierz pozycję Dostosuj model i dodaj model, który chcesz dostosować. W tym artykule użyto Phi-3-mini-4k-instruct do ilustracji.
   2. Wybierz przycisk Dalej , aby wyświetlić dostępne opcje dostosowywania. Niektóre modele podstawowe obsługują tylko opcję Zarządzane zasoby obliczeniowe .

4. Alternatywnie możesz wybrać pozycję Katalog modeli na lewym pasku bocznym projektu i znaleźć kartę modelu podstawowego, którą chcesz dostosować.

   1. Wybierz pozycję Dostrój na karcie modelu, aby wyświetlić dostępne opcje dostrajania. Niektóre modele podstawowe obsługują tylko opcję Zarządzane zasoby obliczeniowe .

   

5. Wybierz pozycję Zarządzane obliczenia. Spowoduje to otwarcie ustawień podstawowych.

Konfigurowanie ustawień precyzyjnego dostrajania

W tej sekcji przedstawiono kroki konfigurowania dostrajania modelu przy użyciu zarządzanego środowiska obliczeniowego.

1. Podaj nazwę modelu (na przykład phi3mini-faq-v1). Wybierz Dalej dla Oblicz.

2. Wybierz rozmiar maszyny wirtualnej GPU. Upewnij się, że limit przydziału dla wybranej jednostki SKU.

   

3. Wybierz Dalej, aby przejść do Dane szkoleniowe. Typ zadania może być wstępnie ustawiony (na przykład ukończenie czatu).

4. Podaj dane szkoleniowe (przekaż plik JSONL/CSV/TSV lub wybierz zarejestrowany zestaw danych). Równoważenie przykładów w celu zmniejszenia uprzedzeń.

5. Wybierz pozycję Dalej w obszarze Dane weryfikacji. Zachowaj podział automatyczny lub podaj oddzielny zestaw danych.

6. Wybierz pozycję Dalej w obszarze Parametry zadania. Dostosuj epoki, szybkość nauki, rozmiar partii. Rozpocznij ostrożnie; iteruj na podstawie metryk walidacyjnych.

7. Wybierz Dalej, aby przejrzeć. Potwierdź liczbę i parametry.

8. Wybierz pozycję Prześlij , aby uruchomić zadanie.

Monitorowanie i ocenianie

• Śledź stan zadań na liście zadań dostrajających.
• Przejrzyj dzienniki w celu znalezienia problemów z przetwarzaniem wstępnym lub alokacją.
• Po zakończeniu wyświetl wygenerowane metryki oceny (jeśli włączono) lub uruchom oddzielną ocenę porównującą podstawowy i dostrojony model.

Wdróż dostrojony model

Wdrażaj z podsumowania zadania. Użyj nazwy wdrożenia, takiej jak faq-v1. Rejestrowanie wersji modelu i skrótu zestawu danych dla zapewnienia powtarzalności. Dodaj śledzenie, aby monitorować rzeczywiste zapytania.

Rozwiązywanie problemów

Treści powiązane

• Omówienie modeli dostrajania
• Generowanie kompletacji czatu
• Polecane modele