Polecane modele katalogu modeli Foundry

Katalog modeli foundry oferuje duży wybór modeli od wielu dostawców. Dostępne są różne opcje wdrażania modeli z katalogu modeli. W tym artykule wymieniono polecane modele w katalogu modeli, które można wdrożyć i hostować na serwerach firmy Microsoft za pośrednictwem wdrożeń standardowych. W przypadku niektórych z tych modeli można je również hostować w infrastrukturze na potrzeby wdrażania za pośrednictwem zarządzanych zasobów obliczeniowych. Zobacz Dostępne modele dla obsługiwanych opcji wdrażania , aby znaleźć modele w katalogu, które są dostępne do wdrożenia za pośrednictwem zarządzanego środowiska obliczeniowego lub standardowego wdrożenia.

Aby przeprowadzić wnioskowanie z modelami, niektóre modele, takie jak TimeGEN-1 firmy Nixtla i Cohere rerank wymagają używania niestandardowych interfejsów API od dostawców modelu. Inni obsługują wnioskowanie przy użyciu modelu AI platformy Azure. Więcej szczegółów na temat poszczególnych modeli można znaleźć, przeglądając ich karty modeli w wykazie modeli.

Laboratoria AI21

Modele rodziny Jamba to duże modele językowe (LLM) klasy produkcyjnej AI21, oparte na Mamba i wykorzystujące hybrydową architekturę Mamba-Transformer AI21. Jest to wersja dostosowana do instrukcji hybrydowego modelu strukturalnej przestrzeni stanów (SSM, Structured State Space Model) transformatora Jamba. Modele rodziny Jamba są tworzone pod kątem niezawodnego użytku komercyjnego w odniesieniu do jakości i wydajności.

Zobacz tę kolekcję modeli w katalogu modeli.

Azure OpenAI

Usługa Azure OpenAI w usłudze Microsoft Foundry Models oferuje zróżnicowany zestaw modeli z różnymi możliwościami i punktami cenowymi. Te modele obejmują:

• Najnowocześniejsze modele zaprojektowane do rozwiązywania zadań związanych z rozumowaniem i rozwiązywaniem problemów z większą koncentracją i zwiększonymi możliwościami.
• Modele, które mogą zrozumieć i wygenerować język naturalny i kod
• Modele, które mogą transkrybować i tłumaczyć mowę na tekst

Zobacz tę kolekcję modeli w katalogu modeli.

Cohere

Rodzina modeli Cohere obejmuje różne modele zoptymalizowane pod kątem różnych przypadków użycia, w tym ponowne sortowanie, uzupełnianie czatów i modele osadzania.

Cohere komenda i osadzanie

W poniższej tabeli wymieniono modele Cohere, które można wnioskować za pośrednictwem wnioskowania modelu AI platformy Azure.

Przykłady wnioskowania: komenda Cohere i embedding

Aby uzyskać więcej przykładów używania modeli Cohere, zobacz następujące przykłady:

Generowanie wspomagane odzyskiwaniem (RAG) i wykorzystanie narzędzi: przykłady komend Cohere i integrowania

Cohere ponowne uporządkowanie

W poniższej tabeli wymieniono modele Cohere rerank. Aby przeprowadzić wyciąganie wniosków przy użyciu tych modeli ponownego klasyfikowania, musisz użyć niestandardowych interfejsów API Cohere do ponownego klasyfikowania, wymienionych w tabeli.

Cennik modeli do ponownego rangowania Cohere

Zapytania, które nie należy mylić z zapytaniem użytkownika, to miernik cen, który odnosi się do kosztów skojarzonych z tokenami używanymi jako dane wejściowe dla wnioskowania modelu Cohere Rerank. Cohere zlicza pojedynczą jednostkę wyszukiwania jako zapytanie z maksymalnie 100 dokumentami do sklasyfikowania. Dokumenty dłuższe niż 500 tokenów (dla Cohere-rerank-v3.5) lub dłuższe niż 4096 tokenów (dla Cohere-rerank-v3-English i Cohere-rerank-v3-wielojęzyczne) w przypadku uwzględnienia długości zapytania wyszukiwania są podzielone na wiele fragmentów, gdzie każdy fragment jest liczone jako pojedynczy dokument.

Zobacz kolekcję modeli Cohere w katalogu modeli.

Core42

Core42 zawiera autoregresywne, dwujęzyczne modele językowe (LLM) dla języka arabskiego i angielskiego z najnowocześniejszymi możliwościami dla języka arabskiego.

Zobacz tę kolekcję modeli w katalogu modeli.

Przykłady wnioskowania: Core42

Aby uzyskać więcej przykładów używania modeli Jais, zobacz następujące przykłady:

DeepSeek

Rodzina modeli DeepSeek obejmuje DeepSeek-R1, który wyróżnia się w zadaniach wymagających rozumowania, wykorzystując proces treningowy krok po kroku, takich jak językowe, naukowe oraz związane z kodowaniem. W jej skład wchodzi również DeepSeek-V3-0324, model językowy typu Mixture-of-Experts (MoE), oraz inne.

Aby zapoznać się z samouczkiem dotyczącym DeepSeek-R1, zobacz Samouczek: rozpocząć pracę z modelem rozumowania DeepSeek-R1 w wnioskowaniu modelu AI platformy Azure.

Zobacz tę kolekcję modeli w katalogu modeli.

Przykłady wnioskowania: DeepSeek

Aby uzyskać więcej przykładów używania modeli DeepSeek, zobacz następujące przykłady:

Meta

Modele i narzędzia Meta Llama to kolekcja wstępnie wytrenowanych i dostrojonych modeli generowania tekstu i rozumowania obrazów sztucznej inteligencji. Zakres modeli metadanych jest skalowany w celu uwzględnienia:

• Modele językowe o małej skali (SLM), takie jak modele 1B i 3B Base oraz Instruct do wnioskowania na urządzeniach i urządzeniach brzegowych.
• Modele językowe o średniej wielkości (LLM), takie jak modele 7B, 8B i 70B w wersjach podstawowej i instruktorskiej
• Wysoce wydajne modele, takie jak Meta Llama 3.1-405B Instruct, do generowania syntetycznych danych i przypadków użycia destylacji.
• Wysokowydajne natywne modele multimodalne, Llama 4 Scout i Llama 4 Maverick, wykorzystują architekturę złożoną z mieszanki ekspertów, aby zapewnić najlepszą na rynku wydajność w zrozumieniu tekstu i obrazów.

Zobacz tę kolekcję modeli w katalogu modeli.

Przykłady wnioskowania: Meta Llama

Aby uzyskać więcej przykładów używania modeli Meta Llama, zobacz następujące przykłady:

Microsoft

Modele firmy Microsoft obejmują różne grupy modeli, takie jak modele MAI, modele Phi, modele sztucznej inteligencji dla opieki zdrowotnej i inne. Aby wyświetlić wszystkie dostępne modele firmy Microsoft, wyświetl kolekcję modeli firmy Microsoft w portalu Foundry.

Przykłady wnioskowania: modele firmy Microsoft

Aby uzyskać więcej przykładów używania modeli firmy Microsoft, zobacz następujące przykłady:

Zobacz kolekcję modeli firmy Microsoft w katalogu modeli.

Mistral Sztuczna Inteligencja

Mistral AI oferuje dwie kategorie modeli, a mianowicie:

• Modele Premium: są to modele Mistral Large, Mistral Small, Mistral-OCR-2503, Mistral Medium 3 (25.05) i Ministral 3B, dostępne jako interfejsy API bez serwera z rozliczeniami opartymi na użyciu tokenów.
• Otwarte modele: należą do nich Mistral-small-2503, Codestral i Mistral Nemo (które są dostępne jako bezserwerowe interfejsy API z rozliczeniami opartymi na tokenach płatności zgodnie z rzeczywistym użyciem) i Mixtral-8x7B-Instruct-v01, Mixtral-8x7B-v01, Mistral-7B-Instruct-v01 i Mistral-7B-v01 (które są dostępne do pobierania i uruchamiania na własnych zarządzanych punktach końcowych).

Zobacz tę kolekcję modeli w katalogu modeli.

Przykłady wnioskowania: Mistral

Aby uzyskać więcej przykładów używania modeli Mistral, zobacz następujące przykłady i samouczki:

Nixtla

TimeGEN-1 firmy Nixtla to wstępnie wytrenowany model prognozowania i wykrywania anomalii dla danych szeregów czasowych. TimeGEN-1 może generować dokładne prognozy dla nowych szeregów czasowych bez trenowania, używając tylko wartości historycznych i kowariantów egzogennych jako danych wejściowych.

Aby przeprowadzić wnioskowanie, funkcja TimeGEN-1 wymaga użycia niestandardowego interfejsu API wnioskowania Nixtla.

Szacowanie wymaganej liczby tokenów

Przed utworzeniem wdrożenia TimeGEN-1 warto oszacować liczbę tokenów, które planujesz zużyć i za które zostaniesz obciążony kosztami. Jeden token odpowiada jednemu punktowi danych w wejściowym zestawie danych lub wyjściowym zestawie danych.

Załóżmy, że masz następujący wejściowy zestaw danych szeregów czasowych:

Aby określić liczbę tokenów, należy pomnożyć liczbę wierszy (w tym przykładzie dwa) i liczbę kolumn używanych do prognozowania — nie licząc kolumn unique_id i sygnatur czasowych (w tym przykładzie trzy), aby uzyskać łącznie sześć tokenów.

Biorąc pod uwagę następujący wyjściowy zestaw danych:

Można również określić liczbę tokenów, zliczając liczbę punktów danych zwracanych po prognozowaniu danych. W tym przykładzie liczba tokenów to dwa.

Szacowanie cen na podstawie tokenów

Istnieją cztery mierniki cen, które określają cenę, którą płacisz. Te mierniki są następujące:

Zobacz kolekcję modeli Nixtla w katalogu modeli.

NTT DATA

tsuzumi to zoptymalizowany do autoregresywnych języków model transformera. Dostrojone wersje używają nadzorowanego dostrajania (SFT). Tsuzumi z dużą wydajnością obsługuje zarówno język japoński, jak i angielski.

Stabilność sztucznej inteligencji

Kolekcja modeli generowania obrazów Stability AI obejmuje Stable Image Core, Stable Image Ultra i Stable Diffusion 3.5 Large. Stable Diffusion 3.5 Large umożliwia wprowadzanie obrazu i tekstu.

Przykłady wnioskowania: Stabilność AI

Modele stabilne AI wdrożone w standardowych wdrożeniach implementują interfejs API wnioskowania na platformie Azure AI na ścieżce /image/generations. Aby zobaczyć, jak używać modeli Stability AI, zobacz poniższe przykłady.

• Użyj OpenAI SDK z modelami Stability AI do przekształcania tekstu w obrazy
• Używanie biblioteki Requests z modelami Stability AI do konwersji tekstu na obrazy
• Użyj biblioteki Requests z modelem Stable Diffusion 3.5 Large do przetwarzania żądań obrazów na obrazy
• Przykład w pełni zakodowanej odpowiedzi generowania obrazu

Treści powiązane

• Wdrażanie modeli jako wdrożenia standardowego
• Wykaz modeli i kolekcje
• Dostępność regionów dla modeli we standardowym wdrożeniu
• Bezpieczeństwo zawartości dla modeli sprzedawanych bezpośrednio przez platformę Azure