Empfohlene Modelle des Foundry-Modellkatalogs

Der Foundry-Modellkatalog bietet eine große Auswahl an Modellen aus einer vielzahl von Anbietern. Sie haben verschiedene Optionen zum Bereitstellen von Modellen aus dem Modellkatalog. In diesem Artikel werden empfohlene Modelle im Modellkatalog aufgeführt, die über Standardbereitstellungen auf Microsoft-Servern bereitgestellt und gehostet werden können. Einige dieser Modelle können Sie auch auf Ihrer Infrastruktur hosten, um sie über verwaltetes Compute bereitzustellen. Unter "Verfügbare Modelle für unterstützte Bereitstellungsoptionen " finden Sie Modelle im Katalog, die für die Bereitstellung über verwaltete Compute- oder Standardbereitstellungen verfügbar sind.

Um Rückschlüsse mit den Modellen durchzuführen, erfordern einige Modelle wie TimeGEN-1 von Nixtla und Cohere rerank die Verwendung benutzerdefinierter APIs der Modellanbieter. Andere unterstützen das Ableiten von Ableitungen mithilfe des Azure AI-Modells. Weitere Details zu einzelnen Modellen finden Sie, indem Sie ihre Modellkarten im Modellkatalog überprüfen.

AI21 Labs

Jamba-Familienmodelle sind auf Mamba basierende, produktionstaugliche Large Language Models (LLM) von AI21, die die hybride Mamba-Transformer-Architektur von AI21 nutzen. Es ist eine anweisungsoptimierte Version des hybriden strukturierten Zustandsraummodells (State Space Model, SSM) des Jamba-Transformer-Modells von AI21. Im Hinblick auf Qualität und Leistung sind die Jamba-Familienmodelle auf die zuverlässige kommerzielle Nutzung ausgerichtet.

Sehen Sie sich diese Modellauflistung im Modellkatalog an.

Azure OpenAI

Azure OpenAI in Microsoft Foundry Models bietet eine Vielzahl von Modellen mit unterschiedlichen Funktionen und Preispunkten. Zu diesen Modellen gehören folgende:

• Modernste Modelle, die für die Behandlung von Schlussfolgerungs- und Problemlösungsaufgaben mit erhöhtem Fokus und mehr Funktionalität konzipiert sind
• Modelle, die natürliche Sprache und Code verstehen und generieren können
• Modelle, die Sprache transkribieren und in Text übersetzen können

Sehen Sie sich diese Modellauflistung im Modellkatalog an.

Cohere

Die Cohere-Modellfamilie umfasst verschiedene Modelle, die für unterschiedliche Anwendungsfälle optimiert sind, darunter Reranking, Chat-Fertigstellungen und Einbettungsmodelle.

Cohere-Befehl und Einbetten

In der folgenden Tabelle sind die Cohere-Modelle aufgeführt, die Sie über das Azure AI-Modell inference ableiten können.

Rückschlussbeispiele: Cohere-Befehl und Einbetten

Weitere Beispiele für die Verwendung von Cohere-Modellen finden Sie in den folgenden Beispielen:

Retrieval Augmented Generation (RAG) und Toolbeispielen: Befehle und Einbetten

Cohere Rerank

In der folgenden Tabelle sind die Cohere-Neurankungsmodelle aufgeführt. Um Schlussfolgerungen mit diesen Rerank-Modellen zu ziehen, müssen Sie die benutzerdefinierten Rerank-APIs von Cohere verwenden, die in der Tabelle aufgeführt sind.

Preise für Cohere Rerank-Modelle

Abfragen, die nicht mit der Abfrage eines Benutzers verwechselt werden sollen, ist ein Preismesser, der sich auf die Kosten bezieht, die mit den Token verbunden sind, die als Eingabe für die Ableitung eines Cohere Rerank-Modells verwendet werden. Cohere zählt eine einzelne Sucheinheit als Abfrage mit bis zu 100 Dokumenten, die bewertet werden sollen. Dokumente, die zusammen mit der Länge der Suchanfrage länger als 500 Token (für Cohere-rerank-v3.5) oder länger als 4096 Token (für Cohere-rerank-v3-English und Cohere-rerank-v3-multilingual) sind, werden in mehrere Abschnitte aufgeteilt, wobei jeder Abschnitt als ein einzelnes Dokument zählt.

Siehe die Cohere-Modellauflistung im Modellkatalog.

Core42

Core42 umfasst autoregressive bilinguale LLMs für Arabisch und Englisch mit modernsten Funktionen in Arabisch.

Sehen Sie sich diese Modellauflistung im Modellkatalog an.

Ableitungsbeispiele: Core42

Weitere Beispiele für die Verwendung von Jais-Modellen finden Sie in den folgenden Beispielen:

DeepSeek

Die DeepSeek-Modellfamilie umfasst DeepSeek-R1, das sich bei Aufgaben wie Sprachverständnis, wissenschaftlichem Denken und Codierungsaufgaben durch einen schrittweisen Schulungsprozess auszeichnet, DeepSeek-V3-0324, einem Mix-of-Experts (MoE)-Sprachmodell, und vieles mehr.

Ein Lernprogramm zu DeepSeek-R1 finden Sie im Lernprogramm: Erste Schritte mit DeepSeek-R1 Schlussfolgerungsmodell in Azure AI-Modellinferenz.

Sehen Sie sich diese Modellauflistung im Modellkatalog an.

Beispiele für Inference: DeepSeek

Weitere Beispiele für die Verwendung von DeepSeek-Modellen finden Sie in den folgenden Beispielen:

Meta

Meta Llama-Modelle und -Tools sind eine Sammlung vortrainierter und optimierter Text- und Bildbegründungsmodelle mit generativer KI. Die Palette der Meta-Modelle umfasst Folgendes:

• Kleine Sprachmodelle (Small Language Models, SLMs) wie 1B- und 3B-Basismodelle und -Instruct-Modelle für Rückschlüsse auf dem Gerät und am Edge
• Mittlere große Sprachmodelle (LLMs) wie 7B-, 8B- und 70B-Basis- und Instruct-Modelle
• Hochleistungsfähige Modelle wie Meta Llama 3.1 405B Instruct für synthetische Datengenerierung und Destillation
• Leistungsstarke, systemeigene multimodale Modelle, Llama 4 Scout und Llama 4 Maverick, nutzen eine Mischung aus Expertenarchitektur, um branchenführende Leistung im Text- und Bildverständnis zu bieten.

Sehen Sie sich diese Modellauflistung im Modellkatalog an.

Ableitungsbeispiele: Meta Llama

Weitere Beispiele für die Verwendung von Meta-Llama-Modellen finden Sie in den folgenden Beispielen:

Microsoft

Microsoft-Modelle umfassen verschiedene Modellgruppen wie MAI-Modelle, Phi-Modelle, KI-Modelle im Gesundheitswesen und vieles mehr. Um alle verfügbaren Microsoft-Modelle anzuzeigen, zeigen Sie die Microsoft-Modellsammlung im Foundry-Portal an.

Rückschlussbeispiele: Microsoft-Modelle

Weitere Beispiele für die Verwendung von Microsoft-Modellen finden Sie in den folgenden Beispielen:

Weitere Informationen finden Sie in der Microsoft-Modellsammlung im Modellkatalog.

Mistral KI

Mistral AI bietet zwei Modellkategorien:

• Premiummodelle: Dazu gehören Mistral Large, Mistral Small, Mistral-OCR-2503, Mistral Medium 3 (25.05) und Ministral 3B Modelle und sind als serverlose APIs mit kostenpflichtiger tokenbasierter Abrechnung verfügbar.
• Offene Modelle: Dazu gehören Mistral-small-2503, Codestral und Mistral Nemo (die als serverlose APIs mit pay-as-you-go tokenbasierte Abrechnung verfügbar sind) und Mixtral-8x7B-Instruct-v01, Mixtral-8x7B-v01, Mistral-7B-Instruct-v01 und Mistral-7B-v01(die zum Herunterladen und Ausführen auf selbst gehosteten verwalteten Endpunkten verfügbar sind).

Sehen Sie sich diese Modellauflistung im Modellkatalog an.

Rückschlussbeispiele: Mistral

Weitere Beispiele für die Verwendung von Mistral-Modellen finden Sie in den folgenden Beispielen und Tutorials:

Nixtla

Nixtlas TimeGEN-1 ist ein generatives vortrainiertes Prognose- und Anomalieerkennungsmodell für Zeitreihendaten. TimeGEN-1 kann genaue Prognosen für neue Zeitreihen ohne Training generieren, wobei nur Verlaufswerte und exogene Kovariate als Eingaben verwendet werden.

Zum Durchführen der Ableitung erfordert TimeGEN-1, dass Sie die benutzerdefinierte Ableitungs-API von Nixtla verwenden.

Schätzen der Anzahl der benötigten Tokens

Bevor Sie eine TimeGEN-1-Bereitstellung erstellen, empfiehlt es sich, die Anzahl der Token zu schätzen, die Sie nutzen und abrechnen möchten. Ein Token entspricht einem Datenpunkt in Ihrem Eingabedataset oder Ausgabedataset.

Angenommen, Sie verwenden das folgende Eingabedataset für Zeitreihen:

Um die Anzahl der Tokens zu ermitteln, multiplizieren Sie die Anzahl der Zeilen (in diesem Beispiel „2“) mit der Anzahl der Spalten, die für die Vorhersage verwendet werden (in diesem Beispiel „3“), um insgesamt sechs Tokens zu erhalten. Die Spalten „unique_id“ und „timestamp“ werden hierbei nicht berücksichtigt.

Angesichts des folgenden Ausgabedatasets:

Sie können auch die Anzahl der Tokens ermitteln, indem Sie die Anzahl der nach der Datenvorhersage zurückgegebenen Datenpunkte zählen. In diesem Beispiel entspricht die Anzahl der Tokens „2“.

Schätzen der Preise basierend auf Tokens

Es gibt vier Preismetriken, die den Preis bestimmen, den Sie zahlen. Diese Preismetriken lauten wie folgt:

Siehe die Nixtla-Modellsammlung im Modellkatalog.

NTT-DATEN

Tsuzumi ist ein autoregressiver sprachoptimierter Transformator. Die optimierten Versionen verwenden die überwachte Optimierung (Supervised Fine-Tuning, SFT). tsuzumi verarbeitet sowohl Japanisch als auch Englisch mit hoher Effizienz.

Stabilitäts-KI

Die Stabilitäts-KI-Sammlung von Bildgenerierungsmodellen umfasst Stable Image Core, Stable Image Ultra und Stable Diffusion 3.5 Large. Stabile Diffusion 3.5 Large ermöglicht eine Bild- und Texteingabe.

Rückschlussbeispiele: Stability AI

Stabilitäts-KI-Modelle, die für Standardbereitstellungen bereitgestellt werden, implementieren die Azure AI-Modell-Ableitungs-API auf der Route /image/generations. Beispiele für die Verwendung von Stabilitäts-KI-Modellen finden Sie in den folgenden Beispielen:

• Verwenden des OpenAI SDK mit Stability AI-Modellen für Anforderungen zur Umwandlung von Text in Bilder
• Verwenden der Bibliothek „Anforderungen“ mit Stability AI-Modellen für Text-zu-Bild-Anforderungen
• Verwenden Sie die Bibliothek „Anforderungen“ mit Stable Diffusion 3.5 Large für Bild-zu-Bild-Anforderungen.
• Beispiel für eine vollständig codierte Bildgenerierungsantwort

Verwandte Inhalte

• Bereitstellen von Modellen als Standardbereitstellungen
• Modellkatalog und Sammlungen
• Verfügbarkeit von Regionen für Modelle in der Standardbereitstellung
• Inhaltssicherheit für Modelle, die direkt von Azure verkauft werden