Zugreifen auf generative KI- und LLM-Modelle aus dem Unity-Katalog

Azure Databricks umfasst eine Auswahl von hochwertigen generativen AI- und LLM-Foundation-Modellen im Unity-Katalog. In diesem Artikel wird beschrieben, wie Sie diese Modelle verwenden und in Ihre Rückschlussworkflows integrieren können. Mit diesen Modellen können Sie auf modernste KI-Funktionen zugreifen, sodass Sie Zeit und Kosten für die Erstellung eigener benutzerdefinierter Modelle sparen können.

Informationen zur Verwendung eigener benutzerdefinierter Modelle mit Unity Catalog finden Sie unter Verwalten des Modelllebenszyklus in Unity Catalog.

Suchen nach Foundation-Modellen im Unity-Katalog

In Regionen, die für Mosaik AI Model Serving aktiviert sind, hat Azure Databricks eine Auswahl modernster Foundation-Modelle vorinstalliert. Diese Modelle verfügen über Lizenzen mit weitreichenden Berechtigungen und wurden für die Bereitstellung mit Foundation Model-APIs mit bereitgestelltem Durchsatz optimiert. Siehe anwendbare Modellentwicklerlizenzen und -bedingungen.

Databricks empfiehlt die Verwendung der Basisversionen dieser Modelle für Feinabstimmungsaufgaben und die Verwendung der Anweisungen für die Bereitstellung und Modellbereitstellung.

Diese Modelle sind direkt in Catalog Explorer unter dem Katalog system im Schema ai (system.ai) verfügbar.

Sie können diese Modelle mit einem einzigen Klick bedienen und dann das Modell integrieren, das Endpunkte direkt in Ihre Batch-Ableitungsworkflows verarbeitet. Um ein Modell zu bedienen, klicken Sie im Katalog auf den Namen des Modells, um die Modellseite zu öffnen und auf "Dieses Modell bereitstellen" zu klicken. Weitere Informationen zur Modellbereitstellung finden Sie unter Bereitstellen von Modellen mithilfe von Mosaik AI Model Serving. Eine Liste der Regionen, in denen die Modellbereitstellung unterstützt wird, finden Sie unter Verfügbarkeit nach Region.

Modelle in system.ai sind standardmäßig für alle Kontobenutzer verfügbar. Unity Catalog-Metastore-Administratoren können den Zugriff auf diese Modelle einschränken. Weitere Informationen finden Sie unter Unity Catalog-Berechtigungen und sicherungsfähige Objekte.