Modellanbieterdienste im Unity-Katalog

Important

Dieses Feature befindet sich in der Betaversion. Kontoadministratoren können den Zugriff auf dieses Feature über die Seite " Vorschauen " der Kontokonsole verwalten. Siehe Manage Azure Databricks Previews.

Ein Modellanbieterdienst ist ein Sicherungsobjekt in Unity Catalog, das einen externen Modellanbieter – etwa OpenAI, Anthropic oder Amazon Bedrock – einschließlich seiner Verbindungsdetails und Anmeldeinformationen darstellt. Ein Modellanbieterdienst ermöglicht es Ihnen, einen Anbieter einmal zu registrieren, den Zugriff auf ihn mit Unity-Katalogrechten zu steuern und ihn über Unity AI Gateway abzufragen, ohne die zugrunde liegenden Anmeldeinformationen verfügbar zu machen.

Was ist ein Modellanbieterdienst?

Ein Modellanbieterdienst befindet sich in einem Katalog und Schema in Unity Catalog und verwendet einen dreiteiligen Namen, z. B. main.default.openai_prod. Sie enthält Folgendes:

  • Der Anbietertyp (z. B. OpenAI oder Amazon Bedrock).
  • Die Verbindungskonfiguration für diesen Anbieter, z. B. eine Endpunktbasis-URL oder eine Cloudregion.
  • Die Anmeldedaten des Anbieters, die von Azure Databricks verschlüsselt und gespeichert werden. Azure Databricks gibt beim Lesen keine Anmeldeinformationen zurück.

Da ein Dienst eines Modellanbieters ein in Unity Catalog schützbares Objekt ist, verwalten Sie ihn genauso wie andere gesteuerte Objekte:

  • Gewähren und widerrufen Sie den Zugriff mit Unity-Katalogberechtigungen.
  • Entdecken Sie sie im Katalog-Explorer zusammen mit Ihren anderen Daten- und KI-Ressourcen.
  • Konfigurieren Sie Unity AI Gateway-Features wie Ratelimits und Rückschlusstabellen darauf.

Aufrufer fragen einen Modellanbieterdienst direkt über Unity AI Gateway unter Angabe seines Namens an, ohne dass ihnen die gespeicherten Anmeldeinformationen angezeigt werden. Ein Modellanbieterdienst kann auch den externen Anbieter bereitstellen, an den ein Modelldienst weitergeleitet wird, sodass Administratoren einen einzelnen, geregelten Drosselpunkt für Anbieteranmeldeinformationen erhalten.

Unterstützte Anbieter

Ein Modellanbieterdienst unterstützt die folgenden externen Anbieter und Authentifizierungsmethoden.

Provider Authentication
OpenAI API-Schlüssel
Azure OpenAI API-Schlüssel oder Microsoft Entra ID Dienstprinzipal (Mandanten-ID, Client-ID und geheimer Clientschlüssel)
Anthropic API-Schlüssel
Amazon Bedrock AWS-Zugriffstastenpaar (Zugriffstasten-ID und geheimer Zugriffsschlüssel)
Microsoft Foundry API-Schlüssel oder Microsoft Entra ID Dienstprinzipal (Mandanten-ID, Client-ID und geheimer Clientschlüssel)
Google Gemini Enterprise API-Schlüssel mit GCP-Projekt-ID und Region
Custom Bearer-Token, mit einer Basis-URL eines Endpunkts

Warum steuern Sie externe Anbieter im Unity-Katalog?

Ohne eine zentrale Registrierung bettet jedes Team, das ein externes Modell verwendet, seine eigenen Anbieteranmeldeinformationen in Anwendungscode oder Notizbücher ein. Modellanbieterdienste verschieben diese Konfiguration in den Unity-Katalog, damit Sie:

  • Definieren Sie einen Anbieter einmal. Registrieren Sie Anmeldeinformationen und Verbindungsdetails an einer zentralen Stelle, damit viele Benutzer und Modelldienste sie gemeinsam nutzen können, ohne das Geheimnis jemals selbst handhaben zu müssen.
  • Steuern des Zugriffs mit Unity-Katalogberechtigungen. Verwenden Sie dieselben GRANT und REVOKE Anweisungen, die Sie für andere sicherbare Objekte verwenden, um zu steuern, wer die einzelnen Anbieter abfragen darf.
  • Arbeitsbereiche übergreifend abfragen. Der Dienst eines Modellanbieters ist in jedem Arbeitsbereich verfügbar, der denselben Metastore nutzt.
  • Verfolgen Sie die Nutzung und die Kosten. Unity AI Gateway erfasst die Nutzung von Abfragen, die über einen Dienst eines Modellanbieters geleitet werden. Siehe Modellnutzung für Unity AI Gateway-Dienste.

Berechtigungen

Die folgenden Unity-Katalogberechtigungen gelten für Modellanbieterdienste. Ein Prinzipal benötigt auch die USE CATALOG und USE SCHEMA für den übergeordneten Katalog und das übergeordnete Schema.

Recht Gewährt die Möglichkeit,
CREATE SERVICE (im Schema) Erstellen Sie einen Modellanbieterdienst im Schema.
CREATE CONNECTION (im Schema) Speichern Sie Inlineanmeldeinformationen beim Erstellen eines Modellanbieterdiensts. Beim Erstellen eines Diensts mit Inline-Anmeldeinformationen wird eine Unity Catalog-Verbindung bereitgestellt, für die diese Berechtigung erforderlich ist.
EXECUTE Rufen Sie den Dienst des Modellanbieters über Unity AI Gateway ab.
READ_METADATA Zeigen Sie den Modellanbieterdienst und seine Konfiguration an, ohne ihn abfragen zu müssen.
MANAGE Bearbeiten, Löschen und Gewähren des Zugriffs auf den Modellanbieterdienst.

Informationen zum Erteilen und Widerrufen dieser Berechtigungen finden Sie unter Ermitteln und Steuern des Zugriffs auf Modellanbieterdienste.

Betabereich

Während der Betaversion:

  • Kontoadministratoren müssen die Unity AI Gateway-Preview aktivieren, bevor Sie Modellanbieterdienste erstellen oder abfragen können. Siehe Manage Azure Databricks Previews.
  • Modellanbieterdienste unterstützen nur die Anbieter und Authentifizierungsmethoden, die in unterstützten Anbietern aufgeführt sind.

Nächste Schritte

  • Last updated on