Governance dell'intelligenza artificiale con Unity AI Gateway

Importante

Questa pagina illustra il nuovo gateway di intelligenza artificiale Unity (visibile nella barra laterale dell'interfaccia utente), attualmente in versione beta. Gli amministratori dell'account possono abilitare l'accesso a questa funzionalità nella pagina Anteprime della console dell'account. Consultare Gestisci anteprime Azure Databricks.

Per informazioni dettagliate sulla versione precedente del gateway di intelligenza artificiale (non sul gateway di intelligenza artificiale Unity), vedere Gateway di intelligenza artificiale per la gestione degli endpoint.

Unity AI Gateway è la soluzione di governance Azure Databricks per l'intelligenza artificiale aziendale. Basato su Unity Catalog, estende la governance oltre i dati e gli asset di intelligenza artificiale alle interazioni di runtime tra modelli, agenti, server MCP e strumenti. Controlla quali servizi di IA i team possono utilizzare, instrada e gestisci il traffico IA, imposta regole di controllo e monitora l’utilizzo da un unico piano di controllo.

Get started

Configura e applica la governance dell'IA alle tue risorse di IA, al traffico e al comportamento del servizio.

Argomento Descrzione
Guida alla governance dell'intelligenza artificiale Un percorso end-to-end che consente agli amministratori di gestire l'accesso agli asset di intelligenza artificiale, al traffico e ai costi e al contenuto di richieste e risposte.
Esercitazione: Gestire l'accesso MCP GitHub di un agente di codifica Limita l'accesso di un agente di codifica agli strumenti GitHub MCP usando le autorizzazioni di Unity Catalog e i criteri di servizio integrati.
Esercitazione: Implementare protezioni in un servizio modello con criteri di servizio Implementare protezioni in un servizio modello usando criteri di servizio predefiniti e personalizzati.

Controlla quali servizi di intelligenza artificiale possono usare i team

Registrare gli asset di intelligenza artificiale come oggetti a protezione diretta di Unity Catalog, quindi concedere e revocare l'accesso con gli stessi privilegi usati per tabelle e volumi. Gli agenti sono governati tramite questi stessi oggetti proteggibili: un agente viene registrato come modello di Unity Catalog e gli strumenti che richiama sono governati come servizi, funzioni e connessioni MCP.

Argomento Descrzione
Modelli Gestire i modelli di Machine Learning registrati, inclusi i modelli di base ospitati Azure Databricks, con privilegi del catalogo Unity.
Autorizzazioni del modello di base Limita i modelli di fondazione ospitati in Azure Databricks a cui la tua organizzazione può accedere, a livello di account o per gruppo.
Strumenti MCP Gestisci i server MCP registrati come oggetti protetti di Unity Catalog, con filtri degli strumenti e criteri del servizio.
Strumenti personalizzati Gestire le funzioni del catalogo Unity usate dagli agenti come strumenti, con gli stessi privilegi usati per i dati.
Connessioni HTTP Gestire le connessioni del catalogo Unity usate per raggiungere le API esterne e i server MCP.
Creare servizi modello Definisci e condividi i servizi di modelli come oggetti proteggibili di Unity Catalog tra gli spazi di lavoro.

Indirizzare e gestire il traffico di intelligenza artificiale

Unity AI Gateway instrada le richieste al modello e ai servizi MCP da un piano di controllo centrale, in modo da poter gestire capacità, disponibilità e spesa tra i provider.

Argomento Descrzione
Applicare limiti di frequenza Applicare limiti di consumo ai servizi modello e ai servizi MCP per gestire capacità e costi.
Configurare la suddivisione del traffico e i meccanismi di ripiego Distribuire le richieste tra più back-end del modello e aggiungere failover per aumentare la disponibilità.
Gestire i budget Monitorare la spesa e impostare soglie per utente e limiti rigidi tra provider ospitati Azure Databricks ed esterni.

Annotazioni

Le funzionalità di Unity AI Gateway non comportano addebiti durante il Beta.

Impostare protezioni e criteri di accesso

I criteri di servizio, detti anche guardrail, controllano il modo in cui ogni richiesta e risposta procede, in base al contenuto e all'utente che effettua la chiamata.

Argomento Descrzione
Criteri del servizio per le risorse proteggibili di IA In che modo i criteri di servizio regolano il contenuto delle richieste e delle risposte ai servizi di intelligenza artificiale, usando criteri predefiniti e personalizzati.
Creare e associare un criterio di servizio Come scrivere una funzione dei criteri del servizio e collegarla a un servizio MCP o a un servizio modello.

Monitorare l'utilizzo, i costi e i rischi

Tenere traccia dell'attività, della spesa e dei risultati in tutti i servizi gateway di intelligenza artificiale Unity.

Argomento Descrzione
Monitorare l'utilizzo Tenere traccia delle richieste, dell'utilizzo dei token e della latenza per i servizi del modello usando le tabelle di sistema.
Analizzare i costi Attribuisci i costi di Azure Databricks ai servizi, ai modelli di destinazione, alle identità e ai tag.
Richieste e risposte di verifica Registrare le richieste e le risposte alle tabelle Delta del catalogo Unity per il monitoraggio e il debug.

Modello che gestisce gli endpoint (precedente)

La versione precedente di Gateway di intelligenza artificiale include funzionalità di governance per il modello che gestisce gli endpoint a livello di area di lavoro, inclusi gli endpoint del modello esterno, gli endpoint dell'API del modello foundation e gli endpoint del modello personalizzati.

Argomento Descrzione
Gateway di intelligenza artificiale per la gestione degli endpoint Informazioni sulle funzionalità del gateway di intelligenza artificiale per la gestione degli endpoint, incluse le funzionalità e le limitazioni supportate.
Configurare AI Gateway sugli endpoint di erogazione dei modelli Configurare le funzionalità del gateway di intelligenza artificiale, ad esempio il rilevamento dell'utilizzo, la registrazione del payload, i limiti di frequenza e le protezioni in un endpoint di gestione del modello.
Monitora i modelli serviti utilizzando le tabelle di inferenza abilitate dal Gateway AI Monitorare i modelli erogati usando le tabelle di inferenza abilitate tramite AI Gateway.
  • Last updated on