Gestione del budget per Unity AI Gateway

I budget consentono di monitorare e controllare la spesa mensile di Unity AI Gateway usando i filtri applicati ai record di fatturazione. È possibile definire un budget specifico per il prodotto Unity AI Gateway per monitorare solo la spesa relativa a Unity AI Gateway oppure includere Unity AI Gateway in un budget a livello di account.

Per informazioni dettagliate sulla creazione e il monitoraggio dei budget, vedere Creare e monitorare i budget.

Requirements

• Unity AI Gateway abilitato per il tuo account.

Funzionamento dei budget con Unity AI Gateway

Quando si definisce un budget, selezionare Unity AI Gateway come tipo di risorsa per tenere traccia solo delle spese relative a Unity AI Gateway (pay-per-token e inferenza di ai_query).

Tipi di soglia: per i budget con ambito Unity AI Gateway, è possibile configurare:

• Soglie condivise: limite di spesa collettivo per tutti gli utenti nell'ambito del budget.
• Soglie per utente: limite mensile applicabile a ogni singolo utente.
• (Solo per i budget Genie) Eccezioni per utente: Concedi a utenti o gruppi specifici un limite di spesa superiore alla soglia predefinita per utente. Gli utenti coperti da un override possono spendere fino all'importo dell'override anziché al limite predefinito per utente. Se un utente appartiene a più gruppi di override, viene applicata la soglia più alta.

Per le soglie condivise e per utente, è possibile configurare una o entrambe le azioni seguenti quando viene raggiunta una soglia:

• Invia avviso: invia una notifica tramite posta elettronica agli indirizzi configurati. Gli utenti mantengono l'accesso a Unity AI Gateway.
• (Solo per budget Genie) Blocca l’uso: impedisce all’utente di effettuare ulteriori richieste tramite Unity AI Gateway. L'utente visualizza un messaggio che indica che il budget è esaurito. L'accesso riprende dopo la reimpostazione del budget o un amministratore aumenta la soglia.

Limitations

• I budget del gateway di intelligenza artificiale unity tengono attualmente traccia dell'inferenza con pagamento per token e ai_query (batch). Il throughput con provisioning e l'inferenza di modelli esterni non sono attualmente monitorati.

• Ogni budget supporta un massimo di quattro soglie condivise e 20 eccezioni per utente.

• L'account può avere un massimo di 1.000 budget.

• Le eccezioni per utente e il blocco dell’uso sono disponibili solo per i budget Genie.

  • Quando il blocco dell'utilizzo è configurato per una soglia, potrebbe comunque verificarsi una piccola spesa oltre la soglia. Le richieste attive in corso quando viene raggiunta la soglia non vengono interrotte e potrebbe verificarsi un breve ritardo prima dell'applicazione del blocco.

• Gli importi di spesa nelle e-mail di avviso del budget, nella pagina dei dettagli del budget e system.billing.usage possono differire se confrontati nello stesso momento. Questo è previsto, perché ogni origine viene aggiornata a una frequenza diversa:

  • Email di avviso del budget: mostrano la spesa al momento in cui è stato generato l'avviso.
  • Pagina dei dettagli del budget: aggiornamenti frequenti, ma possono mostrare un importo inferiore rispetto a un messaggio di posta elettronica di avviso recente quando viene visualizzato poco dopo.
  • system.billing.usage: aggiornamenti ogni poche ore. L'esecuzione di query sulle tabelle di sistema poco dopo la ricezione di un avviso può restituire una spesa inferiore rispetto alla pagina dei dettagli del budget o ai messaggi di posta elettronica di avviso.

  L'applicazione del budget, incluso il blocco dell'utilizzo e le soglie di avviso, si basa sul monitoraggio della spesa quasi in tempo reale e non è influenzata dai tempi di aggiornamento delle tabelle di sistema.

Risorse aggiuntive

• Monitorare i costi del gateway di intelligenza artificiale unity
• Creare e gestire i servizi modello
• Creare e monitorare i budget
• Gestire budget e controlli dei costi per Genie