Nota sulla trasparenza dell'agente operativo

Che cos'è una nota sulla trasparenza?

Un sistema di intelligenza artificiale include non solo la tecnologia, ma anche le persone che lo usano, le persone interessate da esso e l'ambiente in cui viene distribuito. La creazione di un sistema adatto allo scopo previsto richiede una comprensione del funzionamento della tecnologia, delle funzionalità e delle limitazioni e del modo in cui ottenere le migliori prestazioni. Le note sulla trasparenza Microsoft aiutano a comprendere il funzionamento della tecnologia di IA, le scelte che i proprietari del sistema possono fare che influenzano le prestazioni e il comportamento del sistema e l'importanza di pensare all'intero sistema, tra cui la tecnologia, le persone e l'ambiente. Usare le note sulla trasparenza durante lo sviluppo o la distribuzione del proprio sistema o condividerle con le persone che usano o sono interessate dal sistema.

Le note sulla trasparenza Microsoft fanno parte di un impegno più ampio in Microsoft per mettere in pratica i principi di intelligenza artificiale. Per altre informazioni, vedere i principi di intelligenza artificiale Microsoft.

Nozioni di base sull'agente operativo di Real-Time Intelligence

Introduzione

L'agente operativo Real-Time Intelligence è una piattaforma per la creazione di agenti che monitorano i flussi di dati, rilevano anomalie o condizioni e consigliano azioni basate su eventi reali. Questi agenti automatizzano le attività, forniscono informazioni dettagliate e supportano il processo decisionale tempestivo. Configurando obiettivi aziendali, origini delle conoscenze, azioni e istruzioni, l'agente crea un piano per tenere traccia degli obiettivi, monitorare i dati e applicare regole per rilevare le condizioni. L'agente notifica agli utenti le azioni consigliate se si verificano condizioni appropriate.

Termini chiave

  • Fonte di conoscenza: una connessione al database che l'agente può utilizzare per trovare e monitorare i dati.

  • Strumento: funzionalità predefinita che consente all'agente di eseguire attività, ad esempio la generazione di query strutturate dal linguaggio naturale, l'esecuzione del rilevamento anomalie e l'invio di messaggi di posta elettronica o Microsoft Teams.

  • Thread: sessione di conversazione tra un agente e un utente. I thread archivia i messaggi e gestiscono automaticamente il troncamento per adattare il contenuto nel contesto di un modello.

  • Playbook: rappresentazione interna dell'agente di entità, dati, regole e possibili azioni che costituiscono il manuale operativo.

  • Entità: oggetto dell'azienda monitorato dall'agente. Ad esempio, in un'azienda di noleggio di biciclette, biciclette e stazioni di ancoraggio potrebbero essere entità rilevanti. Nella gestione dell'aeroporto, le linee di check-in, i checkpoint di sicurezza e i passeggeri sono entità rilevanti.

  • Istanze: occorrenze specifiche di un'entità, ad esempio Bike 0451 o Flight MS1234.

  • Regole: condizioni o modelli nei dati monitorati dall'agente prima di effettuare raccomandazioni.

  • Regole autonome: Regole che hanno azioni associate che l'agente può eseguire senza una conferma umana preventiva.

Capacità

Comportamento del sistema

Quando si crea un agente operativo, si configurano le impostazioni seguenti: obiettivi aziendali, origini delle conoscenze, azioni possibili e istruzioni. Con questi input, l'agente usa modelli di linguaggio di grandi dimensioni per creare un playbook di entità, dati mappati e regole da monitorare. È possibile perfezionare il modello modificando gli obiettivi e le istruzioni. Quando si attiva l'agente, l'agente monitora i dati in background. Quando le condizioni corrispondono alle regole, analizza i dati, identifica la causa e consiglia azioni per raggiungere gli obiettivi aziendali.

L'agente ti notifica tramite Teams con avvisi in linguaggio naturale, tenendoti aggiornato sulle raccomandazioni iniziali. È possibile approvare, rifiutare o rendere autonoma la regola, consentendo all'agente di agire senza ulteriore conferma.

Poiché l'agente usa LLM per creare il playbook dell'agente e per consigliare azioni, dovresti:

  • Esaminare attentamente il modello di comportamento prima di avviare l'agente.

  • Monitorare attentamente le raccomandazioni dell'agente e confermare il motivo usato per effettuare raccomandazioni prima di agire.

  • Esaminare attentamente le regole autonome create con l'agente. Queste regole determinano automaticamente l'azione.

Casi d'uso

Usi previsti

È possibile usare gli agenti operativi in vari scenari. Gli usi previsti dal sistema includono:

  • Gestione del noleggio di biciclette: è possibile configurare l'agente operativo per monitorare continuamente la disponibilità delle biciclette in varie stazioni usando i dati in tempo reale. Impostare un obiettivo per garantire la disponibilità delle biciclette, in modo da trovare le query corrette per tenere traccia di tale valore per ogni stazione di ancoraggio.

  • Ottimizzazione della turbina eolica: l'agente monitora i dati provenienti da centrali eoliche, metriche di rilevamento come l'output dell'alimentazione e direzione e angolo delle pale. Cerca anomalie o cali nell'erogazione di potenza e suggerisce di apportare modifiche ai parametri operativi.

  • Bilanciamento magazzino: l'agente monitora i livelli delle scorte in più magazzini in tempo reale. Impostare un obiettivo per mantenere una distribuzione ottimale dell'inventario ed evitare esaurimento scorte o eccedenza di scorte.

  • Monitoraggio delle spese: concedere all'agente l'accesso ai dati relativi alle richieste e ai report delle spese. Chiedere di contrassegnare le spese che non sono conformi alle regole comuni e individuare anomalie in modelli a lungo termine per ogni dipendente o centro di costo.

  • Automazione delle risposte agli eventi imprevisti: l'agente monitora i log dell'infrastruttura IT e i dati di telemetria per i segni di riduzione o anomalie della sicurezza del servizio. L'obiettivo è ridurre il tempo medio per rilevare (MTTD) e il tempo medio di risoluzione (MTTR).

Considerazioni sulla scelta di altri casi d'uso

È consigliabile applicare agenti operativi nelle soluzioni o nelle applicazioni innovative. Tuttavia, prendere in considerazione i fattori seguenti per assicurarsi che l'agente sia adatto per il caso d'uso specifico:

  • Evitare scenari in cui l'uso o l'uso improprio del sistema potrebbe causare gravi lesioni fisiche o psicologiche a un individuo. Ad esempio, gli scenari che diagnosticano i pazienti o prescrivono farmaci hanno il potenziale di causare danni significativi.

  • Evitare scenari in cui l'uso o l'uso improprio del sistema potrebbe avere un impatto consequenziale sulle opportunità di vita o sullo stato legale. Gli esempi includono scenari in cui il sistema di IA o l'agente possono influire sullo stato legale, sui diritti legali o sul loro accesso al credito, all'istruzione, all'occupazione, all'assistenza sanitaria, all'alloggio, all'assicurazione, all'assistenza sociale, ai servizi, alle opportunità o alle condizioni in base alle quali sono forniti.

  • Evitare scenari ad alto rischio che potrebbero causare danni. Il modello usato in un agente potrebbe riflettere alcune visioni sociali, pregiudizi e altri contenuti indesiderati presenti nei dati di addestramento o negli esempi forniti nel prompt. Di conseguenza, è consigliabile evitare l'uso di agenti in scenari ad alto rischio in cui comportamenti ingiusti, inaffidabili o offensivi potrebbero essere costosi o causare danni.

  • Considerare attentamente i casi d'uso in un dominio o in un settore in cui le azioni degli agenti sono irreversibili o altamente consequenziali. Tali settori includono, ma non sono limitati a sanità, medicina, finanza o domini legali.

  • Considerazioni legali e normative. Le organizzazioni devono valutare potenziali obblighi legali e normativi specifici quando si usano servizi e soluzioni di intelligenza artificiale, che potrebbero non essere appropriati per l'uso in ogni settore o scenario. Le restrizioni possono variare in base ai requisiti normativi regionali o locali. Inoltre, i servizi o le soluzioni di intelligenza artificiale non sono progettati per e potrebbero non essere usati in modi vietati in termini di servizio e codici di comportamento pertinenti.

Limitazioni

Limitazioni tecniche, fattori operativi e intervalli

  • Nonostante il training intensivo di OpenAI e l'implementazione dei controlli di IA responsabili da parte di Microsoft, i servizi di intelligenza artificiale sono fallibili e probabilistici. Questa limitazione rende difficile bloccare in modo completo tutto il contenuto inappropriato, causando potenziali distorsioni, stereotipi o mancanza di fondamento nel contenuto generato dall'intelligenza artificiale. Per altre informazioni sulle limitazioni note del contenuto generato dall'intelligenza artificiale, vedere Nota sulla trasparenza per Azure OpenAI, che include riferimenti agli strumenti LLMs dietro gli agenti operativi.

  • È possibile fornire agli agenti operativi un'ampia gamma di istruzioni e obiettivi. La natura probabilistica dei modelli di comportamento LLM significa che potrebbe non essere possibile allineare gli agenti ai requisiti. Anche la descrizione del modello di comportamento dell'agente viene generata usando l'intelligenza artificiale, quindi potrebbe non essere completamente accurata.

  • Per usare gli agenti operativi in modo efficace, è necessario eseguire il training per interagire in modo efficace e trarre vantaggio dal servizio.

  • I modelli avanzati di intelligenza artificiale richiedono risorse di calcolo significative, che possono influire sulle prestazioni, soprattutto negli ambienti con vincoli di risorse. È possibile che si verifichino problemi di latenza o prestazioni durante i picchi di utilizzo.

  • Poiché gli agenti combinano gli LLMs con sistemi esterni, potrebbe risultare difficile comprendere il motivo per cui vengono scelti determinati strumenti o combinazioni di strumenti per rispondere a un'interrogazione. Questa sfida complica l'attendibilità e la verifica degli output o delle azioni dell'agente.

  • Le organizzazioni devono prendere in considerazione gli obblighi legali e di conformità specifici quando si usano agenti operativi, in particolare nei settori regolamentati. Microsoft sta esaminando i requisiti normativi che si applicano a Microsoft come provider della tecnologia e li sta affrontando all'interno del prodotto attraverso un processo di miglioramento continuo.

  • Tramite l'esperienza utente dell'agente, è possibile interrompere o arrestare rapidamente l'agente in qualsiasi momento. Questa azione arresta il monitoraggio di tutti i nuovi dati e di eventuali nuove azioni che l'agente potrebbe consigliare o eseguire. Le azioni richiamate dall'agente in altri sistemi ( ad esempio, l'avvio di un flusso di lavoro di Power Automate) potrebbero non arrestarsi immediatamente. L'agente avvia queste azioni come processi indipendenti che è necessario gestire in tali altre esperienze di prodotto.

  • I messaggi tra l'agente e l'utente vengono recapitati tramite Teams. Quando si inviano messaggi all'agente, il servizio Azure Bot elabora i messaggi. L'uso di Azure AI servizio Bot prevede una limitazione tecnica che prevede che ogni bot possa avere un solo endpoint globale. Per i bot di Teams, le richieste vengono inviate all'endpoint globale e quindi reindirizzate a un endpoint regionale vicino all'utente. Gli agenti operativi usano un endpoint situato nell'UE, il che significa che i dati utente possono essere spostati all'esterno dell'area geografica per l'elaborazione.

Prestazioni del sistema

Nei sistemi di intelligenza artificiale le prestazioni sono spesso collegate all'accuratezza (con quale frequenza il sistema fornisce output corretti). Per gli agenti operativi, le prestazioni sono più flessibili, perché gli utenti potrebbero interpretare gli output in modo diverso. Gli errori si verificano in genere quando l'agente non capisce correttamente gli obiettivi, i dati o le entità chiave nel processo aziendale. Quando l'agente effettua raccomandazioni, gli utenti devono esaminare attentamente il contesto fornito prima di approvare le azioni.

Procedure consigliate per migliorare le prestazioni del sistema

Per ottenere risultati ottimali con gli agenti operativi, concentrarsi sulla creazione di prompt dettagliati e ben strutturati. Gli obiettivi e le istruzioni forniti consentono all'agente di identificare i punti dati e le regole corretti per il monitoraggio delle modifiche nel tempo. Migliorare l'accuratezza definendo in modo esplicito i valori dei dati e le condizioni che l'agente deve monitorare. Delineare chiaramente il modo in cui le azioni influenzano i risultati e il modo in cui i valori monitorati devono cambiare.

I dati di alta qualità sono ugualmente importanti. Assicurarsi che le strutture di dati siano ben organizzate, con nomi di colonna significativi anziché valori codificati. Appiattire i dati degli eventi annidati laddove possibile. Questa struttura semplifica l'individuazione e il monitoraggio efficace delle informazioni pertinenti da parte dell'agente.

Valutazione degli agenti operativi

Metodi di valutazione

La piattaforma dell'agente operativo usa un processo rigoroso e multistage per valutare l'accuratezza, la sicurezza e il miglioramento continuo. Al suo centro c'è un ciclo a tre fasi: traccia>itera>valuta. Questo ciclo inizia implementando la telemetria per monitorare i processi decisionali dell'agente, tra cui pianificazione, formazione di ontologia, radicazione dei dati, generazione di regole ed esecuzione. Gli insiemi di dati di valutazione provengono da casi d'uso reali e dati sintetici che introducono variabilità. Misuri metriche come accuratezza, convergenza, tassi di fallimento e sicurezza durante il ciclo di vita dell'agente, dallo sviluppo alla produzione.

L'ambiente di valutazione rispecchia le condizioni di produzione e sottolinea la separazione tra pipeline di sviluppo e valutazione per evitare distorsioni. Si curano manualmente i set di dati iniziali e si definiscono in anticipo le onlogi e gli output previsti. Successivamente, questi set di dati vengono ridimensionati usando la generazione sintetica. I set di dati si concentrano sugli obiettivi operativi rilevanti per il monitoraggio aziendale e il processo decisionale. Sebbene rappresentino scenari reali, non includono ancora popolamenti utente più ampi o configurazioni degli obiettivi dinamici. Questo approccio mantiene le valutazioni incentrate, riproducibili e allineate ai principi di IA responsabili.

Risultati della valutazione

I nostri processi di valutazione utilizzano una metodologia strutturata di traccia>iterazione>valutazione. Le valutazioni vengono incorporate in ogni fase dei cicli decisionali dell'agente. Queste valutazioni hanno confermato che l'agente produce in modo coerente ontlogi accurati, genera query valide e pertinenti e seleziona le azioni appropriate allineate agli obiettivi dell'utente. Questi risultati supportano l'allineamento del sistema con gli obiettivi di responsabilità, in particolare per garantire che funzioni come previsto nei contesti operativi reali.

I set di dati di training e test usati nella valutazione sono stati accuratamente curati per riflettere un'ampia gamma di scenari operativi. I set di dati iniziali sono stati costruiti manualmente da casi d'uso reali, con output chiaramente definiti, incluse le ontologie e i risultati delle query. Successivamente, questi set di dati sono stati espansi usando la generazione sintetica per aumentare la variabilità e la copertura. I set di dati sono stati progettati per rappresentare i tipi di obiettivi e ambienti dati che l'agente deve incontrare, incluse le variazioni della complessità dello schema, la disponibilità dei dati e la finalità dell'utente. Questo approccio ha garantito che la valutazione ha acquisito una gamma rappresentativa di fattori operativi e impostazioni, supportando lo sviluppo e la distribuzione responsabili del sistema.

I risultati della valutazione hanno influenzato diversi vincoli di progettazione chiave nel sistema. Ad esempio, sono stati introdotti limiti sulle dimensioni massime delle query e sulla complessità minima dell'ontologia per garantire prestazioni coerenti e ridurre i tassi di errore. Anche se i risultati sono ampiamente applicabili a molti scenari di monitoraggio operativo e supporto decisionale, la valutazione iniziale non include alcune aree, ad esempio la riconfigurazione degli obiettivi dinamici e la collaborazione multi-agente. Queste aree rappresentano opportunità per i test e lo sviluppo futuri.

Valutazione e integrazione di agenti operativi per il tuo utilizzo

Il comportamento di un agente è modellato dalle istruzioni, dagli obiettivi, dai dati e dalle azioni fornite. Richieste precise e dati ben organizzati con nomi di colonna intuitivi migliorano l'accuratezza e riducono gli errori.

Dopo aver configurato l'agente, convalidare i modelli comportamentali e le regole dell'agente esaminando le query KQL per garantire l'allineamento con i processi aziendali. Anche se le condizioni basate su regole attivano l'agente, le raccomandazioni generate da LLM potrebbero contenere imprecisioni, quindi esaminare sempre gli output prima di agire.

Gli agenti altamente reattivi possono causare notifiche eccessive o uso eccessivo di azioni automatizzate, causando potenzialmente instabilità del sistema. Per attenuare i rischi, regolare le regole, eseguire controlli regolari, simulare casi perimetrali e interfacce di progettazione che promuovono la trasparenza. Ad esempio, visualizzare i punteggi di attendibilità e spiegazioni chiare per le raccomandazioni.

Contenuti correlati

  • Last updated on