Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
L'IA responsabile è guidata da un set di principi che definiscono il funzionamento dei sistemi di intelligenza artificiale. Questi principi si concentrano sull'equità, l'affidabilità, la sicurezza, la privacy, la sicurezza, l'inclusione, la trasparenza e la responsabilità. Stabiliscono gli standard che regolano come Microsoft valutano i rischi, progettano le funzionalità di intelligenza artificiale e garantiscono il comportamento responsabile del sistema.
L'applicazione di questi principi alla progettazione dell'agente consente di evitare danni imprevisti, ad esempio distorsioni, disinformazioni o violazioni della privacy. Supporta anche l'adozione a lungo termine e la fiducia degli utenti. Seguendo queste linee guida, è possibile creare agenti di intelligenza artificiale che eseguono in modo efficace rispettando gli standard di integrità e rispettare che gli utenti e la società si aspettano da prodotti Microsoft.
Questo articolo fornisce un'introduzione generale all'intelligenza artificiale responsabile quando si applica alla progettazione degli agenti. Per indicazioni complete, vedere Microsoft principi di IA responsabile e approccio.
Principi di IA responsabile
I principi di IA responsabili guidano la progettazione, la creazione e il funzionamento degli agenti in Microsoft 365 Copilot. Stabiliscono uno standard condiviso per il comportamento dell'agente, la gestione dei dati e l'interazione dell'utente per garantire che i sistemi di intelligenza artificiale siano affidabili, sicuri e allineati ai valori umani.
Questi principi si applicano nell'intero ciclo di vita dell'agente, dalla progettazione e dallo sviluppo alla distribuzione e all'uso continuativo. Informano le decisioni relative alla progettazione dell'interazione, alla selezione di modelli e conoscenze, all'autonomia, alla sicurezza e alla governance. Seguendo questi principi, si garantisce che gli agenti forniscano valore in modo responsabile mantenendo la fiducia degli utenti e l'adozione a lungo termine.
| Principio | Cosa significa per la progettazione degli agenti |
|---|---|
| Equità | I sistemi di IA devono fornire risultati coerenti ed equi per tutti gli utenti. I comportamenti dell'agente devono evitare di creare o rafforzare il trattamento sleale in base a attributi sensibili o contesto utente. |
| Affidabilità e sicurezza | I sistemi di intelligenza artificiale devono essere eseguiti come previsto in un'ampia gamma di condizioni. Gli agenti devono gestire la variabilità, i casi perimetrali e gli input imprevisti in modi che supportano un comportamento sicuro e prevedibile. |
| Sicurezza e privacy | I sistemi di intelligenza artificiale devono proteggere i dati degli utenti e rispettare i requisiti di privacy e sicurezza stabiliti. Gli agenti devono usare solo le informazioni a cui sono autorizzati ad accedere e devono gestire tali informazioni in modo responsabile. |
| Inclusione | I sistemi di intelligenza artificiale devono supportare tutti gli utenti e soddisfare esigenze diverse. Gli agenti devono prendere in considerazione l'accessibilità, la variazione del linguaggio e i diversi livelli di competenza tecnica per garantire un'esperienza inclusiva. |
| Trasparenza | I sistemi di intelligenza artificiale devono rendere chiare le funzionalità e le limitazioni. Gli agenti devono comunicare cosa possono fare, come vengono usate le informazioni e come vengono generati gli output in modo che gli utenti possano prendere decisioni informate. |
| Responsabilità | I sistemi di IA richiedono una supervisione chiara. I team che sviluppano agenti sono responsabili della conformità del sistema ai principi di IA responsabili, soddisfano i requisiti di conformità e operano in base alla governance umana appropriata. |
Applicazione dell'intelligenza artificiale responsabile nello sviluppo di agenti
Microsoft usa un modello strutturato per integrare i principi di IA responsabili durante lo sviluppo di agenti di intelligenza artificiale. Questo modello consente ai team di identificare i rischi, trovare le mitigazioni corrette e mantenere il comportamento responsabile per tutto il ciclo di vita dell'agente.
In qualità di progettista, le decisioni influiscono direttamente sul modo in cui queste funzioni vengono soddisfatte. Le funzioni chiave seguenti descrivono come viene messa in pratica l'IA responsabile:
| Function | Description |
|---|---|
| Govern | Definisce i criteri, i ruoli e i processi che i team seguono durante la progettazione e la distribuzione degli agenti. La governance garantisce l'allineamento con i principi di IA responsabili e offre una chiara responsabilità. |
| Mappa | Identifica e assegna priorità ai potenziali rischi associati a uno scenario di intelligenza artificiale. Il mapping consente di prendere decisioni informate sulle strategie di mitigazione e di determinare se una soluzione di intelligenza artificiale è appropriata per il contesto previsto. |
| Misura | Valuta i rischi e le prestazioni del sistema per guidare la progettazione e il perfezionamento delle mitigazioni. La misurazione è essenziale perché le funzionalità di intelligenza artificiale aumentano nella complessità e richiedono una valutazione continua. |
| Gestisci | Applica e gestisce le mitigazioni dei rischi durante la distribuzione e il funzionamento continuo. Teams monitora il comportamento del sistema e modifica le mitigazioni in base alle esigenze per garantire che gli agenti rimangano responsabili nel tempo. |
Filtri per la trasparenza e la sicurezza dell'intelligenza artificiale
La trasparenza è un elemento fondamentale dell'IA responsabile. Quando si progettano agenti, comunicare chiaramente la presenza e il ruolo dell'IA all'interno dell'esperienza del prodotto. Informare gli utenti sullo scopo, le funzionalità, le limitazioni e i potenziali rischi dell'agente. Questa trasparenza consente agli utenti di prendere decisioni informate e promuovere la fiducia nel sistema.
Le implementazioni pratiche della trasparenza includono le note sulla trasparenza e le divulgazioni in-product che spiegano come funziona l'IA e quali utenti possono aspettarsi. Ad esempio, nell'esperienza di Business Chat, l'agente usa indicatori chiari, ad esempio etichette come "il contenuto generato dall'intelligenza artificiale potrebbe non essere corretto", per consentire di impostare le aspettative appropriate e supportare l'uso responsabile.
Filtri di sicurezza
I filtri di sicurezza consentono di garantire che gli agenti si comportino in modi appropriati, rispettosi e allineati ai principi di IA responsabili di Microsoft. Queste misure di sicurezza riducono il rischio di output dannosi, distorti o fuorvianti, proteggendo al tempo stesso la privacy degli utenti e le informazioni riservate durante l'interazione.
Gli agenti basati su Copilot ereditano gli impegni di IA responsabili di Microsoft, che si concentrano sull'equità, l'affidabilità, la privacy e la trasparenza. I filtri di sicurezza svolgono un ruolo fondamentale nell'applicazione di questi impegni guidando il modo in cui gli agenti rispondono all'input dell'utente, gestiscono gli argomenti sensibili e gestiscono l'accesso ai dati.
Importante
In qualità di progettista, non si configurano direttamente i filtri di sicurezza. Microsoft li applica a livello di piattaforma. Tuttavia, le decisioni di progettazione relative al tono, all'ambito e alla trasparenza rafforzano o minano direttamente la fiducia che i filtri di sicurezza sono progettati per proteggere.
Applicando i filtri di sicurezza in modo coerente, gli agenti possono supportare l'attendibilità e la fiducia degli utenti. Gli utenti sono in grado di basarsi meglio sulle risposte degli agenti sapendo che sono in atto misure di sicurezza per promuovere il comportamento responsabile e l'uso etico dell'IA.
Tip
Per indicazioni complete sull'approccio di IA responsabile di Microsoft, inclusi principi dettagliati, framework di governance e report sulla trasparenza, vedere i principi e l'approccio di IA responsabile di Microsoft.