Affidabilità e sicurezza delle funzionalità di assistive per intelligenza artificiale di Databricks

Databricks comprende l'importanza dei vostri dati e la fiducia che riponete in noi quando utilizzate la nostra piattaforma e le funzionalità assistive per l'intelligenza artificiale di Databricks. Databricks si impegna per i più elevati standard di protezione dei dati e ha implementato misure rigorose per garantire che le informazioni inviate alle funzionalità di assistive per intelligenza artificiale di Databricks siano protette.

• I dati rimangono riservati.
  • Databricks non usa dati, richieste o risposte inviate a o output da queste funzionalità per eseguire il training di modelli di base generativi resi disponibili da Databricks per l'uso da parte di terze parti.
  • I partner del modello non conservano i dati inviati tramite queste funzionalità, anche per il monitoraggio degli abusi. Le funzionalità assistive alimentate dai partner utilizzano endpoint senza conservazione dei dati dai nostri partner del modello.
• Protezione da output dannoso. Quando si usa Azure OpenAI, Databricks usa anche il filtro del contenuto OpenAI di Azure per proteggere gli utenti da contenuti dannosi. Quando si usano modelli Anthropic, Databricks si basa sui meccanismi di sicurezza predefiniti di Anthropic e sulla protezione aggiuntiva contro gli output dannosi, come descritto nella documentazione sulla sicurezza di Anthropic. Inoltre, Databricks ha eseguito una valutazione approfondita con migliaia di interazioni utente simulate per garantire che le protezioni messe in atto per proteggere da contenuti dannosi, jailbreak, generazione di codice non sicuro e uso di contenuti copyright di terze parti sono efficaci.
• Databricks usa solo i dati necessari per fornire il servizio. I dati vengono inviati solo quando si interagisce con le funzionalità di assistive feature di intelligenza artificiale di Databricks o in base alle esigenze per fornire le funzionalità. Databricks invia la richiesta, i metadati e i valori della tabella pertinenti, gli errori, nonché il codice di input o le query per restituire risultati più pertinenti.
• I dati sono protetti in transito e a riposo. Tutto il traffico tra Databricks e i partner modello viene crittografato in transito con la crittografia TLS standard del settore. Tutti i dati archiviati in un'area di lavoro di Azure Databricks sono crittografati a 256 bit AES.
• Databricks offre controlli di residenza dei dati. Le funzionalità assistive basate sull'intelligenza artificiale di Databricks sono Servizi Designati e conformi ai limiti di residenza dei dati. Per altre informazioni, vedere Databricks Geos: Residenza dei dati e Databricks Designated Services.

Per altri dettagli su come le funzionalità specifiche gestiscono i dati, vedere le domande frequenti sulla privacy e sulla sicurezza.

Dati inviati ai modelli

Quali servizi e modelli usano le funzionalità assistive di intelligenza artificiale alimentate da partner?

Se l'impostazione delle funzionalità di intelligenza artificiale basata su partner è abilitata, le funzionalità di assistive per intelligenza artificiale di Databricks usano modelli ospitati dal servizio Azure OpenAI o Anthropic in Databricks.

Alcune funzionalità, ad esempio il completamento automatico del codice Genie, usano un modello ospitato da Databricks anche quando l'impostazione è abilitata. Se si disabilita l'impostazione delle funzionalità di intelligenza artificiale basate su partner , alcune funzionalità di assistive per intelligenza artificiale possono usare un modello ospitato da Databricks. Per altre informazioni, vedere Funzionalità di intelligenza artificiale basate su partner.

Quali dati vengono inviati ai modelli?

Databricks invia solo i dati necessari per fornire il servizio. In generale, ciò include la richiesta (ad esempio, la domanda, il codice o la query) e i metadati pertinenti, ad esempio nomi di tabella e colonne e descrizioni, valori di esempio, errori e domande precedenti. I dati esatti differiscono in base alla funzionalità:

• Genie Code invia il codice e le query presenti nella cella corrente del notebook o nella scheda dell'editor SQL, i nomi e le descrizioni delle tabelle e delle colonne, le domande precedenti e le tabelle preferite. In modalità agente, Genie Code può anche analizzare gli output delle celle e leggere esempi di dati da tabelle, analogamente ad altri agenti di codifica nel settore.
• Gli agenti Genie usano il prompt del linguaggio naturale, i nomi delle tabelle e le descrizioni, i valori pertinenti, le istruzioni generali, le query SQL di esempio e le funzioni SQL.
• Genie Ontology è una mappa dei tuoi dati e della tua azienda che Genie crea e aggiorna automaticamente estraendo informazioni da fonti quali tabelle, query, dashboard, notebook, documenti e app connesse. I frammenti di ontologia estratti rispettano le autorizzazioni degli asset e dei documenti di origine.
• I commenti generati dall'intelligenza artificiale inviano metadati per l'oggetto documentato e i relativi oggetti padre, inclusi i nomi di catalogo, schema, tabella, funzione, modello e volume, i relativi commenti correnti e i dettagli della colonna (nome, tipo, se si tratta di una chiave primaria e commento di colonna corrente).

I dati inviati ai modelli rispettano le autorizzazioni del catalogo Unity dell'utente?

Sì, tutti i dati inviati ai modelli di funzioni assistive di intelligenza artificiale rispettano le autorizzazioni di Unity Catalog, così i dati a cui gli utenti non hanno accesso non vengono inviati a tali modelli.

I provider di modelli partner archiviano i dati?

No Quando si usano modelli partner tramite Databricks, i provider di modelli partner non archiviano richieste o risposte.

Archiviazione e accesso

Dove vengono archiviate le risposte dalle funzionalità di assistive di intelligenza artificiale?

Le risposte dell'agente Genie e i commenti approvati generati dall'intelligenza artificiale vengono archiviati nel database del piano di controllo di Databricks. Il database del piano di controllo è crittografato a 256 bit AES.

La cronologia delle chat di Genie Code viene archiviata nella stessa posizione di altri contenuti del notebook.

Chi può vedere la mia cronologia di chat con Genie Code o Genie Agents?

Puoi visualizzare le tue chat di Genie Code. Gli amministratori possono visualizzare il thread di chat se hanno un collegamento diretto. Quando si condivide un thread di chat, i destinatari possono visualizzarlo. Vedere Condividere un thread di chat.

I responsabili dell'agente Genie possono visualizzare i messaggi di altri utenti, ma non i risultati della query. Le conversazioni con genie agents seguono le impostazioni di condivisione delle conversazioni.

Esecuzione e accuratezza del codice

Gli agenti Genie o il codice Genie eseguono il codice?

Gli agenti Genie sono progettati con accesso in sola lettura ai dati dei clienti, in modo che possano generare ed eseguire solo query SQL di sola lettura.

Con la modalità Agent, Genie Code può eseguire codice nel notebook e nell'editor SQL. All'inizio, Genie Code chiederà la conferma per procedere con l'esecuzione. È possibile scegliere di confermare, consentire sempre l'esecuzione nel thread Genie Code corrente o consentire sempre l'esecuzione. Altre modalità Genie Code non eseguono automaticamente il codice per conto dell'utente.

I modelli di intelligenza artificiale possono commettere errori, mal interpretare l’intento o fornire risposte errate. Esaminare e testare il codice generato dall'intelligenza artificiale prima di eseguirlo.

Databricks ha eseguito qualsiasi valutazione per valutare l'accuratezza e l'adeguatezza delle risposte dalle funzionalità di assistive di intelligenza artificiale?

Sì, Databricks ha eseguito test completi di tutte le funzionalità di assistive di intelligenza artificiale in base ai casi d'uso previsti e l'uso di input utente simulati per aumentare l'accuratezza e l'adeguatezza delle risposte. Detto questo, l'intelligenza artificiale generativa è una tecnologia emergente e le funzionalità di assistive per intelligenza artificiale possono fornire risposte imprecise o inappropriate.

Residenza e conformità dei dati

Come viene instradato il traffico tramite Geos?

Le funzionalità di assistive feature di intelligenza artificiale di Databricks sono servizi designati che usano Databricks Geos per gestire la residenza dei dati durante l'elaborazione del contenuto dei clienti. Il routing del traffico dipende dall'area e dall'abilitazione dell'elaborazione tra aree geografiche (l'opzione Imponi elaborazione dati nell'area di lavoro Geography for Designated Services è disabilitata).

È possibile usare le funzionalità di assistive di intelligenza artificiale con tabelle che elaborano dati regolamentati (PHI, PCI, IRAP, FedRAMP)?

Sì. A tale scopo, è necessario rispettare i requisiti, ad esempio abilitare il profilo di sicurezza della conformità e aggiungere lo standard di conformità pertinente come parte della configurazione del profilo di sicurezza della conformità.

Modelli ospitati da Databricks

In che modo le funzionalità di assistive intelligenza artificiale funzionano con i modelli ospitati da Databricks?

Quando le funzionalità di intelligenza artificiale basate su partner sono disabilitate, le funzionalità di assistive di intelligenza artificiale usano modelli ospitati da Databricks, completamente selezionati da Databricks e gestiti da Databricks. Databricks usa modelli open source disponibili per l'uso commerciale, ad esempio OpenAI GPT OSS.

Il diagramma seguente fornisce una panoramica di come un modello ospitato da Databricks alimenta le funzionalità di Databricks basate sull'AI, come Quick Fix.

1. Un utente esegue una cella del notebook, che provoca un errore.
2. Databricks collega i metadati a una richiesta e li invia a un modello LLM (Large Language Model) ospitato in Databricks. Tutti i dati sono crittografati a riposo. I clienti possono usare una chiave gestita dal cliente (CMK).
3. Il modello ospitato da Databricks risponde con le modifiche al codice suggerite per correggere l'errore, visualizzato all'utente.