Databricks KI-Hilfsfunktionen Vertrauen und Sicherheit

Databricks versteht die Bedeutung Ihrer Daten und das Vertrauen, das Sie bei der Verwendung unserer Plattform und databricks AI-Hilfsfunktionen in uns platzieren. Databricks verpflichtet sich zu den höchsten Standards des Datenschutzes und hat strenge Maßnahmen implementiert, um sicherzustellen, dass Informationen, die Sie an Databricks KI-Hilfsfunktionen übermitteln, geschützt sind.

• Ihre Daten bleiben vertraulich.
  • Databricks verwendet keine Daten, Eingabeaufforderungen oder Antworten, die an diese Features übermittelt oder ausgegeben werden, um generative Foundation-Modelle zu trainieren, die Databricks zur Verwendung durch Dritte zur Verfügung stellt.
  • Unsere Modellpartner speichern Ihre über diese Features übermittelten Daten nicht, auch nicht für die Missbrauchsüberwachung. Unsere partnergestützten KI-Hilfsfunktionen verwenden null Datenaufbewahrungsendpunkte von unseren Modellpartnern.
• Schutz vor schädlichen Ausgaben. Bei Verwendung von Azure OpenAI verwendet Databricks auch azure OpenAI-Inhaltsfilterung , um Benutzer vor schädlichen Inhalten zu schützen. Bei der Verwendung von Anthropic-Modellen verlässt sich Databricks auf die integrierten Sicherheitsmechanismen von Anthropic und die zusätzliche Härtung gegen schädliche Ausgaben, wie in der Sicherheitsdokumentation von Anthropic beschrieben. Darüber hinaus hat Databricks eine umfangreiche Auswertung mit Tausenden simulierter Benutzerinteraktionen durchgeführt, um sicherzustellen, dass die Maßnahmen zum Schutz vor schädlichen Inhalten, Jailbreaks, der Generierung unsicherer Codes und der Verwendung urheberrechtlich geschützter Inhalte von Dritten wirksam sind.
• Databricks verwendet nur die für die Bereitstellung des Dienstes erforderlichen Daten. Daten werden nur gesendet, wenn Sie mit Databricks AI-Hilfsfunktionen interagieren oder nach Bedarf die Features bereitstellen. Databricks sendet Ihre Eingabeaufforderung, relevante Tabellenmetadaten und -werte, Fehler sowie Eingabecode oder Abfragen, um relevantere Ergebnisse zurückzugeben.
• Daten werden während der Übertragung und im Ruhezustand geschützt. Der gesamte Datenverkehr zwischen Databricks und Modellpartnern wird während der Übertragung mit branchenübter TLS-Verschlüsselung verschlüsselt. Alle Daten, die in einem Azure Databricks-Arbeitsbereich gespeichert sind, werden mit der AES-256-Bit-Verschlüsselung verschlüsselt.
• Databricks bietet Datenresidenzsteuerelemente. KI-Unterstützungsfeatures von Databricks sind Designated Services und halten die Grenzen der Datenresidenz ein. Weitere Details finden Sie unter Databricks Geos: Datenresidenz und Databricks Designated Services.

Weitere Informationen dazu, wie bestimmte Features Ihre Daten behandeln, finden Sie in den häufig gestellten Fragen zu Datenschutz und Sicherheit.

An die Modelle gesendete Daten

Welche Dienste und Modelle verwenden partnergestützte KI-Hilfsfunktionen?

Wenn die Einstellung der partnergestützten KI-Features aktiviert ist, verwenden Databricks KI-Hilfsfeatures Modelle, die vom Azure OpenAI-Dienst oder Anthropic auf Databricks gehostet werden.

Einige Features, z. B. Genie Code AutoVervollständigen, verwenden auch dann ein vom Databricks gehostetes Modell, wenn die Einstellung aktiviert ist. Wenn Sie die Einstellung für partnergestützte KI-Features deaktivieren, verwenden einige KI-Hilfsfeatures möglicherweise ein in Databricks gehostetes Modell. Weitere Informationen finden Sie unter partnergestützte KI-Features.

Welche Daten werden an die Modelle gesendet?

Databricks sendet nur die Daten, die für die Bereitstellung des Diensts erforderlich sind. Im Allgemeinen umfasst dies Ihre Eingabeaufforderung (z. B. Ihre Frage, Ihren Code oder ihre Abfrage) und relevante Metadaten wie Tabellen- und Spaltennamen und Beschreibungen, Beispielwerte, Fehler und vorherige Fragen. Die genauen Daten unterscheiden sich je nach Feature:

• Genie Code sendet den Code und die Abfragen aus der aktuellen Notebook-Zelle oder der Registerkarte des SQL-Editors sowie Tabellen- und Spaltennamen und -beschreibungen, frühere Fragen und Favoritentabellen. Im Agent-Modus kann Genie Code auch Zellausgaben analysieren und Datenbeispiele aus Tabellen lesen, ähnlich wie andere Codierungsagenten in der Branche.
• Genie Agents verwenden die Eingabeaufforderung in natürlicher Sprache, Tabellennamen und Beschreibungen, relevante Werte, allgemeine Anweisungen, z. B. SQL-Abfragen und SQL-Funktionen.
• Genie Ontology ist eine Karte Ihrer Daten und Ihres Unternehmens, die Genie automatisch erstellt und verwaltet, indem Sie Wissen aus Quellen wie Tabellen, Abfragen, Dashboards, Notizbüchern, Dokumenten und verbundenen Apps extrahieren. Extrahierte Ontologieausschnitte respektieren die Berechtigungen der Quellressourcen und -dokumente.
• KI-generierte Kommentare senden Metadaten für das Objekt, das dokumentiert wird, und seine übergeordneten Objekte, einschließlich Katalog, Schema, Tabelle, Funktion, Modell und Volumenamen, ihre aktuellen Kommentare und Spaltendetails (Name, Typ, Ob es sich um einen Primärschlüssel und aktuelle Spaltenkommentare handelt).

Berücksichtigt die an die Modelle gesendeten Daten die Unity-Katalogberechtigungen des Benutzers?

Ja, alle Daten, die an KI-Hilfsfeaturemodelle gesendet werden, respektieren die Berechtigungen des Unity-Katalogs, sodass keine Daten, auf die Benutzer keinen Zugriff haben, an solche Modelle gesendet werden.

Speichern Partnermodellanbieter meine Daten?

Nein. Wenn Sie Partnermodelle über Databricks verwenden, speichern Partnermodellanbieter keine Eingabeaufforderungen oder Antworten.

Speicher und Zugriff

Wo werden Antworten von KI-Hilfsfeatures gespeichert?

Genie Agent-Antworten und genehmigte KI-generierte Kommentare werden in der Datenbank der Databricks-Steuerungsebene gespeichert. Die Datenbank der Steuerebene ist AES-256-Bit verschlüsselt.

Genie Code-Chatverlauf wird an derselben Stelle wie andere Notizbuchinhalte gespeichert.

Wer kann meinen Chatverlauf mit Genie Code oder Genie Agents sehen?

Sie können Ihre eigenen Genie Code-Chats anzeigen. Administratoren können den Chatthread anzeigen, wenn sie über einen direkten Link verfügen. Wenn Sie einen Chatthread freigeben, können Empfänger ihn anzeigen. Siehe "Freigeben eines Chatthreads".

Genie Agent Manager können die Nachrichten anderer Benutzer sehen, aber nicht ihre Abfrageergebnisse. Unterhaltungen mit Genie Agents folgen den Einstellungen für die Freigabe von Unterhaltungen.

Codeausführung und Genauigkeit

Führen Genie Agents oder Genie Code Code aus?

Genie Agents sind mit schreibgeschütztem Zugriff auf Kundendaten konzipiert, sodass sie nur schreibgeschützte SQL-Abfragen generieren und ausführen können.

Mit dem Agent-Modus kann der Genie Code sowohl im Notizbuch als auch im SQL-Editor ausgeführt werden. Zuerst wird Genie Code Sie um eine Bestätigung bitten, um mit der Ausführung fortzufahren. Sie können wählen, ob Sie die Ausführung im aktuellen Genie-Code-Thread bestätigen, immer zulassen oder generell immer zulassen möchten. Andere Genie Code-Modi führen nicht automatisch Code in Ihrem Auftrag aus.

KI-Modelle können Fehler machen, Absichten missverstehen, Antworten falsch interpretieren oder insgesamt falsche Antworten geben. Überprüfen und testen Sie AI-generierten Code, bevor Sie ihn ausführen.

Hat Databricks eine Bewertung durchgeführt, um die Genauigkeit und Angemessenheit der Antworten von KI-Hilfsfunktionen zu bewerten?

Ja, Databricks hat umfangreiche Tests aller unserer KI-Hilfsfunktionen basierend auf ihren erwarteten Anwendungsfällen durchgeführt und simulierte Benutzereingaben verwendet, um die Genauigkeit und Angemessenheit der Antworten zu erhöhen. Das heißt, generative KI ist eine neue Technologie, und KI-Hilfsfunktionen können ungenaue oder unangemessene Antworten liefern.

Datenstandort und Compliance

Wie wird mein Datenverkehr über Geos weitergeleitet?

KI-Unterstützungsfeatures von Databricks sind Designated Services, die Databricks Geos verwenden, um die Datenresidenz bei der Verarbeitung von Kundeninhalten zu verwalten. Das Datenverkehrsrouting hängt von Ihrer Region ab und davon, ob die geografieübergreifende Verarbeitung aktiviert ist (die Einstellung Datenverarbeitung innerhalb der Arbeitsbereichsgeografie für Designated Services erzwingen ist deaktiviert).

Kann ich KI-Hilfsfunktionen mit Tabellen verwenden, die regulierte Daten verarbeiten (PHI, PCI, IRAP, FedRAMP)?

Ja. Dazu müssen Sie Anforderungen erfüllen. Sie müssen zum Beispiel das Compliancesicherheitsprofil aktivieren und bei der Konfiguration des Compliancesicherheitsprofils den relevanten Compliancestandard hinzufügen.

Von Databricks gehostete Modelle

Wie funktionieren KI-Hilfsfeatures mit von Databricks gehosteten Modellen?

Wenn partnergestützte KI-Funktionen deaktiviert sind, verwenden KI-Assistenzfunktionen Databricks-gehostete Modelle, die ausschließlich von Databricks ausgewählt und von Databricks verwaltet werden. Databricks verwendet Open-Source-Modelle, die für kommerzielle Zwecke verfügbar sind, z. B. OpenAI GPT OSS.

Das folgende Diagramm bietet eine Übersicht darüber, wie ein von Databricks gehostetes Modell Databricks KI-gestützte Features wie Quick Fix unterstützt.

1. Ein Benutzer führt eine Notizbuchzelle aus, was zu einem Fehler führt.
2. Databricks fügt Metadaten an eine Anforderung an und sendet sie an ein vom Databricks gehostetes Großsprachenmodell (LLM). Alle Daten werden im Ruhezustand verschlüsselt. Kunden können einen vom Kunden verwalteten Schlüssel (CMK) verwenden.
3. Das vom Databricks gehostete Modell antwortet mit den vorgeschlagenen Codebearbeitungen, um den Fehler zu beheben, der dem Benutzer angezeigt wird.