Entwickeln und Bereitstellen sicherer und konformer Microsoft Foundry- oder benutzerdefinierter KI-Apps

Sicherheit und Compliance sind für die Einführung von KI im Unternehmen unerlässlich. Unternehmenskunden erwarten, dass KI-Anwendungen designseitig sicher sind und sowohl interne Richtlinien als auch externe Vorschriften einhalten.

Wenn diese Erwartungen nicht erfüllt werden, kann dies zu folgendem Ergebnis führen:

• Ablehnung während Sicherheits- und Complianceüberprüfungen.
• Datenlecks oder ein anderes schädliches KI-Verhalten.
• Verlust des Kundenvertrauens und verringerte Akzeptanz.

Um KI verantwortungsbewusst zu skalieren, müssen Organisationen auf einer Grundlage starker Datensicherheit und Governance aufbauen. Da KI-Anwendungen zunehmend sensible Unternehmensdaten verarbeiten, sollten Entwickler Sicherheits- und Compliance-Kontrollen frühzeitig im Entwicklungslebenszyklus integrieren – während des Entwurfs und der Implementierung.

Microsoft Purview stellt APIs und Dienste bereit, die Microsoft Foundry und andere KI-Plattformen ermöglichen, Datensicherheits- und Governancesteuerelemente auf Unternehmensniveau in benutzerdefinierte KI-Anwendungen und -Agents zu integrieren, unabhängig von Modell- oder Bereitstellungsplattform.

In diesem Artikel wird erläutert, wie Entwickler in Microsoft Purview integrieren können, um Die Anforderungen an die Datensicherheit und Compliance in ihren KI-Apps und Agents zu unterstützen, die mit Microsoft Foundry, Agent Framework oder benutzerdefinierten KI-Apps erstellt wurden. Die folgende Tabelle fasst die Microsoft Purview-Szenarien zusammen und zeigt, welche Optionen Entwickler für jedes Szenario auswählen sollten.

Steuern von Daten, die zur Laufzeit von KI-Apps verwendet werden

Die folgenden Microsoft Purview Features können verwendet werden, um Datengovernance für KI-Apps bereitzustellen:

• Echtzeitanalysen für vertrauliche Datennutzung, riskante Verhaltensweisen und unethische KI-Interaktionen.
• Auditierung zur Rückverfolgbarkeit.
• Kommunikationscompliance zum Erkennen schädlicher oder nicht autorisierter Inhalte.
• Data Lifecycle Management und eDiscovery für rechtliche und behördliche Anforderungen.

Sie können diese Microsoft Purview Funktionen in Ihre Microsoft Foundry- oder benutzerdefinierte KI-App integrieren, indem Sie die folgenden Optionen verwenden:

• Native Integration von Microsoft Purview in Microsoft Foundry (empfohlen): Wenn Sie Modelle in Microsoft Foundry verwenden, verwenden Sie die Microsoft Purview Einstellungen für Überwachungs- und verwandte Governanceergebnisse, die in Microsoft Foundry eingebettet sind. Azure Administratoren können die Einstellung für jedes gegebene Azure-Abonnement aktivieren. Es gibt keine Aktion, die Entwickler ausführen müssen. Diese Einstellung ermöglicht, dass Daten aus allen Azure AI-basierten Anwendungen, die in diesem Abonnement ausgeführt werden, an Microsoft Purview gesendet werden, um Governance- und Complianceziele zu unterstützen. Weitere Informationen zum Aktivieren der Einstellung finden Sie unter Aktivieren der Datensicherheit für Azure KI mit Microsoft Purview.

• Verwenden Sie die APIs: Microsoft Foundry-Entwickler können Microsoft Purview APIs in Microsoft Graph verwenden, um die Eingabeaufforderungs- und Antwortdaten aus ihren KI-Apps programmgesteuert an Microsoft Purview zu senden.

  Verwenden Sie diese APIs für apibasierte Integration:

  • Schutzbereiche für Rechenleistung.
  • Verarbeiten von Inhalten.

  Weitere Informationen finden Sie unter Verwenden von Microsoft Purview-APIs in Microsoft Graph.

• Agent Framework: Wenn Sie Agents mit Microsoft Agent Framework erstellen, können Sie Microsoft Purview Funktionen hinzufügen, um Ihre Agents zu schützen. Diese Funktionen fügen dem Agent Datensicherheit und Compliance hinzu. Fügen Sie zur Middleware-Pipeline Ihres Agenten die Microsoft Purview-Richtlinien-Middleware hinzu:

  • Prompts und Antworten abfangen und an Microsoft Purview weiterleiten.
  • Wenden Sie die DLP-Richtlinien Ihrer Organisation in Microsoft Purview an.

  Weitere Informationen finden Sie unter Verwenden von Microsoft Purview SDK mit Agent Framework.

Schutz vor Datenlecks und Insiderrisiken

Entwickler können Agent Framework- oder Microsoft Purview-APIs verwenden, um Microsoft Purview Data Loss Prevention (DLP)-Richtlinien in ihren Anwendungen zu erzwingen.

Agent Framework: Wenn Sie Agents mit Microsoft Agent Framework erstellen, können Sie Microsoft Purview Funktionen hinzufügen, um Ihre Agents zu schützen. Diese Funktionen fügen dem Agent Datensicherheit und Compliance hinzu. Fügen Sie zur Middleware-Pipeline Ihres Agenten die Microsoft Purview-Richtlinien-Middleware hinzu:

• Prompts und Antworten abfangen und an Microsoft Purview weiterleiten.
• Setzen Sie die DLP-Richtlinien Ihrer Organisation in Microsoft Purview durch.

Weitere Informationen finden Sie unter Verwenden von Microsoft Purview SDK mit Agent Framework.

Verwenden Sie die APIs: Mit dieser Option können Anwendungen das Verhalten in KI-Apps und -Agents gemäß den in Microsoft Purview festgelegten Richtlinien verstehen und erzwingen. Sie können beispielsweise vertrauliche Informationen schützen, die mit großen Sprachmodellen (LLMs) geteilt werden, oder vertrauliche Informationen steuern, die mit riskanten Benutzern in Ihren KI-Apps geteilt werden.

Verwenden Sie diese APIs für apibasierte Integration:

• Rechenschutzbereiche
• Inhalt verarbeiten

Azure KI-Codebeispiel:

• Serverless-chat-langchainjs-purview AI-Codebeispiel

Übermäßige Datenfreigabe vermeiden

Das übermäßige Teilen von Daten ist eingeschränkt, wenn Daten mit Vertraulichkeitsbezeichnungen versehen sind. Entwickler können entweder Microsoft Purview APIs oder Azure KI-Suche verwenden, um Vertraulichkeitsbezeichnungen zu berücksichtigen, die auf Daten angewendet werden, die von LLMs zum Generieren von Antworten verwendet werden. Beide Optionen stellen sicher, dass KI-generierte Antworten Zugriffskontrollen respektieren, Das Teilen von Daten verhindern und Benutzer auf Inhalte beschränken, die sie anzeigen dürfen – genau wie außerhalb der KI-App-Umgebung.

Wenn Microsoft Purview Indexierung von Vertraulichkeitsbezeichnungen aktiviert ist, überprüft Azure KI-Suche die Metadaten der Dokumentbeschriftung zur Abfragezeit, wendet Zugriffsfilter basierend auf Microsoft Purview Richtlinien an und gibt nur die Ergebnisse zurück, auf die der anfordernde Benutzer zugreifen darf.

Sie können beim Erstellen dieses Szenarios eine der folgenden APIs verwenden:

• Vertraulichkeitsbezeichnungen auflisten.
• Vertraulichkeitsbezeichnungen abrufen.
• Nutzungsrechte auflisten.
• Berechnen der Vererbung.
• Berechnen von Rechten und Vererbung.