Überlegungen zu Daten, Datenschutz und Sicherheit bei der Erweiterung Microsoft 365 Copilot

Wenn Sie Microsoft 365 Copilot mit Agents erweitern, kann der Agent Abfragen basierend auf Ihren Eingabeaufforderungen, Dem Konversationsverlauf und Microsoft 365-Daten verwenden, um eine Antwort zu generieren oder einen Befehl auszuführen. Wenn Sie Microsoft 365 Copilot mit synchronisierten Microsoft 365 Copilot Connectors erweitern, werden Ihre externen Daten in Microsoft Graph erfasst und verbleiben in Ihrem Mandanten. In diesem Artikel werden Überlegungen zum Datenschutz und zur Sicherheit bei der Entwicklung verschiedener Copilot-Erweiterbarkeitslösungen beschrieben, sowohl intern als auch als kommerzieller Entwickler.

Diagramm: Wichtige Überlegungen zur Entwicklung der Copilot-Erweiterbarkeit: Unternehmenssicherheit und -vertrauen, verantwortungsvolle KI, Hochwertige Benutzererfahrung, Hochwertige Funktionalität

Agents und Aktionen

Agents in Microsoft 365 Copilot unterliegen individuell ihren Nutzungsbedingungen und Datenschutzrichtlinien. Als Entwickler von Agents und Aktionen (API-Plug-Ins) sind Sie dafür verantwortlich, die Daten Ihrer Kunden innerhalb der Grenzen Ihres Diensts zu schützen und Informationen zu Ihren Richtlinien in Bezug auf die persönlichen Daten der Benutzer bereitzustellen. Administratoren und Benutzer können dann Ihre Datenschutzrichtlinien und Nutzungsbedingungen im App Store anzeigen, bevor Sie Ihren Agent hinzufügen oder verwenden.

Wenn Sie Ihre Geschäftsworkflows als Agents für Copilot integrieren, bleiben Ihre externen Daten in Ihrer App. Es fließt nicht in Microsoft Graph und wird nicht zum Trainieren Microsoft 365 Copilot LLMs verwendet. Copilot generiert jedoch eine Suchabfrage, die im Namen des Benutzers an Ihren Agent gesendet wird, basierend auf dessen Eingabeaufforderung und dem Konversationsverlauf mit Copilot und den Daten, auf die der Benutzer in Microsoft 365 Zugriff hat. Weitere Informationen finden Sie unter Gespeicherte Daten zu Benutzerinteraktionen mit Microsoft 365 Copilot in der Microsoft 365 Copilot-Administratordokumentation.

Sicherstellen einer sicheren Implementierung deklarativer Agents in Microsoft 365

Microsoft 365-Kunden und -Partner können deklarative Agenten erstellen, die Microsoft 365 Copilot mit benutzerdefinierten Anweisungen, Grundlagenwissen und Aktionen erweitern, die über REST-API-Beschreibungen aufgerufen werden, die vom deklarativen Agenten konfiguriert wurden. Zur Laufzeit Microsoft 365 Copilot Gründe für eine Kombination aus der Eingabeaufforderung des Benutzers, benutzerdefinierten Anweisungen, die Teil des deklarativen Agents sind, und Daten, die von benutzerdefinierten Aktionen bereitgestellt werden. All diese Daten können das Verhalten des Systems beeinflussen, und eine solche Verarbeitung birgt Sicherheitsrisiken. Insbesondere wenn eine benutzerdefinierte Aktion Daten aus nicht vertrauenswürdigen Quellen (z. B. E-Mails oder Supporttickets) bereitstellen kann, kann ein Angreifer möglicherweise eine Nachrichtennutzlast erstellen, die dazu führt, dass sich Ihr Agent so verhält, dass der Angreifer steuert, z. B. falsche Antworten auf Fragen oder sogar das Aufrufen benutzerdefinierter Aktionen. Microsoft ergreift viele Maßnahmen, um solche Angriffe zu verhindern. Darüber hinaus sollten Organisationen nur deklarative Agents aktivieren, die vertrauenswürdige Wissensquellen verwenden und über benutzerdefinierte Aktionen eine Verbindung mit vertrauenswürdigen REST-APIs herstellen. Wenn die Verwendung nicht vertrauenswürdiger Datenquellen erforderlich ist, entwerfen Sie den deklarativen Agent unter Berücksichtigung der Möglichkeit einer Verletzung, und geben Sie ihm nicht die Möglichkeit, vertrauliche Vorgänge ohne sorgfältiges menschliches Eingreifen durchzuführen.

Microsoft 365 bietet Organisationen umfassende Kontrollen, die steuern, wer integrierte Apps erwerben und verwenden kann und welche Apps für Gruppen oder Einzelpersonen innerhalb eines Microsoft 365-Mandanten aktiviert sind, einschließlich Apps, die deklarative Agents verwenden. Tools wie Copilot Studio, mit denen Benutzer ihre eigenen deklarativen Agenten erstellen können, enthalten auch umfangreiche Steuerelemente, mit denen Administratoren die Konnektoren steuern können, die sowohl für Wissen als auch für benutzerdefinierte Aktionen verwendet werden.

Microsoft 365 Copilot-Connectors

Microsoft 365 Copilot zeigt nur Daten an, auf die jeder Einzelne zugreifen kann, wobei die gleichen zugrunde liegenden Steuerelemente für den Datenzugriff verwendet werden, die auch in anderen Microsoft 365-Diensten verwendet werden. Microsoft Graph berücksichtigt die benutzeridentitätsbasierte Zugriffsgrenze, sodass der Microsoft 365 Copilot Erdungsprozess nur auf Inhalte zugreift, für die der aktuelle Benutzer berechtigt ist. Dies gilt auch für externe Daten in Microsoft Graph, die von einem Microsoft 365 Copilot-Connector erfasst werden.

Wenn Sie Ihre externen Daten mithilfe eines synchronisierten Microsoft 365 Copilot-Connectors mit Microsoft 365 Copilot verbinden, fließen Ihre Daten in Microsoft Graph. Sie können Berechtigungen zum Anzeigen externer Elemente verwalten, indem Sie eine Zugriffssteuerungsliste (Access Control List, ACL) einer Microsoft Entra Benutzer- und Gruppen-ID oder einer externen Gruppe zuordnen.

Eingabeaufforderungen, Antworten und Daten, auf die über Microsoft Graph zugegriffen wird, werden nicht für das Training von Foundation LLMs verwendet, auch nicht für die von Microsoft 365 Copilot verwendeten.

Governance- und Administratorsteuerungen für die Agent-Freigabe

Agents in Microsoft 365 Copilot innerhalb bestehender Microsoft 365-Datenzugriffsgrenzen arbeiten. Sie gewähren keine neuen Berechtigungen oder gewähren keinen Zugriff auf Daten, die über das hinausgehen, wofür ein Benutzer bereits berechtigt ist. Stattdessen packen Agents wiederholbare Eingabeaufforderungen und konfigurierte Datenquellen, wobei die in Microsoft 365 erzwungenen Steuerelemente beachtet werden.

IT-Administratoren können Microsoft 365-Steuerelemente und -Tools verwenden, um zu verwalten, wie Agents über ihren gesamten Lebenszyklus hinweg freigegeben, ermittelt und gesteuert werden.

Berechtigungsvererbung

Agents respektieren vorhandene Microsoft 365-Berechtigungen. Wenn ein Benutzer keinen Zugriff auf eine SharePoint-Website, einen Teams-Kanal oder ein Outlook-Postfach hat, kann der Agent keine Inhalte aus diesen Quellen abrufen oder anzeigen.

Agents führen keine neuen Berechtigungen ein. Sie arbeiten innerhalb desselben identitätsbasierten Zugriffsmodells, das von Microsoft Graph für microsoft 365-Dienste erzwungen wird.

DLP-, Aufbewahrungs- und Konformitätskontrollen

Agents interagieren mit Daten, die den vorhandenen Microsoft 365-Richtlinien zur Verhinderung von Datenverlust (Data Loss Prevention, DLP), Aufbewahrung und Compliance unterliegen. Inhalte, auf die über verbundene Dienste wie SharePoint, Exchange und Teams zugegriffen wird, unterliegen weiterhin den für diese Dienste konfigurierten Richtlinien.

Organisationen mit DLP- und Aufbewahrungsrichtlinien können davon ausgehen, dass diese Richtlinien auf die zugrunde liegenden Daten angewendet werden, auf die Agents zugreifen. Das Verhalten von Agent-Interaktionen kann davon abhängen, wie diese Interaktionen in Microsoft 365 verarbeitet werden.

Überwachungsprotokolle und Aktivitätsberichte

Überwachungsprotokolle und Berichterstellungsfunktionen von Microsoft 365 bieten Einblick in copilot-Aktivitäten, einschließlich der Agent-bezogenen Nutzung. Diese Funktionen helfen Administratoren dabei, die Nutzung zu überwachen und zu verstehen, wie Copilot-Erfahrungen in den organization verwendet werden.

Die Detailebene in Protokollen und Berichten kann je nach Dienst und Konfiguration variieren.

Admin Center-Verwaltung

IT-Administratoren verwalten Agent-Sichtbarkeits-, Freigabe- und Lebenszyklusrichtlinien aus dem Microsoft 365 Admin Center über die Seite Copilot-Agents>. Auf dieser Seite können Administratoren folgende Aktionen ausführen:

  • Anzeigen des Agentbestands und der Agent-Metadaten.
  • Aktivieren, Deaktivieren, Zuweisen, Blockieren oder Entfernen von Agents, um sie an Den Organisationsrichtlinien anzupassen.
  • Konfigurieren Sie die abrechnungsbasierte Bezahlung, und überprüfen Sie die Nutzung und Nutzung des Agents.

Schritt-für-Schritt-Verfahren finden Sie unter Verwalten der Erweiterbarkeit für Microsoft 365 Copilot.

Agent-Freigabesteuerelemente

Administratoren konfigurieren Einschränkungen für die Agent-Freigabe auf der Seite Microsoft 365 Admin Center>Copilot-Einstellungen>>Datenzugriffs-Agents>. Folgende Freigabeoptionen sind verfügbar:

  • Alle Benutzer im organization
  • Bestimmte Benutzer oder Gruppen
  • Keine Benutzer (Freigabe deaktiviert)

Weitere Informationen finden Sie unter Freigeben eines Agents.

Microsoft Purview-Integration

Organisationen können Compliance mithilfe von Microsoft Purview-Funktionen erzwingen, einschließlich:

  • Vertraulichkeitsbezeichnungen – Bezeichnungen, die auf SharePoint- und OneDrive-Dateien angewendet werden, werden von Agents beim Anzeigen von Inhalten berücksichtigt.
  • Überwachungsprotokolle : Die Agent-Aktivität wird in vereinheitlichten Überwachungsprotokollen erfasst.
  • Inhaltssuche – Administratoren können die Inhaltssuche oder Microsoft Purview verwenden, um gespeicherte Daten anzuzeigen und zu verwalten.

Benutzerdefinierte Engine-Agent-Eingabeaufforderungen und Antworten in Copilot Chat und Teams werden in Übereinstimmung mit den Microsoft 365-Produktbedingungen gespeichert und gemäß den Anweisungen des Kunden verwaltet.

Copilot Studio-Agent-Governance

In Copilot Studio integrierte Agents unterstützen zusätzliche Governancekontrollen über das Power Platform Admin Center, einschließlich:

  • Application Lifecycle Management (ALM): Entwicklung in Entwicklungs-, Test- und Produktionsumgebungen.
  • Connectorgovernance – Administratoren steuern, mit welchen System-Agents eine Verbindung hergestellt werden kann, wodurch das Risiko eines nicht autorisierten Zugriffs verringert wird.
  • DLP auf Umgebungsebene : Verhinderung von Datenverlust, rollenbasierter Zugriff und Überwachung auf Umgebungsebene.
  • Veröffentlichungsaufsicht – Die Veröffentlichung im App-Katalog eines organization erfordert die Genehmigung durch den Administrator, um Transparenz und Kontrolle darüber zu gewährleisten, was allgemein verfügbar wird.
  • Telemetrie- und Nutzungsanalysen – Überwachung des Agentverhaltens, um die Richtlinienausrichtung sicherzustellen.

Weitere Informationen finden Sie unter Copilot Studio Sicherheit und Governance.

Überlegungen für Branchenentwickler

Microsoft 365 Copilot daten nur für Agents oder Connectors freigibt und sucht in Agents oder Connectors, die von einem Microsoft 365-Administrator für Copilot aktiviert sind. Stellen Sie als branchenspezifischer Entwickler von Copilot-Erweiterbarkeitslösungen sicher, dass Sie und Ihr Administrator mit Folgendem vertraut sind:

Überlegungen zu unabhängigen Softwareanbietern

Die Übermittlung Ihres App-Pakets an das Microsoft Partner Center-Programm Microsoft 365 und Copilot erfordert die Erfüllung von Zertifizierungsrichtlinien für die Annahme in Microsoft 365 In-Product Stores. Microsoft-Zertifizierungsrichtlinien und -Richtlinien zu Datenschutz, Sicherheit und verantwortungsvoller KI umfassen:

Verwandte Inhalte

  • Last updated on