Nachverfolgung und Datenverarbeitung

Die Foundry-Ablaufverfolgung ist eine Observability-Funktion in Microsoft Foundry, die Kundendaten aus KI-Agents erfasst. Es hilft Entwicklern und Operatoren, das Systemverhalten zu verstehen, Probleme zu debuggen und die Leistung zu optimieren.

Ablaufverfolgungsdatensätze enthalten z. B. folgende Informationen:

  • Benutzereingaben und Eingabeaufforderungen
  • Agent- und Modelleingaben und -ausgaben
  • Toolaufrufe und Zwischenschritte
  • Ausführungsmetadaten (Zeitstempel, Latenz, Tokenverwendung, Fehler usw.)

Diese Daten können benutzergenerierte Inhalte und betriebliche Telemetrie umfassen.

Diese Daten werden verwendet, um Einblicke in die Ausführung von Agents zu bieten, wodurch Verbesserungen bei der Problembehandlung und der Leistung über Agent-Workflows hinweg ermöglicht werden. Foundry verwendet OpenTelemetry-Standards und speichert Trace-Daten im verbundenen Telemetriesystem Azure Monitor Application Insights.

Important

Wenn Sie AppInsights für ein Projekt aktivieren, protokolliert AppInsights Ablaufverfolgungen, um Interaktionen auf Benutzerebene mit Agents zu überwachen und auszuwerten. Projektmitglieder mit der Rolle „Log Analytics Reader“ in AppInsights können Ablaufverfolgungsdaten anzeigen, die personenbezogene Daten und Kundeninhalte enthalten können. Wenn die zugrunde liegenden Log Analytics Tabellen geschützt sind (deren Schutzebene auf "Geschützt" festgelegt ist), benötigen Mitglieder die Rolle "Privileged Monitoring Data Reader", um diese Ablaufverfolgungsdaten anzuzeigen. Überprüfen Sie, welche Nachverfolgungsdaten erfasst werden und wer diese Daten einsehen und nutzen kann. Weitere Informationen sind im folgenden Abschnitt enthalten.

Standardstatus:

  • Die Ablaufverfolgung ist standardmäßig deaktiviert.
  • Es werden keine Ablaufverfolgungsdaten gesammelt oder gespeichert, es sei denn, diese Möglichkeit wurde vom Besitzer des Foundry-Kontos oder vom Foundry-Besitzer explizit aktiviert.

Weitere Azure Monitor App Insights-Preise können angewendet werden.

Dadurch wird sichergestellt, dass Kunden die Kontrolle behalten, wann die Datensammlung beginnt.

Aktivieren der Ablaufverfolgung

Die Ablaufverfolgung wird aktiviert, wenn ein Projekt mit einer Azure Monitor Application Insights-Ressource verbunden ist. Zu den allgemeinen Aktivierungsflüssen gehören:

  • Erstellen oder Verbinden einer Application Insights-Ressource während der Projekterstellung.
  • Erstellen oder Verbinden einer Application Insights-Ressource mit einem vorhandenen Projekt ohne eine verbundene Application Insights-Ressource.

Wenn Sie die Ablaufverfolgung aktivieren:

  • Trace-Daten werden ab diesem Zeitpunkt für alle Agenten im Projekt erfasst und gespeichert.
  • Um Traces in der Foundry Tracing-Benutzeroberfläche anzuzeigen, benötigen Benutzer Zugriff auf das Foundry-Projekt sowie Leseberechtigung für den verbundenen Application Insights- oder Log Analytics-Arbeitsbereich. Beispielsweise können Rollen wie Log Analytics Reader, Monitoring Reader oder Reader in der Application Insights-Ressource, im Log Analytics-Arbeitsbereich oder in einem entsprechenden übergeordneten Bereich diesen Zugriff gewähren. Wenn die zugrunde liegenden Log Analytics-Tabellen geschützt sind, benötigen auch die Zugewiesenen die Rolle Privileged Monitoring Data Reader, um diese Daten lesen zu können.

Ablaufverfolgung deaktivieren

Nachverfolgung deaktivieren:

  • Trennen oder Entfernen der Application Insights-Ressource.

Nach dem Deaktivieren der Ablaufverfolgung:

  • In diesem Projekt werden keine neuen Trace-Daten von Agenten erfasst.
  • Zuvor gesammelte Daten unterliegen den Aufbewahrungsrichtlinien der Application Insights.

Note

Die genauen Schritte zum Deaktivieren der Ablaufverfolgung hängen von der jeweiligen UI- oder SDK-Oberfläche ab und sollten sich an der Produktdokumentation orientieren.

Wo Daten gespeichert werden

Überlegungen zur Datenfreigabe

  • Trace-Daten können für Benutzer mit entsprechenden Berechtigungen für die verbundene Telemetrieressource zugänglich sein.
  • Je nach Konfiguration werden Benutzern innerhalb desselben Projekts oder Mandanten möglicherweise Daten angezeigt.
  • Um Traces in der Foundry Tracing-Benutzeroberfläche anzuzeigen, benötigen Benutzer Zugriff auf das Foundry-Projekt sowie Leseberechtigung für den verbundenen Application Insights- oder Log Analytics-Arbeitsbereich. Beispielsweise können Rollen wie Log Analytics Reader, Monitoring Reader oder Reader in der Application Insights-Ressource, im Log Analytics-Arbeitsbereich oder in einem entsprechenden übergeordneten Bereich diesen Zugriff gewähren. Wenn die zugrunde liegenden Log Analytics-Tabellen geschützt sind, benötigen Zugewiesene auch die Rolle Privileged Monitoring Data Reader, um diese Daten zu lesen.
  • Für zusätzliche Überlegungen und wichtige Informationen, die speziell für gehostete Agents gelten, überprüfen Sie gehostete Agents und die plattforminjizierten Umgebungsvariablen des gehosteten Agents.

Kunden sind für die Konfiguration von Zugriffskontrollen und die Einhaltung ihrer Organisationsrichtlinien verantwortlich.

Datenschutz

Die Ablaufverfolgung kann personenbezogene Daten erfassen, einschließlich:

  • Benutzeraufforderungen und Antworten
  • Anwendungsspezifische Inhalte

Bewährte Methoden

  • Vermeiden Sie die Protokollierung geheimer Schlüssel, Anmeldeinformationen oder Token.
  • Schwärzen oder minimieren Sie personenbezogene Daten, bevor sie protokolliert werden.
  • Wenden Sie Zugriffskontrollen und Aufbewahrungsrichtlinien auf Trace-Daten an.

Datenschutzkontrollen

  • Schwärzung personenbezogener Daten: Schwärzen Sie personenbezogene Daten, z. B. E-Mail-Adressen und Telefonnummern.
  • Beschränken Sie den Zugriff auf Nachverfolgungsdaten, indem Sie sorgfältig steuern, welchen Benutzern die RBAC-Rolle Log Analytics Reader zugewiesen wird. Wenn die zugrunde liegenden Log Analytics Tabellen geschützt sind, verwalten Sie auch, wer über die Rolle "Privileged Monitoring Data Reader" verfügt, da sie Lesezugriff auf geschützte Tabellen gewährt.
  • Konfigurierbare Richtlinien: Steuern, welche Daten erfasst und sichtbar sind.

Diese Steuerelemente helfen Ihnen beim Verwalten von Risiken und der Einhaltung der Datenschutzanforderungen.

Verantwortlichkeiten des Kunden

Wenn Sie die Ablaufverfolgung aktivieren, sind Sie für Folgendes verantwortlich:

  • Informieren von Endbenutzern über die Datensammlung, einschließlich der Arten der gesammelten Daten, des Zwecks, der Sichtbarkeit, ihrer Optionen und anderer Informationen, die für sie erforderlich sind, um angemessene Entscheidungen zu treffen (sofern zutreffend).
  • Sicherstellen der Einhaltung von Datenschutz-, gesetzlichen und behördlichen Anforderungen.
  • Konfigurieren geeigneter Zugriffssteuerungen und Datenaufbewahrungsrichtlinien.

Zusammenfassung

Foundry Tracing ist ein leistungsstarkes Observability-Feature, das das Debuggen, Überwachen und Optimieren von KI-Agents ermöglicht. Es ist:

  • Standardmäßig deaktiviert.
  • Explizit aktiviert, indem Telemetrieressourcen verbunden werden.
  • Entwickelt für die Kontrolle durch den Kunden über die Erfassung und Verarbeitung von Daten.

Verwandte Inhalte

  • Last updated on