Transparenzhinweis: Azure KI-Suche

KI-Anreicherung ist die Anwendung von Machine Learning-Modellen von Foundry Tools über Inhalte, die nicht einfach in ihrer rohen Form durchsuchbar sind. Durch Anreicherung werden Analyse und Schlussfolgerung verwendet, um durchsuchbare Inhalte und Strukturen zu erstellen, in denen zuvor keine vorhanden waren.

DIE KI-Anreicherung ist eine optionale Erweiterung der Azure KI-Suche Indexerpipeline, die eine Verbindung mit Foundry Tools in derselben Region wie der Suchdienst eines Kunden herstellt. Eine Anreicherungspipeline verfügt über die gleichen Kernkomponenten wie ein typischer Indexer (Indexer, Datenquelle, Index), sowie einen Qualifikationssatz, der die Atomanreicherungsschritte angibt. Ein Qualifikationssatz kann mit integrierten Fähigkeiten basierend auf den Foundry Tools-APIs, z. B. Vision und Sprache, oder benutzerdefinierten Fähigkeiten , die von Ihnen bereitgestellten externen Code ausführen, zusammengestellt werden.

Die Vektorsuche ist eine Methode zum Abrufen von Informationen, bei denen Dokumente und Abfragen in einem Index anstelle von Nur-Text als Vektoren dargestellt werden. In der Vektorsuche generieren Machine Learning-Modelle, die extern von Azure KI-Suche gehostet werden, die Vektordarstellungen von Quelleingaben, die Text, Bilder, Audio- oder Videoinhalte sein können. Diese mathematische und normalisierte Darstellung von Inhalten, die als Vektoreinbettungen bezeichnet werden, bietet eine gemeinsame Grundlage für Suchszenarien.

Wenn alles ein Vektor ist, kann eine Abfrage eine Übereinstimmung im Vektorraum finden, auch wenn sich der zugeordnete ursprüngliche Inhalt in einem anderen Medientyp befindet, z. B. Bilder im Vergleich zu Text oder Sprache als die Abfrage. Die Suchmaschine überprüft den Index, der nach Vektorinhalten sucht, die am ehesten dem Vektor in der Abfrage am nächsten sind. Der Abgleich mit einer mathematischen Vektordarstellung anstelle von Schlüsselwörtern erhöht die Wahrscheinlichkeit erheblich, semantisch ähnliche Übereinstimmungen zu finden, die sich textlich unterscheiden, wie beispielsweise "Auto" und "Fahrzeug". Dadurch erhalten Sie eine detailliertere Einführung in Vektoreinbettungen und die Funktionsweise des Ähnlichkeitsalgorithmus.

Schlüsselbegriffe

Der semantische Rangierer verwendet den Kontext oder die semantische Bedeutung einer Suchanfrage, um eine neue Relevanzbewertung zu berechnen, die Ergebnisse an erster Stelle fördert, die semantisch der Absicht der ursprünglichen Suchanfrage am nächsten stehen. Das anfängliche Resultset kann aus einer Schlüsselwortsuche mit BM25-Rangfolge , Vektorsuche oder einer Hybridsuche stammen, die beide umfasst. Sie erstellt und gibt auch "Beschriftungen" zurück, indem wortwörtlicher Inhalt extrahiert wird, der im Ergebnis enthalten ist, sowie "Highlights", um die Aufmerksamkeit auf wichtige Inhalte innerhalb des Ergebnisses zu lenken. Es kann auch eine "Antwort" zurückgeben, wenn die Abfrage die Merkmale einer Frage ("was ist der Gefrierpunkt von Wasser") aufweist, und das Ergebnis enthält Text mit den Merkmalen einer Antwort ("Wasser friert bei 0°C oder 32°F").

Schlüsselbegriffe

Bei der Abfrageumschreibung werden synthetische Abfragen erstellt, bei denen es sich um Abfragen handelt, die künstlich erstellt oder aus tatsächlichen Kundeneingaben generiert werden, um den Rückruf zu verbessern (der Anteil der relevanten Dokumente, die aus der Gesamtzahl der verfügbaren Dokumente abgerufen wurden) der BM25-Rangfolge, der Vektorsuche oder einer Hybridsuche. Die ursprüngliche Abfrage wird mit den synthetischen Abfragen kombiniert, um einen optimalen Rückruf von der Suchmaschine zu ermöglichen.

Die GenAI Prompt Qualifikation ist Teil des Katalogs von Fähigkeiten von Azure KI-Suche, sodass Kunden ihre Suchindizes mit KI-generierten Inhalten basierend auf ihren Daten verbessern können. Durch die Verwendung der eigenen Daten und Vorlieben des Kunden hilft diese Fähigkeit dabei, maßgeschneiderte Zusammenfassungen, Antworten oder Erkenntnisse zu erstellen, die ihren spezifischen Anforderungen entsprechen.

Das bedeutet, wenn der Endbenutzer die Inhalte der Kunden über die KI-Suche durchsucht, kann der von KI generierte Inhalt informativere und kontextbezogene Ergebnisse liefern, sodass Benutzer die gesuchten Informationen leichter finden können.

Schlüsselbegriffe

Agentisches Abrufen ist eine parallele Abfrageverarbeitungsarchitektur, die ein konversationelles großes Sprachmodell (LLM) als "Abfrageplaner" verwendet. Das LLM wandelt den Unterhaltungsverlauf eines Benutzers nach Bedarf in eine oder mehrere fokussierte Unterabfragen um. Diese Unterabfragen werden in Ihrem Azure KI-Suche Index gleichzeitig ausgeführt, und der Dienst führt die wichtigsten Ergebnisse zusammen und gibt Folgendes zurück:

• Eine einzelne Inhaltszeichenfolge, die die relevantesten Passagen (Groundingdaten) enthält.
• Ein Referenzarray (optional), das die vollständigen Quelldokumente oder -blöcke verfügbar macht.
• Ein Aktivitätsarray, das jede Operation, Tokenanzahl und Latenz auflistet, um die Kostennachverfolgung und das Debuggen zu unterstützen.

Schlüsselbegriffe

Systemverhalten

Mehrere built-in-Fähigkeiten für die KI-Anreicherung in Azure KI-Suche nutzen die Vorteile von Foundry Tools. Die Transparenzhinweise für jede integrierte Qualifikation finden Sie unten für Überlegungen bei der Wahl einer Fähigkeit:

• Schlüsselphrasenextraktionsfähigkeit: Sprache - Schlüsselphrasenextraktion
• Spracherkennung: Sprache - Spracherkennung
• Entitätsverknüpfungsfertigkeit: Sprache - Entitätsverknüpfung
• Entitätserkennungskompetenz: Sprache - Benannte Entitätserkennung (NER)
• PII-Erkennungskompetenz: Sprache - PII-Erkennung
• Stimmungskompetenz: Sprache - Stimmungsanalyse
• Bildanalysefähigkeit: Vision - Bildanalyse
• OCR Skill: Vision - OCR
• Dokumentlayoutfunktion: Dokumentenintelligenz

In der Dokumentation finden Sie Informationen zu jeder Funktion, um mehr über deren jeweilige Fähigkeiten, Einschränkungen, Leistung, Bewertungen sowie Methoden zur Integration und verantwortungsvollen Nutzung zu erfahren. Beachten Sie, dass die Verwendung dieser Skills in Kombination zu sich verstärkenden Effekten führen kann (z. B. Fehler aufgrund von OCR werden sich auch bei der Schlüsselwortextraktion zeigen).

Anwendungsfälle

Beispielanwendungsfälle

Da Azure KI-Suche eine Volltextsuchlösung ist, besteht der Zweck der KI-Anreicherung darin, den Suchnutzen unstrukturierter Inhalte zu verbessern. Hier sind einige Beispiele für Szenarien zur Inhaltserweiterung, die von den integrierten Fähigkeiten unterstützt werden:

• Übersetzung und Spracherkennung ermöglichen die mehrsprachige Suche.
• Die Entitätserkennung extrahiert Personen , Orte und andere Entitäten aus großen Textabschnitten.
• Die Schlüsselauszugsextraktion identifiziert und gibt dann wichtige Begriffe aus.
• OCR erkennt gedruckten und handschriftlichen Text in Binärdateien.
• Die Bildanalyse beschreibt Bildinhalte und gibt die Beschreibungen als durchsuchbare Textfelder aus.
• Integrierte Vektorisierung ist ein Vorschaufeature, das das Azure OpenAI Embeddings-Modell aufruft, um Daten zu vektorisieren und Einbettungen in Azure KI-Suche für die Ähnlichkeitssuche zu speichern.

Systemverhalten

Bei der Vektorsuche sucht das Suchsystem nach Vektoren innerhalb des Einbettungsraums im Index, um diejenigen Vektoren zu finden, die nahe am Abfragevektor liegen. Diese Technik wird als nächste Nachbarsuche bezeichnet. Dies hilft auch, den Grad der Ähnlichkeit oder des Abstands zwischen Elementen zu quantifizieren. Ein hoher Grad an Vektorähnlichkeit weist darauf hin, dass die ursprünglichen Daten ebenfalls ähnlich waren. Die beiden von Azure KI-Suche unterstützten Vektorsuchalgorithmen haben unterschiedliche Ansätze für dieses Problem, wobei sie verschiedene Merkmale wie Latenz, Durchsatz, Trefferquote und Speicher ausgleichen.

Die Suche nach dem tatsächlichen Satz der k-nächsten Nachbarn erfordert einen vollständigen Vergleich des Eingabevektors mit allen Vektoren im Dataset. Während jede Berechnung der Vektorähnlichkeit relativ schnell ist, ist die Durchführung dieser umfassenden Vergleiche in großen Datasets rechenintensiv und langsam aufgrund der schiere Anzahl von Vergleichen, die erforderlich sind. Je höher die Dimensionalität jedes Vektors ist, desto komplexer und langsamer werden die Berechnungen für jeden Vektor sein.

Um diese Herausforderung zu bewältigen, werden Suchmethoden für annähernde nächste Nachbarn (Approximate Nearest Neighbor, ANN) verwendet, um einen Ausgleich zwischen Abruf und Geschwindigkeit zu erzielen. Diese Methoden können effizient eine kleine Gruppe von Kandidatenvektoren finden, die wahrscheinlich dem Abfragevektor ähneln, wodurch die Gesamtanzahl der Vektorvergleiche reduziert wird. Azure KI-Suche verwendet den Hierarchischen Navigable Small World (HNSW)-Algorithmus, um hochdimensionale Datenpunkte in einer probabilistischen hierarchischen Diagrammstruktur zu organisieren, die eine schnelle Ähnlichkeitssuche ermöglicht und gleichzeitig einen tunbaren Kompromiss zwischen Suchgenauigkeit und Rechenkosten ermöglicht.

Azure KI-Suche unterstützt auch mehrere Ähnlichkeitsmetriken, um den nächsten Nachbarn und die Bewertung jedes Vektorergebnisses zu bestimmen. Dazu gehören der Kosinus, die euklidische Norm (auch als "l2 Norm" bezeichnet) und das Punktprodukt. Der Kosinus berechnet den Winkel zwischen zwei Vektoren. Euklidan berechnet den Euklidischen Abstand zwischen zwei Vektoren, was die l2-Norm des Unterschieds der beiden Vektoren ist. Das Punktprodukt wird von der Größe der Vektoren und des Winkels zwischen ihnen beeinflusst. Bei normalisierten Einbettungsbereichen entspricht das Punktprodukt der Kosinus-Ähnlichkeit, ist aber effizienter.

Anwendungsfälle

Beispielanwendungsfälle

Es gibt viele Szenarien, in denen die Vektorsuche nützlich ist, und sie sind nur durch die Funktionen des Modells beschränkt, die zum Generieren von Vektoreinbettungen verwendet werden. Im Folgenden finden Sie einige allgemeine Anwendungsfälle, in denen die Vektorsuche verwendet werden kann:

• Semantische Suche: Extrahieren Sie das semantische Verständnis aus Text mithilfe eines Modells, z. B. mithilfe von Modellen wie der Azure OpenAI Service Embeddings models.
• Suchen Sie über verschiedene Datentypen (multimodal): Codieren Sie Inhalte, die aus Bildern, Text, Audio und Video stammen, oder eine Mischung, und führen Sie eine einzelne Suche durch.
• Mehrsprachige Suche: Verwenden Sie ein mehrsprachiges Einbettungsmodell, um Ihr Dokument in mehreren Sprachen darzustellen, um Ergebnisse in unterstützten Sprachen zu finden.
• Hybridsuche: Die Vektorsuche wird auf Feldebene implementiert, was bedeutet, dass Sie Abfragen erstellen können, die Vektorfelder und durchsuchbare Textfelder enthalten. Die Abfragen werden parallel ausgeführt, und die Ergebnisse werden in einer einzigen Antwort zusammengeführt. Es hat sich gezeigt, dass hybride Suchergebnisse mit semantischer Rangfolge die besten qualitativen Ergebnisse liefern.
• Gefilterte Vektorsuche: Eine Abfrage kann eine Vektorabfrage und einen Filterausdruck enthalten. Filter, die auf andere Datentypen angewendet werden, sind nützlich, um Dokumente basierend auf anderen Kriterien einzuschließen oder auszuschließen.
• Vektordatenbank: Dieser reine Vektorspeicher ist für den langfristigen Speicher oder eine externe Wissensbasis für große Sprachmodelle (LLMs) vorgesehen. Verwenden Sie z. B. Azure KI-Suche als Vektorindex im Azure Machine Learning Promptfluss für Retrieval Augmented Generation (RAG) Anwendungen.

Überlegungen bei der Auswahl eines Anwendungsfalls

Es kann Überlegungen und Bedenken im Zusammenhang mit dem spezifischen Modell geben, das Sie zum Generieren von Vektoreinbettungen auswählen. Jedes Modell könnte eigene Probleme mit Voreingenommenheit und Fairness haben und sollte vor der Verwendung in Ihrer Anwendung ausgewertet werden. Azure KI-Suche stellt keine Modelle zum Vektorisieren von Inhalten als Teil des Diensts bereit. Beispiele für diese Überlegungen finden Sie im Azure OpenAI Service Transparenzhinweis. Andere Drittanbieter- oder OSS-Modelle haben eigene Überprüfungspunkte zu berücksichtigen.

Systemverhalten

Die Bewertung der Ergebnisse des ersten Schichtabrufschritts ist ein sehr ressourcenintensiver Prozess. Um die Verarbeitung des Rankers innerhalb der erwarteten Abfrageverzögerung abzuschließen, werden nur die 50 wichtigsten Ergebnisse der Suchmaschine als Eingaben an das semantische Ranking-Modul gesendet. Falls sie zu lang sind, werden die 50 Ergebnisse zuerst an einen Zusammenfassungsschritt gesendet, der den relevantesten Inhalt aus jedem Ergebnis extrahiert, bevor der semantische Ranking-Algorithmus ausgeführt wird.

Während des Zusammenfassungsschritts wird das abgerufene Dokument zunächst durch einen Vorbereitungsprozess verarbeitet, der die verschiedenen Dokumenteninputs zu einer einzigen langen Zeichenfolge verkettet. Wenn die Zeichenfolge zu lang ist, findet eine Einschränkungsübung statt, wobei ein besonderer Schwerpunkt auf das Aufbewahren von Inhalten in Feldern gelegt wird, die der semantischen Konfiguration hinzugefügt wurden. Nachdem Zeichenfolgen vorbereitet wurden, werden sie durch Computerleseverständnis- und Sprachdarstellungsmodelle übergeben, um zu bestimmen, welche Sätze und Ausdrücke die beste Zusammenfassung relativ zur Abfrage bereitstellen. In dieser Phase werden Inhalte aus der Zeichenfolge extrahiert, die an die semantische Rangfolgestufe weitergeleitet werden, und gibt optional eine semantische Beschriftung oder semantische Antwort aus.

Der letzte Schritt, semantische Rangfolge, bestimmt die Relevanz des im vorherigen Schritt extrahierten Inhalts für die Abfrage des Benutzers und gibt eine semantische Bewertung zwischen 4 (hoch relevant) und 0 (irrelevant) aus. Dieser Schritt basiert auf dem Abfragetext und auf dem zusammengefassten Text und umfasst komplexere Berechnungen als die der Abrufebene.

Anwendungsfälle

Beispielanwendungsfälle

Semantischer Rangfolger kann in mehreren Szenarien verwendet werden. Zu den vorgesehenen Anwendungsfällen des Systems gehören:

• Retrieval Augmented Generation (RAG): Der semantische Rangierer ermöglicht es Ihnen, Antworten aus Ihren generativen KI-Anwendungen in relevanten Suchergebnissen zu ermitteln, die den von Ihnen definierten Schwellenwert für die Relevanzbewertung erfüllen. Beispielsweise verwendet der Azure OpenAI Service mit Ihren Daten Azure KI-Suche, um Azure OpenAI-Modelle mit Ihren Daten zu erweitern. Sie können den semantischen Rang innerhalb dieses Diensts verwenden, um die Relevanz der Informationen zu verbessern, die an das Azure OpenAI-Modell gespeist werden.
• Inhaltssuche: Mit dem semantischen Rangierer können Sie nach relevanten Inhalten in Ihren Daten suchen, indem Sie Text und Metadaten analysieren. Suchen Sie beispielsweise auf der learn.microsoft.com Website, die einen semantischen Rangierer verwendet, um die Suchrelevanz für Softwareentwickler zu verbessern, die nach Microsoft technischen Dokumentationen suchen.
• eCommerce-Suche: Der semantische Rangierer ermöglicht es eCommerce-Unternehmen, ihre Sucherfahrung zu verbessern, indem relevante Produktergebnisse basierend auf semantischer Relevanz bereitgestellt werden. Onlinehändler verwenden beispielsweise semantische Rangfolger, um ihre eCommerce-Erfahrung zu optimieren, indem sie relevante Suchergebnisse für ihre Online-Shopper bereitstellen.
• QnA: mit Azure KI-Suche können Organisationen ihren Benutzern eine Unterhaltungserfahrung bieten, indem Sie Fragen beantworten, die auf den in ihren Datenbanken verfügbaren Informationen basieren. Beispielsweise kann ein Hersteller semantische Rangfolge verwenden, um Informationen zu erweitern, die einem Chatbot zur Verfügung stehen. Techniker können diesen Chatbot verwenden, um Fragen zu stellen und hoch relevante interne Dokumente im Zusammenhang mit ihrer Abfrage und sofortigen Antworten innerhalb der abgerufenen Dokumente abzurufen.

Überlegungen bei der Auswahl eines Anwendungsfalls

Wir ermutigen Kunden, semantische Rangfolger in ihren innovativen Lösungen oder Anwendungen zu verwenden. Bei der Auswahl eines Anwendungsfalls sind jedoch einige Überlegungen zu beachten:

• Vertrauliche Informationen : Die Machine Learning-Modelle, mit denen der semantische Rangierer die in einer Suchabfrage abgerufenen Daten verarbeiten kann, einschließlich vertraulicher Informationen wie persönliche Details und Finanzinformationen. Berücksichtigen Sie alle Datenschutz- und Sicherheitsauswirkungen, bevor Sie den semantischen Rang für solche Anwendungsfälle implementieren.
• Bias und Fairness : Der semantische Rangierer wird durch Deep Learning-Modelle unterstützt. Diese Deep Learning-Modelle wurden mit öffentlichen Inhalten trainiert. Kundendaten werden von den semantischen Rankingsmodellen bewertet. Bewerten Sie die Ergebnisse des semantischen Einordnungssystems, wenn Sie Anwendungsfälle auswählen, insbesondere für Anwendungsfälle, die Auswirkungen auf Fairness und Gerechtigkeit haben, z. B. Einstellung und Personalbeschaffung.
• Einhaltung der Vorschriften: Einige Branchen, z. B. Gesundheitswesen und Finanzen, sind streng reguliert und können Einschränkungen für die Verwendung von KI und maschinellem Lernen haben. Bevor Sie semantische Rangfolger in solchen Branchen verwenden, stellen Sie sicher, dass die Lösung den relevanten Vorschriften und Richtlinien entspricht.

Systemverhalten

Die ursprüngliche Abfrage wird an ein feinabgestimmtes kleines Sprachmodell (SLM) gesendet, das von Azure KI-Suche gehostet wird. Dieses Modell wurde mit öffentlichen Inhalten trainiert. Der SLM transformiert die ursprüngliche Abfrage in eine Reihe synthetischer Abfragen. Diese synthetischen Abfragen sind semantisch nahe an der Absicht der ursprünglichen Abfrage, enthalten jedoch einen anderen Satz von Ausdrücken, um den Rückruf von der Suchmaschine zu verbessern.

Die synthetischen Abfragen werden dann mit der ursprünglichen Abfrage kombiniert und an die Suchmaschine gesendet. Wenn die BM25-Rangfolge ausgeführt wird, werden schlüsselbegriffe aus den synthetischen Abfragen mit der ursprünglichen Abfrage kombiniert. Wenn die Vektorsuche ausgeführt wird, wird die ursprüngliche Abfrage mit den synthetischen Abfragen verkettet, bevor der Vektoreinbettungsschritt ausgeführt wird.

Anwendungsfälle

Beispielanwendungsfälle

Abfrageumschreibung kann in mehreren Szenarien eingesetzt werden. Für die Abfrageumformulierung ist die Verwendung des semantischen Rankers erforderlich.

• Chatinteraktion mit Ihren Daten: Die Umschreibung von Abfragen ermöglicht es Ihnen, Antworten Ihrer generativen KI-Anwendungen in relevanten Suchergebnissen zu verankern, die dem von Ihnen festgelegten Schwellenwert für die Relevanzbewertung entsprechen. Die Azure OpenAI Service "On Your Data" verwendet beispielsweise Azure KI-Suche, um Azure OpenAI-Modelle mit Ihren Daten zu erweitern. Sie können die Abfrageumschreibung innerhalb dieses Diensts verwenden, um die Relevanz der Ergebnisse der Informationen zu verbessern, die an das Azure OpenAI-Modell gespeist werden.
• Conversational Questions and Answers (QnA): Azure KI-Suche ermöglicht Es Organisationen, ihren Benutzern eine Unterhaltungserfahrung zu bieten, indem Sie Fragen beantworten, die auf den in ihren Datenbanken verfügbaren Informationen basieren. Beispielsweise kann ein Hersteller semantische Rangfolge verwenden, um Informationen zu erweitern, die einem Chatbot zur Verfügung stehen. Techniker können diesen Chatbot verwenden, um Fragen zu stellen und hoch relevante interne Dokumente im Zusammenhang mit ihrer Abfrage und sofortigen Antworten innerhalb der abgerufenen Dokumente abzurufen.

Überlegungen bei der Auswahl eines Anwendungsfalls

Wir empfehlen Kunden, das Umschreiben von Abfragen in ihren innovativen Lösungen oder Anwendungen zu verwenden. Bei der Auswahl eines Anwendungsfalls sind jedoch einige Überlegungen zu beachten:

• Vertrauliche Informationen und PII: Der fein abgestimmte SLM , der das Schreiben von Abfragen ermöglicht, verarbeitet die Suchabfrage, die vertrauliche Informationen enthalten kann. Berücksichtigen Sie alle Datenschutz- und Sicherheitsauswirkungen, bevor Sie abfrageumschreibungen für solche Anwendungsfälle implementieren.
• Verbergen Sie personenbezogene Informationen, um unbewusste Voreingenommenheiten zu reduzieren. Beispielsweise möchten sie während des Lebenslaufüberprüfungsprozesses eines Unternehmens möglicherweise den Namen, die Adresse oder telefonnummer eines Kandidaten blockieren, um unbewusstes Geschlecht oder andere Verzerrungen während der Suche zu reduzieren.
• Rechtliche und regulatorische Überlegungen. Organisationen müssen potenzielle rechtliche und behördliche Verpflichtungen bewerten, wenn Sie eine KI-Suche verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet ist. Einschränkungen können je nach regionalen oder lokalen behördlichen Anforderungen variieren. Darüber hinaus ist AI Search nicht dafür bestimmt und darf nicht in einer Weise verwendet werden, die in den anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.

Die GenAI Prompt-Fähigkeit ermöglicht Es Kunden, ihre Dokumentinhalte, die in ihren Datenquellen vorhanden sind, und benutzerdefinierte Aufforderungen an ein Sprachmodell zu übergeben, das sie besitzen, gehostet auf Microsoft Foundry. Das Sprachmodell verarbeitet die Eingabe und gibt erweiterten Inhalt zurück, der dann zusammen mit dem ursprünglichen Dokumentinhalt in den Suchindex aufgenommen wird. Dieser Prozess ermöglicht die Erweiterung von Suchindizes mit KI-generierten Zusammenfassungen, Bildbeschriftungen und Entitätsextraktion, unter anderem basierend auf kundendefinierten Kriterien.

Die folgenden Beispiele zeigen, wie die GenAI Prompt-Fähigkeit funktioniert.

Zero-Shot-Ticketzusammenfassung

Ziel: Supportmitarbeiter können E-Mail-Threads mit mehreren Seiten in Sekunden überspringen.

Funktionsweise:

• Während der Indizierung wird jede lange Ticketunterhaltung in logische Segmente unterteilt (Erstanfrage, Nachverfolgungsfragen, Diagnoseprotokolle usw.).
• Für jedes Segment wird das Sprachmodell angewiesen, diesen Abschnitt in drei scharfen Sätzen zusammenzufassen.
• Die resultierenden Abstraktionen ersetzen den Rohtext während des Abrufs, sodass Agenten – und nachgeschaltete RAG-Pipelines – nur die destillierte Essenz sehen.

Warum dies hilft: Präzise Zusammenfassungen auf Segmentebene reduzieren die Promptgröße, beschleunigen die Reaktionsgenerierung und helfen Agents, sich auf das Kernproblem des Kunden zu konzentrieren.

Few-Shot-Entitätsextraktion

Ziel: Supportanfragen wie „Alle Tickets anzeigen, bei denen Produkt X mit Fehler 500 abgestürzt ist.“

Funktionsweise

• Der vollständige Tickettext wird an den Skill zusammen mit einem ausgearbeiteten Beispiel gesendet, das das gewünschte Ausgabeformat zeigt (eine Liste der wichtigsten Entitäten wie Produktname, Fehlercode, Betriebssystem und Schweregrad).
• Das Modell extrahiert jedes Vorkommen von 〈Produkt, error_code, Plattform, Schweregrad.
• Diese strukturierte Liste wird mit dem Dokument gespeichert und ermöglicht Sofortfilter, die beispielsweise alle schweren Abstürze unter iOS anzeigen.

Warum dies hilft: Vorkalkulierte Entitäten verwandeln freie Kundenanfragen in filterbare Daten, sodass Support-Leads Muster erkennen und Korrekturen ohne manuelle Analyse priorisieren können.

One-Shot-Ticketweiterleitungsklassifizierung

Ziel: Leitet jedes Ticket automatisch an die richtige Warteschlange weiter.

Funktionsweise:

• Jedes Ticket wird mit einer Aufforderung analysiert, die fünf Supportkategorien auflistet: Abrechnung, technisches Problem, Kontozugriff, Featureanfrage und allgemeines Feedback – plus ein Referenzbeispiel ("Beispielticket → Abrechnung").
• Das Modell weist jedem Ticket, das als Eingabe in das KI-Suchsystem eingegeben wird, genau eine Bezeichnung auf Grundlage der fünf oben genannten Supportkategorien zu.
• Das Helpdesksystem verwendet die Bezeichnung, um Abrechnungsanfragen an Finanzexperten, technische Abstürze an Ingenieure usw. zu senden.

Warum es hilft: Schnelle, konsistente Kennzeichnung reduziert falsch weitergeleitete Tickets, verkürzt die Auflösungszeit und verbessert die Kundenzufriedenheit.

Chain-of-Thought-Auflösungsvorschlag

Ziel: Bieten Sie Supportmitarbeitern den besten nächsten Schritt, um das Problem zu beheben.

Funktionsweise

• Das gesamte Ticket ( oder die neueste Kundennachricht ) wird an das Sprachmodell übergeben.
• Die Benutzernachricht weist das Modell nach der Systemaufforderung an, intern Schritt für Schritt zu denken, aber nur die empfohlene nächste Aktion auszugeben.
• Der zurückgegebene Leitfaden kann lauten: "Bitten Sie den Kunden, den Cache zu löschen und Version 3.2.1 erneut zu installieren."
• Agents können den Vorschlag direkt kopieren oder verfeinern, bevor sie reagieren.

Warum es hilft: Agents erhalten eine umsetzbare Empfehlung ohne die private Begründungskette des Modells und sparen Zeit, während die Problembehandlungsschritte präzise und relevant bleiben. In bestimmten Fällen wird der Supportmitarbeiter nicht mit unnötigen Informationen überflutet.

Anwendungsfälle

Beispielanwendungsfälle

Die GenAI Prompt-Fähigkeit verbessert die Datenanreicherung innerhalb Azure KI-Suche und trägt zur Reaktionsrelevanz bei, um den Benutzerabsichten und Erwartungen gerecht zu werden. Durch die Integration von KI-generierten Inhalten in Suchindizes ermöglicht diese Fähigkeit genauere und kontextbezogenere Suchergebnisse. Zu den wichtigsten Anwendungen gehören:

• Erstellen sie kurze Zusammenfassungen langwieriger Dokumente, um einen schnelleren Informationsabruf zu erleichtern: Eine Anwaltskanzlei verarbeitet umfangreiche Verträge und verwendet die GenAI Prompt-Fähigkeit, kurze Zusammenfassungen mit hervorhebung wichtiger Klauseln zu erstellen, wodurch es Rechtsanwälten einfacher ist, wichtige Informationen zu überprüfen, ohne ganze Dokumente zu lesen.
• Erstellen von Textbeschreibungen für Bilder zur Verbesserung der Suchbarkeit und Barrierefreiheit: Ein Medienunternehmen verwaltet eine umfangreiche Bildbibliothek. Durch die Anwendung der GenAI Prompt-Fähigkeit generieren sie beschreibende Beschriftungen für jedes Bild und ermöglichen eine effiziente Suche und Organisation innerhalb ihres digitalen Asset Management-Systems.
• Identifizieren und Extrahieren bestimmter Entitäten oder Fakten aus Dokumenten basierend auf benutzerdefinierten Kriterien: Eine Forschungseinrichtung analysiert wissenschaftliche Arbeiten, um Erwähnungen chemischer Verbindungen und ihrer Eigenschaften zu extrahieren. Die GenAI Prompt-Fähigkeit automatisiert diese Extraktion und füllt eine strukturierte Datenbank für Forscher, um schnell auf relevante Daten zuzugreifen.
• Klassifizieren von Dokumenten in definierte Kategorien für bessere Organisation und Abruf: Ein Versicherungsunternehmen erhält täglich zahlreiche Arten von Dokumenten. Mithilfe der GenAI Prompt-Fähigkeit klassifizieren sie diese Dokumente automatisch in Kategorien wie Ansprüche, Richtlinienaktualisierungen und Kundenfeedback. Dadurch wird der Prozess der Dokumentverwaltung optimiert und das Auffinden bestimmter Dokumente bei Bedarf vereinfacht.

Dies sind zwar gängige Anwendungen, aber die Fähigkeit ist flexibel, sodass Kunden Aufforderungen definieren können, die auf ihre individuellen Anforderungen zugeschnitten sind.

Überlegungen bei der Auswahl eines Anwendungsfalls

Es ist wichtig zu beachten, dass die Inhalte, Prompts und die Bereitstellung von Sprachmodellen vollständig vom Kunden verwaltet werden. Foundry unterstützt Inhaltssicherheitsfilter für Modellbereitstellungen, und Kunden sind für die Konfiguration dieser Filter nach Bedarf verantwortlich. Über die in Foundry verfügbaren Konfigurationen hinaus wendet Azure KI-Suche keine zusätzlichen Inhaltssicherheitsfilter innerhalb der GenAI Prompt-Fähigkeit an.

Berücksichtigen Sie bei der Implementierung der GenAI Prompt-Fähigkeit Folgendes:

• Implementieren Sie Prozesse für die menschliche Überprüfung von KI-generierten Inhalten, insbesondere bei der Anwendung von prompten Transformationen, die sich auf die Zuverlässigkeit von Informationen auswirken könnten. Verwenden Sie das Azure KI-Suche-Tool Debugsitzungen, um Aufforderungen an Beispieldokumenten vor dem vollständigen Einsatz zu testen.
• Vermeiden Sie Szenarien, in denen die Verwendung oder der Missbrauch des Systems zu erheblichen körperlichen oder psychischen Verletzungen eines Einzelnen führen kann. Beispielsweise können Szenarien, die Patienten diagnostizieren oder Medikamente verschreiben, das Potenzial haben, erhebliche Schäden zu verursachen. Die Einbeziehung sinnvoller menschlicher Überprüfung und Aufsicht in das Szenario kann dazu beitragen, das Risiko schädlicher Ergebnisse zu verringern.
• Berücksichtigen Sie alle generativen Anwendungsfälle sorgfältig. Szenarien zur Inhaltsgenerierung können wahrscheinlicher zu unbeabsichtigten Ausgaben führen, und diese Szenarien erfordern sorgfältige Überlegungen und Gegenmaßnahmen.
• Rechtliche und regulatorische Überlegungen. Organisationen müssen potenzielle rechtliche und behördliche Verpflichtungen bewerten, wenn Sie eine KI-Suche verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet ist. Einschränkungen können je nach regionalen oder lokalen behördlichen Anforderungen variieren. Darüber hinaus ist AI Search nicht dafür bestimmt und darf nicht in einer Weise verwendet werden, die in den anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.

Systemverhalten

Die ursprüngliche Unterhaltungs- oder Suchabfrage wird an das Azure OpenAI-Modell eines Kunden gesendet, um die Abfrageplanungsschritte auszuführen. Die Abfrageplanung unterteilt die Unterhaltung in eine Reihe optimierter Unterabfragen, die die zugrunde liegende Absicht des Benutzers mit korrigierten Rechtschreib- und erweiterten Synonymen widerspiegeln. Azure KI-Suche verarbeitet dann alle Unterabfragen gleichzeitig über das vollständige Suchabrufsystem. Unterabfragen werden zuerst von einer Hybridkombination der Stichwortsuche und der Vektorsuche verarbeitet. Die Schlüsselwortsuche findet die Dokumente im Suchindex mit ähnlichen Schlüsselwörtern wie die Unterabfragen. Die Vektorsuche findet Dokumente im Suchindex, die möglicherweise unterschiedliche Schlüsselwörter aufweisen, aber ähnliche zugrunde liegende Bedeutung für die Unterabfragen. Die Ergebnisse dieser Hybridsuche werden dann nach semantischer Rangfolger neu bewertet, um die Dokumente mit der besten Übereinstimmung mit der Absicht der Unterabfrage zu finden. Der Dienst führt dann Duplikate aus den bewerteten Ergebnissen zusammen und entfernt sie und wendet Antwortgrenzwerte wie die maximale Ausgabelänge an, bevor die endgültige Antwort zurück gesendet wird.

Anwendungsfälle

Beispielanwendungsfälle

• Grundlagendaten für benutzerdefinierte Chatbots. Verknüpfen Sie den Chatbot mit den offiziellen PERSONALrichtlinien und dem Mitarbeiterhandbuch des Unternehmens, damit der Chatbot die Antwort direkt aus diesen Dokumenten zieht, anstatt zu erraten, wenn jemand fragt: "Wie viele Urlaubstage erhalte ich?"
• Nutzen Sie Unternehmenswissensassistenten, um Den Benutzerkontext, Filter und Chatverlauf zu respektieren. Wenn ein Mitarbeiter beispielsweise nach den Zielen für einen bestimmten Zeitraum fragt, verwendet der Assistent seine Rolle, die aktuellen Filter (z. B. Region: US) und die laufende Unterhaltung (z. B. das letzte Thema war "Q2-Pipeline"), um eine personalisierte Antwort zu generieren.
• Lösen Sie komplexe Aufgaben zur Informationssuche an, bei denen eine einzelne Schlüsselwortabfrage einen geringen Rückruf hat. Solche Aufgaben können Anleitungen zur Problembehandlung, Medizinische Literaturforschung oder Produktvergleiche umfassen. Wenn beispielsweise ein Techniker einfach "Gerätefehler" durchsucht und generische Ergebnisse empfängt, kann ein agentischer Retriever den gesamten Unterhaltungsverlauf berücksichtigen, der Gerätemodell, Softwareversion, Wartungsverlauf und Netzwerkstatus umfassen kann, um präzise, relevante Artikel anzuzeigen.
• Sorgen Sie für volle Transparenz, was abgerufen wurde, warum und zu welchen Kosten. Beispielsweise ist es kritisch, beim Zusammenfassen regulatorischer Dokumente und der Ergebnisse früherer Audits die genauen Quellen (z. B. „SEC-Einreichung 2. Quartal 2023“), die Auswahlüberlegung (z. B. „übereinstimmende Schlüsselwörter: Risikooffenlegung, Derivate“) und die damit verbundenen Kosten (z. B. Tokennutzung) zu kennen.

Überlegungen bei der Auswahl eines Anwendungsfalls

• Latenz: Das Hinzufügen eines zweiten LLM-Aufrufs für die Abfrageplanung erweitert zwangsläufig die Roundtripzeit der Anforderung. Selbst bei schnellen Modellen sollten Sie die zusätzliche Verzögerung bei Spitzendatenverkehr vergleichen und überprüfen, ob die Gesamterfahrung für Ihre Benutzer akzeptabel bleibt. Bei kritischer Latenz sollten Sie häufige Abfragen zwischenspeichern oder kleinere, schnellere Planungsmodelle verwenden.
• Kosten: Gebühren entstehen in zwei Dimensionen: OpenAI-Modelltoken und Suchbewertungstoken. Der Aufruf des Abfrageplaners wird von Azure OpenAI für Eingabe- und Ausgabetoken in Rechnung gestellt, während jede Unterabfrage von Azure KI-Suche für die Token abgerechnet wird, die sie bewerten muss. Ranking-Token sind in der Anfangsphase der öffentlichen Vorschau kostenlos. Schätzen Sie im Voraus sowohl die Modell- als auch die Rangfolgetokenanzahl für Ihre Workload.
• Vertrauliche Eingaben: Der gesamte Unterhaltungsverlauf wird an das Planner-Modell weitergeleitet, was bedeutet, dass alle persönlich identifizierbaren oder geschäftsrelevanten Daten Ihre unmittelbare Vertrauensgrenze verlassen. Entfernen, maskieren oder redigieren Sie solche Daten, bevor Sie das LLM aufrufen, und dokumentieren Sie diese Maßnahme in Ihren Datenschutzvorkehrungen.
• Grenzwerte für Region und Vorschau: Der agentische Abruf ist nur in Regionen verfügbar, in denen der semantische Rangierer verfügbar ist. Ein einzelner Agent kann nur auf einen Suchindex verweisen. Vergewissern Sie sich, dass die Region, die Ihre Daten und Ihr Modell hostet, agentische Abrufe unterstützt, und planen Sie separate Agents, wenn Sie mehrere Indizes oder Regionen umfassen müssen.
• Compliance: Vergewissern Sie sich, dass die Verwendung eines LLM-gesteuerten Abfrageplaners branchenspezifische oder regionale Anforderungen erfüllt (z. B. Data-Residency, Datenschutz oder Automatisierte Entscheidungsregeln im Gesundheitswesen oder Finanzwesen). Sicherstellen einer angemessenen menschlichen Aufsicht und Kontrolle. Erwägen Sie, Steuerelemente einzuschließen, um Entwicklern zu helfen, Aktionen rechtzeitig zu überprüfen, zu überprüfen und/oder zu genehmigen, was die Überprüfung geplanter Aufgaben oder Aufrufe an externe Datenquellen umfassen kann.
• Rechtliche und behördliche Überlegungen: Benutzer müssen potenzielle spezifische rechtliche und behördliche Verpflichtungen bewerten, wenn Sie Foundry Tools und Lösungen verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet sind. Darüber hinaus sind Foundry Tools oder Lösungen nicht für sie ausgelegt und dürfen nicht auf eine Weise verwendet werden, die in anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.

Die KI-Anreicherung in Azure KI-Suche verwendet die Indexer- und Datenquellenfeatures des Diensts, um Foundry Tools aufzurufen, um die Inhaltsanreicherung durchzuführen. Einschränkungen der in diesem Prozess verwendeten Indexer und Datenquellen gelten. Weitere Informationen zu diesen zugehörigen Einschränkungen finden Sie in der Indexer- und Datenquellendokumentation. Die Einschränkungen jedes Foundry Tools, das von der KI-Anreicherungspipeline in Azure KI-Suche verwendet wird, gelten ebenfalls. Weitere Informationen zu diesen Einschränkungen finden Sie in den Transparenzhinweisen für jeden Dienst .

Technische Einschränkungen, Betriebliche Faktoren und Reichweiten

Alle in Azure KI-Suche hochgeladenen Vektoren müssen extern aus dem Dienst generiert werden, indem sie ein Modell Ihrer Wahl verwenden. Es liegt in Ihrer Verantwortung, die technischen Einschränkungen und Betriebsfaktoren jedes Modells zu berücksichtigen und ob die von ihr erzeugten Einbettungen für Ihren Anwendungsfall optimiert oder sogar geeignet sind. Dies umfasst sowohl die Schlüsse aus Bedeutungen, die aus dem Inhalt extrahiert wurden, als auch die Dimensionalität des Vektoreinbettungsraums.

Das Vektorisierungsmodell erstellt einen Einbettungsbereich, der die resultierende Endbenutzersuche einer Anwendung definiert. Es könnte Nachteile für ein Modell geben, das sich negativ auf Funktionen und Leistung auswirkt, wenn ein Modell nicht gut mit einem gewünschten Anwendungsfall übereinstimmt oder die generierten Einbettungen schlecht optimiert sind.

Während viele Einschränkungen der Vektorsuche aus dem Modell stammen, das zum Generieren von Einbettungen verwendet wird, gibt es einige zusätzliche Optionen, die Sie zur Abfragezeit berücksichtigen sollten. Sie können zwischen zwei Algorithmen wählen, um die Relevanz für Vektorsuchergebnisse zu bestimmen: Erschöpfende k-nächste Nachbarn (KNN) oder Hierarchical Navigable Small World. Die erschöpfende Methode der k-nächsten Nachbarn (KNN) führt eine Brute-Force-Suche im gesamten Vektorraum nach Übereinstimmungen durch, die der Anfrage am ähnlichsten sind. Dazu werden die Abstände zwischen allen Datenpunkten berechnet, um die genauen k-nächsten Nachbarn eines Abfragepunkts zu ermitteln. Obwohl genauer, kann dieser Algorithmus langsam sein. Wenn niedrige Latenz das primäre Ziel ist, sollten Sie den Hierarchischen Navigable Small World (HNSW)-Algorithmus verwenden. HNSW führt eine effiziente annähernde Suche nach dem nächsten Nachbarn (Approximate Nearest Neighbor, ANN) in hochdimensionalen Einbettungsbereichen durch. Weitere Informationen zu diesen Optionen finden Sie in der Vektorsuchdokumentation .

Bewährte Methoden zur Verbesserung der Systemleistung

• Nehmen Sie sich Zeit für A/B-Tests Ihrer Anwendung mit den unterschiedlichen Inhalts- und Abfragetypen, die Sie erwarten, dass Ihre Anwendung unterstützt. Ermitteln Sie, welche Abfrageumgebung für Ihre Anforderungen am besten geeignet ist.
• Verbringen Sie Zeit mit dem Testen Ihrer Modelle mit einem vollständigen Bereich von Eingabeinhalten, um zu verstehen, wie sie sich in vielen Situationen verhält. Dieser Inhalt kann potenziell sensible Eingaben enthalten, um zu verstehen, ob es irgendwelche Verzerrungen gibt, die dem Modell inhärent sind. Die Übersicht Azure OpenAI Responsible AI enthält Anleitungen für die verantwortungsvolle Nutzung von KI.
• Erwägen Sie das Hinzufügen von Azure KI Inhaltssicherheit zu Ihrer Anwendungsarchitektur. Sie enthält eine API, um schädlichen vom Benutzer generierten und KI-generierten Text oder Bilder in Anwendungen und Diensten zu erkennen.

Auswerten und Integrieren der Vektorsuche für Ihre Anwendung

Um eine optimale Leistung zu gewährleisten, führen Sie ihre eigenen Auswertungen der Lösungen durch, die Sie mithilfe der Vektorsuche implementieren möchten. Folgen Sie einem Evaluierungsprozess, der: (1) einige interne Interessengruppen verwendet, um Ergebnisse auszuwerten, (2) A/B-Experimente verwendet, um die Vektorsuche für Benutzer bereitzustellen, (3) Key Performance Indicators (KPIs) und die Überwachung von Metriken umfasst, wenn der Dienst erstmals bereitgestellt wird, und (4) das Testen und Anpassen der Konfiguration des semantischen Rankers und/oder der Indexdefinition beinhaltet, einschließlich der umgebenden Erlebnisse wie Benutzeroberflächenplatzierung oder Geschäftsprozesse.

Microsoft hat die Vektorsuche sowohl in Bezug auf Latenz als auch Zurückruf und Relevanz streng ausgewertet, indem verschiedene Datasets verwendet werden, um die Geschwindigkeit, Skalierbarkeit und Genauigkeit der zurückgegebenen Ergebnisse zu messen. Der Hauptfokus Ihrer Evaluierungsbemühungen sollte die Auswahl des geeigneten Modells für Ihren spezifischen Anwendungsfall sein, das Verständnis der Einschränkungen und Voreingenommenheiten des Modells und das strenge Testen der End-to-End-Vektorsucherfahrung.

Technische Einschränkungen, Betriebliche Faktoren und Reichweiten

Es kann vorkommen, dass semantische Ergebnisse, Beschriftungen und Antworten möglicherweise nicht korrekt erscheinen. Die von Semantic Ranker verwendeten Modelle werden auf verschiedenen Datenquellen trainiert (einschließlich Open-Source und Auswahlen aus dem Microsoft Bing-Korpus). Der semantische Rangierer unterstützt eine breite Palette von Sprachen und versucht, Benutzerabfragen mit Inhalten aus Ihren Suchergebnissen abzugleichen. Semantischer Ranker ist auch ein Premium-Feature mit zusätzlichen Kosten, das bei der Kalkulation der Gesamtkosten Ihrer vollständigen Lösung berücksichtigt werden sollte.

Der semantische Rangierer wird wahrscheinlich die Relevanz gegenüber Inhalten verbessern, die semantisch reich sind, z. B. Artikel und Beschreibungen. Es sucht nach Kontext und Zusammenhängen zwischen Begriffen und hebt Übereinstimmungen hervor, die im Hinblick auf die Abfrage sinnvoller sind. Sprachverständnis "findet" Zusammenfassungen oder Beschriftungen und Antworten innerhalb Ihres Inhalts, aber im Gegensatz zu generativen Modellen wie Azure OpenAI Service Modellen GPT-3.5 oder GPT-4 werden sie nicht erstellt. In der Antwort ist nur ausführlicher Text aus Quelldokumenten enthalten, der dann auf einer Suchergebnisseite für eine produktivere Sucherfahrung gerendert werden kann.

Modernste, vortrainierte Modelle werden zur Zusammenfassung und Rangfolge verwendet. Um die schnelle Leistung aufrechtzuerhalten, die Benutzer von der Suche erwarten, werden semantische Zusammenfassungen und Rangfolgen nur auf die top 50 Ergebnisse angewendet, wie sie vom Standardbewertungsalgorithmus bewertet werden. Eingaben werden vom Inhalt im Suchergebnis abgeleitet. Es kann nicht zurück zum Suchindex gelangen, um auf andere Felder im Suchdokument zuzugreifen, die nicht in der Abfrageantwort zurückgegeben wurden. Eingaben unterliegen einer Tokenlänge von 8.960. Diese Grenzwerte sind erforderlich, um Die Reaktionszeiten in Millisekunden beizubehalten.

Der Standardbewertungsalgorithmus stammt von Bing und Microsoft Research und ist als Add-On-Feature in die Azure KI-Suche-Infrastruktur integriert. Die Modelle werden intern verwendet, sind nicht für den Entwickler verfügbar und können nicht konfiguriert werden. Weitere Informationen zu Forschungs- und KI-Investitionen, die den semantischen Ranker unterstützen, finden Sie unter Wie KI von Bing Azure KI-Suche unterstützt (Microsoft Research Blog).

Der semantische Rangierer bietet auch Antworten, Beschriftungen und Hervorhebungen innerhalb der Antwort. Wenn das Modell beispielsweise eine Abfrage als Frage klassifiziert und 70% der Antwort sicher ist, gibt das Modell eine semantische Antwort zurück. Darüber hinaus stellen semantische Beschriftungen den relevantesten Inhalt innerhalb der Ergebnisse bereit und stellen einen kurzen Codeausschnitt bereit, der die relevantesten Wörter oder Ausdrücke innerhalb dieses Codeausschnitts hervorhebung.

Semantische Bewertungsergebnisse basieren auf den Daten im zugrunde liegenden Suchindex, und die Modelle stellen Relevanzbewertung, Antworten und Beschriftungen basierend auf den aus dem Index abgerufenen Informationen bereit. Vor der Verwendung des semantischen Rangierers in einer Produktionsumgebung ist es wichtig, weitere Tests durchzuführen und sicherzustellen, dass das Dataset korrekt und für den vorgesehenen Anwendungsfall geeignet ist. Weitere Informationen und Beispiele zum Auswerten der semantischen Rangfolge finden Sie im Inhalt und Anhang hier.

Systemleistung

In vielen KI-Systemen wird die Leistung häufig in Bezug auf die Genauigkeit definiert – d. h., wie oft das KI-System eine richtige Vorhersage oder Ausgabe bietet. Bei groß angelegten Natürlichen Sprachmodellen können zwei verschiedene Benutzer die gleiche Ausgabe betrachten und verschiedene Meinungen darüber haben, wie nützlich oder relevant es ist, was bedeutet, dass die Leistung für diese Systeme flexibler definiert werden muss. Unter „Leistung“ wird hier im Allgemeinen verstanden, dass die Anwendung so funktioniert, wie Sie und Ihre Benutzer es erwarten, einschließlich der Vermeidung schädlicher Ausgaben.

Das semantische Ranking-Modell wurde auf öffentlichen Inhalten trainiert. Daher variiert die semantische Relevanz je nach den Dokumenten im Index und den darin ausgestellten Abfragen. Es ist wichtig, ihr eigenes Urteil und Ihre Recherche zu verwenden, wenn Sie diese Inhalte für die Entscheidungsfindung verwenden.

Bewährte Methoden zur Verbesserung der Systemleistung

• Investieren Sie Zeit in A/B-Tests Ihrer Anwendung mit unterschiedlichen Abfragetypen, wie zum Beispiel Schlüsselwort im Vergleich zu Hybrid plus semantischem Ranker. Ermitteln Sie, welche Abfrageumgebung für Ihre Anforderungen am besten geeignet ist.
• Führen Sie einen angemessenen Aufwand aus, um Ihre semantische Konfiguration gemäß der Featuredokumentation einzurichten.
• Vertrauen Sie den semantischen Antworten nicht, wenn Sie keine Vertrauensstellung in die Genauigkeit der Informationen innerhalb des Suchindex haben.
• Vertrauen Sie nicht immer semantischen Untertiteln, da sie aus Kundeninhalten über eine Reihe von Modellen extrahiert werden, die die relevantesten Antworten in einem kurzen Codeausschnitt vorhersagen.

Auswertung des semantischen Rankers

Auswertungsmethoden

Der Semantic Ranker wurde durch interne Tests bewertet, einschließlich automatisierter und menschlicher Beurteilungen mehrerer Datasets sowie Rückmeldungen von internen Kunden. Das Testen umfasst das Einstufen von Dokumenten, indem sie nach Relevanz oder Nicht-Relevanz bewertet und in Prioritätsreihenfolge der Relevanz geordnet werden. Ebenso wurden die Beschriftungs- und Antwortfunktionen auch durch interne Tests bewertet.

Auswertungsergebnisse

Wir bemühen uns, alle Modellupdates regressionsfrei zu versenden (d. a. das aktualisierte Modell sollte nur das aktuelle Produktionsmodell verbessern). Jeder Kandidat wird direkt mit dem aktuellen Produktionsmodell verglichen, indem Metriken verwendet werden, die für die Auswertung des Features geeignet sind (z. B. normalisierter rabattierter Kumulierter Gewinn für Rangfolge und Genauigkeit/Rückruf für Antworten). Semantische Bewertungsmodelle werden trainiert, abgestimmt und ausgewertet, indem sie eine breite Palette von Schulungsdaten verwenden, die repräsentativ für Dokumente sind, die unterschiedliche Eigenschaften (Sprache, Länge, Formatierung, Formatvorlagen und Töne) aufweisen, um das umfassendste Array von Suchszenarien zu unterstützen. Unsere Schulungs- und Testdaten stammen aus:

Quellen von Dokumenten:

• Benchmarks für Akademie und Industrie
• Kundendaten (nur Tests, mit Kundenberechtigungen ausgeführt)
• Synthetische Daten

Quellen von Abfragen:

• Benchmark-Abfragesätze
• Vom Kunden bereitgestellte Abfragesätze (nur Tests, mit Kundenberechtigungen ausgeführt)
• Synthetische Abfragesätze
• Vom Menschen generierte Abfragesätze

Quellen von Bezeichnungen für Bewertungsabfrage- und Dokumentpaare:

• Akademische und branchenspezifische Benchmark-Kennzeichnungen
• Kundenetiketten (nur Tests, mit Genehmigung des Kunden)
• Synthetische Datenbeschriftungen
• Von Menschen bewertete Labels

Auswerten und Integrieren des semantischen Rankers für Ihren Bedarf

Die Leistung des semantischen Rangierers variiert je nach der realen Nutzung und den Bedingungen, unter denen die Benutzer sie verwenden. Die durch die Deep Learning-Modelle bereitgestellte Qualität der Relevanz korreliert direkt mit der Datenqualität Ihres Suchindex und unterstützt die semantische Ranking-Fähigkeiten. Beispielsweise weisen die Modelle derzeit Tokenbeschränkungen auf, die nur die top 8.960 Token für semantische Antworten berücksichtigen. Wenn daher die semantische Antwort auf eine Suchabfrage am Ende eines langen Dokuments (über das Tokenlimit von 8.960 hinaus) gefunden wird, wird die Antwort nicht bereitgestellt. Die gleiche Regel gilt für Beschriftungen. Außerdem listet die semantische Konfiguration relevante Suchfelder in der Prioritätsreihenfolge auf. Sie können die Felder in dieser Liste neu anordnen, um die Relevanz an Ihre Anforderungen anzupassen.

Um eine optimale Leistung in ihren Szenarien sicherzustellen, sollten Kunden ihre eigenen Auswertungen der lösungen durchführen, die sie mithilfe des semantischen Rangierers implementieren. Kunden sollten in der Regel einem Evaluierungsprozess folgen, der: (1) verwendet einige interne Interessengruppen, um Ergebnisse auszuwerten, (2) verwendet A/B-Experimente, um semantische Rangfolger für Benutzer bereitzustellen, (3) umfasst KPIs und Metriküberwachung, wenn der Dienst zum ersten Mal in Erfahrungen bereitgestellt wird, und (4) Tests und Optimierungen der Semantikbewertungskonfiguration und/oder Indexdefinition, einschließlich der umgebungsspezifischen Erfahrungen wie Benutzeroberflächenplatzierung oder Geschäftsprozesse.

Wenn Sie eine Anwendung in einer Domäne oder Branche mit hohem Einsatz entwickeln, wie z. B. Gesundheitswesen, Personalwesen, Bildung oder juristischer Bereich, bewerten Sie, wie gut die Anwendung in Ihrem Szenario funktioniert, implementieren Sie eine starke menschliche Aufsicht, bewerten Sie, wie gut die Benutzer die Einschränkungen der Anwendung verstehen und alle relevanten Gesetze einhalten. Berücksichtigen Sie andere Gegenmaßnahmen basierend auf Ihrem Szenario.

Technische Einschränkungen, Betriebliche Faktoren und Reichweiten

Es kann vorkommen, dass synthetische Abfragen falsch sind, zu viele Einschränkungen aufweisen oder zu teuer sind. Das Umschreiben von Abfragen unterstützt eine breite Palette von Sprachen und versucht, Benutzerabfragen umzuschreiben, um die Rückgabe zu maximieren. Die Abfragesprache muss als Eingabe angegeben werden. Die Abfrageumschreibung ist Teil von Semantic Ranker (Azure AI-Suchfunktion zur Verbesserung der Suchrelevanz), bei dem es sich um ein Premium-Feature mit zusätzlichen Kosten handelt. Dies sollte beim Projizieren der Gesamtausgaben Ihrer End-to-End-Lösung berücksichtigt werden. Das Umschreiben von Abfragen kann nur verwendet werden, wenn der semantische Sortierer aktiviert ist.

Vor der Verwendung der Abfrageumschreibung in einer Produktionsumgebung (Liveversion Ihrer Anwendung) ist es wichtig, weitere Tests durchzuführen und sicherzustellen, dass die synthetischen Abfragen für den vorgesehenen Anwendungsfall geeignet sind. Weitere Informationen und Beispiele dazu, wie man Abfrage-Umformulierungen bewertet, finden Sie im hier bereitgestellten Inhalt und Anhang.

Systemleistung

Bei groß angelegten Natürlichen Sprachmodellen können zwei verschiedene Benutzer die gleiche Ausgabe betrachten und verschiedene Meinungen darüber haben, wie nützlich oder relevant es ist, was bedeutet, dass die Leistung für diese Systeme flexibler definiert werden muss. Unter „Leistung“ wird hier im Allgemeinen verstanden, dass die Anwendung so funktioniert, wie Sie und Ihre Benutzer es erwarten, einschließlich der Vermeidung schädlicher Ausgaben.

Die Leistung der Abfrageumschreibung variiert je nach der realen Verwendung und den Bedingungen, in denen benutzer sie verwenden. Die Qualität synthetischer Abfragen, die vom Abfrageumschreibungsmodell bereitgestellt werden, wird direkt mit der ursprünglichen Suchabfrage korreliert.

Um eine optimale Leistung in ihren Szenarien sicherzustellen, sollten Kunden ihre eigenen Auswertungen der Lösungen durchführen, die sie mithilfe von Abfrageumformulierung implementieren. Kunden sollten in der Regel einem Evaluierungsprozess folgen, der:

1. verwendet einige interne Projektbeteiligte, um Ergebnisse auszuwerten,
2. verwendet A/B-Experimente, um Abfrageumformulierungen für Nutzer bereitzustellen und
3. Enthält KPIs und Metriküberwachung, wenn der Dienst zum ersten Mal in Erfahrungen bereitgestellt wird.

Bewährte Methoden zur Verbesserung der Systemleistung

• Vollständige A/B-Tests für Ihre Anwendung mit unterschiedlichen Abfragetypen (Volltext, Vektor, Hybrid oder andere Arten von Abfragen). Ermitteln Sie, welche Abfrageumgebung für Ihre Anforderungen am besten geeignet ist.
• Gehen Sie nicht immer davon aus, dass jede synthetische Abfrage, die von der Abfrageumschreibung generiert wird, die genaue Absicht der ursprünglichen Abfrage widerspiegelt. Synthetische Abfragen werden von einem fein abgestimmten SLM generiert, das Abfragen semantisch ähnlich der Absicht der ursprünglichen Abfrage generiert, aber möglicherweise nicht mit der genauen Absicht übereinstimmt.

Auswertung der Abfrage-Neuschreibung

Auswertungsmethoden

Das Umschreiben von Abfragen wurde mit internen Tests ausgewertet, einschließlich der automatisierten und manuellen Beurteilung mehrerer Datasets sowie des Feedbacks interner Kunden. Tests umfassten die Bewertung der Relevanz der Ergebnisse der semantischen Rangfolge in Kombination mit der Abfrageumschreibung verglichen mit der Relevanz der Ergebnisse nur mit der semantischen Rangfolge.

Auswertungsergebnisse

Jedes Kandidatenmodell wird direkt mit dem aktuell bereitgestellten Modell verglichen, indem Metriken verwendet werden, die für die Auswertung des Features geeignet sind. Abfrageumschreibungsmodelle werden abgestimmt und ausgewertet, indem eine breite Palette von öffentlichen Daten verwendet wird, die repräsentativ für Abfragen sind, die unterschiedliche Eigenschaften (Sprache, Länge, Formatierung, Formatvorlagen und Töne) aufweisen, um das umfassendste Array von Suchszenarien zu unterstützen. Unsere Schulungs- und Testdaten stammen aus:

Quellen von Dokumenten:

• Benchmarks für Akademie und Industrie
• Kundendaten (nur Tests, mit Kundenberechtigungen ausgeführt)

Quellen von Abfragen:

• Benchmark-Abfragesätze
• Vom Kunden bereitgestellte Abfragesätze (nur Tests, mit Kundenberechtigungen ausgeführt)
• Synthetische Abfragesätze
• Vom Menschen generierte Abfragesätze

Quellen von Bezeichnungen für Bewertungsabfrage- und Dokumentpaare:

• Akademische und branchenspezifische Benchmark-Kennzeichnungen
• Kundenetiketten (nur Tests, mit Genehmigung des Kunden)
• Synthetische Datenbeschriftungen
• Von Menschen bewertete Labels

Auswerten und Integrieren des Umschreibens von Abfragen für Ihre Verwendung

Da das Umschreiben von Abfragen anhand öffentlicher Inhalte trainiert wurde, unterscheiden sich die synthetischen Abfragen je nach den ausgegebenen Abfragen. Daher ist es wichtig, ihr eigenes Urteil und Ihre Recherche zu verwenden, wenn Sie diese Inhalte für die Entscheidungsfindung verwenden.

Technische Einschränkungen, Betriebliche Faktoren und Reichweiten

Während die GenAI Prompt-Funktion leistungsstarke Fähigkeiten bietet, ist es wichtig, bestimmte Einschränkungen zu erkennen.

• Die Fähigkeit basiert auf kundenkonfigurierten Inhaltsfiltern innerhalb der Gießerei. Azure KI-Suche bietet keine zusätzlichen Sicherheitsmechanismen für Inhalte für diese Fähigkeit.
• Die Qualität von KI-generierten Inhalten hängt von der Effektivität der Eingabeaufforderungen und dem zugrunde liegenden Sprachmodell ab. Gründliche Tests sind erforderlich, um sicherzustellen, dass die Ausgabe den gewünschten Standards entspricht.
• Die Verarbeitung großer Datenmengen mit komplexen Eingabeaufforderungen erfordert möglicherweise erhebliche Rechenressourcen und kann zu Latenz führen. Planen und zuordnen Sie Ressourcen, um nicht nur die Leistung und Kosteneffizienz aufrechtzuerhalten, sondern auch mögliche Verzögerungen bei der Datenverarbeitung zu verhindern.

Systemleistung

Bewährte Methoden zur Verbesserung der Systemleistung

So optimieren Sie die Leistung der GenAI Prompt-Fähigkeit:

• Verwenden Sie Azure KI-Suche Debug-Sitzungstool, um Aufforderungen zu Beispieldokumenten zu testen, um sicherzustellen, dass die von KI generierten Inhalte den Erwartungen vor der vollständigen Bereitstellung entsprechen.
• Erstellen Sie klare und detaillierte Prompts, um das Sprachmodell effektiv anzuleiten, was die Wahrscheinlichkeit irrelevanter oder ungenauer Ausgaben reduziert.
• Überwachen Sie die Systemleistung und skalieren Sie Ressourcen nach Bedarf, um die rechentechnischen Anforderungen der KI-Verarbeitung zu verarbeiten.
• Fördern Sie die menschliche Überwachung von Ausgaben vor der Veröffentlichung oder Verbreitung. Mit generativer KI besteht das Potenzial, Inhalte zu generieren, die möglicherweise anstößig oder irrelevant für die aufgabe sind.

Bewertung von GenAI Prompt Skill

Auswertung und Integration der GenAI-Prompt-Technik für Ihren Einsatzbereich

Um die Vorteile der GenAI Prompt-Fähigkeit innerhalb Ihres spezifischen Kontexts zu maximieren, sollten Sie die folgenden Schritte in Betracht ziehen:

• Bestimmen Sie die spezifischen Anreicherungsziele, z. B. das Generieren präziser Zusammenfassungen, Extrahieren wichtiger Entitäten oder das Erstellen beschreibender Metadaten, um die Anwendung der Fähigkeiten an Ihre geschäftlichen Anforderungen anzupassen.
• Beginnen Sie mit einer Teilmenge Ihrer Daten, um die Leistung der Fähigkeiten zu bewerten und die erforderlichen Anpassungen vorzunehmen. Dieser Ansatz ermöglicht die kontrollierte Experimentierung und Verfeinerung vor der vollständigen Bereitstellung.
• Richten Sie Mechanismen ein, um die Qualität und Die Auswirkungen von KI-generierten Inhalten zu überwachen. Fordern Sie Feedback von Endbenutzern an, um Verbesserungsbereiche zu identifizieren und sicherzustellen, dass die erweiterten Daten den Erwartungen der Benutzer entsprechen.

Technische Einschränkungen, Betriebliche Faktoren und Reichweiten

Es gibt Fälle, in denen die von LLM generierten Unterabfragen irrelevant, übermäßig restriktiv oder kostentreibend für Tokens sind. Agentische Suche unterstützt alle Sprachen, die von der GPT-4o-Familie verarbeitet werden, aber die Qualität des erzeugten Abfrageplans hängt weiterhin von der Klarheit der Benutzereingabe ab. Da der agentenbasierte Abruf auf dem semantischen Ranker für jede Unterabfrage basiert, muss der semantische Ranker im Index aktiviert sein. Semantischer Rangierer ist eine Premium-Funktion auf Tokenbasis; obwohl die Rangordnungsgebühren während der ersten Phase der öffentlichen Vorschau aufgehoben werden, gelten sie später und sollten in die Gesamtbetriebskosten eingegliedert werden.

Führen Sie vor dem Verschieben des agentischen Abrufs in eine Produktionsumgebung zusätzliche Tests durch, um zu bestätigen, dass die Unterabfragen und zurückgegebenen Passagen für den vorgesehenen Anwendungsfall geeignet sind, dass Latenz und Kosten Ihren Zielen auf Dienstebene entsprechen und dass die Erdungsdaten keine vertraulichen oder nicht kompatiblen Inhalte verfügbar machen.

Systemleistung

Wie bei jedem groß angelegten Sprachmodellsystem können unterschiedliche Benutzer unterschiedliche Beurteilungen über die Nützlichkeit oder Relevanz der zurückgegebenen Passagen erreichen, sodass die Leistung flexibel definiert werden muss. Für den KI-gestützten Abruf bedeutet gute Leistung, dass die End-to-End-Anwendung die Inhalte liefert, die Ihre Benutzer erwarten – ohne inakzeptable Latenzzeiten, Kosten oder schädliche Ergebnisse.

Die Wirksamkeit des agentischen Abrufs hängt von vielen realen Faktoren ab:

• Prompt/Chatverlaufslänge
• Anzahl der von LLM generierten Unterabfragen
• Indexgröße und Schema (Schlüsselwort, Vektor, Hybrid)
• Wahl des Planungsmodells (GPT-4o vs. GPT-4o-mini)
• Konfigurations- und Bewertungsschwellenwerte für semantische Suche

Bewährte Methoden zur Verbesserung der Systemleistung

• Fassen Sie ältere Chat-Turns zusammen oder kürzen Sie sie, um die Tokennutzung gering zu halten.
• Optimieren Sie den Ranker-Schwellenwert so, dass nur hoch relevante Passagen zurückgegeben werden.
• Verwenden von Filtern nach Möglichkeit

Auswertung des agentenbasierten Abrufs

Der Agent-Abruf wurde mittels interner Tests bewertet, einschließlich der automatisierten und manuellen Beurteilung mehrerer Datensätze. Tests enthielten die Bewertung der Relevanz der Ergebnisse des agentischen Abrufs im Vergleich zu Ergebnissen nur mit semantischer Rangfolge.

Auswertungsmethoden

Jede Kandidatenkonfiguration für die Agenten-Suche, die durch den Prompt des Planers, die Modellvariante, die Anzahl der Unterabfragen und die Ranking-Schwellenwerte definiert ist, wird im direkten Vergleich mit der Baseline der Produktion evaluiert. Wir wenden eine Reihe von Relevanz, Sicherheit, Latenz und Kostenmetriken an, die speziell für Abfrageabrufszenarien mit mehreren Abfragen ausgewählt wurden. Um die Zuverlässigkeit in realen Anwendungsfällen sicherzustellen, werden Optimierungen und Tests auf einer breiten Mischung aus öffentlichen und vom Kunden genehmigten Datensätzen durchgeführt, die in Sprache, Abfragelänge, Formatierung, Stil und Unterhaltungston variieren. Testmaterial stammt aus:

Quellen von Dokumenten:

• Benchmarks für Akademie und Industrie
• Kundendaten (nur Tests, mit Kundenberechtigungen ausgeführt)
• Quellen von Abfragen:
• Benchmark-Abfragesätze
• Vom Kunden bereitgestellte Abfragesätze (nur Tests, mit Kundenberechtigungen ausgeführt)
• Synthetische Abfragesätze
• Vom Menschen generierte Abfragesätze

Quellen von Bezeichnungen für Bewertungsabfrage- und Dokumentpaare:

• Akademische und branchenspezifische Benchmark-Kennzeichnungen
• Kundenetiketten (nur Tests, mit Genehmigung des Kunden)
• Synthetische Datenbeschriftungen
• Von Menschen bewertete Labels

Auswerten und Integrieren des agentengesteuerten Abrufs für Ihren Einsatz

Da der Agentic-Abrufplaner weitgehend auf öffentliche Daten trainiert wird, variiert die Qualität und Relevanz seiner generierten Unterabfragen mit Ihrer Domäne und den spezifischen Benutzeraufforderungen. Um die Vorteile des agentischen Abrufs innerhalb Ihres spezifischen Kontexts zu maximieren, berücksichtigen Sie die folgenden Schritte:

• Überprüfen Sie die Ausgabe, bevor Sie sie verwenden, um geschäftskritische Entscheidungen voranzutreiben: Überprüfen Sie manuell eine Stichprobe von generierten Unterabfragen und zurückgegebenen Dokumenten, um sicherzustellen, dass sie mit der Terminologie, Genauigkeit und Complianceanforderungen der Domäne übereinstimmen.
• Stellen Sie dem Planner domänenspezifische Informationen bereit. Stellen Sie synonyme Zuordnungen und eine vollständige Historie der Kommunikation zur Verfügung, damit das LLM Abfragen in einer Sprache paraphrasieren und zerlegen kann, die zu Ihrem Inhalt passt, und so Recall und Präzision verbessert.
• Implementieren Sie Fallback- oder Guardrail-Logik: Wenn der Planer Unterabfragen mit niedriger Vertrauenswürdigkeit oder außerhalb des Anwendungsbereichs erzeugt, leiten Sie die Anforderung an eine einfachere Schlüsselwort- oder Vektorsuche weiter, oder zeigen Sie dem Benutzer eine Klarstellungsaufforderung an, um zu verhindern, dass unzuverlässige Antworten in den weiteren Prozess gelangen.