CachingChatClient Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Stellt einen delegierenden Chatclient dar, der die Ergebnisse von Chatanrufen zwischenspeichert.
public ref class CachingChatClient abstract : Microsoft::Extensions::AI::DelegatingChatClient
public abstract class CachingChatClient : Microsoft.Extensions.AI.DelegatingChatClient
type CachingChatClient = class
inherit DelegatingChatClient
Public MustInherit Class CachingChatClient
Inherits DelegatingChatClient
- Vererbung
- Abgeleitet
Konstruktoren
| Name | Beschreibung |
|---|---|
| CachingChatClient(IChatClient) |
Initialisiert eine neue Instanz der CachingChatClient-Klasse. |
Eigenschaften
| Name | Beschreibung |
|---|---|
| CoalesceStreamingUpdates |
Dient zum Abrufen oder Festlegen eines Werts, der angibt, ob Streamingupdates zusammengeklammert werden. |
| InnerClient |
Ruft das innere IChatClientab. (Geerbt von DelegatingChatClient) |
Methoden
| Name | Beschreibung |
|---|---|
| Dispose() |
Führt anwendungsdefinierte Aufgaben aus, die mit dem Freigeben, Freigeben oder Zurücksetzen nicht verwalteter Ressourcen verknüpft sind. (Geerbt von DelegatingChatClient) |
| Dispose(Boolean) |
Stellt einen Mechanismus zum Freigeben nicht verwalteter Ressourcen bereit. (Geerbt von DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Bestimmt, ob zwischenspeichern mit der angegebenen Anforderung verwendet werden soll. |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Berechnet einen Cacheschlüssel für die angegebenen Werte. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Stellt einen delegierenden Chatclient dar, der die Ergebnisse von Chatanrufen zwischenspeichert. |
| GetService(Type, Object) |
Fragt nach IChatClient einem Objekt des angegebenen Typs |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Stellt einen delegierenden Chatclient dar, der die Ergebnisse von Chatanrufen zwischenspeichert. |
| ReadCacheAsync(String, CancellationToken) |
Gibt einen zuvor zwischengespeicherten ChatResponseWert zurück, falls verfügbar. Dies wird verwendet, wenn ein Aufruf erfolgt GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Gibt eine zuvor zwischengespeicherte Liste von ChatResponseUpdate Werten zurück, falls verfügbar. Dies wird verwendet, wenn ein Aufruf erfolgt GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Speichert einen ChatResponse im zugrunde liegenden Cache. Dies wird verwendet, wenn ein Aufruf erfolgt GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Speichert eine Liste von ChatResponseUpdate Werten im zugrunde liegenden Cache. Dies wird verwendet, wenn ein Aufruf erfolgt GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |