Verwenden eines generativen KI-Modells

Die einfachste Möglichkeit, mit einem bereitgestellten Modell zu interagieren, besteht darin, den Modell-Playground im Foundry-Portal zu verwenden. Sie können die Foundry Playgrounds verwenden, um Eingabeaufforderungen zu testen, Modelle zu vergleichen und Arbeitseinstellungen zu erfassen, bevor Sie Code schreiben.

Wichtige Konfigurationsparameter

Mehrere Modellargumente oder Parameter beeinflussen das Laufzeitverhalten, die Leistung und die Kosten. In den Einstellungen für den Playground können Sie Parameter wie Temperatur, max. Ausgabetoken und Systemanweisungen konfigurieren. Auf der Chatschnittstelle für den Playground können Sie Eingabeaufforderungen senden und die vom Modell generierten Antworten anzeigen.

• Temperatur: steuert Kreativität vs. Determinismus.
• Maximale Ausgabetokens – begrenzt die Antwortlänge; wirkt sich auf den Tokenverbrauch und das Drosselungsverhalten aus.
• Systemanweisungen – legt Das Verhalten und die Rolle des Modells fest.

Im Gegensatz zur Benutzeraufforderung, bei der es sich um die Anforderung oder Frage des Endbenutzers handelt (Beispiel: Wo soll ich reisen?), legt eine Systemaufforderung Verhalten, Ton, Tools und Schutzschienen für den Assistenten fest. Ein Beispiel für eine Systemaufforderung ist: "Sie sind ein hilfreicher, schritt-für-Schritt-Tutor. Quellen zitieren. Ärztliche Beratung ablehnen."

Der Spielplatz ist eine nützliche Brücke zwischen Foundry und Code. Nachdem Sie repräsentative Eingabeaufforderungen getestet haben, können Sie dieselben System- und Benutzeraufforderungen und Parameterwerte in Ihrem Code verwenden. Der Playground stellt Code bereit, der Ihre Foundry-Bereitstellung über die OpenAI-kompatible Responses-API aufrufen kann. Der Code wird im Wesentlichen ausgeführt, wenn Sie die Chatschnittstelle verwenden, um Einstellungen zu konfigurieren und Benutzeraufforderungen zu senden.

Sie können den Code als Ausgangspunkt für die Erstellung Ihres eigenen Chatclients verwenden.

Erstellen eines einfachen Chatclients mithilfe des Foundry SDK

Eine einfache Clientanwendung ist eine kleine, minimale App, deren primärer Auftrag darin besteht, Benutzereingaben zu sammeln, einen Remotedienst/eine API aufzurufen und Ergebnisse ohne umfangreiche UI-Frameworks, komplexe Back-End-Logik oder große lokale Abhängigkeiten anzuzeigen. In der Praxis ist es in der Regel:

• Wird als CLI (Befehlszeilenschnittstelle), kleines Desktopprogramm oder einfache Webseite ausgeführt.
• Hält den Zustand und die Berechnungen überwiegend auf dem Server, während das Modell ferngesteuert ausgeführt wird.
• Verfügt über einen kleinen Codebedarf und minimale Konfiguration (häufig nur Umgebungsvariablen + ein kurzes Skript).
• Ist einfach zu prototypieren, lokal zu bedienen und später einfach zu erweitern.

Bei Foundry ist ein einfacher Chatclient häufig eine single Python Datei, die eine Verbindung mit einem Foundry-Projektendpunkt herstellt und Chatnachrichten an ein bereitgestelltes Modell sendet. Das Foundry SDK macht einen Project-Client (Foundry-native Ops) und einen openAI-kompatiblen Client für Aufrufmodelle über die Antwort-API verfügbar. Die meisten Apps verwenden beide.

Erstellen eines Python-Chatclients

Nachdem Sie ein Foundry-Projekt erstellt und ein Chatmodell bereitgestellt haben (z gpt-4.1. B. ), können Sie das Foundry SDK verwenden. Im Beispiel verwendet die Clientanwendung die Authentifizierung, um eine Verbindung mit dem Endpunkt für das Modell herzustellen, eine Eingabeaufforderung zu übermitteln und die Antwort anzuzeigen.

# pip install openai>=1.3.0
# pip install azure-ai-projects azure-identity openai

import os
from openai import OpenAI

client = OpenAI(
    base_url=f"{os.environ['AZURE_OPENAI_ENDPOINT']}/openai",
    api_key=os.environ["AZURE_OPENAI_API_KEY"]
)

response = client.responses.create(
    model=os.environ["DEPLOYMENT_NAME"],          # e.g., "gpt-4o-mini"
    input=[{"role": "system", "content": "You're a helpful assistant."},
           {"role": "user", "content": "Summarize the key points from our release notes in 3 bullets."}],
    max_output_tokens=300,
    temperature=0.7
)

print(response.output_text)

Verstehen des Unterschieds zwischen Modellen und Agents

In Microsoft Foundry sind generative KI-Modelle und Agents miteinander verknüpft, dienen jedoch unterschiedlichen Zwecken. Sie können sich das so vorstellen:

• Modelle = Rohintelligenz
• Agents = paketierte, aufgabenorientierte Einheiten, die auf dieser Intelligence basieren

Wenn Sie ein generatives KI-Modell eigenständig verwenden:

• Sie möchten reine Inferenz: „Nimm diesen Prompt, und generiere die Ausgabe.".
• Sie experimentieren im Playground
• Sie rufen das Modell über die OpenAI-Antwort-API auf.

Erfahren Sie als Nächstes, wie Sie einen Agent in Foundry erstellen.