Serverlose GPU-Umgebung, Version 5 (Vorschau)

Auf dieser Seite werden die Systemumgebungsinformationen für serverlose GPU-Umgebung, Version 5, beschrieben. Dieses Computeangebot ist Teil der KI-Runtime, die für moderne KI- und Deep Learning-Workloads konzipiert ist.

Serverlose GPU-Umgebung 5 basiert auf serverloser Umgebung 5 (CPU). Schauen Sie sich die Neuerungen in serverloser Umgebung 5 (CPU) an. Sie enthält die folgende Umgebung:

• Standardumgebung: eine minimale Umgebung mit stabiler Client-API.
• Databricks AI-Umgebung: eine Umgebung mit allgemeinen Laufzeitpaketen und Paketen speziell für maschinelles Lernen auf GPUs.

Um die Kompatibilität für die Anwendung sicherzustellen, verwenden Serverlose GPU-Workloads eine versionslose API, die als Umgebungsversion bezeichnet wird, die mit neueren Serverversionen kompatibel bleibt.

Sie können eine Basisumgebung auswählen, die diese Umgebungsversion enthält, indem Sie den Seitenbereich " Umgebung " in Ihren serverlosen Notizbüchern verwenden. Siehe Interaktive (Notizbücher).

Neue Features und Verbesserungen

In Version 5 stellt Databricks eine minimale Umgebung bereit, die nur serverlose GPU-API, die Databricks-Abhängigkeiten und MLflow unterstützt. Benutzer können die Umgebung an ihre Anforderungen anpassen. Die Standardumgebung in Version 5 enthält keine bestimmten Pakete, die in der CPU-Umgebung vorhanden sind, um eine minimale funktionale GPU-Umgebung bereitzustellen. Benutzer, die eine vollständige Umgebung mit umfassenden KI-Bibliotheken wünschen, sollten die Databricks AI-Umgebung verwenden.

Schnellere Paketinstallationen mit %uv pip

7. Mai 2026

Sie können jetzt den %uv pip magischen Befehl in serverlosen Notizbüchern als schnellere Alternative zu %pip für Python Paketverwaltung verwenden. %uv pip basiert auf dem Paketmanager uv und verwendet dieselbe virtuelle Notebook-Umgebung wie %pip. Siehe schnellere Installationen mit %uv pip.

API-Aktualisierungen

17. Juli 2026

Serverlose GPU-Python-API wurde auf 0.5.21 aktualisiert

Die Serverless GPU Python API 0.5.21 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Die Serverless GPU-API löst jetzt eine klare GPUValidationError Zahl aus, wenn der gpus Parameter keine ganze Zahl ist.
  • Vorübergehende Fehler bei Umgebungs-Snapshots während der Remote-Verteilung werden jetzt mit Backoff wiederholt. Zuvor könnte ein Leserennen auf just-geschriebenen Pro-Run-Dateien als vorübergehender Fehler angezeigt und die Ausführung abgebrochen werden.
  • Bei Verwendung von @distributed mit gpus=1 auf einer lokal angeschlossenen GPU wird jetzt ein Hinweis protokolliert, dass die Funktion direkt im Notebook ausgeführt werden kann.
  • Fehlermeldungen für einen ungültigen GPU-Typ führen nun die verfügbaren Typen unter ihren kanonischen Namen auf, z. B. h100 und a10.
• Neue Features:
  • Mit @distributed gestartete Runs werden jetzt auf der Registerkarte „Protokolle“ des MLflow-Experiments angezeigt.

1. Juli 2026

Serverlose GPU-Python-API wurde auf 0.5.20 aktualisiert

Die Serverless GPU Python API 0.5.20 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Es wurde ein Problem behoben, bei dem der Protokoll-Uploader beim Abfragen einer Protokolldatei mitten in einer mehrbyteigen UTF-8-Sequenz mit UnicodeDecodeError abstürzte.

9. Juni 2026

Serverlose GPU-Python-API wurde auf 0.5.19 aktualisiert

Die Serverless GPU Python API 0.5.19 enthält die folgenden API-Updates:

• Neue Funktionen:

  • Ausführungen im lokalen Modus streamen jetzt Protokolle während der gesamten Ausführung inkrementell an MLflow, anstatt am Ende der Ausführung eine einzelne Momentaufnahme hochzuladen.
  • Erfasste stderr-Ausgabe in MLflow-Protokollartefakten für Ausführungen im lokalen Modus.

• Fehlerbehebungen:

  • Der lokale Ausführungsmodus berücksichtigt jetzt die konfigurierte Protokollebene des Notizbuchs.
  • Unterdrückte nicht aktionenfähige NCCL-Warnungen während der Ausführung des lokalen Modus.

26. Mai 2026

Serverlose GPU-Python-API wurde auf 0.5.18 aktualisiert

Die Serverless GPU Python API 0.5.18 enthält die folgenden API-Updates:

• Neue Funktionen:

  • Zum timeout-Dekorator wurde ein @distributed-Parameter hinzugefügt. Standardmäßig werden lokale Ausführungen (remote=False) auf 3 Stunden begrenzt. Übergeben Sie für ungebundene lokale Ausführungen timeout=None.
  • Die Umgebungsvariable DATABRICKS_SERVERLESS_GPU_LOG_VERBOSE wurde eingeführt, um die Log-Ausführlichkeit der serverless_gpu-Bibliothek zu steuern.
  • Berücksichtigte benutzerdefinierte MLflow-Experimente, die während der lokalen Ausführung der serverlosen GPU mit mlflow.set_experiment(...) festgelegt wurden, mit einer aussagekräftigeren Fehlermeldung, wenn ein Konflikt mit dem Namen des MLflow-Experiments vorliegt.

• Fehlerbehebungen:

  • Es wurde ein Problem behoben, bei dem der MLflow-Ausführungslink in der Zellenausgabe ein [REDACTED]-Segment für Remoteworkloads anzeigte.
  • Ein Problem wurde behoben, bei dem vorübergehende Fehler (503-Fehler) im Remote-Modus beim ersten Auftreten zur Beendigung der Workload führten. Die API ruft diese Fehler jetzt erneut auf.
  • Warnungs- und Fehlermeldungen, die beim Importieren von serverless_gpu und beim Ausführen mit remote=False angezeigt werden, wenn torch nicht installiert ist, wurden verbessert.

11. Mai 2026

Serverlose GPU-Python-API wurde auf 0.5.17 aktualisiert

Die Serverless GPU Python API 0.5.17 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Die API greift jetzt auf On-Demand-Rechenressourcen zurück, wenn GPU-Pool-Optionen nicht verfügbar sind, und verhindert so Workload-Ausfälle während Serviceunterbrechungen.
  • Fehler bei der Erstellung von Workloads enthalten jetzt den vollständigen Antworttext des Servers zur schnelleren Fehlerbehebung.
  • Verbesserte Fehlermeldung für die falsche Verwendung des @distributed-Dekorators.
  • Geschachtelte MLflow-Ausführungen in der lokalen Ausführung von @distributed(remote=False) werden jetzt unterstützt. Bei der Ausführung innerhalb einer aktiven MLflow-Ausführung wird jetzt eine geschachtelte untergeordnete Ausführung erstellt, anstatt die vorhandene übergeordnete Ausführung zu beenden.
• Neue Features:
  • Übersichtlichere lokale Protokolle: Standardmäßig werden Info-Logs zu Systemmetriken bei lokaler Ausführung unterdrückt, um das Protokollrauschen zu reduzieren.

24. April 2026

Serverlose GPU-Python-API wurde auf 0.5.16 aktualisiert

Die Serverless GPU Python API 0.5.16 enthält die folgenden API-Updates:

• Neue Features:
  • Es wurde UCVolumeDataset hinzugefügt, ein Torch-IterableDataset, das Dateien von einem über FUSE eingebundenen Unity Catalog-Volume streamt. Dateilisten werden automatisch über verteilte Ränge und DataLoader-Worker partitioniert, sodass jedes (rank, worker)-Paar ein nicht überlappendes Segment erhält.
  • Die Serverless GPU API unterstützt jetzt den 1xH100-Beschleunigertyp für Single-H100-Workloads.
  • Reduziertes Protokollrauschen von PySpark und Py4J während der lokalen Ausführung. Die Nachricht des Protokollverzeichnisses wird jetzt auf Debug-Level protokolliert, statt gedruckt zu werden.

14. April 2026

Serverlose GPU-Python-API wurde auf 0.5.15 aktualisiert

Die Serverless GPU Python API 0.5.15 enthält die folgenden API-Updates:

• Neue Features:
  • Die Protokollweiterleitung in MLflow wurde für lokale serverlose GPU-API-Abläufe hinzugefügt. Schulungsprotokolle aus lokalen Läufen werden jetzt automatisch in MLflow hochgeladen.
• Fehlerbehebungen:
  • Wenn PyTorch nicht installiert ist, weist die Fehlermeldung jetzt richtig darauf hin, dass die Standard v5-Basisumgebung keine Taschenlampe enthält.
• Sicherheit:
  • Alle Python-Abhängigkeitsversionen wurden auf exakte Versionsnummern festgelegt, um Lieferkettenangriffe durch neu veröffentlichte schadhafte Paketversionen zu verhindern.

17. März 2026

Serverlose GPU-Python-API wurde auf 0.5.14 aktualisiert

Die Serverless GPU Python API 0.5.14 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Es wurde ein Problem behoben, bei dem die SERVERless GPU-API auf Steuerungsebenen ohne MAPI nicht verfügbar war. Die API greift jetzt ordnungsgemäß auf die On-Demand-Berechnung zurück, wenn MAPI nicht erreichbar ist.

2. März 2026

Serverlose GPU-Python-API wurde auf 0.5.13 aktualisiert

Die Serverless GPU Python API 0.5.13 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Die Analyse des Azure A10-GPU-Gerätenamens im lokalen Modus wurde behoben. Die API behandelt jetzt Azure spezifischen Formate wie "A10-24Q".
  • Es wurde ein Problem behoben, bei dem die aktive MLflow-Ausführung nach Abschluss der lokalen Ausführung nicht geschlossen wurde.
  • Das Problem der Kompatibilität des MLflow-Protokollstreamings mit MLflow 3.x wurde behoben. Eine Änderung des Verhaltens des Artefaktdownloadpfads in MLflow 3.x führte dazu, dass das Log-Streaming unterbrochen wurde. Das Protokollstreaming funktioniert jetzt ordnungsgemäß mit MLflow 2.x und 3.x.
  • Es wurde ein Problem behoben, das dazu führte, dass Trainingsausführungen hängen blieben. Das in einer früheren Version eingeführte Feature zur rangübergreifenden MLflow-Statussynchronisierung wurde rückgängig gemacht.

Pakete, die zur Ki-Umgebung von Databricks hinzugefügt wurden

Die folgenden neuen Pakete wurden der Databricks AI-Umgebung in Version 5 hinzugefügt:

• catboost 1.2.8
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• omegaconf 2.3.0
• statsmodels 0.14.4
• networkx 3.4.2

Pakete, die aus databricks AI-Umgebung entfernt wurden

Die folgenden Pakete wurden aus der Databricks AI-Umgebung in Version 5 entfernt:

• spacy
• sentencepiece

Pakete, die nicht in der Basisumgebung enthalten sind

Die folgenden Pakete sind nicht in der Basisumgebung enthalten, bleiben aber in der CPU-Umgebung verfügbar:

• scipy
• seaborn
• scikit-learn

Die folgenden Pakete sind nicht in der Basisumgebung enthalten, bleiben aber in der Databricks AI-Umgebung verfügbar:

• flash-attention
• torch
• torchvision

Basierend auf dem Kundenfeedback, das Kontrolle über die PyTorch-Versionierung wünscht, ist torch in der Basisumgebung in Version 5 nicht enthalten. Auf diese Weise können Sie die Version installieren, die am besten zu Ihrer Workload passt. Wenn Sie eine von Databricks getestete Version verwenden möchten, führen Sie %pip install torch==2.9.0 sie in einer Notizbuchzelle aus, oder installieren torch==2.9.0 Sie sie mithilfe des Abschnitts "Abhängigkeiten" des Seitenbereichs "Umgebung ".

Systemumgebung

• Betriebssystem: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 18.0.0
• NVIDIA CUDA Toolkit: 12.9

Installierte Python-Bibliotheken

Standardumgebung

Um serverlose GPU-Umgebung 5 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-env-gpu-5.txt Datei herunter, und führen Sie sie aus pip install -r requirements-env-gpu-5.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus serverloser Umgebung 5 installiert.

KI-Umgebung

Die KI-Umgebung enthält alle Pakete aus der Standardumgebung sowie die folgenden Pakete. Diese Umgebung umfasst PyTorch und umfassende Machine Learning-Bibliotheken:

• torch 2.9.0
• torchvision 0.24.0
• flash_attn 2.8.3
• catboost 1.2.8
• langchain 0.3.27
• lightgbm 4.6.0
• openai 2.7.0
• optuna 4.5.0
• pytorch-lightning 2.5.4
• ray 2.51.1
• scikit-learn 1.6.1
• scipy 1.15.3
• seaborn 0.13.2
• sentence-transformers 5.1.2
• transformers 4.57.1
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• xgboost 3.0.4

Um die KI-Umgebung V5 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-ai-gpu-5.txt Datei herunter, und führen Sie sie aus pip install -r requirements-ai-gpu-5.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus der KI-Umgebung installiert.