Installieren von NVIDIA GPU-Treibern für virtuelle Computer der Serie N mit Linux

Gilt für: ✔️ Linux-VMs

Von Bedeutung

Um sich an inklusiven Sprachpraktiken auszurichten, ersetzt diese Dokumentation den Begriff "Blacklist" durch "Blockliste". Diese Änderung spiegelt ein Engagement wider, um Terminologie zu vermeiden, die unbeabsichtigte negative Konnotationen oder wahrgenommene rassische Verzerrungen enthalten kann. In Codeausschnitten und technischen Verweisen, bei denen "blacklist" Teil der etablierten Syntax oder Toolerstellung ist (z. B. Konfigurationsdateien, Befehlszeilenparameter), wird der ursprüngliche Begriff beibehalten, um die funktionale Genauigkeit zu erhalten. Diese Nutzung ist streng technisch und impliziert keine diskriminierende Absicht.

Um die Gpu-Funktionen (Graphics Processing Unit) eines Azure virtuellen computers (VM) der N-Serie zu nutzen, die von NVIDIA GPUs unterstützt werden, müssen Sie NVIDIA GPU-Treiber installieren. Die NVIDIA GPU-Treibererweiterung installiert geeignete NVIDIA Compute Unified Device Architecture (CUDA) oder GRID-Treiber auf einem virtuellen Computer der N-Serie. Sie können die Erweiterung mithilfe des Azure Portals oder tools wie Azure PowerShell installieren und verwalten. Unterstützte Betriebssysteme (Betriebssystem) und Bereitstellungsschritte finden Sie in der Dokumentation zur NVIDIA GPU-Treibererweiterung.

Führen Sie die in diesem Artikel beschriebenen Schritte aus, um NVIDIA GPU-Treiber manuell zu installieren. Manuelle Treibereinrichtungsinformationen sind auch für Windows VMs verfügbar.

Technische Spezifikationen finden Sie unter GPU Linux VM-Größen.

Warnung

Das Installieren von NVIDIA-Treibern mit anderen Methoden als den in diesem Artikel beschriebenen Methoden kann zu einem Fehler der beabsichtigten Treiberinstallation führen. Microsoft und NVIDIA unterstützen diese Installation nicht. Um eine ordnungsgemäße Funktionalität und Unterstützung sicherzustellen, führen Sie nur die Installationsschritte aus, und verwenden Sie die in diesem Artikel angegebenen Treiberversionen.

CUDA-Treiber

NVIDIA verteilt CUDA-Treiber für NCasT4_v3, NC_A100_v4 und NCads_H100_v5 VMs.

Unterstützte CUDA-Treiber

Die neuesten CUDA-Treiber und das unterstützte Betriebssystem finden Sie auf der NVIDIA-Website. Stellen Sie sicher, dass Sie den neuesten unterstützten CUDA-Treiber für Ihre Verteilung installieren oder aktualisieren.

CUDA-Treiberinstallation

Für die Installation von CUDA-Treibern besuchen Sie die NVIDIA-Website.

Überprüfen der CUDA-Treiberinstallation

Führen Sie nvidia-smi aus. Wenn der Treiber installiert ist, zeigt NVIDIA SMI GPU-Util als N/A an, bis Sie eine GPU-Workload auf der VM ausführen.

GRID-Treiber

Microsoft verteilt NVIDIA GRID-Treiberinstallationsprogramme für NVv3, NCasT4_v3, NVadsA10_v5 und NCv6 RTX PRO 6000 BSE VMs, die als virtuelle Arbeitsstationen oder für virtuelle Anwendungen verwendet werden.

Unterstützte GRID-Treiber

Installieren Sie diese GRID-Treiber nur auf diesen virtuellen Computern und nur auf den in der folgenden Tabelle aufgeführten Betriebssystemen. Zu diesen Treibern gehören die Lizenzierung von GRID Virtual GPU (vGPU)-Software in Azure. Sie müssen keinen NVIDIA vGPU-Softwarelizenzserver einrichten.

Die NCasT4_v3- und NCv6 RTX PRO 6000 BSE-Serie sind die einzige VM-Serie ohne NV-GPU, die GRID-Treiber unterstützen.

VM-Serie Grafikprozessor (GPU) GRID-Treiber Unterstützte Linux-Betriebssystemversionen
NCv6 RTX PRO 6000 BSE NVIDIA RTX PRO 6000 Blackwell Server Edition GPU (96 GB) vGPU20 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 9.4, 9.6, 9.7
• Red Hat Enterprise Linux (RHEL) 8.10
• SUSE Linux Enterprise Server 15 SP7
NCasT4_v3 NVIDIA Tesla T4 GPU (16 GB) vGPU20 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 9.4, 9.6, 9.7
• Red Hat Enterprise Linux (RHEL) 8.10
NVadsA10_v5 NVIDIA A10 GPU (24 GB) vGPU18 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 9.4, 9.6, 9.7
• Red Hat Enterprise Linux (RHEL) 8.10
NVv3 (wird am 30. September 2026 eingestellt) NVIDIA Tesla M60 GPU (16 GB) vGPU16 (LTS) • Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 8.6, 8.8, 8.9

Weitere Informationen zu den spezifischen vGPU- und Treiberbranchversionen finden Sie auf der NVIDIA-Website.

GRID-Treiberinstallation

  1. Stellen Sie sicher, dass "Sicherer Start" und "vTPM" deaktiviert sind.

  2. Installieren Sie die erforderlichen Komponenten.

    Ubuntu:

    sudo apt update 
    sudo apt install -y build-essential 
    

    RHEL (8.10, 9.4, 9.6, 9.7):

    sudo yum check-update 
    sudo yum install -y make automake gcc gcc-c++ kernel-devel-$(uname -r) kernel-headers-$(uname -r) 
    
  3. Laden Sie den Linux-Treiber herunter.

    a. Für NCv6 RTX PRO 6000 BSE, NCasT4_v3:

    wget -O ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run https://download.microsoft.com/download/51239696-ec04-4c02-a6b3-1d9c608fb57c/NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    

    b. Für NVadsA10_v5:

    wget -O ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run https://download.microsoft.com/download/2a04ca6a-9eec-40d9-9564-9cdea1ab795f/NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    

    c. Für NVv3:

    wget -O ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run https://download.microsoft.com/download/8/d/a/8da4fb8e-3a9b-4e6a-bc9a-72ff64d7a13c/NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    
  4. Installieren Sie den Treiber.

    a. Für NCv6 RTX PRO 6000 BSE:

    sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run -M open
    

    b. Für NCasT4_v3:

    sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    

    c. Für NVadsA10_v5:

    sudo chmod +x ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    

    d. Für NVv3:

    sudo chmod +x ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    

Überprüfen der INSTALLATION des GRID-Treibers

Führen Sie nvidia-smi aus. Wenn der Treiber installiert ist, zeigt NVIDIA SMI GPU-Util als N/A an, bis Sie eine GPU-Workload auf der VM ausführen.

Problembehandlung

  • Sie können den Persistenzmodus mit nvidia-smi festlegen, damit die Ausgabe des Befehls schneller erfolgt, wenn Sie Karten abfragen müssen. Führen Sie zum Festlegen des Persistenzmodus die Ausführung aus nvidia-smi -pm 1. Wenn der virtuelle Computer neu gestartet wird, wird die Moduseinstellung entfernt. Sie können den Modus immer so skripten, dass die Einstellung beim Start ausgeführt wird.

  • Wenn Aufträge durch ECC-Fehler auf der GPU unterbrochen werden (entweder korrigierbar oder nicht korrigierbar), überprüfen Sie zunächst, ob die GPU eines der RMA-Kriterien von Nvidia für ECC-Fehler erfüllt. Wenn die GPU für RMA qualifiziert ist, wenden Sie sich an den Support, um die Reparatur zu vereinbaren; starten Sie andernfalls Ihre VM neu, um die GPU wie hier beschrieben wieder zu verbinden. Weniger invasive Methoden wie nvidia-smi -r funktionieren nicht mit der virtualisierungslösung, die in Azure bereitgestellt wird.

Nächste Schritte