Obliczenia z obsługą procesora GPU

Omówienie

Usługa Azure Databricks obsługuje przyspieszone obliczenia przy użyciu procesorów graficznych (GPU). W tym artykule opisano sposób tworzenia obliczeń przy użyciu wystąpień z obsługą procesora GPU oraz opisano sterowniki i biblioteki procesora GPU zainstalowane w tych wystąpieniach.

Aby dowiedzieć się więcej na temat uczenia głębokiego na obliczeniach z obsługą procesora GPU, zobacz Uczenie głębokie.

Tworzenie obliczeń procesora GPU

Tworzenie obliczeń procesora GPU jest podobne do tworzenia dowolnych obliczeń. Należy pamiętać o następujących kwestiach:

• Wersja środowiska uruchomieniowego usługi Databricks musi być wersją z obsługą procesora GPU, taką jak Runtime 13.3 LTS ML (GPU, Scala 2.12.15, Spark 3.4.1).
• Typ procesu roboczego i typ sterownika muszą być typami wystąpień procesora GPU.

Obsługiwane typy wystąpień

Usługa Azure Databricks obsługuje następujące typy wystąpień:

• Seria typów wystąpień nc: Standard_NC12, Standard_NC24
• Seria typów wystąpień NC w wersji 3: Standard_NC6s_v3, Standard_NC12s_v3, Standard_NC24s_v3
• Seria typów wystąpień NC T4 v3: Standard_NC4as_T4_v3, Standard_NC8as_T4_v3, Standard_NC16as_T4_v3, Standard_NC64as_T4_v3
• Seria typów wystąpień NC A100 v4: Standard_NC24ads_A100_v4, Standard_NC48ads_A100_v4, Standard_NC96ads_A100_v4
• Seria typów wystąpień ND A100 v4: Standard_ND96asr_v4
• Seria wystąpień NV A10 v5: Standard_NV36ads_A10_v5, Standard_NV36adms_A10_v5, Standard_NV72ads_A10_v5

Zobacz Cennik usługi Azure Databricks, aby uzyskać aktualną listę obsługiwanych typów wystąpień procesora GPU i ich regionów dostępności. Wdrożenie usługi Azure Databricks musi znajdować się w obsługiwanym regionie w celu uruchomienia obliczeń z obsługą procesora GPU.

Planowanie harmonogramu GPU

Planowanie procesora GPU efektywnie dystrybuuje zadania platformy Spark na dużą liczbę procesorów GPU.

Środowisko Databricks Runtime obsługuje planowanie obsługujące procesor GPU z platformy Apache Spark 3.0. Usługa Azure Databricks wstępnie konfiguruje ją na obliczeniach procesora GPU.

Planowanie procesora GPU zdefiniowane przez użytkownika jest dostępne tylko dla środowiska Databricks Runtime 7.1 lub nowszego. W przypadku poprzednich wersji środowiska Databricks Runtime usługa Databricks automatycznie konfiguruje obliczenia procesora GPU, tak aby na węzeł istniało co najwyżej jedno uruchomione zadanie. Dzięki temu zadanie może używać wszystkich procesorów GPU w węźle bez wystąpienia konfliktów z innymi zadaniami.

Planowanie procesora GPU dla sztucznej inteligencji i uczenia maszynowego

spark.task.resource.gpu.amount to jedyna konfiguracja platformy Spark związana z planowaniem obsługującym procesor GPU, które może być konieczne do skonfigurowania. Domyślna konfiguracja używa jednego procesora GPU na zadanie, co jest dobrym punktem odniesienia dla obciążeń wnioskowania rozproszonego i trenowania rozproszonego, jeśli używasz wszystkich węzłów procesora GPU.

Aby zmniejszyć obciążenie komunikacji podczas trenowania rozproszonego, usługa Databricks zaleca ustawienie spark.task.resource.gpu.amount liczby procesorów GPU na węzeł procesu roboczego w konfiguracji obliczeniowej platformy Spark. Spowoduje to utworzenie tylko jednego zadania platformy Spark dla każdego procesu roboczego platformy Spark i przypisanie wszystkich procesorów GPU w tym węźle roboczym do tego samego zadania.

Aby zwiększyć równoległość w przypadku wnioskowania rozproszonego uczenia głębokiego, można ustawić spark.task.resource.gpu.amount na wartości ułamkowe, takie jak 1/2, 1/3, 1/4, ... 1/N. Spowoduje to utworzenie większej liczby zadań platformy Spark niż procesory GPU, co umożliwia wykonywanie bardziej współbieżnych zadań w celu równoległego obsługi żądań wnioskowania. Jeśli na przykład ustawiono spark.task.resource.gpu.amount 0.5wartość , 0.33lub 0.25, dostępne jednostki GPU zostaną podzielone na podwójne, potrójne lub czterokrotnie większą liczbę zadań.

Indeksy procesora GPU

W przypadku zadań PySpark usługa Azure Databricks automatycznie ponownie mapuje przypisane procesory GPU do indeksów opartych na zera. W przypadku domyślnej konfiguracji, która używa jednego procesora GPU na zadanie, można użyć domyślnego procesora GPU bez sprawdzania, który procesor GPU jest przypisany do zadania. Jeśli ustawisz wiele procesorów GPU na zadanie, na przykład 4, indeksy przypisanych procesorów GPU są zawsze 0, 1, 2 i 3. Jeśli potrzebujesz fizycznych indeksów przypisanych procesorów GPU, możesz je pobrać ze zmiennej środowiskowej CUDA_VISIBLE_DEVICES .

Jeśli używasz języka Scala, możesz pobrać indeksy procesorów GPU przypisanych do zadania z .TaskContext.resources().get("gpu")

Sterownik procesora GPU FIRMY NVIDIA, CUDA i cuDNN

Usługa Azure Databricks instaluje sterownik i biblioteki NVIDIA wymagane do używania procesorów GPU w wystąpieniach sterowników i procesów roboczych platformy Spark:

• Zestaw narzędzi CUDA, zainstalowany w obszarze /usr/local/cuda.
• cuDNN: biblioteka sieci neuronowych NVIDIA CUDA Deep Neural Network.
• NCCL: Biblioteka komunikacji zbiorowej FIRMY NVIDIA.

Wersja dołączonego sterownika NVIDIA to 535.54.03, który obsługuje cuda 11.0. W przypadku serii typów wystąpień NV A10 v5 wersja zawiera wersja sterownika NVIDIA to 535.154.05.

Aby zapoznać się z dołączonymi wersjami bibliotek, zobacz informacje o wersji dla określonej używanej wersji środowiska Databricks Runtime.

Umowa licencyjna użytkownika oprogramowania NVIDIA (EULA)

Po wybraniu wersji środowiska uruchomieniowego usługi Databricks z obsługą procesora GPU w usłudze Azure Databricks niejawnie zgadzasz się na warunki i postanowienia opisane w umowie EULA firmy NVIDIA w odniesieniu do bibliotek CUDA, cuDNN i Tesli oraz umowy licencyjnej użytkownika końcowego firmy NVIDIA (z uzupełnieniem NCCL) dla biblioteki NCCL.

Usługi kontenerów usługi Databricks na obliczeniach procesora GPU

Usługi Kontenerów Databricks można używać w obliczeniach z procesorami GPU, aby tworzyć przenośne środowiska uczenia głębokiego z dostosowanymi bibliotekami. Aby uzyskać instrukcje, zobacz Dostosowywanie kontenerów za pomocą usługi Kontenera usługi Databricks.

Aby utworzyć niestandardowe obrazy dla obliczeń procesora GPU, musisz wybrać standardową wersję środowiska uruchomieniowego zamiast środowiska Databricks Runtime ML dla procesora GPU. Po wybraniu opcji Użyj własnego kontenera platformy Docker możesz wybrać środowisko obliczeniowe procesora GPU ze standardową wersją środowiska uruchomieniowego. Obrazy niestandardowe dla procesora GPU są oparte na oficjalnych kontenerach CUDA, które różnią się od środowiska Databricks Runtime ML dla procesora GPU.

Podczas tworzenia obrazów niestandardowych dla obliczeń procesora GPU nie można zmienić wersji sterownika NVIDIA, ponieważ musi być zgodna z wersją sterownika na maszynie hosta.

Usługa databricksruntime Docker Hub zawiera przykładowe obrazy podstawowe z możliwością procesora GPU. Pliki Dockerfile używane do generowania tych obrazów znajdują się w przykładowym repozytorium GitHub kontenerów, które zawiera również szczegółowe informacje o tym, co udostępnia przykładowe obrazy i jak je dostosować.