Azure CLI kullanarak Azure Data Lake Analytics ile çalışmaya başlama

Önemli

Aboneliğiniz etkinleştirilmediği sürece yeni Azure Data Lake Analytics hesapları artık oluşturulamaz. Aboneliğinizin etkinleştirilmesi gerekiyorsa desteğe başvurun ve iş senaryonuzu sağlayın.

Azure Data Lake Analytics kullanıyorsanız 29 Şubat 2024'e kadar kuruluşunuz için Azure Synapse Analytics'e geçiş planı oluşturmanız gerekir.

Bu makalede Azure Data Lake Analytics hesapları oluşturmak, USQL işleri ve katalogları göndermek için Azure CLI komut satırı arabiriminin nasıl kullanılacağı açıklanır. İş, sekmeyle ayrılmış değerler (TSV) dosyasını okur ve bu dosyayı virgülle ayrılmış değerler (CSV) dosyasına dönüştürür.

Önkoşullar

Başlamadan önce aşağıdaki öğelerin olması gerekir:

Azure'da oturum açma

Azure aboneliğinizde oturum açmak için:

az login

Bir URL'ye göz atıp bir kimlik doğrulama kodu girmeniz istenir. Sonra yönergeleri izleyerek kimlik bilgilerinizi girin.

Oturum açtıktan sonra oturum açma komutu aboneliklerinizi listeler.

Belirli bir aboneliği kullanmak için:

az account set --subscription <subscription id>

Data Lake Analytics hesabı oluşturma

Herhangi bir işi çalıştırmadan önce bir Data Lake Analytics hesabına sahip olmanız gerekir. Bir Data Lake Analytics hesabı oluşturmak için aşağıdaki öğeleri belirtmeniz gerekir:

  • Azure Kaynak Grubu. Azure Kaynak Grubu'nda bir Data Lake Analytics hesabı oluşturulmalıdır. Azure Resource Manager, uygulamanızdaki kaynaklarla grup olarak çalışmanızı sağlar. Uygulamanıza ilişkin tüm kaynakları tek ve eşgüdümlü bir işlem ile dağıtabilir, güncelleştirebilir veya silebilirsiniz.

Aboneliğiniz altındaki mevcut kaynak gruplarını listelemek için:

az group list

Yeni bir kaynak grubu oluşturmak için:

az group create --name "<Resource Group Name>" --location "<Azure Location>"
  • hesap adını Data Lake Analytics. Her Data Lake Analytics hesabının bir adı vardır.
  • Konum. Data Lake Analytics'i destekleyen Azure veri merkezlerinden birini kullanın.
  • Varsayılan Data Lake Store hesabı: Her Data Lake Analytics hesabının varsayılan bir Data Lake Store hesabı vardır.

Mevcut bir Data Lake Store hesabını listelemek için:

az dls account list

Yeni bir Data Lake Store hesabı oluşturmak için:

az dls account create --account "<Data Lake Store Account Name>" --resource-group "<Resource Group Name>"

Bir Data Lake Analytics hesabı oluşturmak için aşağıdaki söz dizimini kullanın:

az dla account create --account "<Data Lake Analytics Account Name>" --resource-group "<Resource Group Name>" --location "<Azure location>" --default-data-lake-store "<Default Data Lake Store Account Name>"

Hesap oluşturduktan sonra aşağıdaki komutları kullanarak hesapları listeleyebilir ve hesap ayrıntılarını görüntüleyebilirsiniz:

az dla account list
az dla account show --account "<Data Lake Analytics Account Name>"

Data Lake Store'a veri yükleme

Bu eğiticide, bazı arama günlüklerini işleyeceksiniz. Arama günlüğü, Data Lake Store veya Azure Blob depolama alanında depolanabilir.

Azure portalı, bir arama günlüğü dosyası içeren bazı örnek veri dosyalarını varsayılan Data Lake Store hesabına kopyalamak için bir kullanıcı arabirimi sağlar. Verileri varsayılan Data Lake Store hesabına yüklemek için bkz. Kaynak verileri hazırlama.

Azure CLI kullanarak dosyaları karşıya yüklemek için aşağıdaki komutları kullanın:

az dls fs upload --account "<Data Lake Store Account Name>" --source-path "<Source File Path>" --destination-path "<Destination File Path>"
az dls fs list --account "<Data Lake Store Account Name>" --path "<Path>"

Data Lake Analytics ayrıca Azure Blob depolama alanına da erişebilir. Verileri Azure Blob depolama alanına yüklemek için bkz. Azure CLI'yı Azure Storage ile kullanma.

Data Lake Analytics işlerini gönderme

Data Lake Analytics işleri, U-SQL dilinde yazılır. U-SQL hakkında daha fazla bilgi için bkz. U-SQL dili ile çalışmaya başlama ve U-SQL dili başvurusu.

Bir Data Lake Analytics işi betiği oluşturmak için

Aşağıdaki U-SQL betiği ile bir metin dosyası oluşturun ve metin dosyasını iş istasyonunuza kaydedin:

@a  =
    SELECT * FROM
        (VALUES
            ("Contoso", 1500.0),
            ("Woodgrove", 2700.0)
        ) AS
              D( customer, amount );
OUTPUT @a
    TO "/data.csv"
    USING Outputters.Csv();

Bu U-SQL betiği, Extractors.Tsv() öğesini kullanarak kaynak veri dosyasını okur ve ardından Outputters.Csv() öğesini kullanarak bir csv dosyası oluşturur.

Kaynak dosyayı farklı bir konuma kopyalamadıkça bu iki yolu değiştirmeyin. Data Lake Analytics, mevcut olmaması halinde çıkış klasörünü oluşturur.

Varsayılan Data Lake Store hesaplarında depolanan dosyalar için göreli yolları kullanmak daha kolaydır. Mutlak yol da kullanabilirsiniz. Örnek:

adl://<Data LakeStorageAccountName>.azuredatalakestore.net:443/Samples/Data/SearchLog.tsv

Mutlak yolları, bağlı Storagehesaplarındaki dosyalara erişmek için kullanmanız gerekir. Bağlı Azure Storage hesabında depolanan dosyalar için söz dizimi şu şekildedir:

wasb://<BlobContainerName>@<StorageAccountName>.blob.core.windows.net/Samples/Data/SearchLog.tsv

Not

Genel bloblar ile Azure Blob kapsayıcısı desteklenmiyor. Genel kapsayıcılar ile Azure Blob kapsayıcısı desteklenmiyor.

İşleri göndermek için

Bir işi göndermek için aşağıdaki söz dizimini kullanın.

az dla job submit --account "<Data Lake Analytics Account Name>" --job-name "<Job Name>" --script "<Script Path and Name>"

Örnek:

az dla job submit --account "myadlaaccount" --job-name "myadlajob" --script @"C:\DLA\myscript.txt"

İşleri listelemek ve iş ayrıntılarını görüntülemek için

az dla job list --account "<Data Lake Analytics Account Name>"
az dla job show --account "<Data Lake Analytics Account Name>" --job-identity "<Job Id>"

İşleri iptal etmek için

az dla job cancel --account "<Data Lake Analytics Account Name>" --job-identity "<Job Id>"

İş sonuçlarını alma

Bir iş tamamlandıktan sonra, aşağıdaki cmdlet'leri kullanarak çıkış dosyalarını listeleyebilir ve dosyaları indirebilirsiniz:

az dls fs list --account "<Data Lake Store Account Name>" --source-path "/Output" --destination-path "<Destination>"
az dls fs preview --account "<Data Lake Store Account Name>" --path "/Output/SearchLog-from-Data-Lake.csv"
az dls fs preview --account "<Data Lake Store Account Name>" --path "/Output/SearchLog-from-Data-Lake.csv" --length 128 --offset 0
az dls fs download --account "<Data Lake Store Account Name>" --source-path "/Output/SearchLog-from-Data-Lake.csv" --destination-path "<Destination Path and File Name>"

Örnek:

az dls fs download --account "myadlsaccount" --source-path "/Output/SearchLog-from-Data-Lake.csv" --destination-path "C:\DLA\myfile.csv"

Sonraki adımlar