Copiar dados do Vertica usando o Azure Data Factory ou o Synapse Analytics

  • Artigo

APLICA-SE A: Azure Data Factory Azure Synapse Analytics

Gorjeta

Experimente o Data Factory no Microsoft Fabric, uma solução de análise tudo-em-um para empresas. O Microsoft Fabric abrange tudo, desde a movimentação de dados até ciência de dados, análises em tempo real, business intelligence e relatórios. Saiba como iniciar uma nova avaliação gratuitamente!

Este artigo descreve como usar a Atividade de Cópia em um pipeline do Azure Data Factory ou do Synapse Analytics para copiar dados do Vertica. Ele se baseia no artigo de visão geral da atividade de cópia que apresenta uma visão geral da atividade de cópia.

Capacidades suportadas

Este conector Vertica é suportado para os seguintes recursos:

Capacidades suportadas IR
Atividade de cópia (fonte/-) (1) (apenas para a versão 1.0) (2)
Atividade de Pesquisa (1) (apenas para a versão 1.0) (2)

(1) Tempo de execução de integração do Azure (2) Tempo de execução de integração auto-hospedado

Para obter uma lista de armazenamentos de dados suportados como fontes/coletores pela atividade de cópia, consulte a tabela Armazenamentos de dados suportados.

O serviço fornece um driver interno para habilitar a conectividade, portanto, você não precisa instalar manualmente nenhum driver usando esse conector.

Para a versão 2.0 (Preview), você precisa instalar um driver ODBC Vertica manualmente. Para a versão 1.0, o serviço fornece um driver interno para habilitar a conectividade, portanto, você não precisa instalar manualmente nenhum driver.

Pré-requisitos

Se seu armazenamento de dados estiver localizado dentro de uma rede local, uma rede virtual do Azure ou a Amazon Virtual Private Cloud, você precisará configurar um tempo de execução de integração auto-hospedado para se conectar a ele. Se você usar a versão 2.0 (Visualização), sua versão de tempo de execução de integração auto-hospedada deverá ser 5.44.8984.1 ou superior.

Para obter mais informações sobre os mecanismos de segurança de rede e as opções suportadas pelo Data Factory, consulte Estratégias de acesso a dados.

Para a versão 1.0

Se o seu armazenamento de dados for um serviço de dados de nuvem gerenciado, você poderá usar o Tempo de Execução de Integração do Azure. Se o acesso for restrito a IPs aprovados nas regras de firewall, você poderá adicionar IPs do Azure Integration Runtime à lista de permissões.

Você também pode usar o recurso de tempo de execução de integração de rede virtual gerenciada no Azure Data Factory para acessar a rede local sem instalar e configurar um tempo de execução de integração auto-hospedado.

Instale o driver ODBC Vertica para a versão 2.0 (Preview)

Para usar o conector Vertica com a versão 2.0 (Preview), instale o driver ODBC Vertica na máquina que executa o tempo de execução de integração auto-hospedado seguindo estas etapas:

  1. Baixe a configuração do cliente Vertica para driver ODBC de Client Drivers | OpenText™ Vertica™. Tome a configuração do sistema Windows como exemplo:

    Captura de ecrã de um exemplo de configuração do sistema Windows.

  2. Abra o .exe baixado para iniciar o processo de instalação. 

    Screenshot do processo de instalação.

  3. Selecione driver ODBC em Vertica Component List e, em seguida, selecione Next para iniciar a instalação.

    Captura de tela da seleção do driver ODBC.

  4. Depois que o processo de instalação for concluído com êxito, você pode ir para Iniciar -> Administrador de Fonte de Dados ODBC para confirmar a instalação bem-sucedida.

    Captura de tela da confirmação da instalação bem-sucedida.

Introdução

Você pode criar um pipeline com atividade de cópia usando o SDK do .NET, o SDK do Python, o Azure PowerShell, a API REST ou o modelo do Azure Resource Manager. Consulte Tutorial de atividade de cópia para obter instruções passo a passo para criar um pipeline com uma atividade de cópia.

Criar um serviço vinculado ao Vertica usando a interface do usuário

Use as etapas a seguir para criar um serviço vinculado ao Vertica na interface do usuário do portal do Azure.

  1. Navegue até a guia Gerenciar em seu espaço de trabalho do Azure Data Factory ou Synapse e selecione Serviços Vinculados e clique em Novo:

  2. Procure Vertica e selecione o conector Vertica.

    Screenshot do conector Vertica.

  3. Configure os detalhes do serviço, teste a conexão e crie o novo serviço vinculado.

    Captura de tela da configuração do serviço vinculado para Vertica.

Detalhes de configuração do conector

As seções a seguir fornecem detalhes sobre as propriedades que são usadas para definir entidades do Data Factory específicas para o conector Vertica.

Propriedades do serviço vinculado

Se você usar a versão 2.0 (Visualização), as seguintes propriedades serão suportadas para o serviço vinculado Vertica:

Property Descrição Obrigatório
tipo A propriedade type deve ser definida como: Vertica Sim
servidor O nome ou o endereço IP do servidor ao qual você deseja se conectar. Sim
porta O número da porta do ouvinte do servidor. Não, o padrão é 5433
base de dados Nome do banco de dados Vertica. Sim
uid O ID de usuário usado para se conectar ao banco de dados. Sim
PcD A senha que o aplicativo usa para se conectar ao banco de dados. Sim
versão A versão quando você seleciona a versão 2.0 (Visualização). O valor é 2.0. Sim
ConecteVia O tempo de execução de integração a ser usado para se conectar ao armazenamento de dados. Saiba mais na seção Pré-requisitos . Você só pode usar o tempo de execução de integração auto-hospedado e sua versão deve ser 5.44.8984.1 ou superior. Não

Exemplo:

{
    "name": "VerticaLinkedService",
    "properties": {
        "type": "Vertica",
        "version": "2.0",
        "typeProperties": {
            "server": "<server>",
            "port": 5433,
            "uid": "<username>",
            "database": "<database>",
            "pwd": {
                "type": "SecureString",
                "value": "<password>"
             }
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Exemplo: armazenar senha no Cofre da Chave do Azure

{
    "name": "VerticaLinkedService",
    "properties": {
        "type": "Vertica",
        "version": "2.0",
        "typeProperties": {
            "server": "<server>",
            "port": 5433,
            "uid": "<username>",
            "database": "<database>",
            "pwd": { 
                "type": "AzureKeyVaultSecret", 
                "store": { 
                    "referenceName": "<Azure Key Vault linked service name>", 
                    "type": "LinkedServiceReference" 
                }, 
                "secretName": "<secretName>" 
            }
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Se você usar a versão 1.0, as seguintes propriedades são suportadas:

Property Descrição Obrigatório
tipo A propriedade type deve ser definida como: Vertica Sim
connectionString Uma cadeia de conexão ODBC para se conectar ao Vertica.
Você também pode colocar a senha no Cofre de Chaves do Azure e extrair a pwd configuração da cadeia de conexão. Consulte os seguintes exemplos e o artigo Armazenar credenciais no Cofre de Chaves do Azure com mais detalhes.		 Sim
ConecteVia O tempo de execução de integração a ser usado para se conectar ao armazenamento de dados. Saiba mais na seção Pré-requisitos . Se não for especificado, ele usará o Tempo de Execução de Integração do Azure padrão. Não

Exemplo:

{
    "name": "VerticaLinkedService",
    "properties": {
        "type": "Vertica",
        "typeProperties": {
            "connectionString": "Server=<server>;Port=<port>;Database=<database>;UID=<user name>;PWD=<password>"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Propriedades do conjunto de dados

Para obter uma lista completa de seções e propriedades disponíveis para definir conjuntos de dados, consulte o artigo sobre conjuntos de dados. Esta seção fornece uma lista de propriedades suportadas pelo conjunto de dados Vertica.

Para copiar dados do Vertica, defina a propriedade type do conjunto de dados como VerticaTable. As seguintes propriedades são suportadas:

Property Descrição Obrigatório
tipo A propriedade type do conjunto de dados deve ser definida como: VerticaTable Sim
esquema Nome do esquema. Não (se "consulta" na fonte da atividade for especificado)
tabela Nome da tabela. Não (se "consulta" na fonte da atividade for especificado)

Exemplo

{
    "name": "VerticaDataset",
    "properties": {
        "type": "VerticaTable",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<Vertica linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

Propriedades da atividade Copy

Para obter uma lista completa de seções e propriedades disponíveis para definir atividades, consulte o artigo Pipelines . Esta seção fornece uma lista de propriedades suportadas pela fonte Vertica.

Vertica como fonte

Para copiar dados do Vertica, defina o tipo de origem na atividade de cópia como VerticaSource. As seguintes propriedades são suportadas na seção de origem da atividade de cópia:

Property Descrição Obrigatório
tipo A propriedade type da fonte de atividade de cópia deve ser definida como: VerticaSource Sim
query Use a consulta SQL personalizada para ler dados. Por exemplo: "SELECT * FROM MyTable". Não (se "schema+table" no conjunto de dados for especificado)

Exemplo:

"activities":[
    {
        "name": "CopyFromVertica",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<Vertica input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "VerticaSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Propriedades da atividade de pesquisa

Para saber detalhes sobre as propriedades, verifique Atividade de pesquisa.

Atualize a versão Vertica

Aqui estão as etapas que ajudam você a atualizar sua versão do Vertica:

  1. Instale um driver ODBC Vertica seguindo as etapas em Pré-requisitos.
  2. Na página Editar serviço vinculado, selecione 2.0 (Visualização) em Versão e configure o serviço vinculado consultando as propriedades do serviço vinculado.
  3. Aplique um tempo de execução de integração auto-hospedado com a versão 5.44.8984.1 ou superior. O tempo de execução de integração do Azure não é suportado pela versão 2.0 (Pré-visualização).

Conteúdos relacionados

Para obter uma lista de armazenamentos de dados suportados como fontes e coletores pela atividade de cópia, consulte Armazenamentos de dados suportados.