Udostępnij przez


Kopiowanie danych z bazy danych MariaDB przy użyciu usługi Azure Data Factory lub Synapse Analytics

DOTYCZY: Azure Data Factory Azure Synapse Analytics

Napiwek

Wypróbuj usługę Data Factory w usłudze Microsoft Fabric — rozwiązanie analityczne typu all-in-one dla przedsiębiorstw. Usługa Microsoft Fabric obejmuje wszystko, od przenoszenia danych do nauki o danych, analizy w czasie rzeczywistym, analizy biznesowej i raportowania. Dowiedz się, jak bezpłatnie rozpocząć nową wersję próbną !

W tym artykule opisano, jak używać operacji kopiowania przy użyciu potoku usługi Azure Data Factory lub Synapse Analytics do kopiowania danych z MariaDB. Opiera się na artykule przeglądzie czynności kopiowania, w którym przedstawiono ogólny zarys tej czynności.

Ważne

Łącznik MariaDB w wersji 1.0 jest na etapie usuwania. Zaleca się uaktualnienie łącznika MariaDB z wersji 1.0 do 2.0.

Obsługiwane możliwości

Ten łącznik MariaDB jest obsługiwany dla następujących możliwości:

Obsługiwane możliwości środowisko IR
kopiowanie (źródło/-) (1) (2)
Działanie wyszukiwania (1) (2)

(1) Środowisko uruchomieniowe Azure (2) Środowisko uruchomieniowe z hostowaniem własnym

Aby uzyskać listę magazynów danych obsługiwanych jako źródła/ujścia przez działanie kopiowania, zobacz tabelę Obsługiwane magazyny danych.

Usługa udostępnia wbudowany sterownik umożliwiający łączność, dlatego nie trzeba ręcznie instalować żadnego sterownika przy użyciu tego łącznika.

Ten łącznik obsługuje obecnie bazę danych MariaDB w wersji 10.x, 11.x w łączniku MariaDB w wersji 2.0 i 10.0 do 10.5 dla wersji 1.0.

Wymagania wstępne

Jeśli magazyn danych znajduje się w sieci lokalnej, wirtualnej sieci Azure lub Amazon Virtual Private Cloud, należy skonfigurować własne Integration Runtime, aby się z nim połączyć.

Jeśli magazyn danych jest zarządzaną usługą danych w chmurze, możesz użyć środowiska Azure Integration Runtime. Jeśli dostęp jest ograniczony do adresów IP zatwierdzonych w regułach zapory, możesz dodać adresy IP środowiska Azure Integration Runtime do listy dozwolonych.

Możesz również użyć funkcji środowiska Integration Runtime zarządzanej sieci wirtualnej w usłudze Azure Data Factory, aby uzyskać dostęp do sieci lokalnej bez instalowania i konfigurowania własnego środowiska Integration Runtime.

Aby uzyskać więcej informacji na temat mechanizmów zabezpieczeń sieci i opcji obsługiwanych przez usługę Data Factory, zobacz Strategie dostępu do danych.

Wprowadzenie

Aby wykonać działanie kopiowania za pomocą pipeline'u, możesz użyć jednego z następujących narzędzi lub zestawów SDK:

Tworzenie połączonej usługi z bazą danych MariaDB przy użyciu interfejsu użytkownika

Wykonaj poniższe kroki, aby utworzyć połączoną usługę z bazą danych MariaDB w interfejsie użytkownika witryny Azure Portal.

  1. Przejdź do karty Zarządzanie w obszarze roboczym usługi Azure Data Factory lub Synapse i wybierz pozycję Połączone usługi, a następnie kliknij pozycję Nowy:

  2. Wyszukaj Marię i wybierz konektor MariaDB.

    Zrzut ekranu przedstawiający łącznik MariaDB.

  3. Skonfiguruj szczegóły usługi, przetestuj połączenie i utwórz nową połączoną usługę.

    Zrzut ekranu przedstawiający połączoną konfigurację usługi dla bazy danych MariaDB.

Szczegóły konfiguracji łącznika

Poniższe sekcje zawierają szczegółowe informacje o właściwościach używanych do definiowania jednostek usługi Data Factory specyficznych dla łącznika MariaDB.

Właściwości połączonej usługi

Jeśli używasz wersji 2.0, następujące właściwości są obsługiwane dla połączonej usługi MariaDB:

Nieruchomość Opis Wymagane
typ Właściwość type musi być ustawiona na: MariaDB Tak
wersja sterownika Wersja sterownika po wybraniu wersji 2.0. Wartość to v2. Tak
serwer Nazwa serwera MariaDB. Tak
port Numer portu do nawiązania połączenia z serwerem MariaDB. Nie.
baza danych Nazwa bazy danych MariaDB. Tak
nazwa użytkownika Nazwa użytkownika. Tak
hasło Hasło dla nazwy użytkownika. Oznacz to pole jako SecureString, aby bezpiecznie je przechowywać. Możesz też odwołać się do wpisu tajnego przechowywanego w usłudze Azure Key Vault. Tak
tryb SSL Ta opcja określa, czy sterownik używa szyfrowania TLS i weryfikacji podczas nawiązywania połączenia z bazą danych MariaDB. Np. SSLMode=<0/1/2/3/4>.
Opcje: WYŁĄCZONE (0) / PREFEROWANE (1) / WYMAGANE (2) / VERIFY_CA (3) / VERIFY_IDENTITY (4) (ustawienie domyślne)
Tak
użyjSystemowegoMagazynuZaufania Ta opcja określa, czy należy używać certyfikatu urzędu certyfikacji z systemowego magazynu zaufania, czy z określonego pliku PEM. Np. UseSystemTrustStore=<0/1>;
Opcje: Włączone (1) / Wyłączone (0) (ustawienie domyślne)
Nie.
connectVia Środowisko Integration Runtime do wykorzystania w celu połączenia z repozytorium danych. Dowiedz się więcej w sekcji Wymagania wstępne . Jeśli nie zostanie określony, używa domyślnego środowiska Azure Integration Runtime. Nie.

Uwaga

Łącznik MariaDB w wersji 2.0 domyślnie ustawia się na najwyższy poziom szyfrowania TLS i weryfikacji z protokołem sslMode=VERIFY_IDENTITY (4). Na podstawie konfiguracji protokołu TLS serwera dostosuj tryb sslMode zgodnie z potrzebami.

Przykład:

{
    "name": "MariaDBLinkedService",
    "properties": {
        "type": "MariaDB",
        "typeProperties": {
            "server": "<server>",
            "port": "<port>",
            "database": "<database>",
            "username": "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            },
            "driverVersion": "v2",
            "sslMode": <sslmode>,
            "useSystemTrustStore": <UseSystemTrustStore>
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Przykład: przechowywanie hasła w usłudze Azure Key Vault

{
    "name": "MariaDBLinkedService",
    "properties": {
        "type": "MariaDB",
        "typeProperties": {
            "server": "<server>",
            "port": "<port>",
            "database": "<database>",
            "username": "<username>",
            "password": {
                "type": "AzureKeyVaultSecret",
                "store": {
                    "referenceName": "<Azure Key Vault linked service name>",
                    "type": "LinkedServiceReference"
                },
                "secretName": "<secretName>"
            },
            "driverVersion": "v2",
            "sslMode": <sslmode>,
            "useSystemTrustStore": <UseSystemTrustStore>
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Jeśli używasz wersji 1.0, obsługiwane są następujące właściwości:

Nieruchomość Opis Wymagane
typ Właściwość type musi być ustawiona na: MariaDB Tak
Parametry połączenia Parametry połączenia ODBC do nawiązania połączenia z bazą danych MariaDB.
Możesz również umieścić hasło w usłudze Azure Key Vault i ściągnąć konfigurację pwd z parametry połączenia. Zapoznaj się z poniższymi przykładami i artykułem Store credentials in Azure Key Vault, aby uzyskać więcej szczegółów.
Tak
connectVia Środowisko Integration Runtime do wykorzystania w celu połączenia z repozytorium danych. Dowiedz się więcej w sekcji Wymagania wstępne . Jeśli nie zostanie określony, używa domyślnego środowiska Azure Integration Runtime. Nie.

Przykład:

{
    "name": "MariaDBLinkedService",
    "properties": {
        "type": "MariaDB",
        "typeProperties": {
            "connectionString": "Server=<host>;Port=<port>;Database=<database>;UID=<user name>;PWD=<password>"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

Właściwości zestawu danych

Pełna lista sekcji i właściwości dostępnych do definiowania zestawów danych znajduje się w artykule dotyczącym zestawów danych. Ta sekcja zawiera listę właściwości obsługiwanych przez zestaw danych MariaDB.

Aby skopiować dane z MariaDB, ustaw właściwość "type" zestawu danych na MariaDBTable. W tym typie zestawu danych nie ma dodatkowej właściwości specyficznej dla typu.

Przykład

{
    "name": "MariaDBDataset",
    "properties": {
        "type": "MariaDBTable",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<MariaDB linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

Właściwości działania kopiowania

Aby uzyskać pełną listę sekcji i właściwości dostępnych do definiowania działań, zobacz Pipelines artykuł. Ta sekcja zawiera listę właściwości obsługiwanych przez źródło mariaDB.

MariaDB jako źródło

Aby skopiować dane z bazy danych MariaDB, ustaw typ źródła w działaniu kopiowania na MariaDBSource. Następujące właściwości są obsługiwane w sekcji źródło działania kopiowania:

Nieruchomość Opis Wymagane
typ Właściwość typu źródła aktywności kopiowania musi być ustawiona na: MariaDBSource Tak
kwerenda Użyj niestandardowego zapytania SQL, aby odczytać dane. Na przykład: "SELECT * FROM MyTable". Nie (jeśli określono "tableName" w zestawie danych)

Przykład:

"activities":[
    {
        "name": "CopyFromMariaDB",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<MariaDB input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "MariaDBSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Mapowanie typu danych dla bazy danych MariaDB

Podczas kopiowania danych z bazy danych MariaDB następujące mapowania są używane z typów danych MariaDB do tymczasowych typów danych używanych przez usługę wewnętrznie. Zobacz Mapowania schematu i typu danych, aby dowiedzieć się, jak działanie kopiowania mapuje schemat źródłowy i typ danych na miejsce docelowe.

Typ danych MariaDB Typ danych usługi tymczasowej (wersja 2.0) Typ danych usługi tymczasowej (wersja 1.0)
BIGINT Int64 Int64
BIGINT UNSIGNED UInt64 Decimal
BIT(1) UInt64 logiczny
BIT(M), M>1 UInt64 Bajt[]
BLOB Bajt[] Bajt[]
BOOL Boolean
(Jeżeli TreatTinyAsBoolean=false, jest mapowany jako SByte. TreatTinyAsBoolean ma domyślną wartość true)
Int16
CHAR Sznurek Sznurek
DATE Data i czas Data i czas
DATA/GODZINA Data i czas Data i czas
DZIESIĘTNY Decimal Liczba dziesiętna, ciąg
PODWÓJNY Double Double
PODWÓJNA PRECYZJA Double Double
ENUM Sznurek Sznurek
FLOAT Single Single
INT Int32 Int32
NIEPODPISANE INT Int64 Int64
INTEGER Int32 Int32
LICZBA CAŁKOWITA BEZ ZNAKU UInt32 Int64
JSON Sznurek Bajt[]
DŁUGA WARIANCJA Bajt[] Bajt[]
DŁUGI VARCHAR Sznurek Sznurek
LONGBLOB Bajt[] Bajt[]
DŁUGI TEKST Sznurek Sznurek
ŚREDNIABLOB Bajt[] Bajt[]
MEDIUMINT Int32 Int32
MEDIUMINT BEZ ZNAKU UInt32 Int64
ŚREDNI TEKST Sznurek Sznurek
Liczbowy Decimal Decimal
PRAWDZIWY Double Double
SET Sznurek Sznurek
SMALLINT Int16 Int16
SMALLINT BEZ ZNAKU UInt16 Int32
TEKST Sznurek Sznurek
TIME TimeSpan TimeSpan
TIMESTAMP Data i czas Data i czas
TINYBLOB Bajt[] Bajt[]
TINYINT SByte Int16
TINYINT niepodpisane Int16 Int16
TINYTEXT Sznurek Sznurek
VARCHAR Sznurek Sznurek
YEAR Int Int

Właściwości czynności wyszukiwania

Aby poznać szczegóły dotyczące właściwości, sprawdź Aktywność wyszukiwania.

Uaktualnianie łącznika MariaDB

Poniżej przedstawiono kroki ułatwiające uaktualnienie łącznika MariaDB:

  1. Na stronie Edytowanie połączonej usługi wybierz pozycję 2.0 w obszarze Wersja i skonfiguruj połączoną usługę, odwołując się do właściwości połączonej usługi.

  2. Mapowanie typu danych dla wersji 2.0 różni się od tego w wersji 1.0. Aby poznać mapowanie typów danych w wersji 2.0, zobacz Mapowanie typów danych dla bazy danych MariaDB.

  3. Najnowsza wersja sterownika w wersji 2 obsługuje więcej wersji bazy danych MariaDB. Aby uzyskać więcej informacji, zobacz Obsługiwane możliwości.

W poniższej tabeli przedstawiono różnice mapowania typów danych między bazą danych MariaDB w wersji 2.0 i wersji 1.0.

Typ danych MariaDB Typ danych usługi tymczasowej (przy użyciu wersji 2.0) Typ danych usługi tymczasowej (przy użyciu wersji 1.0)
BIGINT UNSIGNED UInt64 Decimal
BIT(1) UInt64 logiczny
BIT(M), M>1 UInt64 Bajt[]
BOOL logiczny Int16
DZIESIĘTNY Decimal Liczba dziesiętna, ciąg
LICZBA CAŁKOWITA BEZ ZNAKU UInt32 Int64
JSON Sznurek Bajt[]
MEDIUMINT BEZ ZNAKU UInt32 Int64
SMALLINT BEZ ZNAKU UInt16 Int32
TINYINT SByte Int16

Aby uzyskać listę magazynów danych obsługiwanych jako źródła i ujścia działania kopiowania, zobacz obsługiwane magazyny danych.