Freigeben über


Kopieren von Daten aus Presto mithilfe von Azure Data Factory oder Synapse Analytics

GILT FÜR: Azure Data Factory Azure Synapse Analytics

Tipp

Testen Sie Data Factory in Microsoft Fabric, eine All-in-One-Analyselösung für Unternehmen. Microsoft Fabric deckt alle Aufgaben ab, von der Datenverschiebung bis hin zu Data Science, Echtzeitanalysen, Business Intelligence und Berichterstellung. Erfahren Sie, wie Sie kostenlos eine neue Testversion starten!

In diesem Artikel wird beschrieben, wie Sie die Copy-Aktivität in Azure Data Factory- oder Azure Synapse Analytics-Pipelines verwenden, um Daten aus Presto zu kopieren. Er baut auf dem Artikel zur Übersicht über die Kopieraktivität auf, der eine allgemeine Übersicht über die Kopieraktivität enthält.

Von Bedeutung

Die Presto Connector-Version 1.0 wird entfernt. Sie werden empfohlen, den Presto-Connector von Version 1.0 auf 2.0 zu aktualisieren.

Unterstützte Funktionen

Dieser Presto-Connector wird für die folgenden Funktionen unterstützt:

Unterstützte Funktionen IR
Kopieraktivität (Quelle/-) (1) (2)
Lookupaktivität (1) (2)

① Azure Integration Runtime ② Selbstgehostete Integration Runtime

Eine Liste der Datenspeicher, die als Quellen oder Senken für die Kopieraktivität unterstützt werden, finden Sie in der Tabelle Unterstützte Datenspeicher.

Der Dienst enthält einen integrierten Treiber zum Herstellen der Konnektivität. Daher müssen Sie keinen Treiber manuell installieren, wenn dieser Connector verwendet wird.

Erste Schritte

Zum Ausführen der Kopieraktivität mit einer Pipeline können Sie eines der folgenden Tools oder SDKs verwenden:

Erstellen eines verknüpften Diensts mit Presto über die Benutzeroberfläche

Verwenden Sie die folgenden Schritte, um einen verknüpften Dienst mit Presto auf der Azure-Portal Benutzeroberfläche zu erstellen.

  1. Navigieren Sie in Ihrem Azure Data Factory- oder Synapse-Arbeitsbereich zu der Registerkarte „Verwalten“, wählen Sie „Verknüpfte Dienste“ aus und klicken Sie dann auf „Neu“:

  2. Suchen Sie nach Presto, und wählen Sie den Presto-Connector aus.

    Ein Screenshot, der den Presto-Connector zeigt.

  3. Konfigurieren Sie die Dienstdetails, testen Sie die Verbindung, und erstellen Sie den neuen verknüpften Dienst.

    Ein Screenshot, der die Konfiguration des verknüpften Diensts für Presto zeigt.

Details zur Connectorkonfiguration

Die folgenden Abschnitte enthalten Details zu Eigenschaften, die zum Definieren von Data Factory-Entitäten speziell für den Presto-Connector verwendet werden.

Eigenschaften des verknüpften Diensts

Der Presto-Connector unterstützt jetzt Version 2.0. Lesen Sie diesen Abschnitt, um die Presto-Connectorversion von Version 1.0 zu aktualisieren. Einzelheiten zur Eigenschaft finden Sie in den entsprechenden Abschnitten.

Version 2.0

Der presto-verknüpfte Dienst unterstützt die folgenden Eigenschaften, wenn Version 2.0 angewendet wird:

Eigenschaft Beschreibung Erforderlich
Typ Die type-Eigenschaft muss auf Folgendes festgelegt werden: Presto Ja
Version Die von Ihnen angegebene Version. Der Wert ist 2.0. Ja
Host IP-Adresse oder Hostname des Presto-Servers. (Beispiel: 192.168.222.160) Ja
Katalog Der Katalogkontext für alle Anforderungen an den Server. Ja
Hafen Der TCP-Port, den der Presto-Server verwendet, um auf Clientverbindungen zu lauschen. Der Standardwert ist 8443. Nein
Authentifizierungstyp Der Authentifizierungsmechanismus, der für die Verbindung mit dem Presto-Server verwendet werden soll.
Zulässige Werte sind: Anonym, LDAP
Ja
Benutzername Der Benutzername, der für die Verbindung mit dem Presto-Server verwendet werden soll. Nein
Passwort Das Kennwort, das zum Benutzernamen gehört. Markieren Sie dieses Feld als einen „SecureString“, um es sicher zu speichern, oder verweisen Sie auf ein in Azure Key Vault gespeichertes Geheimnis. Nein
SSL aktivieren Gibt an, ob Verbindungen mit dem Server mit TLS verschlüsselt werden. Der Standardwert ist true. Nein
Aktivierung der Serverzertifikatsvalidierung Geben Sie an, ob die Ssl-Zertifikatüberprüfung auf dem Server aktiviert werden soll, wenn Sie eine Verbindung herstellen.
Verwenden Sie immer den System Trust Store. Der Standardwert ist true.
Nein
Zeitzonen-ID Die lokale Zeitzone, die von der Verbindung verwendet wird. Gültige Werte für diese Option sind in der Zeitzonendatenbank der IANA angegeben. Der Standardwert ist die Zeitzone des Presto-Systems. Nein

Beispiel:

{
    "name": "PrestoLinkedService",
    "properties": {
        "type": "Presto",
        "version" : "2.0",
        "typeProperties": {
            "host" : "<host>",
            "catalog" : "<catalog>",
            "port" : 8443,
            "authenticationType" : "LDAP",
            "username" : "<username>",
            "password": {
                 "type": "SecureString",
                 "value": "<password>"
            },
            "enableSsl": true,
            "enableServerCertificateValidation": true,
            "timeZoneID" : ""
        }
    }
}

Version 1.0

Der presto-verknüpfte Dienst unterstützt die folgenden Eigenschaften, wenn Version 1.0 angewendet wird:

Eigenschaft Beschreibung Erforderlich
Typ Die type-Eigenschaft muss auf Folgendes festgelegt werden: Presto Ja
Host IP-Adresse oder Hostname des Presto-Servers. (Beispiel: 192.168.222.160) Ja
serverVersion Die Version des Presto-Servers. (Beispiel: 0.148-t) Ja
Katalog Der Katalogkontext für alle Anforderungen an den Server. Ja
Hafen Der TCP-Port, den der Presto-Server verwendet, um auf Clientverbindungen zu lauschen. Der Standardwert ist 8080. Nein
Authentifizierungstyp Der Authentifizierungsmechanismus, der für die Verbindung mit dem Presto-Server verwendet werden soll.
Zulässige Werte sind: Anonym, LDAP
Ja
Benutzername Der Benutzername, der für die Verbindung mit dem Presto-Server verwendet werden soll. Nein
Passwort Das Kennwort, das zum Benutzernamen gehört. Markieren Sie dieses Feld als einen „SecureString“, um es sicher zu speichern, oder verweisen Sie auf ein in Azure Key Vault gespeichertes Geheimnis. Nein
SSL aktivieren Gibt an, ob Verbindungen mit dem Server mit TLS verschlüsselt werden. Der Standardwert ist „FALSE“. Nein
VertrauenswürdigerZertifikatspfad Der vollständige Pfad der PEM-Datei mit vertrauenswürdigen CA-Zertifikaten zur Überprüfung des Servers beim Verbindungsaufbau über TLS. Diese Eigenschaft kann nur festgelegt werden, wenn TLS in einer selbstgehosteten IR verwendet wird. Der Standardwert ist die Datei „cacerts.pem“, die mit der IR installiert wird. Nein
useSystemTrustStore Gibt an, ob ein Zertifizierungsstellenzertifikat aus dem Vertrauensspeicher des Systems oder aus einer angegebenen PEM-Datei verwendet werden soll. Der Standardwert ist „FALSE“. Nein
allowHostNameCNMismatch Gibt an, ob der Name eines von der Zertifizierungsstelle ausgestellten TLS-/SSL-Zertifikats mit dem Hostnamen des Servers übereinstimmen muss, wenn eine Verbindung über TLS hergestellt wird. Der Standardwert ist „FALSE“. Nein
Selbstsigniertes Serverzertifikat zulassen Gibt an, ob vom Server selbstsignierte Zertifikate zugelassen werden. Der Standardwert ist „FALSE“. Nein
Zeitzonen-ID Die lokale Zeitzone, die von der Verbindung verwendet wird. Gültige Werte für diese Option sind in der Zeitzonendatenbank der IANA angegeben. Der Standardwert ist die Zeitzone der Azure Data Factory. Nein

Beispiel:

{
    "name": "PrestoLinkedService",
    "properties": {
        "type": "Presto",
        "typeProperties": {
            "host" : "<host>",
            "serverVersion" : "0.148-t",
            "catalog" : "<catalog>",
            "port" : "<port>",
            "authenticationType" : "LDAP",
            "username" : "<username>",
            "password": {
                 "type": "SecureString",
                 "value": "<password>"
            },
            "timeZoneID" : "Europe/Berlin"
        }
    }
}

Dataset-Eigenschaften

Eine vollständige Liste mit den Abschnitten und Eigenschaften, die zum Definieren von Datasets zur Verfügung stehen, finden Sie im Artikel zu Datasets. Dieser Abschnitt enthält eine Liste der Eigenschaften, die vom Presto-Dataset unterstützt werden.

Legen Sie zum Kopieren von Daten aus Presto die „type“-Eigenschaft des Datasets auf PrestoObject fest. Folgende Eigenschaften werden unterstützt:

Eigenschaft Beschreibung Erforderlich
Typ Die type-Eigenschaft des Datasets muss auf folgenden Wert festgelegt werden: PrestoObject Ja
schema Name des Schemas. Nein (wenn „query“ in der Aktivitätsquelle angegeben ist)
Tisch Name der Tabelle. Nein (wenn „query“ in der Aktivitätsquelle angegeben ist)
Tabellenname Name der Tabelle mit Schema. Diese Eigenschaft wird aus Gründen der Abwärtskompatibilität weiterhin unterstützt. Verwenden Sie schema und table für die neue Arbeitslast. Nein (wenn „query“ in der Aktivitätsquelle angegeben ist)

Beispiel

{
    "name": "PrestoDataset",
    "properties": {
        "type": "PrestoObject",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<Presto linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

Eigenschaften der Kopieraktivität

Eine vollständige Liste mit den Abschnitten und Eigenschaften zum Definieren von Aktivitäten finden Sie im Artikel Pipelines. Dieser Abschnitt enthält eine Liste der Eigenschaften, die von der Presto-Quelle unterstützt werden.

Presto als Quelle

Legen Sie zum Kopieren von Daten aus Presto den Quelltyp in der Kopieraktivität auf PrestoSource fest. Folgende Eigenschaften werden im Abschnitt source der Kopieraktivität unterstützt:

Eigenschaft Beschreibung Erforderlich
Typ Die type-Eigenschaft der Quelle der Kopieraktivität muss auf Folgendes festgelegt werden: PrestoSource Ja
Abfrage Verwendet die benutzerdefinierte SQL-Abfrage zum Lesen von Daten. Beispiel: "SELECT * FROM MyTable". Nein (wenn „tableName“ im Dataset angegeben ist)

Beispiel:

"activities":[
    {
        "name": "CopyFromPresto",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<Presto input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "PrestoSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Datentypzuordnung für Presto

Wenn Sie Daten aus Presto kopieren, gelten die folgenden Zuordnungen aus den Datentypen von Presto auf die internen Datentypen, die vom Dienst verwendet werden. Weitere Informationen dazu, wie die Kopieraktivität das Quellschema und den Datentyp der Senke zuordnet, finden Sie unter Schema- und Datentypzuordnungen.

Presto-Datentyp Zwischendienstdatentyp (für Version 2.0) Zwischendienstdatentyp (für Version 1.0)
ARRAY Schnur Schnur
bigint Int64 Int64
BOOLEAN Boolean Boolean
CHAR Schnur Schnur
Datum Datum Datum und Uhrzeit
DEZIMAL (Genauigkeit < 28) Dezimalzahl Dezimalzahl
DEZIMAL (Genauigkeit >= 28) Dezimalzahl Schnur
Double Double Double
INTEGER Int32 Int32
INTERVAL_DAY_TO_SECOND Zeitspanne Nicht unterstützt.
INTERVAL_YEAR_TO_MONTH Schnur Nicht unterstützt.
IPADDRESS Schnur Nicht unterstützt.
JSON Schnur Schnur
KARTE Schnur Schnur
Echt Ledig Ledig
ROW Schnur Schnur
SMALLINT Int16 Int16
ZEIT Uhrzeit Zeitspanne
TIME_WITH_TIME_ZONE Schnur Schnur
timestamp Datum und Uhrzeit Datum und Uhrzeit
Zeitstempel mit Zeitzone Datetimeoffset Nicht unterstützt.
TINYINT SByte Int16
UUID Leitfaden Nicht unterstützt.
VARBINARY Byte[] Byte[]
VARCHAR Schnur Schnur

Eigenschaften der Lookupaktivität

Ausführliche Informationen zu den Eigenschaften finden Sie unter Lookupaktivität.

Aktualisierung des Presto-Connectors

Die folgenden Schritte helfen Ihnen beim Upgrade des Presto-Connectors:

  1. Wählen Sie auf der Seite "Verknüpften Dienst bearbeiten " Version 2.0 aus, und konfigurieren Sie den verknüpften Dienst, indem Sie auf verknüpfte Dienstversion 2.0-Eigenschaften verweisen.

  2. Die Datentypzuordnung für die Presto-verknüpfte Dienstversion 2.0 unterscheidet sich von der für die Version 1.0. Informationen zur neuesten Datentypzuordnung finden Sie unter "Datentypzuordnung für Presto".

Unterschiede zwischen Presto Connector Version 2.0 und Version 1.0

Die Presto Connector Version 2.0 bietet neue Funktionen und ist mit den meisten Features von Version 1.0 kompatibel. Die folgende Tabelle zeigt die Featureunterschiede zwischen Version 2.0 und Version 1.0.

Version 2.0 Version 1.0
serverVersion wird nicht unterstützt. serverVersion wird unterstützt.
Der Standardwert von port ist 8443. Der Standardwert von port ist 8080.
Der Standardwert lautet enableSSL "true".

enableServerCertificateValidation wird unterstützt.

trustedCertPath, useSystemTrustStoreallowHostNameCNMismatch und allowSelfSignedServerCert werden nicht unterstützt.
Der Standardwert lautet enableSSL "false".

enableServerCertificateValidation wird nicht unterstützt.

trustedCertPath, useSystemTrustStoreallowHostNameCNMismatch und allowSelfSignedServerCert wird unterstützt.
Der Standardwert ist die Zeitzone des timeZoneID Presto-Systems. Der Standardwert von timeZoneID ist die Zeitzone von Azure Data Factory.
Die folgenden Zuordnungen werden von Presto-Datentypen zu Zwischendatentypen des Diensts verwendet.

DATUM -> Datum
DEZIMAL (Genauigkeit >= 28) -> Dezimalzahl
INTERVAL_DAY_TO_SECOND -> TimeSpan
INTERVAL_YEAR_TO_MONTH –> Zeichenfolge
IPADDRESS -> Zeichenfolge
ZEIT -> Zeit
TIMESTAMPWITHTIMEZONE -> Datetimeoffset
TINYINT > SByte
UUID -> Guid
Die folgenden Zuordnungen werden von Presto-Datentypen zu Zwischendatentypen des Diensts verwendet.

DATE -> Datum/Zeit
DEZIMAL (Genauigkeit >= 28) -> Zeichenfolge
TIME -> TimeSpan
TINYINT > Int16
Weitere Zuordnungen, die von Version 2.0 unterstützt werden, werden von Version 1.0 nicht unterstützt.

Eine Liste der Datenspeicher, die als Quellen und Senken für die Kopieraktivität unterstützt werden, finden Sie unter Unterstützte Datenspeicher.