Udostępnij przez


Monitorowanie potoków

W tej sekcji opisano funkcje monitorowania i obserwowalności dla Lakeflow Spark Declarative Pipelines.

Temat Description
Monitorowanie przy użyciu interfejsu użytkownika Obserwuj postęp i stan aktualizacji potoku oraz ostrzegaj o powodzeniu lub niepowodzeniu. Wyświetlanie metryk dla źródeł przesyłania strumieniowego, takich jak Apache Kafka i Auto Loader.
Dziennik zdarzeń Wyodrębnij szczegółowe informacje dotyczące aktualizacji potoku, takich jak pochodzenie danych, metryki jakości danych i użycie zasobów przy użyciu dziennika zdarzeń potoku.
Ponadto zobacz schemat dziennika zdarzeń.
Historia zapytań Sprawdź i zdiagnozuj wydajność zapytań, przeglądając historię zapytań.
Monitorowanie spersonalizowane Zdefiniuj niestandardowe akcje do wykonania w przypadku wystąpienia określonych zdarzeń za pomocą haków zdarzeń.

Ponadto istnieją tematy dotyczące rozwiązywania problemów dla konkretnych scenariuszy.

Temat Description
Odzyskiwanie rury po niepowodzeniu punktu kontrolnego strumieniowania Odzyskaj potok danych z nieprawidłowym lub uszkodzonym punktem kontrolnym przesyłania strumieniowego.
Naprawianie długich czasów inicjalizacji w pipeline'ach Napraw długie czasy inicjalizacji potoku poprzez podział i zrównoważenie obciążenia przepływów między potokami.