Dodawanie modelu obsługującego zasób punktu końcowego do aplikacji usługi Databricks

Dodaj model obsługujący punkty końcowe jako zasoby usługi Databricks Apps, aby aplikacja mogła wysyłać zapytania do modeli uczenia maszynowego w celu wnioskowania. Model obsługujący punkty końcowe obsługuje przewidywania modelu i udostępnia spójny interfejs umożliwiający dostęp do wdrożonych modeli.

Dodawanie zasobu punktu końcowego obsługującego model

Przed dodaniem modelu obsługującego punkt końcowy jako zasób zapoznaj się z wymaganiami wstępnymi dotyczącymi zasobów aplikacji.

1. Podczas tworzenia lub edytowania aplikacji przejdź do kroku Konfigurowanie .
2. W sekcji Zasoby aplikacji kliknij pozycję + Dodaj zasób.
3. Wybierz pozycję Obsługa punktu końcowego jako typ zasobu.
4. Wybierz model obsługujący punkt końcowy z dostępnych punktów końcowych w obszarze roboczym.
5. Wybierz odpowiedni poziom uprawnień dla aplikacji:
   • Może wyświetlać: Wyświetlanie metadanych punktu końcowego, w tym nazw modeli, wersji i konfiguracji obciążenia. Nie można wysyłać żądań wnioskowania.
   • Może wykonywać zapytania: Wysyłanie żądań wnioskowania i wyświetlanie metadanych. Ta funkcja jest używana w przypadku większości aplikacji, które wymagają przewidywań modelu.
   • Może zarządzać: Pełna kontrola administracyjna, w tym wyświetlanie, edytowanie, wykonywanie zapytań, usuwanie i zarządzanie uprawnieniami.
6. (Opcjonalnie) Określ niestandardowy klucz zasobu, czyli sposób odwołowania się do punktu końcowego obsługującego model w konfiguracji aplikacji. Kluczem domyślnym jest serving-endpoint.

Zmienne środowiskowe

Podczas wdrażania aplikacji z modelem obsługującym zasób punktu końcowego usługa Azure Databricks uwidacznia nazwę punktu końcowego obsługującego za pomocą zmiennych środowiskowych, do których można się odwołać przy użyciu valueFrom pola.

Przykład:

SERVING_ENDPOINT=<your-serving-endpoint-name>

Aby uzyskać więcej informacji, zobacz Używanie zmiennych środowiskowych do uzyskiwania dostępu do zasobów.

Usuwanie zasobu punktu końcowego obsługującego model

Po usunięciu zasobu punktu końcowego obsługującego model z aplikacji, główny obiekt usługi aplikacji traci dostęp do tego punktu końcowego. Sam model obsługujący punkt końcowy pozostaje niezmieniony i nadal będzie dostępny dla innych użytkowników i aplikacji, które mają odpowiednie uprawnienia.

Najlepsze rozwiązania

Podczas pracy z modelem obsługującym zasoby punktu końcowego należy wziąć pod uwagę następujące kwestie:

• Przyznaj minimalne uprawnienia. Użyj Can view dla najmniejszego dostępu lub Can query dla większości aplikacji, wysyłając żądania inferencyjne, chyba że aplikacja musi wykonywać zadania administracyjne na punkcie końcowym.
• Unikaj długotrwałych zapytań, jeśli to możliwe, ponieważ żądania dedukcji mogą przekraczać limit czasu.
• Sprawdź stan punktu końcowego przed wysłaniem żądań. Punkty końcowe muszą być w READY stanie, aby przetwarzać zapytania.
• Rozważ ograniczenie częstotliwości wysyłania żądań wnioskowania, aby nie przeciążać punktu końcowego, szczególnie w okresach dużego natężenia ruchu.