앱이 기계 학습 모델을 쿼리하여 유추할 수 있도록 엔드포인트 를 Databricks Apps 리소스로 제공하는 모델을 추가합니다. 모델 서비스 엔드포인트는 모델 예측을 처리하고 배포된 모델에 액세스하기 위한 일관된 인터페이스를 제공합니다.
엔드포인트 리소스를 제공하는 모델 추가
엔드포인트를 리소스로 제공하는 모델을 추가하기 전에 앱 리소스 필수 구성 요소를 검토합니다.
- 앱을 만들거나 편집할 때 구성 단계로 이동합니다.
- 앱 리소스 섹션에서 + 리소스 추가를 클릭합니다.
- 리소스 유형으로 서비스 엔드포인트 를 선택합니다.
- 작업 영역의 사용 가능한 엔드포인트에서 엔드포인트를 제공하는 모델을 선택합니다.
- 앱에 대한 적절한 사용 권한 수준을 선택합니다.
- 다음을 볼 수 있습니다. 모델 이름, 버전 및 워크로드 구성을 포함하여 엔드포인트 메타데이터를 봅니다. 유추 요청을 보낼 수 없습니다.
- 쿼리 가능: 유추 요청을 보내고 메타데이터를 봅니다. 모델 예측이 필요한 대부분의 앱에 사용합니다.
- 다음을 관리할 수 있습니다. 보기, 편집, 쿼리, 삭제 및 권한 관리를 비롯한 모든 관리 제어
- (선택 사항) 앱 구성에서 엔드포인트를 제공하는 모델을 참조하는 방법인 사용자 지정 리소스 키를 지정합니다. 기본 키는 .입니다
serving-endpoint.
비고
엔드포인트를 제공하는 모델은 앱에서 READY 유추 요청을 처리하는 상태여야 합니다.
환경 변수
엔드포인트 리소스를 제공하는 모델을 사용하여 앱을 배포하는 경우 Azure Databricks는 필드를 사용하여 valueFrom 참조할 수 있는 환경 변수를 통해 서비스 엔드포인트 이름을 노출합니다.
다음은 그 예입니다.
SERVING_ENDPOINT=<your-serving-endpoint-name>
자세한 내용은 환경 변수를 사용하여 리소스에 액세스하는 방법을 참조하세요.
엔드포인트 리소스를 제공하는 모델 제거
앱에서 엔드포인트 리소스를 제공하는 모델을 제거하면 앱의 서비스 주체가 엔드포인트에 대한 액세스 권한을 잃게 됩니다. 엔드포인트 자체를 제공하는 모델은 변경되지 않고 적절한 권한이 있는 다른 사용자 및 애플리케이션에서 계속 사용할 수 있습니다.
모범 사례
엔드포인트 리소스를 제공하는 모델을 사용하는 경우 다음을 고려합니다.
- 최소 사용 권한을 부여합니다. 앱이 특별히 엔드포인트에서 관리 작업을 수행해야 할 필요가 없다면, 최소 액세스를 위해서는
Can view를, 유추 요청을 보내야 하는 대부분의 앱에는Can query를 사용하십시오. - 가능하면 오래 걸리는 쿼리를 피하십시오. 유추 요청이 시간 초과할 수 있습니다.
- 요청을 보내기 전에 엔드포인트 상태를 확인합니다. 쿼리를 처리하려면 엔드포인트가
READY상태여야 합니다. - 특히 트래픽이 많은 기간 동안 엔드포인트를 압도하지 않도록 유추 요청을 제한하는 속도를 고려합니다.