생성형 AI 애플리케이션 모니터링(미리 보기)

Note

🔍새 포털에 대해 알아보려면 Microsoft Foundry(새) 설명서를 참조하세요.

Important

이 문서에 표시된 항목(미리 보기)은 현재 퍼블릭 미리 보기에서 확인할 수 있습니다. 이 미리 보기는 서비스 수준 계약 없이 제공되며, 프로덕션 워크로드에는 권장되지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다. 자세한 내용은 Microsoft Azure Preview에 대한 추가 사용 약관을 참조하세요.

AI 업계의 복잡성과 빠른 발전으로 인해 생성형 AI 애플리케이션을 모니터링하는 것이 그 어느 때보다 중요해졌습니다. Azure Monitor Application Insights와 통합된 관찰 기능을 사용하면 배포된 AI 애플리케이션을 지속적으로 모니터링하여 성능이 뛰어나고 안전하며 프로덕션 환경에서 고품질의 결과를 생성할 수 있습니다. 지속적인 모니터링 기능 외에도 에이전트에 대한 지속적인 평가 기능을 제공하여 Foundry Observability 대시보드를 더욱 향상시키고 추가적인 중요한 품질 및 안전 메트릭에 대한 표시 여부를 제공합니다.

Note

Foundry 프로젝트를 이 기능에 사용해야 합니다. 허브 기반 프로젝트는 지원되지 않습니다. 어떤 유형의 프로젝트가 있는지 어떻게 알 수 있나요? 및 Foundry 프로젝트 만들기를 참조하세요. 허브 기반 프로젝트를 Foundry 프로젝트로 마이그레이션하려면 허브 기반 프로젝트에서 Foundry 프로젝트로 마이그레이션을 참조하세요.

모니터링을 사용하도록 설정하는 방법

Microsoft Foundry에서 모니터링 기능을 사용하려면 Application Insights 리소스를 Foundry 프로젝트에 연결해야 합니다.

Foundry 포털의 왼쪽 탐색 창에서 모니터링 으로 이동합니다.
애플리케이션 분석 탭을 선택합니다.
아직 없는 경우 새 Application Insights 리소스를 만듭니다.
Foundry 프로젝트에 리소스를 연결합니다.

모니터링을 위한 프로덕션 데이터 수집

여기에서 기본 제공 뷰에서 모니터링할 수 있는 애플리케이션에 대한 원격 분석 데이터를 수집하기 시작할 수 있습니다. 이렇게 하려면 다음을 수행하는 것이 좋습니다.

계측 추적을 통해 애플리케이션에서 자세한 원격 분석 데이터를 캡처할 수 있습니다. 이 데이터는 프로덕션 환경에서 애플리케이션의 성능, 대기 시간 및 동작에 대한 인사이트를 제공합니다.
지속적인 평가는 미리 정의된 메트릭 및 임계값에 대한 출력을 평가하여 프로덕션 환경에서 에이전트의 품질과 안전을 모니터링하는 데 도움이 됩니다.

모니터링 결과 보기

Foundry 포털에서 애플리케이션 분석 대시보드 보기는 Azure Monitor Application Insights의 신호를 사용하여 Azure 통합 문서를 통해 쿼리하고 시각화를 만듭니다.

이러한 보기는 토큰 소비, 대기 시간, 예외, 응답 품질과 같은 주요 메트릭을 단일 창으로 가져와 운영 상태 및 품질을 추적하고 추세를 이해하고 지속적으로 평가하여 애플리케이션을 개선하는 데 투명성을 제공하도록 설계되었습니다.

다음 단계에 따라 Foundry 프로젝트의 기본 제공 모니터링 보기에 액세스하고 활용합니다.

Foundry 포털에서 Foundry 프로젝트로 이동합니다.
왼쪽 탐색 창에서 모니터링 을 선택합니다.
애플리케이션 분석 탭에서 애플리케이션의 상태에 대한 개요를 검토합니다.
필터를 사용하여 시간 범위, 애플리케이션 및/또는 모델을 지정하여 자세한 인사이트를 추출합니다.
품질 메트릭 감소와 같은 문제가 발견되면 추적 으로 이동하여 애플리케이션에서 문제를 디버그합니다.
모니터링 환경을 추가로 사용자 지정하고 Azure Monitor에서 고급 기능을 사용하려면 아래쪽으로 스크롤하여 Azure Monitor Application Insights에서 보기를 선택합니다.

Note

팀 구성원과 이 통합 문서를 공유하는 경우 표시된 정보를 보려면 연결된 Application Insights 리소스에 대한 '읽기 권한자' 역할 이상이 있어야 합니다.

Application Insights는 애플리케이션의 상태 및 성능에 대한 인사이트를 제공하는 APM(애플리케이션 성능 모니터링)을 위한 강력한 도구입니다.

페이지 끝에 있는 Azure Monitor Application Insights에서 보기 링크를 선택하여 Azure Monitor Application Insights 통합 문서 갤러리에서 애플리케이션 분석 대시보드를 열 수 있습니다.

이 대시보드는 통합 문서를 사용자 지정하고 필요에 따라 저장할 수 있는 편집 가능한 통합 문서로 열립니다.

명령 모음에서 편집 을 선택합니다.
사용 사례에 따라 필요에 따라 요소를 수정합니다. 편집, 추가, 이동/크기 조정, 복제 또는 제거할 요소에서 ... 를 선택합니다. 예를 들어, KQL을 사용하여 타일을 추가하면 기본 제공 보기에 표시되지 않는 수집 중인 사용자 지정 속성을 추적할 수 있습니다.
저장을 선택하여 최신 변경 내용을 저장하고 필요에 따라 다른 보기를 만듭니다.
명령 모음에서 공유 아이콘을 선택하여 팀과 공유합니다.