소개

LLM(대규모 언어 모델)의 진정한 힘은 애플리케이션에 있습니다. LLM을 사용하여 웹 페이지를 범주로 분류하거나 데이터에 대한 챗봇을 빌드할 것인지 여부입니다. 사용 가능한 LLM의 기능을 활용하려면 데이터 원본을 LLM과 결합하고 원하는 출력을 생성하는 애플리케이션을 만들어야 합니다.

LLM 애플리케이션을 개발, 테스트, 조정 및 배포하려면 Azure Machine Learning 스튜디오 및 Microsoft Foundry 포털에서 액세스할 수 있는 프롬프트 흐름을 사용할 수 있습니다.

프롬프트 흐름은 프롬프트 를 입력으로 사용합니다. 이 입력은 LLM의 컨텍스트에서 응답을 생성하기 위해 LLM 애플리케이션에 제공된 쿼리를 참조합니다. 이는 LLM 애플리케이션에 제공된 텍스트 또는 지침 집합으로, 출력을 생성하거나 특정 작업을 수행하라는 메시지를 표시합니다.

예를 들어 텍스트 생성 모델을 사용하려는 경우 프롬프트는 생성 프로세스를 시작하는 문장 또는 단락일 수 있습니다. 질문 답변 모델의 컨텍스트에서 프롬프트는 특정 토픽에 대한 정보를 요청하는 쿼리일 수 있습니다. 프롬프트의 효과는 종종 사용자의 의도와 원하는 결과를 얼마나 잘 전달하는지에 따라 달라집니다.

프롬프트 흐름을 사용하면 특정 작업 또는 기능을 달성하기 위해 수행되는 작업 또는 단계의 시퀀스를 참조하는 흐름을 만들 수 있습니다. 흐름은 LLM과의 상호 작용을 통합하여 특정 사용 사례를 해결하는 전체 프로세스 또는 파이프라인을 나타냅니다. 이 흐름은 입력을 받거나 출력을 생성하거나 원하는 작업을 수행하는 데 이르는 전체 과정을 캡슐화합니다.