핵심 구성 요소 이해 및 흐름 유형 탐색
프롬프트 흐름을 사용하여 LLM(대규모 언어 모델) 애플리케이션을 만들려면 프롬프트 흐름의 핵심 구성 요소를 이해해야 합니다.
흐름 이해
프롬프트 흐름은 흐름을 작성할 수 있는 Microsoft Foundry 내의 기능 입니다. 흐름은 종종 다음 세 부분으로 구성된 실행 가능한 워크플로입니다.
- 입력: 흐름에 전달된 데이터를 나타냅니다. 문자열, 정수 또는 부울과 같은 다른 데이터 형식일 수 있습니다.
- 노드: 데이터 처리, 태스크 실행 또는 알고리즘 작업을 수행하는 도구를 나타냅니다.
- 출력: 흐름에서 생성된 데이터를 나타냅니다.
파이프라인과 마찬가지로 흐름은 흐름의 입력 또는 다른 노드에서 생성된 출력을 사용할 수 있는 여러 노드로 구성될 수 있습니다. 사용 가능한 도구 유형 중 하나를 선택하여 흐름에 노드를 추가할 수 있습니다.
프롬프트 흐름에서 사용할 수 있는 도구 살펴보기
세 가지 일반적인 도구는 다음과 같습니다.
- LLM 도구: 큰 언어 모델을 사용하여 사용자 지정 프롬프트를 만들 수 있습니다.
- Python 도구: 사용자 지정 Python 스크립트를 실행할 수 있습니다.
- 프롬프트 도구: 복잡한 시나리오 또는 다른 도구와의 통합을 위한 문자열로 프롬프트를 준비합니다.
각 도구는 특정 함수가 있는 실행 가능한 단위입니다. 도구를 사용하여 텍스트 요약 또는 API 호출과 같은 작업을 수행할 수 있습니다. 한 흐름 내에서 여러 도구를 사용하고 도구를 여러 번 사용할 수 있습니다.
팁 (조언)
사용 가능한 도구에서 제공하지 않는 기능을 찾고 있는 경우 사용자 지정 도구를 직접 만들 수 있습니다.
흐름에 새 노드를 추가하고 새 도구를 추가할 때마다 예상된 입력 및 출력을 정의할 수 있습니다. 노드는 전체 흐름의 입력 중 하나 또는 다른 노드의 출력을 사용하여 노드를 효과적으로 연결할 수 있습니다.
입력을 정의하고, 노드를 연결하고, 원하는 출력을 정의하면 흐름을 만들 수 있습니다. 흐름은 다양한 용도로 LLM 애플리케이션을 만드는 데 도움이 됩니다.
흐름 유형 이해
프롬프트 흐름을 사용하여 만들 수 있는 세 가지 유형의 흐름이 있습니다.
- 표준 흐름: 다양한 도구를 제공하는 일반적인 LLM 기반 애플리케이션 개발에 적합합니다.
- 채팅 흐름: 대화형 애플리케이션용으로 설계되었으며 채팅 관련 기능에 대한 지원이 향상되었습니다.
- 평가 흐름: 성능 평가에 중점을 두어 이전 실행에 대한 피드백을 통해 모델 또는 애플리케이션을 분석하고 개선할 수 있습니다.
흐름이 구조화되는 방식과 흐름의 용도를 이해했으므로 흐름을 만드는 방법을 살펴보겠습니다.