언어 모델을 기반으로 하는 방법 이해
언어 모델은 매력적인 텍스트를 생성하는 데 탁월하며 에이전트를 위한 기준으로 이상적입니다. 에이전트는 사용자에게 업무에 대한 도움을 받을 수 있는 직관적인 채팅 기반 애플리케이션을 제공합니다. 특정 사용 사례에 대한 에이전트 기술을 설계할 때 언어 모델이 사용자에게 필요한 것과 관련된 사실 정보를 근거로 하고 이러한 정보를 사용하는지 확인하려고 합니다.
언어 모델은 방대한 양의 데이터에 대해 학습을 받았지만 사용자에게 제공하려는 지식에 액세스하지 못할 수도 있습니다. 에이전트가 특정 데이터를 근거로 하여 정확한 영역별 응답을 제공하도록 하려면 RAG(검색 증강 생성)을 사용할 수 있습니다.
RAG에 대한 이해
RAG는 언어 모델을 기반으로 하는 데 사용할 수 있는 기술입니다. 즉, 사용자의 초기 프롬프트와 관련된 정보를 검색하는 프로세스입니다. 일반적으로 RAG 패턴에는 다음 단계가 포함됩니다.
- 초기 사용자 입력 프롬프트를 기반으로 기초가 되는 데이터를 검색합니다.
- 기초가 되는 데이터로 프롬프트를 보강합니다.
- 언어 모델을 사용하여 근거 있는 응답을 생성합니다.
지정된 데이터 원본에서 컨텍스트를 검색하면 언어 모델이 응답할 때 학습 데이터에 의존하는 대신 관련 정보를 사용하도록 할 수 있습니다.
RAG를 사용하는 것은 언어 모델의 근거를 지정하고 생성형 AI 앱 응답의 실제 정확도를 개선하려는 많은 경우에 사용하기 쉬운 강력한 기술입니다.
Azure AI 프로젝트에 기초가 되는 데이터 추가
Microsoft Foundry를 사용하여 사용자 고유의 데이터를 사용하여 프롬프트를 접지하는 사용자 지정 에이전트를 빌드할 수 있습니다. Microsoft Foundry는 다음을 포함하여 프로젝트에 데이터를 추가하는 데 사용할 수 있는 다양한 데이터 연결을 지원합니다.
- Azure Blob Storage
- Azure Data Lake Storage Gen2
- Microsoft OneLake
AI Foundry 프로젝트에서 사용하는 스토리지에 파일이나 폴더를 업로드할 수도 있습니다.