Foundry Local은 Windows 디바이스에서 직접 LLM(대규모 언어 모델)을 로컬로 실행할 수 있도록 하는 Microsoft Foundry의 로컬 버전입니다. 이는 Windows AI API에서 사용할 수 없는 AI 시나리오를 더 심층적이고 구현하려는 경우에 좋은 대안입니다.
이 디바이스 내 AI 유추 솔루션은 클라우드 기반 대안에 비해 개인 정보 보호, 사용자 지정 및 비용 혜택을 제공합니다. 무엇보다도 사용하기 쉬운 CLI 및 REST API를 사용하여 기존 워크플로 및 애플리케이션에 적합합니다. Foundry Local에 대한 자세한 내용은 Foundry 로컬 설명서를 참조하세요.