Introdução ao Foundry Local

O Foundry Local é uma versão local do Microsoft Foundry que permite a execução local de LLMs (modelos de linguagem grande) diretamente em seu dispositivo Windows. Essa é uma boa alternativa se você quiser ir mais fundo e implementar um cenário de IA que não esteja disponível com as APIs de IA do Windows.

Essa solução de inferência de IA no dispositivo fornece privacidade, personalização e benefícios de custo em comparação com alternativas baseadas em nuvem. O melhor de tudo é que ele se encaixa em seus fluxos de trabalho e aplicativos existentes com uma CLI fácil de usar e a API REST. Para obter mais informações sobre o Foundry Local, consulte a documentação do Foundry Local.