Introdução ao Foundry Local

Foundry Local é uma versão local do Microsoft Foundry que permite a execução local de grandes modelos de linguagem (LLMs) diretamente no seu dispositivo Windows. Esta é uma boa alternativa se você quiser ir mais fundo e implementar um cenário de IA que não está disponível com as APIs de IA do Windows.

Esta solução de inferência de IA no dispositivo fornece privacidade, personalização e benefícios de custo em comparação com alternativas baseadas em nuvem. O melhor de tudo é que ele se encaixa em seus fluxos de trabalho e aplicativos existentes com uma CLI e API REST fáceis de usar. Para obter mais informações sobre o Foundry Local, consulte a documentação do Foundry Local.