Choisir entre les modèles IA basés sur le cloud et locaux

Pour les développeurs d’applications qui cherchent à intégrer des fonctionnalités d’IA, Microsoft Windows propose une plateforme complète et flexible qui prend en charge les solutions locales, sur appareil et évolutives basées sur le cloud.

Le choix entre les modèles IA basés sur le cloud et locaux dépend de vos besoins et priorités spécifiques. Facteurs à prendre en considération :

• Confidentialité, conformité et sécurité des données
• Disponibilité des ressources
• Accessibilité et collaboration
• Coûts
• Maintenance et mises à jour
• Niveau de performance et latence
• Extensibilité
• Configuration requise pour la connectivité
• Taille et complexité du modèle
• Outils et écosystème associé
• Personnalisation et contrôle

Facteurs de décision clés pour les développeurs d’applications

• Confidentialité, conformité et sécurité des données

  • • Local, local : Étant donné que les données restent sur l’appareil, l’exécution d’un modèle localement peut offrir des avantages en matière de sécurité et de confidentialité, avec la responsabilité de la sécurité des données reposant sur l’utilisateur. Le développeur est responsable de la gestion des mises à jour, de la compatibilité et de la surveillance des vulnérabilités de sécurité.
  • • Nuage: Les fournisseurs de cloud offrent des mesures de sécurité robustes, mais les données doivent être transférées vers le cloud, ce qui peut entraîner des préoccupations en matière de confidentialité des données pour le responsable de la maintenance des services d’application ou d’entreprise dans certains cas. L’envoi de données au cloud doit également se conformer aux réglementations de protection des données, telles que RGPD ou HIPAA, en fonction de la nature des données et de la région dans laquelle l’application fonctionne. Les fournisseurs de cloud gèrent généralement les mises à jour et la maintenance de la sécurité, mais les utilisateurs doivent s’assurer qu’ils utilisent des API sécurisées et suivre les meilleures pratiques pour la gestion des données.

• Disponibilité des ressources

  • Local, local : L’exécution d’un modèle dépend des ressources disponibles sur l’appareil utilisé, notamment l’UC, le GPU, le NPU, la mémoire et la capacité de stockage. Cela peut être limité si l’appareil ne dispose pas d’une puissance de calcul élevée ou d’un stockage suffisant. Les modèles linguistiques réduits (SLM), tels que Phi, conviennent mieux à une utilisation en local sur un appareil. Copilot+ Les PC offrent des modèles intégrés avec des fonctionnalités IA prêtes à l’emploi prises en charge par Microsoft Foundry on Windows.

  • • Nuage: Les plateformes cloud, telles que Azure les services IA, offrent des ressources évolutives. Vous pouvez utiliser autant de puissance de calcul ou de stockage que nécessaire et payer uniquement pour ce que vous utilisez. Les modèles de langage volumineux (LLMs), comme les modèles de langage OpenAI , nécessitent plus de ressources, mais sont également plus puissants.

• Accessibilité et collaboration

  • • Local, local : Le modèle et les données sont accessibles uniquement sur l’appareil, sauf si elles sont partagées manuellement. Cela a le potentiel de rendre la collaboration plus difficile sur les données de modèle.
  • • Nuage: Le modèle et les données sont accessibles depuis n’importe où avec une connectivité Internet. Cela peut être préférable pour les scénarios de collaboration.

• Coût

  • Local, local : Il n’y a aucun coût supplémentaire au-delà de l’investissement initial dans le matériel de l’appareil.

  • Nuage: Bien que les plateformes cloud fonctionnent sur un modèle de paiement à l’utilisation, les coûts peuvent s’accumuler en fonction des ressources utilisées et de la durée d’utilisation.

• Maintenance et mises à jour

  • Local, local : L’utilisateur est responsable de la maintenance du système et de l’installation des mises à jour.

  • Nuage: La maintenance, les mises à jour système et les nouvelles mises à jour des fonctionnalités sont gérées par le fournisseur de services cloud, ce qui réduit la surcharge de maintenance pour l’utilisateur.

• Performances et latence

  • Local, local : L’exécution d’un modèle localement peut réduire la latence, car les données n’ont pas besoin d’être envoyées sur le réseau. Toutefois, les performances sont limitées par les fonctionnalités matérielles de l’appareil.

  • Nuage: Les modèles basés sur le cloud peuvent tirer parti du matériel puissant, mais ils peuvent introduire une latence en raison de la communication réseau. Les performances peuvent varier en fonction de la connexion Internet de l’utilisateur et du temps de réponse du service cloud.

• Scalabilité

  • Local, local : La mise à l’échelle d’un modèle sur un appareil local peut nécessiter des mises à niveau matérielles importantes ou l’ajout d’autres appareils, ce qui peut être coûteux et fastidieux.

  • Nuage: Les plateformes cloud offrent une scalabilité facile, ce qui vous permet d’ajuster rapidement les ressources en fonction de la demande sans avoir besoin de modifications matérielles physiques.

• Exigences de connectivité

  • Local, local : Un appareil local ne nécessite pas de connexion Internet pour exécuter un modèle, ce qui peut être bénéfique dans les environnements avec une connectivité limitée.

  • Nuage: Les modèles basés sur le cloud nécessitent une connexion Internet stable pour l’accès et peuvent être affectés par les problèmes réseau.

• Taille et complexité du modèle

  • Local, local : Les appareils locaux peuvent avoir des limitations sur la taille et la complexité des modèles qui peuvent être exécutés en raison de contraintes matérielles. Les modèles plus petits, tels que Philes modèles, sont plus adaptés à l’exécution locale.

  • Nuage: Les plateformes cloud peuvent gérer des modèles plus volumineux et plus complexes, tels que ceux fournis par OpenAI, en raison de leur infrastructure évolutive.

• Outils et écosystème associé

  • Local, sur site : Les solutions IA locales, telles que Microsoft FoundryMicrosoft Foundry on Windows, Windows ML et Foundry Local, s’intègrent au SDK d’application et au runtime d’ONNX, ce qui permet aux développeurs d’incorporer des modèles directement dans une application de bureau ou de périphérie avec des dépendances externes minimales.

  • Nuage: Les solutions IA cloud, telles que Microsoft Foundry, Azure les services IA et Azure openAI Service, fournissent un ensemble complet d’API et de kits sdk pour la création d’applications IA. Ces services sont conçus pour s’intégrer en toute transparence à Azure DevOps, GitHub Copilot, Semantic Kernel et d’autres Azure services, ce qui permet l’orchestration de bout en bout, le déploiement de modèles et la surveillance à grande échelle.

• Personnalisation et contrôle

  • Local, local : Les modèles locaux peuvent être utilisés prêtes à l’emploi, sans nécessiter de haut niveau d’expertise. Microsoft Foundry on Windows propose des modèles comme Phi Silica ceux qui sont prêts à être utilisés. Par ailleurs, Windows ML permet aux développeurs d’exécuter des modèles personnalisés, tels que ceux entraînés avec ONNX Runtime, directement sur Windows les appareils. Cela fournit un niveau élevé de contrôle sur le modèle et son comportement, ce qui permet un réglage et une optimisation précis en fonction des cas d’usage spécifiques. Foundry Local permet également aux développeurs d’exécuter des modèles localement sur Windows des appareils, fournissant un niveau élevé de contrôle sur le modèle et son comportement.

  • Nuage: Les modèles basés sur le cloud offrent également des options prêtes à l’emploi et personnalisables, ce qui permet aux développeurs de tirer parti des fonctionnalités préentraînés tout en adaptant le modèle à leurs besoins spécifiques. Microsoft Foundry est une offre unifiée Azure de plateforme en tant que service pour les opérations IA d’entreprise, les générateurs de modèles et le développement d’applications. Cette base combine l’infrastructure de niveau production avec des interfaces conviviales, ce qui permet aux développeurs de se concentrer sur la création d’applications plutôt que sur la gestion de l’infrastructure.

Exemples d’IA cloud

Si une solution basée sur le cloud fonctionne mieux pour votre Windows scénario d’application, vous serez peut-être intéressé par certains des didacticiels ci-dessous.

De nombreuses API sont disponibles pour accéder aux modèles basés sur le cloud pour alimenter les fonctionnalités IA de votre Windows application, que ces modèles soient personnalisés ou prêts à l’emploi. L’utilisation d’un modèle basé sur le cloud peut permettre à votre application de rester rationalisée en déléguant des tâches gourmandes en ressources vers le cloud. Voici quelques ressources pour vous aider à ajouter des API basées sur l’IA basées sur le cloud proposées par Microsoft ou OpenAI :

• Ajouter des achèvements de conversation OpenAI à votre WinUI 3 / Windows Application de bureau du SDK d’application : didacticiel sur l’intégration des fonctionnalités d’achèvement OpenAI ChatGPT basées sur le cloud dans une application de bureau WinUI 3 / Windows App SDK.

• Ajouter DALL-E à votre WinUI 3 / Windows Application de bureau du KIT de développement logiciel (SDK) d’application : didacticiel sur l’intégration des fonctionnalités de génération d’images OpenAI DALL-E basées sur le cloud dans une application de bureau WinUI 3/ Windows App SDK.

• Créer une application de recommandation avec .NET MAUI et ChatGPT : didacticiel sur la création d’un exemple d’application recommandation qui intègre les fonctionnalités d’achèvement OpenAI ChatGPT basées sur le cloud dans une application .NET MAUI.

• Ajoutez DALL-E à votre application de bureau .NET MAUI Windows: tutoriel sur l’intégration des fonctionnalités de génération d’images OpenAI DALL-E basées sur le cloud dans une application .NET MAUI.

• Azure Service OpenAI : si vous souhaitez que votre Windows application accède aux modèles OpenAI, tels que GPT-4, GPT-4 Turbo avec Vision, GPT-3.5-Turbo, DALLE-3 ou la série de modèles Embeddings, avec les fonctionnalités de sécurité et d’entreprise ajoutées de Azure, vous trouverez des conseils dans cette Azure documentation OpenAI.

• Azure Services IA : Azure offre une suite complète de services IA disponibles via les API REST et les kits SDK de bibliothèque de client dans les langages de développement populaires. Pour plus d’informations, consultez la documentation relative à chaque service. Ces services basés sur le cloud aident les développeurs et les organisations à créer rapidement des applications intelligentes, prêtes à l’emploi, prêtes pour le marché et responsables avec des API et des modèles prédéfinis et personnalisables. Les exemples d’applications incluent le traitement en langage naturel des conversations, la recherche, l’analyse, la traduction, le message, la vision et la prise de décision.