Delen via

Wat is Foundry Agent Service?

Opmerking

Dit document verwijst naar de Microsoft Foundry-portal (klassiek).

🔄 Schakel over naar de documentatie van Microsoft Foundry (nieuw) als u de nieuwe portal gebruikt.

Opmerking

Dit document verwijst naar de Microsoft Foundry-portal (nieuw).

De meeste bedrijven willen niet alleen chatbots. Ze willen automatisering die sneller is en minder fouten bevat. Dit kan betekenen dat documenten worden samengevat, facturen worden verwerkt, ondersteuningstickets worden beheerd of blogberichten worden gepubliceerd. In alle gevallen is het doel hetzelfde: mensen en resources vrijmaken om zich te richten op werk met een hogere waarde door terugkerende en voorspelbare taken te offloaden.

Grote taalmodellen (LLM's) introduceren een nieuw type automatisering met systemen die ongestructureerde gegevens kunnen begrijpen, beslissingen kunnen nemen en inhoud kunnen genereren. In de praktijk kunnen bedrijven moeite hebben om verder te gaan dan demo's en productie. LLM's kunnen driften, onjuist zijn en geen verantwoordelijkheid hebben. Zonder zichtbaarheid, beleidshandhaving en indeling zijn deze modellen moeilijk te vertrouwen in echte zakelijke werkstromen.

Microsoft Foundry is ontworpen om dat te wijzigen. Het is een platform dat modellen, hulpprogramma's, frameworks en governance combineert tot een geïntegreerd systeem voor het bouwen van intelligente agents. In het centrum van dit systeem bevindt zich de Foundry Agent Service, zodat agents kunnen worden gebruikt tijdens ontwikkeling, implementatie en productie.

Diagram dat Foundry Agent Service toont die modellen, hulpprogramma's, governance en orchestratie verbindt voor het uitvoeren van agents van ontwikkeling naar productie.

Agent Service verbindt de kernonderdelen van Foundry, zoals modellen, hulpprogramma's en frameworks, in één runtime. Het beheert gesprekken, organiseert hulpprogramma-aanroepen, dwingt de veiligheid van inhoud af en integreert met identiteits-, netwerk- en waarneembaarheidssystemen. Deze mogelijkheden helpen u bij het bouwen van agents die veilig, schaalbaar en productieklaar zijn.

Door de complexiteit van de infrastructuur te abstraheren en vertrouwen en veiligheid vanaf het ontwerp te waarborgen, kan Agent Service u helpen met vertrouwen de overstap te maken van prototype naar productie.

Vereiste voorwaarden

  • Een Azure-abonnement met machtigingen voor het maken en beheren van Foundry-resources.
  • Een Foundry-project. Als u er nog geen hebt gemaakt, begint u met het instellen van de omgeving.
  • Een geïmplementeerd model dat uw agent kan gebruiken. De beschikbaarheid van modellen en regio's kan variëren; bekijk modellen die agents informeren.

Beschikbaarheid, regio's en limieten

De mogelijkheden van agentservice kunnen variëren op basis van de Foundry-ervaring die u gebruikt en het model en de regio die u kiest.

Als u uw eerste agent bouwt, begint u met de quickstartkoppelingen in Aan de slag met Foundry Agent Service om ervoor te zorgen dat u zich op het juiste API-pad bevindt voor uw Foundry-ervaring.

Wat is een AI-agent?

Agents nemen beslissingen, roepen hulpprogramma's aan en nemen deel aan werkstromen. Ze voeren deze taken soms onafhankelijk uit en soms in samenwerking met andere agents of mensen. Ze zijn fundamenteel voor echte procesautomatisering.

Agents die u maakt via Foundry zijn geen monolithen. Ze zijn samenstelbare eenheden. Elke agent heeft een specifieke rol, wordt aangedreven door het juiste model en is uitgerust met de juiste hulpmiddelen. U implementeert elke agent binnen een beveiligde, waarneembare en beheerbare runtime.

Een agent heeft drie kernonderdelen:

  • Model (LLM): ondersteunt redenering en taalbegrip.
  • Instructies: Definieer de doelen, het gedrag en de beperkingen van de agent. Ze kunnen de volgende typen hebben:
    • Declaratieve:
      • Op prompts gebaseerd: Een declaratief gedefinieerde enkelvoudige agent die modelconfiguratie, instructies, tools en prompts voor natuurlijke taal combineert om gedrag te stimuleren.
      • Werkstroom: Een agentische werkstroom die kan worden uitgedrukt als YAML of andere code om meerdere agents samen te organiseren of om een actie op bepaalde criteria te activeren.
    • Gehost: in containers geplaatste agents die worden gemaakt en geïmplementeerd in code en worden gehost door Foundry.
  • Hulpprogramma's: Laat de agent kennis ophalen of actie ondernemen.

Diagram met een agent die invoer in uitvoer verandert en hulpprogramma's aanroept tijdens een uitvoering om informatie op te halen of acties uit te voeren.

Agents ontvangen ongestructureerde invoer, zoals gebruikersprompts, waarschuwingen of berichten van andere agents. Ze produceren uitvoer in de vorm van toolresultaten of berichten. Onderweg kunnen ze hulpprogramma's aanroepen om ophaal- of triggeracties uit te voeren.

Hoe werken agents in Foundry?

Denk aan Foundry als een assemblagelijn voor intelligente agents. Net als elke moderne fabriek brengt Foundry gespecialiseerde stations samen die elk verantwoordelijk zijn voor het vormgeven van een deel van het eindproduct. In plaats van machines en transportbanden gebruikt de agentfabriek modellen, hulpprogramma's, beleid en indeling om agents te bouwen die veilig, testbaar en productieklaar zijn. Zo werkt de fabriek stapsgewijs:

Diagram met de zes stappen van de agentfactory: model, aanpassing, hulpprogramma's, indeling, waarneembaarheid en vertrouwen.

1. Modellen

De assemblagelijn start wanneer u een model selecteert dat uw agent zijn intelligentie geeft. Kies uit een groeiende catalogus met grote taalmodellen (LLM's), waaronder GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) en anderen zoals Llama. Het model is de redeneringskern van de agent die de beslissingen bepaalt.

2. Aanpasbaarheid

Het model aanpassen aan uw use-case. Pas uw agent aan met afstemmen, destillatie of domeinspecifieke prompts. Codeer agentgedrag, rolspecifieke kennis en patronen van eerdere prestaties met behulp van gegevens die zijn vastgelegd op basis van echte gespreksinhoud en toolresultaten.

3. Kennis en hulpprogramma's

Rust uw agent uit met gereedschap. Met deze hulpprogramma's kan de agent toegang krijgen tot bedrijfskennis (zoals Bing, SharePoint en Azure AI Search) en echte acties ondernemen (via Azure Logic Apps, Azure Functions, OpenAPI en meer). Deze stap verbetert de mogelijkheid van de agent om de mogelijkheden uit te breiden.

4. Orchestratie

De agent heeft coördinatie nodig. Verbonden agents coördineren de volledige levenscyclus, zoals het verwerken van tool-oproepen, het bijwerken van de gespreksstatus, het beheren van herhalingen en het vastleggen van uitvoer.

De agent heeft coördinatie nodig. Werkstromen organiseren de volledige levenscyclus, zoals het verwerken van hulpprogramma-aanroepen, het bijwerken van de gespreksstatus, het beheren van nieuwe pogingen en logboekregistratie-uitvoer.

5. Waarneembaarheid

Test en bewaak agenten. Foundry kan bij elke stap logboeken, traceringen en evaluaties vastleggen. Met volledige zichtbaarheid op gespreksniveau en Application Insights-integratie kunnen teams elke beslissing inspecteren en agents in de loop van de tijd continu verbeteren.

6. Vertrouwen

Zorg ervoor dat agents geschikt en betrouwbaar zijn voor de workload waaraan ze zijn toegewezen. Foundry past hoogwaardige vertrouwensfuncties toe, waaronder identiteit via Microsoft Entra, op rollen gebaseerd toegangsbeheer (RBAC), inhoudsfilters, versleuteling en netwerkisolatie. U kiest hoe en waar uw agents worden uitgevoerd, door gebruik te maken van door het platform beheerde infrastructuur of uw eigen infrastructuur.

Het resultaat is een agent die gereed is voor productie: betrouwbaar, uitbreidbaar en veilig voor implementatie in uw werkstromen.

Waarom Foundry Agent Service gebruiken?

Agent Service biedt een basis die gereed is voor productie voor het implementeren van intelligente agents in bedrijfsomgevingen. Dit is hoe deze zich verhoudt tot de belangrijkste mogelijkheden:

Vermogen Agentservice
Inzicht in gesprekken Volledige toegang tot gestructureerde gesprekken, waaronder berichten van gebruikers-naar-agent en agent-naar-agent. Ideaal voor UIS's, foutopsporing en training.
Coördinatie van meerdere agents Ingebouwde ondersteuning voor berichten tussen agents.
Orkestratie van hulpprogramma's Uitvoering aan de serverzijde en het opnieuw proberen van hulpprogrammaaanroepen met gestructureerde logboekregistratie. Er is geen handmatige orchestratie vereist.
Vertrouwen en veiligheid Geïntegreerde inhoudsfilters om misbruik te voorkomen en risico's voor promptinjectie te beperken, waaronder aanvallen met kruispromptinjectie (XPIA). Alle uitvoer wordt beheerd door beleid.
Enterprise-integratie Mogelijkheid om uw eigen opslag, Azure AI Search-index en virtueel netwerk te gebruiken om te voldoen aan de nalevingsbehoeften.
Waarneembaarheid en foutopsporing Volledige tracering van gesprekken, hulpprogramma-aanroepen en berichttraceringen; Application Insights-integratie voor gebruiksgegevens.
Identiteits- en beleidsbeheer Gebouwd op Microsoft Entra met volledige ondersteuning voor RBAC, auditlogboeken en voorwaardelijke toegang voor ondernemingen.

Beveiliging, privacy en naleving

Agent Service is ontworpen voor bedrijfsworkloads waar u sterke controles nodig hebt over identiteit, netwerken, gegevensverwerking en veiligheid.

  • Veiligheidscontroles: Gebruik geïntegreerde inhoudsfilters om onveilige uitvoer te verminderen en risico's voor promptinjectie te beperken, waaronder aanvallen met kruispromptinjectie (XPIA).
  • Besturingselementen voor netwerkisolatie en gegevenslocatie: gebruik virtuele netwerken en bring-your-own resources om aan uw vereisten te voldoen.
  • Gebruik uw eigen resources: gebruik uw eigen Azure-resources (bijvoorbeeld opslag, Azure AI Search en Azure Cosmos DB voor gespreksstatus) om te voldoen aan de nalevings- en operationele behoeften. Zie Uw eigen hulpbronnen gebruiken.
  • Verantwoordelijke AI-richtlijnen: Zie Responsible AI for Microsoft Foundry voor een bredere set aanbevelingen en governanceresources.

Aan de slag met Foundry Agent Service

Maak een Foundry-project in uw Azure-abonnement om aan de slag te gaan met Agent Service.

Als u code bouwt, raadpleegt u Microsoft Foundry SDK's voor SDK-opties en richtlijnen.

Als het uw eerste keer is dat u de service gebruikt, begint u met de omgeving setup en quickstartgids.

Als het uw eerste keer is dat u de service gebruikt, begint u met de omgeving setup en quickstartgids.

Maak een project met de vereiste resources. Nadat u een project hebt gemaakt, implementeert u een compatibel model zoals GPT-4o. Wanneer u een geïmplementeerd model hebt, kunt u beginnen met het maken van API-aanroepen naar Agent Service met behulp van de SDK's.

U vindt een lijst met officiële voorbeelden met de nieuwe Python-agent-SDK op GitHub.

BCDR voor agenten

Ter ondersteuning van servicetolerantie is agentservice afhankelijk van door de klant ingerichte Azure Cosmos DB-accounts voor bedrijfscontinuïteit en herstel na noodgevallen (BCDR). Deze aanpak zorgt ervoor dat uw agentstatus kan worden bewaard en hersteld in het geval van een regionale storing.

Als Azure Standard-klant richt u uw eigen Azure Cosmos DB-account met één tenant in en beheert u dit. U slaat alle agentstatussen op in dit account. U beheert back-up en herstel via systeemeigen mogelijkheden in Azure Cosmos DB.

Als de primaire regio niet beschikbaar is, maakt de agent automatisch verbinding met hetzelfde Azure Cosmos DB-account in de secundaire regio. Omdat Cosmos DB alle geschiedenis behoudt, kan de agent met minimale onderbrekingen blijven werken.

Richt uw Azure Cosmos DB-account in en onderhoud het juiste back-up- en herstelbeleid. Deze inspanning zorgt voor naadloze continuïteit als de primaire regio niet meer beschikbaar is.

Zie Uw eigen resources en virtuele netwerken gebruiken voor configuratierichtlijnen.

Kosten

Met agentservice kunnen kosten in rekening worden gebracht op basis van het model dat u implementeert en de Azure-resources die u voor uw project gebruikt (bijvoorbeeld logboekregistratie en door de klant beheerde resources die u verbindt).

Zie Kosten plannen en beheren om kostenfactoren te begrijpen en te beheren.

Probleemoplossingsproces

Als u geblokkeerd bent om aan de slag te gaan, controleert u deze veelvoorkomende problemen:

Verwante inhoud

  • Last updated on