Tworzenie rozwiązania automatyzacji przepływu pracy wielu agentów przy użyciu programu Microsoft Agent Framework

Ta architektura opisuje system automatyzacji procesów, który używa wielu wyspecjalizowanych agentów sztucznej inteligencji do automatycznego koordynowania i uruchamiania zadań organizacyjnych.

Wielu agentów sztucznej inteligencji współpracuje za pośrednictwem centralnego koordynatora interfejsu API w celu tworzenia skalowalnych potoków automatyzacji. Niestandardowe oprogramowanie korzystające z ram Microsoft Agent Framework definiuje zachowanie agentów i orkiestracji, a agentów wdraża się w usłudze Azure Container Apps, gdzie korzystają z usług Azure AI.

Ten artykuł koncentruje się na aspektach infrastruktury i metodyki DevOps zarządzania systemami wielu agentów na platformie Azure. Obejmuje ona ciągłą integrację, trwałość danych, koordynację agentów i zautomatyzowane procesy wdrażania na potrzeby automatyzacji zadań klasy korporacyjnej.

Architecture

Pobierz plik programu Visio tej architektury.

Workflow

Poniższy przepływ pracy odpowiada poprzedniemu diagramowi:

1. Pracownicy uzyskują dostęp do frontonu internetowego w celu żądania zautomatyzowanych rozwiązań i zarządzania nimi. Przesyłają zadania, które mają określone wymagania i parametry za pośrednictwem interfejsu internetowego.

2. Witryna internetowa usługi Azure App Service odbiera żądanie użytkownika z frontonu i wywołuje interfejs API hostowany w usłudze Container Apps. Interfejs API przetwarza przychodzące zadanie i określa, których wyspecjalizowanych agentów sztucznej inteligencji używać. Interfejs API dzieli zadanie na części składowe na potrzeby koordynacji wielu agentów.

3. Interfejs API usługi Container Apps łączy się z modelem GPT-4o hostowanym przez firmę Microsoft Foundry. Interfejs API organizuje wielu wyspecjalizowanych agentów sztucznej inteligencji w celu obsługi różnych aspektów zadania. Agenci współpracują, aby planować, wykonywać i weryfikować wymagane zadania.

4. Usługa Azure Cosmos DB przechowuje wszystkie dane związane z bieżącymi i wcześniejszymi planami i rozwiązaniami. Przechowuje historyczne dane i wzorce zadań na potrzeby uczenia się i optymalizacji. Zachowuje również decyzje i wyniki agenta do przyszłego wglądu.

5. Usługa Azure Container Registry zarządza obrazami witryny internetowej frontonu i interfejsu API zaplecza. Ten rejestr obsługuje również wersjonowane obrazy kontenerów na potrzeby możliwości wycofywania.

6. Repozytorium źródłowe usługi GitHub wyzwala automatyczne kompilacje obrazów witryny internetowej i serwera interfejsu API na podstawie aktualizacji kodu. Następnie platforma Docker kompiluje i wdraża zaktualizowane obrazy kontenerów w rejestrze.

Components

• App Service to rozwiązanie platformy jako usługi (PaaS), które zapewnia skalowalne środowisko hostingu internetowego dla aplikacji. W tej architekturze witryna internetowa usługi App Service służy jako interfejs frontonu umożliwiający użytkownikom wysyłanie żądań zautomatyzowanych rozwiązań i zarządzanie nimi. Zapewnia dynamiczne środowisko internetowe do przesyłania zadań i śledzenia ich postępu.

• Container Apps to bezserwerowa platforma kontenerów, która umożliwia uruchamianie mikrousług i konteneryzowanych aplikacji na platformie bezserwerowej. W tej architekturze interfejs API usługi Container Apps służy jako centralna warstwa aranżacji, która przetwarza żądania użytkowników, koordynuje wielu agentów sztucznej inteligencji i zarządza stanem ukończenia zadań. Hostuje on kod niestandardowy, który zespół ds. oprogramowania opracowuje przy użyciu platformy Agent Framework.

• Foundry to ujednolicona oferta PaaS platformy Azure dla operacji sztucznej inteligencji przedsiębiorstwa, konstruktorów modeli i tworzenia aplikacji. Łączy infrastrukturę klasy produkcyjnej z przyjaznymi dla deweloperów interfejsami, co pozwala deweloperom skupić się na tworzeniu aplikacji, a nie zarządzaniu infrastrukturą. W tej architekturze platforma Foundry stanowi podstawę do wdrażania i zarządzania modelami sztucznej inteligencji w interfejsie czatu oraz służy jako brama do połączonych usług sztucznej inteligencji, takich jak usługa agenta Foundry.

  Usługa agenta foundry to zarządzana usługa środowiska uruchomieniowego, która łączy podstawowe elementy rozwiązania Foundry, takie jak modele, narzędzia i struktury, w jednym środowisku uruchomieniowym agenta. Zarządza konwersacjami, organizuje wywołania narzędzi, wymusza bezpieczeństwo zawartości i integruje się z systemami tożsamości, sieci i możliwości obserwacji. W tej architekturze aplikacja wywołuje usługę Foundry Agent Service, aby wspierać konwersacje agenta.

• Azure Cosmos DB to globalnie rozproszona, wielomodelowa usługa bazy danych, która zapewnia małe opóźnienia i elastyczną skalowalność. W tej architekturze usługa Azure Cosmos DB przechowuje wszystkie dane związane z bieżącymi i wcześniejszymi planami automatyzacji oraz rozwiązaniami. Interfejs API usługi Container Apps zapisuje dane podczas tworzenia nowych planów lub uruchamiania zadań. Interfejs API odczytuje dane, gdy użytkownicy uzyskują dostęp do historii automatyzacji za pośrednictwem witryny internetowej usługi App Service.

• Container Registry to zarządzana usługa rejestru platformy Docker, która przechowuje obrazy kontenerów i zarządza nimi. W tej architekturze Container Registry zarządza obrazami zarówno dla witryny internetowej front-endu, jak i interfejsu API back-endu. Ta konfiguracja zapewnia spójne wdrażanie i kontrolę wersji składników systemu wielu agentów w różnych środowiskach.

Alternatives

Ta architektura obejmuje składnik, który można zastąpić inną usługą platformy Azure lub podejściem, w zależności od wymagań funkcjonalnych i niefunkcjonalnych obciążenia. Rozważmy następującą alternatywę i kompromisy.

Orkiestracja agentów

Bieżące podejście: To rozwiązanie używa niestandardowego kodu agenta napisanego przy użyciu zestawu SDK platformy Agent, do organizowania agentów i ich interakcji. Usługa Container Apps służy jako centralne środowisko obliczeniowe orkiestratora, które uruchamia kod. Kod koordynuje wielu agentów sztucznej inteligencji działających na aktywnych przepływach pracy. To rozwiązanie oparte na kodzie zapewnia maksymalną kontrolę nad zachowaniem agenta, logiką orkiestracji i skalą obliczeniową.

Alternatywne podejście: Użyj usługi Agent Foundry, aby zdefiniować agentów i połączyć je indywidualnie z odpowiednimi magazynami wiedzy i narzędziami. W tym rozwiązaniu bez kodu definiujesz zachowanie agenta i relacje agentów za pomocą monitu systemowego. Usługa Agent Foundry hostuje agentów i zarządza nimi, więc nie kontrolujesz zasobów obliczeniowych, które uruchamiają agentów.

Rozważ tę alternatywę, jeśli obciążenie ma następujące cechy:

• Nie wymagasz deterministycznej aranżacji agenta. Możesz wystarczająco zdefiniować zachowanie agenta, w tym dostęp do magazynu wiedzy i użycie narzędzia, za pomocą monitu systemowego.

• Nie musisz mieć pełnej kontroli nad obliczeniami agentów.

• Potrzebne są tylko narzędzia dostępne poprzez HTTPS, a usługa agenta Foundry wspiera twoje magazyny wiedzy.

Jeśli twoja organizacja ma mieszane wymagania, możesz użyć podejścia hybrydowego. Użyj usługi Agent Foundry dla standardowych przepływów pracy i usługi Container Apps w przypadku krytycznych lub wysoce dostosowanych procesów wymagających większej kontroli.

Szczegóły scenariusza

Ten niestandardowy aparat automatyzacji wielu agentów rozwiązuje wyzwanie koordynowania złożonych, międzydziałówowych procesów biznesowych, które tradycyjnie wymagają znacznego ręcznego nadzoru i koordynacji. Organizacje często zmagają się z zadaniami obejmującymi wiele obszarów wiedzy, żądają spójnej wydajności w zespołach i wymagają dzienników inspekcji w celu zapewnienia zgodności.

To rozwiązanie używa niestandardowych, wyspecjalizowanych agentów sztucznej inteligencji, którzy współpracują w celu dzielenia złożonych zadań organizacyjnych na składniki, którymi można zarządzać. Każdy agent stosuje swoją konkretną wiedzę i możliwości. System zarządza zaawansowanymi przepływami pracy, które w przeciwnym razie wymagają koordynacji ludzkiej w wielu działach. Architektura jest skalowana za pośrednictwem wdrożenia konteneryzowanego, zachowuje uczenie się za pośrednictwem trwałego magazynu danych i obsługuje ciągłe ulepszanie za pośrednictwem zautomatyzowanych potoków integracji i dostarczania.

Tę architekturę można również zastosować do modernizacji kodu i starszej migracji systemu, które obejmują wyzwania, takie jak złożoność techniczna i wymagania dotyczące ciągłości działania. Starsze systemy często nie mają odpowiedniej dokumentacji, używają nieaktualnych języków programowania i zawierają krytyczną logikę biznesową, którą należy zachować. Podejście oparte na wielu agentach koordynuje specjalistyczną wiedzę w zakresie tłumaczenia technicznego, analizy biznesowej, zapewniania jakości i generowania dokumentacji.

Potencjalne przypadki użycia

Rozważ następujące potencjalne przypadki użycia automatyzacji przepływu pracy wielu agentów.

Modernizacja i migracja kodu

• Starsze tłumaczenie zapytań SQL: Koordynuj wielu wyspecjalizowanych agentów, aby tłumaczyć zapytania SQL w różnych dialektach bazy danych, zachowując logikę biznesową i charakterystykę wydajności.

  • Agent analizy SQL identyfikuje konstrukcje specyficzne dla dialektu.

  • Agent tłumaczenia konwertuje składnię na platformę docelową.

  • Agent weryfikacji testuje równoważność zapytań.

  • Agent dokumentacji generuje uwagi dotyczące migracji.

  Takie podejście rozwiązuje typowe wyzwanie związane z utrzymaniem równoważności funkcjonalnej podczas migracji z platform takich jak Oracle do usługi Azure SQL Database lub Azure Database for PostgreSQL.

• Modernizacja aplikacji legacy: Koordynuj agentów specjalizujących się w analizie kodu, wyodrębnianiu logiki biznesowej, ocenie architektury i planowaniu modernizacji. Agenci współpracują w celu analizowania starszych baz kodu, wyodrębniania osadzonych reguł biznesowych, oceniania długu technicznego, generowania planów modernizacji i tworzenia dokumentacji, która przechwytuje wiedzę instytucjonalną często traconą podczas przejścia.

• Migracja schematu bazy danych: Koordynuj agentów do analizy schematu, mapowania typów danych, tłumaczenia ograniczeń i testowania poprawności. System wielu agentów dokładnie tłumaczy złożone struktury baz danych, relacje i reguły biznesowe, zachowując jednocześnie wymagania dotyczące integralności i wydajności danych.

Automatyzacja procesów przedsiębiorstwa

• Aranżacja dołączania pracowników: Koordynowanie aprowizacji IT, dokumentacji kadr , dostępu do obiektów, harmonogramów szkoleń i wymagań dotyczących zgodności w wielu działach.

• Przepływ pracy zarządzania kontraktami: Automatyzowanie przeglądu prawnego, zatwierdzania zamówień, analizy finansowej i komunikacji dostawcy na potrzeby złożonych umów biznesowych.

• Koordynacja reagowania na zdarzenia: Organizowanie korygowania technicznego, komunikacji uczestników projektu, dokumentacji i analizy po zdarzeniu w zespołach IT, bezpieczeństwa i biznesowych.

Usługi finansowe i zgodność

• Automatyzacja zgodności z przepisami: Koordynowanie zbierania, analizowania, raportowania i przesyłania danych w wielu strukturach regulacyjnych jednocześnie.

• Potok przetwarzania pożyczek: Automatyzowanie analizy kredytowej, oceny ryzyka, przeglądu dokumentacji i przepływów pracy zatwierdzania obejmujących wiele zespołów specjalistycznych.

• Zarządzanie przygotowaniem inspekcji: Koordynowanie zbierania dowodów, przygotowywania dokumentacji, wywiadów uczestników projektu i weryfikacji zgodności w różnych jednostkach biznesowych.

Opieka zdrowotna i badania

• Zarządzanie badaniem klinicznym: Organizowanie rekrutacji pacjentów, zgodności z przepisami, zbierania danych, monitorowania bezpieczeństwa i raportowania w zespołach badawczych.

• Koordynacja opieki nad pacjentami: Automatyzowanie planowania, planowania leczenia, weryfikacji ubezpieczenia i komunikacji zespołu opieki w złożonych przypadkach medycznych.

• Zaopatrzenie w sprzęt medyczny: Koordynowanie wymagań klinicznych, specyfikacji technicznych, oceny dostawcy i procesów zatwierdzania regulacyjnego.

Łańcuch produkcji i dostaw

• Koordynacja dotycząca uruchamiania produktu: Organizowanie finalizacji projektu, konfiguracji produkcyjnej, zapewnienia jakości, przygotowania marketingowego i planowania dystrybucji.

• Proces dołączania dostawcy: Automatyzowanie ocen kwalifikacji, negocjacji kontraktowych, integracji systemu i konfiguracji monitorowania wydajności.

• Zarządzanie zdarzeniami jakości: Koordynowanie badania, analizy głównej przyczyny, akcji naprawczych i komunikacji dostawcy pod kątem problemów z jakością.

Wieloagentowe wzorce orkiestracji

Podczas projektowania systemów automatyzacji wielu agentów należy rozważyć, jak agenci muszą koordynować wykonywanie złożonych przepływów pracy. Ta architektura używa niestandardowego orkiestratora, który zarządza interakcjami agenta, ale wzorce koordynacji, które wybierasz znacząco wpływają na wydajność i niezawodność systemu.

Wzorce sekwencyjne pasują do zadań zależnych, takich jak przepływy pracy zatwierdzania dokumentów. Wzorce współbieżne pasują do niezależnych operacji, takich jak zbieranie danych z wielu źródeł. Wzorce czatów grupowych umożliwiają wspólne rozwiązywanie problemów. Wzorce przekazywania umożliwiają wyspecjalizowanym agentom obsługę różnych faz przepływu pracy. Aby uzyskać więcej informacji na temat implementowania tych strategii koordynacji, zobacz Wzorce aranżacji agentów sztucznej inteligencji. Ten artykuł zawiera wzorce architektury i zagadnienia dotyczące implementacji dla różnych scenariuszy z wieloma agentami.

Rozważania

Te zagadnienia obejmują implementację filarów platformy Azure Well-Architected Framework, która jest zestawem wytycznych, których można użyć do poprawy jakości obciążenia. Aby uzyskać więcej informacji, zobacz Well-Architected Framework.

Optymalizacja kosztów

Optymalizacja kosztów koncentruje się na sposobach zmniejszenia niepotrzebnych wydatków i poprawy wydajności operacyjnej. Aby uzyskać więcej informacji, zobacz Lista kontrolna przeglądu projektu dotycząca optymalizacji kosztów.

Aby uzyskać więcej informacji na temat kosztów uruchamiania tego scenariusza, zobacz wstępnie skonfigurowane oszacowanie w kalkulatorze cen platformy Azure.

Ceny różnią się w zależności od regionu i użycia, więc nie można przewidzieć dokładnych kosztów z wyprzedzeniem. Większość zasobów platformy Azure w tej infrastrukturze jest zgodne z modelami cen opartymi na użyciu. Jednak usługa Container Registry wiąże się z dziennym kosztem stałym dla każdego rejestru.

Wdróż ten scenariusz

Aby wdrożyć implementację tej architektury, wykonaj kroki opisane w repozytorium GitHub.

Implementacja modernizacji kodu

Aby zapoznać się z konkretną implementacją przepływów pracy wielu agentów wykonujących modernizację zapytań SQL, zobacz Modernizuj implementację kodu. Ta implementacja pokazuje, jak wielu agentów sztucznej inteligencji koordynuje tłumaczenie zapytań SQL między różnymi dialektami bazy danych. Generuje również dokumentację oraz raporty weryfikacyjne w trakcie procesu.

Contributors

Firma Microsoft utrzymuje ten artykuł. Następujący współautorzy napisali ten artykuł.

Główny autor:

• Solomon Pickett | Inżynier oprogramowania II

Inni współautorzy:

• Anish Arora | Starszy inżynier oprogramowania
• Malory Rose | Starszy inżynier oprogramowania
• Mark Taylor | Główny inżynier oprogramowania

Aby wyświetlić niepubliczne profile serwisu LinkedIn, zaloguj się do serwisu LinkedIn.

Dalsze kroki

• Omówienie architektury struktury agentów
• Dokumentacja usługi agenta programu Foundry