Wykorzystaj Agent Bricks: Knowledge Assistant do stworzenia wysokiej jakości czatbota opartego na Twoich dokumentach

Na tej stronie opisano, jak używać narzędzia Agent Bricks: Asystent Wiedzy do tworzenia czatbota, który udziela odpowiedzi na pytania dotyczące twoich dokumentów, oraz poprawy jego jakości na podstawie opinii ekspertów w danej dziedzinie wyrażanych w języku naturalnym.

Agent Bricks oferuje proste podejście do tworzenia i optymalizowania systemów agentów sztucznej inteligencji specyficznych dla domeny wysokiej jakości dla typowych przypadków użycia sztucznej inteligencji.

Czym jest Agent Bricks: Asystent wiedzy?

Używanie aplikacji Agent Bricks: Asystent wiedzy umożliwia utworzenie czatbota, za pomocą którego możesz zadawać pytania dotyczące dokumentów i otrzymywać wysokiej jakości odpowiedzi z cytatami. Asystent wiedzy korzysta z zaawansowanej sztucznej inteligencji i stosuje podejście do generowania rozszerzonego pobierania (RAG) w celu dostarczenia dokładnych, niezawodnych odpowiedzi na podstawie specjalistycznej wiedzy, którą udostępniasz.

Agent Bricks: Asystent wiedzy jest idealny dla wsparcia następujących scenariuszy użycia:

• Odpowiedz na pytania użytkowników na podstawie dokumentacji produktu.
• Odpowiedz na pytania pracowników związane z zasadami kadr.
• Odpowiedz na zapytania klientów na podstawie baz wiedzy pomocy technicznej.

Asystent wiedzy umożliwia ulepszanie jakości agenta czatu i dostosowywanie jego zachowania w oparciu o opinie ekspertów w zakresie języka naturalnego. Podaj pytania dotyczące sesji etykietowania i wyślij ją do ekspertów, aby przejrzeć ją w aplikacji Przegląd. Ich odpowiedzi zawierają dane oznaczone etykietami, które pomagają zoptymalizować wydajność agenta.

Segmenty agenta: Asystent wiedzy tworzy kompleksowy punkt końcowy agenta RAG od początku do końca, którego można używać do dalszego wykorzystania w aplikacjach. Na przykład na poniższym obrazie pokazano, jak można wchodzić w interakcje z punktem końcowym, rozmawiając z nim w środowisku AI Playground. Zadaj agentowi pytania dotyczące twoich dokumentów, a agent odpowie, używając cytatów.

Agent Bricks używa domyślnego magazynu do przechowywania tymczasowych przekształceń danych, punktów kontrolnych modelu i wewnętrznych metadanych, które zasilają każdego agenta. Po usunięciu agenta wszystkie dane skojarzone z agentem zostaną usunięte z domyślnego magazynu.

Requirements

• Obszar roboczy zawierający następujące elementy:
  • Aplikacja Mosaic AI Agent Bricks Preview (beta) jest włączona. Zobacz Zarządzanie wersjami zapoznawczami usługi Azure Databricks.
  • Monitorowanie produkcji dla platformy MLflow (beta) jest włączone. Jest to wymagane do śledzenia, aby działać. Zobacz Zarządzanie wersjami zapoznawczami usługi Azure Databricks.
  • Włączono bezserwerowe obliczenia. Zobacz Wymagania dotyczące obliczeń bezserwerowych.
  • Katalog Unity jest włączony. Zobacz Umożliwienie obszaru roboczego dla Unity Catalog.
  • Dostęp do serwisu modelu Mosaic AI.
  • Dostęp do modeli bazowych w katalogu Unity za pomocą schematu system.ai.
  • Dostęp do zasad budżetu bezserwerowego z budżetem niezerowym.
• Obszar roboczy w jednym z obsługiwanych regionów: centralus, , eastuseastus2, northcentralus, southcentralus, lub westuswestus2.
• Punkt końcowy implementacji modelu databricks-gte-large-en musi mieć wyłączone ograniczenia bezpieczeństwa AI Guardrails oraz limity szybkości. Zobacz Konfiguracja bramy AI na modelowych punktach końcowych.
• Musisz mieć dane wejściowe gotowe do użycia. Możesz podać jedną z następujących opcji:
  • Pliki w woluminie lub katalogu woluminu w Unity Catalog. Obsługiwane typy plików to txt, pdf, md, ppt/pptx i docx.
  • Indeks wyszukiwania wektorowego, który używa databricks-gte-large-en jako modelu osadzania. Zobacz Tworzenie indeksu wyszukiwania wektorowego.

Utwórz agenta wiedzy

Przejdź do Agenci w okienku nawigacji po lewej stronie obszaru roboczego. Na kafelku Asystent wiedzy kliknij pozycję Skompiluj.

Krok 1. Konfigurowanie agenta

Na karcie Kompilacja skonfiguruj agenta i podaj źródła wiedzy, które będą używane do odpowiadania na pytania.

1. W polu Nazwa wprowadź nazwę agenta.

2. W polu Opis opisz, co może zrobić agent.

3. W panelu Źródło wiedzy dodaj źródło wiedzy. Możesz podać pliki katalogu Unity lub indeks wyszukiwania wektorowego.

   Pliki UC

   W przypadku plików UC obsługiwane są następujące typy plików: txt, pdf, md, ppt/pptx i docx. Pliki większe niż 50 MB są automatycznie pomijane podczas pozyskiwania i nie będą uwzględniane w bazie wiedzy.

   

   1. W obszarze Typ wybierz pozycję Pliki UC.
   2. W polu Źródło wybierz wolumin Unity Catalog lub katalog woluminów, który zawiera twoje pliki.
   3. W polu Nazwa wprowadź nazwę źródła wiedzy.
   4. W obszarze Opisz zawartość opisz zawartość zawartą w źródle wiedzy, aby ułatwić agentowi zrozumienie, kiedy należy używać tego źródła danych.

   Indeks wyszukiwania wektorowego

   

   Note

   Indeksy wyszukiwania wektorowego są obsługiwane tylko wtedy, gdy indeks używa databricks-gte-large-en go jako modelu osadzania. Podczas tworzenia indeksu wyszukiwania wektorowego upewnij się, że wybrano ten model osadzania. Aby uzyskać więcej informacji, zobacz Tworzenie indeksu wyszukiwania wektorów.

   1. W obszarze Typ wybierz pozycję Indeks wyszukiwania wektorowego.
   2. W polu Źródło wybierz indeks wyszukiwania wektorów, który chcesz podać agentowi.
   3. W kolumnie Identyfikator URI dokumentu wybierz kolumnę z linkiem lub odwołaniem do miejsca, z którego pochodzą informacje. Agent użyje tego w swoich cytatach.
   4. W polu Kolumna tekstowa określ kolumnę zawierającą nieprzetworzone tekst, który ma zostać pobrany przez agenta.
   5. W polu Nazwa wprowadź nazwę źródła wiedzy.
   6. W obszarze Opisz zawartość opisz zawartość zawartą w źródle wiedzy, aby ułatwić agentowi zrozumienie, kiedy należy używać tego źródła danych.

4. (Opcjonalnie) Jeśli chcesz dodać więcej źródeł wiedzy, kliknij pozycję Dodaj źródło wiedzy. Możesz udostępnić maksymalnie 10 źródeł wiedzy.

5. (Opcjonalnie) W polu Instrukcje określ wskazówki dotyczące sposobu reagowania agenta.

   

6. Kliknij pozycję Utwórz agenta.

Utworzenie agenta i zsynchronizowanie podanych źródeł wiedzy może potrwać do kilku godzin. Panel po prawej stronie zostanie zaktualizowany przy użyciu linków do wdrożonego agenta, eksperymentu i zsynchronizowanych źródeł wiedzy.

Krok 2. Testowanie agenta

Po zakończeniu kompilowania agenta przetestuj go, rozmawiając z nim. Agent powinien odpowiedzieć cytatami na pytania związane ze źródłami wiedzy.

1. W obszarze Testowanie agenta rozpocznij rozmowę z agentem.

2. (Opcjonalnie) Możesz również kliknąć pozycję Otwórz na placu zabaw , aby porozmawiać z nim na placu zabaw dla sztucznej inteligencji. Jeśli masz włączone funkcje wspomagające AI, możesz włączyć Sędziego AI i Tworzenie pytań syntetycznych, aby ułatwić ocenę swojego agenta.

3. Wprowadź pytanie dotyczące agenta.

4. Oceń jego odpowiedź:

   1. Kliknij pozycję Wyświetl myśli, aby zobaczyć, jak agent podszedł do odpowiedzi na pytanie.
   2. Kliknij Wyświetl źródła, aby zobaczyć, do jakich plików agent się odnosi. Spowoduje to otwarcie panelu bocznego z listą źródeł do przejrzenia.
   3. Kliknij pozycję Wyświetl ślad , aby wyświetlić pełny ślad. Możesz dodać etykiety do śladów w interfejsie użytkownika, aby śledzić oceny jakości podczas procesu programowania.

Jeśli wydajność agenta jest satysfakcjonująca, kontynuuj korzystanie z agenta as-is. Domyślnie punkty końcowe Agent Bricks są skalowane do zera po 3 dniach braku aktywności, więc opłaty będą naliczane tylko za czas pracy.

Krok 3. Poprawianie jakości

Agent Bricks: Asystent wiedzy może dostosować zachowanie agenta na podstawie informacji zwrotnej w języku naturalnym. Zbieraj opinie użytkowników poprzez sesję etykietowania, aby poprawić jakość agenta. Zbieranie oznaczonych danych dla Twojego agenta może poprawić jego jakość. Agent Bricks ponownie wytrenuje i zoptymalizuje agenta na podstawie nowych danych. Aby dowiedzieć się więcej na temat zbierania opinii, zobacz Opinie ekspertów ds. domeny.

Na karcie Przykłady dodaj pytania i rozpocznij sesję etykietowania. Alternatywnie można również zaimportować dane opatrzone etykietami bezpośrednio z tabeli Unity Catalog.

1. Dodaj pytania do uwzględnienia w sesji etykietowania:

   1. Kliknij + Dodaj, aby dodać pytanie.
   2. W modalnym polu Dodaj pytanie wprowadź swoje pytanie.
   3. Kliknij przycisk Dodaj. Pytanie powinno pojawić się w interfejsie użytkownika.
   4. Powtarzaj, dopóki nie dodasz wszystkich pytań, które chcesz ocenić.
   5. Aby usunąć pytanie, kliknij menu kebab, a następnie usuń.

   

2. Po zakończeniu dodawania pytań wyślij pytania do ekspertów w celu przejrzenia, aby ułatwić tworzenie wysokiej jakości oznaczonego zestawu danych. Po prawej stronie kliknij pozycję Rozpocznij sesję etykietowania.

   Gdy sesja etykietowania jest gotowa, interfejs użytkownika zostanie zaktualizowany, jak pokazano poniżej.

   

3. Udostępnij aplikację do przeglądu ekspertom, aby zebrać opinię.

   Aby dowiedzieć się więcej na temat Przeglądarki aplikacji i sesji etykietowania, zobacz Zbieranie opinii i oczekiwań przez etykietowanie istniejących śladów oraz Tworzenie sesji etykietowania i zarządzanie nimi.

   Note

   Aby eksperci uzyskiwali dostęp do sesji etykietowania, należy przyznać im następujące uprawnienia:

   • UPRAWNIENIE CAN QUERY do punktu końcowego
   • Uprawnienie do edycji eksperymentu
   • USE CATALOG, USE SCHEMAi SELECT uprawnienia do schematu

4. Aby oznaczyć dane samodzielnie, kliknij pozycję Otwórz sesję etykietowania.

   Spowoduje to otwarcie aplikacji recenzji na nowej karcie. Dla recenzentów:

   1. Kliknij przycisk Rozpocznij przegląd. W przypadku każdego pytania recenzent zobaczy pytanie i odpowiedź agenta.

   2. Po lewej stronie przejrzyj pytanie i odpowiedź. Możesz kliknąć pozycję Wyświetl myśli , aby zobaczyć, jak agent myśli o pytaniu.

   3. Po prawej stronie, w sekcji Oczekiwania, przejrzyj wszelkie istniejące wytyczne i dodaj więcej, jeśli uznasz to za stosowne.

      1. Aby dodać wytyczne, kliknij pozycję + Dodaj dane wejściowe.
      2. Wprowadź wytyczne w wyświetlonym polu tekstowym.
      3. Kliknij przycisk Zapisz.

   4. Po zakończeniu przeglądania pytania kliknij przycisk Dalej nieoglądane > w prawym górnym rogu, aby przejść do następnego.

   5. Po zakończeniu przeglądania wszystkich pytań po prostu zamknij aplikację do przeglądu.

      

5. Po tym, jak recenzenci zakończą swoje sesje etykietowania, wróć do zakładki Poprawa jakości u agenta.

6. Kliknij Scal, aby połączyć opinie ekspertów z twoim oznaczonym zestawem danych. Tabela pytań po prawej stronie zostanie zaktualizowana poprzez scalone informacje zwrotne.

   

7. Przetestuj ponownie agenta na placu zabaw dla sztucznej inteligencji, aby zobaczyć jego lepszą wydajność. W razie potrzeby uruchom kolejną sesję etykietowania, aby zebrać więcej danych z etykietami.

(Opcjonalnie) Importowanie i eksportowanie danych sesji etykietowania

Aby zaimportować nowe pytania i uwagi bezpośrednio z tabeli Unity Catalog:

1. Kliknij przycisk Importuj.

2. W polu Źródło wybierz tabelę Unity Catalog zawierającą oznaczone dane.

   Tabela musi mieć następujący schemat:

   • eval_id: string
   • request: string
   • guidelines: array
     • items: string
   • metadata: string
   • tags: string

3. Kliknij przycisk Importuj.

Nowe pytania i wytyczne są scalane z tabelą danych z etykietami po prawej stronie.

Aby wyeksportować dane opinii z sesji etykietowania jako tabela Unity Catalog:

1. Kliknij pozycję Eksportuj.
2. W polu Schemat wybierz lokalizację schematu Katalogu Unity, aby zapisać dane.
3. W polu Nazwa tabeli wprowadź nazwę tabeli.
4. Kliknij pozycję Eksportuj.

Zostanie utworzona nowa tabela z danymi opinii z sesji etykietowania.

Zarządzanie uprawnieniami

Domyślnie tylko autorzy Agent Bricks i administratorzy obszaru roboczego mają uprawnienia dotyczące agenta. Aby zezwolić innym użytkownikom na edytowanie agenta lub wykonywanie względem nich zapytań, musisz jawnie udzielić im uprawnień.

Aby zarządzać uprawnieniami agenta:

1. Otwórz agenta w aplikacji Agent Bricks.
2. W górnej części kliknij
3. Kliknij pozycję Zarządzaj uprawnieniami.
4. W oknie Ustawienia uprawnień wybierz użytkownika, grupę lub jednostkę usługi.
5. Wybierz uprawnienie do udzielenia:
   • Może zarządzać: umożliwia zarządzanie Blokami Agentów, w tym ustawianie uprawnień, edytowanie konfiguracji agenta i doskonalenie jego jakości.
   • Zapytania: Umożliwia wysyłanie zapytań do punktu końcowego Agent Bricks w AI Playground i za pośrednictwem API. Użytkownicy mający tylko to uprawnienie nie mogą wyświetlać ani edytować agenta w Agent Bricks.
6. Kliknij przycisk Dodaj.
7. Kliknij przycisk Zapisz.

Wykonywanie zapytań względem punktu końcowego agenta

Na stronie agenta kliknij Zobacz Stan agenta w prawym górnym rogu, aby uzyskać wdrożony punkt końcowy agenta i wyświetlić szczegóły punktu końcowego.

Istnieje wiele sposobów wykonywania zapytań dotyczących utworzonego punktu końcowego asystenta wiedzy. Użyj przykładów kodu podanych w narzędziu AI Playground jako punktu wyjścia:

1. Na karcie Kompilacja kliknij pozycję Otwórz na placu zabaw.
2. W obszarze Plac zabaw kliknij pozycję Pobierz kod.
3. Wybierz sposób używania punktu końcowego:
   • Wybierz pozycję Curl API dla przykładu kodu, aby wysłać zapytanie do punktu końcowego przy użyciu narzędzia curl.
   • Wybierz interfejs API języka Python , aby uzyskać przykładowy kod, aby wchodzić w interakcję z punktem końcowym przy użyciu języka Python.

Oceń swojego asystenta wiedzy

W tym notatniku pokazano, jak ocenić asystenta wiedzy usługi Databricks przy użyciu opracowanych zestawów danych oceny i niestandardowych wskaźników oceny.

Notatnik

Pobierz laptopa

Limitations

• .doc pliki nie są obsługiwane.
• Pliki większe niż 50 MB są automatycznie pomijane podczas pozyskiwania i nie są uwzględniane w bazie wiedzy.
• Obszary robocze z włączonymi zwiększonymi zabezpieczeniami i zgodnością nie są obsługiwane.
• Tabele katalogu Unity Catalog nie są obsługiwane.
• Obsługiwane są tylko indeksy wyszukiwania wektorowego, które używają databricks-gte-large-en modelu osadzania.
• Zabezpieczenia sztucznej inteligencji i limity szybkości muszą być wyłączone w databricks-gte-large-en punkcie końcowym modelu. Zobacz Konfiguracja bramy AI na modelowych punktach końcowych.
• Aby śledzenie działało, należy włączyć monitorowanie produkcyjne dla platformy MLflow (beta). Zobacz Zarządzanie wersjami zapoznawczami usługi Azure Databricks.