Cohere (niezależny wydawca) (wersja zapoznawcza)

Dane wejściowe.

Model.

Tekst.

Etykieta.

Ustawienie wstępne.

Obcinanie.

Teksty.

Model.

Obcinanie.

Monit.

Model.

Liczba pokoleń.

Maksymalna liczba tokenów.

Ustawienie wstępne.

Temperatura.

Wartość k.

Wartość p.

Kara częstotliwości.

Kara za obecność.

Sekwencje końcowe.

Sekwencje zatrzymania.

Prawdopodobieństwo zwrotu.

Obcinanie.

Tekst.

Tokeny.

Teksty.

Długość.

Format.

Model.

Wyodrębnianie.

Temperatura.

Tekst.

Wprowadzanie tekstu dla modelu, na które ma odpowiadać.

Nazwa zgodnego modelu Cohere lub identyfikator dostosowanego modelu.

Po określeniu domyślny preambuł Cohere zostanie zastąpiony podanym. Preambuły są częścią monitu używanego do dostosowywania ogólnego zachowania i stylu konwersacji modelu oraz korzystania z roli SYSTEM.

Rola.

Poprzedni komunikat.

Alternatywą dla historii czatów. Podanie conversation_id powoduje utworzenie lub wznowienie utrwalonej konwersacji z określonym identyfikatorem. Identyfikator może być dowolnym niepustym ciągiem.

Określa sposób konstruowania monitu.

Identyfikator łącznika.

Po określeniu tego tokenu dostępu użytkownika zostanie przekazany do łącznika w nagłówku Autoryzacja zamiast wygenerowanego przez Cohere.

Jeśli wartość true, żądanie będzie kontynuowane, jeśli ten łącznik zwrócił błąd.

Jeśli to prawda, odpowiedź będzie zawierać tylko listę wygenerowanych zapytań wyszukiwania, ale żadne wyszukiwanie nie zostanie wykonane, a żadna odpowiedź z modelu na wiadomość użytkownika nie zostanie wygenerowana.

Tytuł dokumentu.

Tekst dokumentu.

Określa podejście podejmowane do generowania cytatów w ramach przepływu RAG, umożliwiając użytkownikowi określenie, czy chcą dokładnych wyników, czy szybkich wyników.

Zmiennoprzecinkowy, który dostraja stopień losowości w pokoleniu. Niższe temperatury oznaczają mniejsze losowe generacje, a wyższe temperatury oznaczają więcej losowych pokoleń.

Maksymalna liczba tokenów generowanych przez model w ramach odpowiedzi. Uwaga: ustawienie niskiej wartości może spowodować niekompletne generacje.

Maksymalna liczba tokenów wejściowych do wysłania do modelu. Jeśli nie zostanie określony, max_input_tokens jest limitem długości kontekstu modelu pomniejszonego o mały bufor.

Zapewnia, że tylko najlepsze k najbardziej prawdopodobnych tokenów są brane pod uwagę do generowania w każdym kroku. Wartość domyślna to 0, minimalna wartość 0, maksymalna wartość 500.

Gwarantuje, że tylko najbardziej prawdopodobne tokeny, z całkowitą masą prawdopodobieństwa p, są brane pod uwagę do generowania w każdym kroku. Jeśli zarówno k, jak i p są włączone, p działa po k. Wartość domyślna to 0,75. minimalna wartość 0,01, maksymalna wartość 0,99.

Jeśli zostanie określony, zaplecze będzie podejmować najlepsze wysiłki, aby próbkować tokeny deterministycznie, tak aby powtarzające się żądania z tym samym inicjatorem i parametrami powinny zwracać ten sam wynik. Jednak determinizm nie może być całkowicie gwarantowany.

Lista maksymalnie 5 ciągów, których model użyje do zatrzymania generowania. Jeśli model wygeneruje ciąg zgodny z dowolnym z ciągów na liście, przestanie generować tokeny i zwraca wygenerowany tekst do tego punktu, nie uwzględniając sekwencji zatrzymania.

Służy do zmniejszenia powtarzalności wygenerowanych tokenów. Im wyższa wartość, tym silniejsza kara jest stosowana do poprzednio prezentowanych tokenów, proporcjonalnie do liczby wystąpień już w wierszu polecenia lub poprzedniej generacji.

Służy do zmniejszenia powtarzalności wygenerowanych tokenów. Podobnie jak frequency_penalty, z tą różnicą, że ta kara jest stosowana równie do wszystkich tokenów, które już się pojawiły, niezależnie od ich dokładnych częstotliwości.

Nazwa narzędzia do wywołania. Prawidłowe nazwy zawierają tylko znaki a-z, A-Z, 0-9, _ i nie mogą zaczynać się cyfrą.

Opis tego, co robi narzędzie, model używa opisu do wyboru, kiedy i jak wywołać funkcję.