Perplexity AI (niezależny wydawca) (wersja zapoznawcza)

Nazwa modelu, który zakończy monit.

Rola osoby mówiącej z tej kolei konwersacji. Po komunikacie systemowym (opcjonalnie) role użytkownika i asystenta powinny być alternatywne z asystentem użytkownika, kończąc na użytkowniku.

Zawartość wiadomości z tej kolei konwersacji.

Maksymalna liczba tokenów ukończenia zwracanych przez interfejs API. Łączna liczba tokenów żądanych w max_tokens oraz liczba tokenów monitu wysłanych w komunikatach nie może przekraczać limitu tokenu okna kontekstu żądanego modelu. Jeśli model nie zostanie określony, wygeneruje tokeny do momentu osiągnięcia tokenu zatrzymania lub końca okna kontekstowego.

Ilość losowości w odpowiedzi, wartości z zakresu od 0 do 2 na wyłączność. Wyższe wartości są bardziej losowe, a niższe wartości są bardziej deterministyczne. Należy ustawić temperaturę lub top_p, ale nie obie.

Próg próbkowania jądra o wartości od 0 do 1 włącznie. Dla każdego kolejnego tokenu model uwzględnia wyniki tokenów z top_p masą prawdopodobieństwa. Należy zmienić temperaturę lub top_p, ale nie obie.

Liczba tokenów do zachowania dla najwyższego filtrowania top-k, określona jako liczba całkowita z przedziału od 0 do 2048 włącznie. W przypadku ustawienia wartości 0 filtrowanie top-k jest wyłączone.

Wartość z zakresu od -2.0 do 2.0. Dodatnie wartości nakładają karę na nowe tokeny na podstawie tego, czy pojawiają się one w tekście do tej pory, zwiększając prawdopodobieństwo, że model zacznie poruszać nowe tematy. Niezgodne z karą częstotliwości.

Mnożenie kary większej niż 0. Wartości większe niż 1,0 karają nowe tokeny na podstawie ich istniejącej częstotliwości w tekście do tej pory, zmniejszając prawdopodobieństwo powtórzeń tego samego wiersza. Wartość 1,0 oznacza brak kary. Niezgodne z karą obecności.