Perplexity AI (Independent Publisher) (Vorschau)

Der Name des Modells, das Ihre Eingabeaufforderung abschließt.

Die Rolle des Sprechers in dieser Unterhaltung. Nach der (optionalen) Systemmeldung sollten sich Benutzer- und Assistentenrollen mit dem Benutzer und dem Assistenten abwechseln, der auf den Benutzer endet.

Der Inhalt der Nachricht in dieser Unterhaltung.

Die maximale Anzahl von Abschlusstoken, die von der API zurückgegeben werden. Die Gesamtzahl der in max_tokens angeforderten Token sowie die Anzahl der in Nachrichten gesendeten Eingabeaufforderungstoken darf die Tokenbeschränkung des angeforderten Modells nicht überschreiten. Wenn nicht angegeben, generiert das Modell Token, bis es sein Stopptoken oder das Ende des Kontextfensters erreicht.

Die Zufallsmenge in der Antwort, die zwischen 0 einschließlich und 2 exklusiv geschätzt wird. Höhere Werte sind zufälliger, und niedrigere Werte sind deterministischer. Sie sollten entweder temperatur oder top_p, aber nicht beide festlegen.

Die Kernsamplingsschwelle, die zwischen 0 und einschließlich 1 liegt. Für jedes nachfolgende Token berücksichtigt das Modell die Ergebnisse der Token mit top_p Wahrscheinlichkeitsmasse. Sie sollten entweder die Temperatur oder top_p ändern, aber nicht beide.

Die Anzahl der Token, die für die höchste Top-K-Filterung beibehalten werden sollen, die als ganze Zahl zwischen 0 und 2048 einschließlich angegeben wird. Bei Festlegung auf 0 ist die Top-K-Filterung deaktiviert.

Ein Wert zwischen -2,0 und 2,0. Positive Werte benachteiligen neue Token, je nachdem, ob sie bereits im Text vorkommen, und erhöhen so die Wahrscheinlichkeit, dass das Modell über neue Themen spricht. Inkompatibel mit Häufigkeitsstrafe.

Eine multiplizierte Strafe größer als 0. Werte, die größer als 1,0 sind, bestrafen neue Token basierend auf ihrer vorhandenen Häufigkeit im Text bisher und verringern die Wahrscheinlichkeit, dass das Modell dieselbe Zeile wiederholt. Ein Wert von 1,0 bedeutet keine Strafe. Inkompatibel mit Anwesenheitsstrafe.