Cohere (Éditeur indépendant) (préversion)

Les textes.

Modèle.

La troncation.

Texte.

Invite.

Modèle.

Nombre de générations.

Nombre maximal de jetons.

Présélection.

Température.

Valeur k.

Valeur p.

Pénalité de fréquence.

La pénalité de présence.

Séquences de fin.

Séquences d’arrêt.

Probabilités de retour.

La troncation.

Jetons.

Entrées.

Modèle.

Texte.

Étiquette.

Présélection.

La troncation.

Les textes.

Entrée de texte pour que le modèle réponde.

Nom d’un modèle Cohere compatible ou id d’un modèle affiné.

Lorsqu’il est spécifié, le préambule de Cohere par défaut est remplacé par celui fourni. Les préambules font partie de l’invite utilisée pour ajuster le comportement global et le style de conversation du modèle et utiliser le rôle SYSTEM.

Rôle.

Message précédent.

Alternative à l’historique des conversations. Fournir un conversation_id crée ou reprend une conversation persistante avec l’ID spécifié. L’ID peut être n’importe quelle chaîne non vide.

Détermine la façon dont l’invite sera construite.

Identificateur du connecteur.

Lorsqu’il est spécifié, ce jeton d’accès utilisateur est transmis au connecteur dans l’en-tête d’autorisation au lieu du jeton de cohéreur généré.

Lorsque la valeur est true, la requête se poursuit si ce connecteur a retourné une erreur.

Lorsque la valeur est true, la réponse contient uniquement une liste de requêtes de recherche générées, mais aucune recherche n’aura lieu, et aucune réponse du modèle au message de l’utilisateur sera générée.

Titre du document.

Texte du document.

Dicte l’approche adoptée pour générer des citations dans le cadre du flux RAG en permettant à l’utilisateur de spécifier s’il souhaite obtenir des résultats précis ou rapides.

Flotteur non négatif qui ajuste le degré de randomité en génération. Les températures inférieures signifient moins de générations aléatoires, et les températures plus élevées signifient des générations plus aléatoires.

Nombre maximal de jetons générés par le modèle dans le cadre de la réponse. Remarque : La définition d’une valeur faible peut entraîner des générations incomplètes.

Nombre maximal de jetons d’entrée à envoyer au modèle. S’il n’est pas spécifié, max_input_tokens est la limite de longueur du contexte du modèle moins une petite mémoire tampon.

Garantit que seuls les jetons k les plus probables sont pris en compte pour la génération à chaque étape. La valeur par défaut est 0, la valeur minimale de 0, la valeur maximale de 500.

Garantit que seuls les jetons les plus probables, avec une masse de probabilité totale de p, sont pris en compte pour la génération à chaque étape. Si k et p sont activés, p agit après k. La valeur par défaut est 0,75. valeur minimale de 0,01, valeur maximale de 0,99.

S’il est spécifié, le back-end effectue un meilleur effort pour échantillonner les jetons de manière déterministe, de sorte que les requêtes répétées avec la même valeur initiale et les mêmes paramètres doivent retourner le même résultat. Toutefois, le déterminisme ne peut pas être totalement garanti.

Liste de jusqu’à 5 chaînes que le modèle utilisera pour arrêter la génération. Si le modèle génère une chaîne qui correspond à l’une des chaînes de la liste, il cesse de générer des jetons et retourne le texte généré jusqu’à ce point, sans inclure la séquence d’arrêt.

Utilisé pour réduire la répétitivité des jetons générés. Plus la valeur est élevée, plus une pénalité est appliquée aux jetons précédemment présents, proportionnellement au nombre de fois qu’ils ont déjà apparu dans l’invite ou la génération précédente.

Utilisé pour réduire la répétitivité des jetons générés. Similaire à frequency_penalty, sauf que cette pénalité est appliquée de façon égale à tous les jetons qui ont déjà été apparus, quelles que soient leurs fréquences exactes.

Nom de l’outil à appeler. Les noms valides contiennent uniquement les caractères a-z, A-Z, 0-9, _ et ne doivent pas commencer par un chiffre.

Description de ce que fait l’outil, le modèle utilise la description pour choisir quand et comment appeler la fonction.

Longueur.

Format.

Modèle.

L’extraction.

Température.

Texte.