Cohere (Publicador independiente) (versión preliminar)

Entradas.

Modelo.

Texto.

Etiqueta.

Valor preestablecido.

Truncar.

Textos.

Modelo.

Truncar.

Los tokens.

Texto.

Mensaje.

Modelo.

Número de generaciones.

Número máximo de tokens.

Valor preestablecido.

Temperatura.

Valor k.

Valor p.

La penalización de frecuencia.

Penalización de presencia.

Secuencias finales.

Secuencias de detención.

Probabilidades de retorno.

Truncar.

Textos.

Entrada de texto para que el modelo responda.

Nombre de un modelo cohere compatible o el identificador de un modelo ajustado.

Cuando se especifica, el preámbulo de cohere predeterminado se reemplazará por el proporcionado. Los preámbulos forman parte del mensaje usado para ajustar el comportamiento general del modelo y el estilo de conversación, y usan el rol SYSTEM.

Rol.

Mensaje anterior.

Alternativa al historial de chats. Proporcionar un conversation_id crea o reanuda una conversación persistente con el identificador especificado. El identificador puede ser cualquier cadena no vacía.

Determina cómo se construirá el mensaje.

Identificador del conector.

Cuando se especifica, este token de acceso de usuario se pasará al conector en el encabezado authorization en lugar del elemento Cohere generado.

Cuando es true, la solicitud continuará si este conector devolvió un error.

Cuando es true, la respuesta solo contendrá una lista de consultas de búsqueda generadas, pero no se realizará ninguna búsqueda y no se generará ninguna respuesta del modelo al mensaje del usuario.

Título del documento.

Texto del documento.

Dicta el enfoque adoptado para generar citas como parte del flujo rag, ya que permite al usuario especificar si quiere resultados precisos o resultados rápidos.

Un flotador no negativo que ajusta el grado de aleatoriedad en la generación. Las temperaturas más bajas significan menos generaciones aleatorias y las temperaturas más altas significan generaciones más aleatorias.

El número máximo de tokens que generará el modelo como parte de la respuesta. Nota: Establecer un valor bajo puede dar lugar a generaciones incompletas.

Número máximo de tokens de entrada que se van a enviar al modelo. Si no se especifica, max_input_tokens es el límite de longitud del contexto del modelo menos un búfer pequeño.

Garantiza que solo se tienen en cuenta los k principales tokens más probables para la generación en cada paso. El valor predeterminado es 0, valor mínimo de 0, valor máximo de 500.

Garantiza que solo los tokens más probables, con una masa de probabilidad total de p, se consideran para la generación en cada paso. Si se habilitan k y p, p actúa después de k. El valor predeterminado es 0,75. valor mínimo de 0,01, valor máximo de 0,99.

Si se especifica, el back-end hará un mejor esfuerzo para muestrear tokens de forma determinista, de modo que las solicitudes repetidas con la misma inicialización y parámetros deben devolver el mismo resultado. Sin embargo, no se puede garantizar totalmente el determinismo.

Lista de hasta 5 cadenas que usará el modelo para detener la generación. Si el modelo genera una cadena que coincide con cualquiera de las cadenas de la lista, dejará de generar tokens y devolverá el texto generado hasta ese punto sin incluir la secuencia de detención.

Se usa para reducir la repetición de los tokens generados. Cuanto mayor sea el valor, más fuerte se aplica una penalización a los tokens presentes anteriormente, proporcionales al número de veces que ya han aparecido en el símbolo del sistema o en la generación anterior.

Se usa para reducir la repetición de los tokens generados. De forma similar a frequency_penalty, salvo que esta penalización se aplica igualmente a todos los tokens que ya han aparecido, independientemente de sus frecuencias exactas.

Nombre de la herramienta a la que se va a llamar. Los nombres válidos solo contienen los caracteres a-z, A-Z, 0-9, _ y no deben comenzar con un dígito.

La descripción de lo que hace la herramienta, el modelo usa la descripción para elegir cuándo y cómo llamar a la función.

Longitud.

El formato.

Modelo.

La extractividad.

Temperatura.

Texto.