Cohere (Independent Publisher) (Versão prévia)

As entradas.

O modelo.

O texto.

O rótulo.

A predefinição.

O truncado.

Os textos.

O modelo.

O truncado.

O prompt.

O modelo.

O número de gerações.

O número máximo de tokens.

A predefinição.

A temperatura.

O valor k.

O valor p.

A penalidade de frequência.

A penalidade de presença.

As sequências finais.

As sequências de parada.

As probabilidades de retorno.

O truncado.

Os tokens.

O texto.

Os textos.

Entrada de texto para o modelo a ser respondido.

O nome de um modelo Cohere compatível ou a ID de um modelo ajustado.

Quando especificado, o preâmbulo Cohere padrão será substituído pelo fornecido. Os preâmbulos fazem parte do prompt usado para ajustar o comportamento geral do modelo e o estilo de conversa e usar a função SYSTEM.

A função.

A mensagem anterior.

Uma alternativa ao histórico de chat. Fornecer um conversation_id cria ou retoma uma conversa persistente com a ID especificada. A ID pode ser qualquer cadeia de caracteres não vazia.

Determina como o prompt será construído.

O identificador do conector.

Quando especificado, esse token de acesso do usuário será passado para o conector no cabeçalho autorização em vez do cohere gerado.

Quando true, a solicitação continuará se esse conector retornar um erro.

Quando true, a resposta conterá apenas uma lista de consultas de pesquisa geradas, mas nenhuma pesquisa ocorrerá e nenhuma resposta do modelo para a mensagem do usuário será gerada.

O título do documento.

O texto do documento.

Determina a abordagem tomada para gerar citações como parte do fluxo RAG, permitindo que o usuário especifique se deseja resultados precisos ou resultados rápidos.

Um float não negativo que ajusta o grau de aleatoriedade na geração. Temperaturas mais baixas significam menos gerações aleatórias, e temperaturas mais altas significam mais gerações aleatórias.

O número máximo de tokens que o modelo gerará como parte da resposta. Observação: definir um valor baixo pode resultar em gerações incompletas.

O número máximo de tokens de entrada a serem enviados para o modelo. Se não for especificado, max_input_tokens é o limite de comprimento de contexto do modelo menos um buffer pequeno.

Garante que apenas os principais k tokens mais prováveis sejam considerados para geração em cada etapa. O padrão é 0, valor mínimo de 0, valor máximo de 500.

Garante que apenas os tokens mais prováveis, com massa de probabilidade total de p, sejam considerados para geração em cada etapa. Se k e p estiverem habilitados, p atuará após k. O padrão é 0,75. valor mínimo de 0,01, valor máximo de 0,99.

Se especificado, o back-end fará um esforço melhor para amostrar tokens deterministicamente, de modo que solicitações repetidas com a mesma semente e parâmetros devem retornar o mesmo resultado. No entanto, o determinismo não pode ser totalmente garantido.

Uma lista de até 5 cadeias de caracteres que o modelo usará para interromper a geração. Se o modelo gerar uma cadeia de caracteres que corresponda a qualquer uma das cadeias de caracteres na lista, ele interromperá a geração de tokens e retornará o texto gerado até esse ponto sem incluir a sequência de interrupção.

Usado para reduzir a repetição de tokens gerados. Quanto maior o valor, mais forte uma penalidade é aplicada a tokens presentes anteriormente, proporcional à quantidade de vezes que eles já apareceram no prompt ou na geração anterior.

Usado para reduzir a repetição de tokens gerados. Semelhante a frequency_penalty, exceto que essa penalidade é aplicada igualmente a todos os tokens que já apareceram, independentemente de suas frequências exatas.

O nome da ferramenta a ser chamada. Os nomes válidos contêm apenas os caracteres a-z, A-Z, 0-9, _ e não devem começar com um dígito.

A descrição do que a ferramenta faz, o modelo usa a descrição para escolher quando e como chamar a função.

O comprimento.

O formato.

O modelo.

A extração.

A temperatura.

O texto.