Azure OpenAI (versión preliminar)

Identificador de implementación del modelo implementado

Versión de API

Temperatura de muestreo que se vaya a usar, entre 0 y 2. Los valores más altos, como 0,8, harán que la salida sea más aleatoria, mientras que los valores más bajos, como 0,2, la harán más enfocada y determinista. Por lo general, recomendamos modificar esto o top_p, pero no ambos.

Una alternativa al muestreo con temperatura, llamada muestreo de núcleo, donde el modelo considera los resultados de los tokens con masa de probabilidad top_p. Así, 0,1 significa que solo se consideran los tokens que comprenden la masa de probabilidad del 10% superior. Por lo general, recomendamos modificar esto o temperature, pero no ambos.

Si se establece, se enviarán deltas de mensajes parciales, como en ChatGPT. Los tokens se enviarán como eventos enviados por el servidor de solo datos a medida que estén disponibles, el flujo terminará con un mensaje de data: [DONE].

Hasta 4 secuencias en las que la API dejará de generar más tokens. El texto devuelto no contendrá la secuencia de detención.

Número máximo de tokens permitidos para la respuesta generada. De forma predeterminada, el número de tokens que puede devolver el modelo será (4096: tokens de aviso).

Número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su aparición en el texto hasta el momento, aumentando la probabilidad de que el modelo hable de nuevos temas.

Número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, disminuyendo la probabilidad del modelo de repetir la misma línea textualmente.

Modifica la probabilidad de que los tokens especificados aparezcan en la finalización. Acepta un objeto JSON que asignará tokens (especificados por su id. de token en el tokenizador) a un valor de sesgo asociado de -100 a 100. Matemáticamente, el sesgo se agrega a los logits generados por el modelo antes del muestreo. El efecto exacto variará según el modelo, pero los valores entre -1 y 1 deberían disminuir o aumentar la probabilidad de selección; valores como -100 o 100 deberían dar lugar a una prohibición o selección exclusiva del token correspondiente.

Identificador único que representa al usuario final y puede ayudar a Azure OpenAI a supervisar y detectar abusos.

Rol del autor de mensajes.

Matriz de elementos de contenido con un tipo definido, cada uno puede ser de tipo text.

Representación de los datos de configuración para una única extensión de chat de Azure OpenAI. Esto se usará mediante una solicitud de finalizaciones de chat que debe usar extensiones de chat de Azure OpenAI para aumentar el comportamiento de la respuesta. El uso de esta configuración solo es compatible con Azure OpenAI.

El número superior configurado de documentos que se van a presentar para la consulta configurada.

Si las consultas deben restringirse al uso de datos indexados.

La configuración estricta del filtrado de relevancia de búsqueda. Cuanto más estricta sea, mayor será la precisión, pero una menor coincidencia de la respuesta.

Proporcione instrucciones al modelo sobre cómo debe comportarse y cualquier contexto al que debe hacer referencia al generar una respuesta. Puede describir la personalidad del asistente y indicarle cómo dar formato a las respuestas. Hay un límite de 100 tokens para él y cuenta con respecto al límite total de tokens.

El nombre del índice a utilizar como disponible en el recurso de Azure Search referenciado.

Nombre del campo de índice que se va a usar como título.

Nombre del campo de índice que se va a usar como dirección URL.

Nombre del campo de índice que se va a usar como ruta de acceso de archivo.

Nombre de los campos de índice que se deben tratar como contenido.

Patrón separador que deben usar los campos de contenido.

Los nombres de los campos que representan datos vectoriales.

Tipo de consulta de recuperación de Azure Search que se debe ejecutar al usarlo como una instancia de Azure OpenAI en los datos.

Configuración semántica adicional para la consulta.

Filtro de búsqueda.

Representa los orígenes disponibles que Azure OpenAI en los datos puede usar para configurar la vectorización de datos para su uso con la vector de búsqueda.

Especifica el nombre de la implementación de modelo que se va a usar para la vectorización. Esta implementación del modelo debe estar en el mismo recurso de Azure OpenAI, pero En los datos usará esta implementación de modelo a través de una llamada interna en lugar de una pública, lo que permite el vector de búsqueda incluso en redes privadas.

Cuántas opciones de finalización de chat se van a generar para cada mensaje de entrada.

Si se especifica, nuestro sistema hará un mejor esfuerzo para muestrear de forma determinista, de modo que las solicitudes repetidas con los mismos seed parámetros y deben devolver el mismo resultado. El determinismo no está garantizado y debe hacer referencia al system_fingerprint parámetro de respuesta para supervisar los cambios en el back-end.

Si se devuelven probabilidades de registro de los tokens de salida o no. Si es true, devuelve las probabilidades de registro de cada token de salida devuelto en el content de message. Esta opción no está disponible actualmente en el gpt-4-vision-preview modelo.

Entero entre 0 y 5 que especifica el número de tokens más probables que se devolverán en cada posición del token, cada uno con una probabilidad de registro asociada. logprobs debe establecerse en true si se usa este parámetro.

Establecer en json_object habilita el modo JSON. Esto garantiza que el mensaje que genera el modelo es JSON válido.

Identificador de implementación del modelo implementado

Versión de API

Matriz de textos de entrada para las que se van a insertar, codificadas como una cadena. Cada cadena de entrada no debe superar los 2048 tokens de longitud

Identificador único que representa al usuario final y puede ayudar a Azure OpenAI a supervisar y detectar abusos.

Tipo de entrada de búsqueda de inserción que se va a usar.

Identificador de implementación del modelo implementado

Versión de API

Texto de entrada para obtener incrustaciones para, codificadas como una cadena. La cadena de entrada no debe superar los 2048 tokens de longitud

Identificador único que representa al usuario final y puede ayudar a Azure OpenAI a supervisar y detectar abusos.

Tipo de entrada de búsqueda de inserción que se va a usar.

Identificador de implementación del modelo implementado

Confirmar el identificador de implementación del modelo implementado

Versión de API

Índice del mensaje en la conversación.

Rol del autor de este mensaje.

Destinatario del mensaje en el formato del espacio de <nombres>.<operation>. Presente si y solo si el destinatario es una herramienta.

Contenido del mensaje

Indica si el mensaje finaliza el turno.

Tipo de origen de datos.

Parámetros que se usarán para el origen de datos en tiempo de ejecución.

Temperatura de muestreo que se vaya a usar, entre 0 y 2. Los valores más altos, como 0,8, harán que la salida sea más aleatoria, mientras que los valores más bajos, como 0,2, la harán más enfocada y determinista. Por lo general, recomendamos modificar esto o top_p, pero no ambos.

Una alternativa al muestreo con temperatura, llamada muestreo de núcleo, donde el modelo considera los resultados de los tokens con masa de probabilidad top_p. Así, 0,1 significa que solo se consideran los tokens que comprenden la masa de probabilidad del 10% superior. Por lo general, recomendamos modificar esto o temperature, pero no ambos.

Si se establece, se enviarán deltas de mensajes parciales, como en ChatGPT. Los tokens se enviarán como eventos enviados por el servidor de solo datos a medida que estén disponibles, el flujo terminará con un mensaje de data: [DONE].

Tamaño mínimo de matriz de 1 y máximo de 4

Número máximo de tokens permitidos para la respuesta generada. De forma predeterminada, el número de tokens que puede devolver el modelo será (4096: tokens de aviso).

Número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su aparición en el texto hasta el momento, aumentando la probabilidad de que el modelo hable de nuevos temas.

Número entre -2.0 y 2.0. Los valores positivos penalizan los nuevos tokens en función de su frecuencia existente en el texto hasta el momento, disminuyendo la probabilidad del modelo de repetir la misma línea textualmente.

Modifica la probabilidad de que los tokens especificados aparezcan en la finalización. Acepta un objeto JSON que asignará tokens (especificados por su id. de token en el tokenizador) a un valor de sesgo asociado de -100 a 100. Matemáticamente, el sesgo se agrega a los logits generados por el modelo antes del muestreo. El efecto exacto variará según el modelo, pero los valores entre -1 y 1 deberían disminuir o aumentar la probabilidad de selección; valores como -100 o 100 deberían dar lugar a una prohibición o selección exclusiva del token correspondiente.

Identificador único que representa al usuario final y puede ayudar a Azure OpenAI a supervisar y detectar abusos.