ai_generate_text Função

Aplica-se a: Databricks SQL

Retorna o texto gerado por um modelo de linguagem de grande escala (LLM) selecionado, dado o prompt.

Requisitos

• Esta função só está disponível no Databricks SQL Pro e Serverless.
• Esta função foi preterida. A Databricks recomenda ai_query com modelos externos.

Sintaxe

ai_generate_text(prompt, modelName[, param1, value1] [...])

Argumentos

• prompt: Uma expressão de cadeia de caracteres, o prompt de texto que é passado para o LLM selecionado.
• modelName: STRING literal, apenas 'openai/gpt-3.5-turbo' e 'azure_openai/gpt-35-turbo' são suportados.
• paramN e valueN: pares chave-valor para autenticar e configurar o LLM selecionado. As chaves devem ser literais de cadeia de caracteres e diferenciam maiúsculas de minúsculas. Os tipos de valores dependem das seguintes chaves:
  • O modelo 'openai/gpt-3.5-turbo' usa a API de conclusão de bate-papo da Open AI. Ele suporta os seguintes parâmetros:
    • 'apiKey':Necessário. A chave da API OpenAI para acessar o endpoint do modelo. O valor especificado não pode ser uma cadeia de caracteres constante explícita. O valor recomendado inclui a função secret(scope, key) e a subconsulta escalar SELECT ....
    • 'temperature': A temperatura de amostragem a adotar. Seu valor é um literal numérico entre 0 e 2. O valor predefinido é 1.0.
    • stop: Parar sequências de caracteres. Seu valor é um STRING literal ou um ARRAY<STRING> de até 4 literais de cadeia. O valor padrão é null.
  • O modelo 'azure_openai/gpt-35-turbo' usa a API de conclusão de chat do Serviço OpenAI do Azure. Ele aceita todos os parâmetros do modelo de 'openai/gpt-3.5-turbo' acima e quaisquer parâmetros adicionais para construir a URL do ponto final. O Databricks suporta apenas a autenticação de chave de API.
    • 'resourceName':Necessário. O seu valor é um literal de texto para especificar o nome do recurso.
    • 'deploymentName':Necessário. O seu valor é um literal de texto para especificar o nome da implementação.
    • 'apiVersion':Necessário. O seu valor é um literal de texto para especificar a versão da API a ser usada.

Devoluções

Uma cadeia de caracteres que representa o texto regenerado a partir do LLM selecionado.

Exemplos

Consulte Analisar avaliações de clientes com ai_generate_text() OpenAI para um exemplo de uso da ai_generate_text função.

> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
    'apiKey', secret('ml', 'key'),
    'temperature', 0.1);

  Hello! How can I assist you today?

> SELECT ai_generate_text('Hello',
    'azure_openai/gpt-35-turbo',
    'apiKey', secret('ml', 'key'),
    'resouceName', 'resource',
    'deploymentName', 'deploy',
    'apiVersion', '2023-03-15-preview',
    'temperature', 0.1);

  Hello! How can I assist you today?

> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
    'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
    'temperature', 0.1);

  Hello! How can I assist you today?

> CREATE FUNCTION summarize(text STRING)
  RETURNS STRING
  RETURN AI_GENERATE_TEXT(
    CONCAT('Summarize the following text: ',
      text),
    'openai/gpt-3.5-turbo',
    'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
    'temperature', 0.1
  );

  SELECT summarize('This is the text to be summarized.')

  This is the summarization.

> SELECT ai_generate_text('Hello',
    'openai/gpt-3.5-turbo',
    'apiKey', 'sg-xxxxxxxxxxxxxxxxxxxxxx',
    'temperature', 0.1);

 Error: DATATYPE_MISMATCH.INVALID_SECRET
 The parameter value of the "apiKey" argument to the ai_generate_text function can not be a constant 'sg-xxxxxxxxxxxxxxxxxxxxxx'. Recommended usages include `secret(scope, key)` function or a `SELECT ...` subquery.

Funções relacionadas

• ai_query Função
• secret Função