Nota
O acesso a esta página requer autorização. Podes tentar iniciar sessão ou mudar de diretório.
O acesso a esta página requer autorização. Podes tentar mudar de diretório.
Um modelo de pedido não opera em palavras ou caracteres como unidades de texto, mas usa algo intermediário: tokens.
- Um token pode ser um único caráter, fração de uma palavra ou uma palavra inteira.
- Muitas palavras comuns são representadas por um único token.
- Palavras menos comuns são representadas por vários tokens.
- Quando imagens ou documentos são incluídos numa instrução de pedido, são traduzidos em tokens seguindo as regras de conversão.
Tokens consumidos por um pedido
Quando cria uma instrução de pedido e a executa, acontece o seguinte:
- A instrução de pedido é desconstruída numa sequência de tokens chamada tokens de entrada.
- O modelo gera uma resposta como uma sequência de tokens chamados tokens de saída.
Os tokens de entrada são uma soma dos tokens provenientes de:
- O metaprompt do sistema de Microsoft. Este pedido do sistema não está visível e é essencial para a segurança da sua resposta do pedido. Pode equivaler a aproximadamente 1.200 tokens, embora isso possa variar.
- A instrução do pedido.
- Se houver, os valores de entrada.
- Se houver, os dados de conhecimento obtidos.
Os tokens de saída referem-se aos tokens gerados pelo modelo em sua resposta. Isto inclui tokens tanto do processo de raciocínio como do resultado final produzidos pelo pedido.
Como os tokens afetam o licenciamento
A combinação de tokens de entrada, tokens de saída e a versão do modelo permite calcular o custo da execução do pedido. Obtenha mais informações na secção Tabela de preços do AI Builder no ficheiro PDF transferível Guia de Licenciamento do Microsoft Power Platform.
Ao criar soluções que incluem pedidos, pode ser importante avaliar o custo médio de um pedido. As duas possibilidades para atingir esse objetivo são explicadas nas seções seguintes.
Contagem de créditos no construtor de pedidos
Ao testar um pedido no Hub de IA no portal do Power Automate ou portal do Power Apps, consegue apresentar os créditos consumidos pelo pedido. Os testes são gratuitos, por isso é um valor projetado.
Contagem de tokens de um fluxo do Power Automate
Ao chamar uma ação de pedido num fluxo, pode obter a entrada e os tokens associados usando fórmulas.
Tokens de entrada
outputs('Run_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Tokens de saída
outputs('Run_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Como a imagem ou os documentos são traduzidos em tokens
Quando passa uma imagem para um pedido, é convertida em tokens.
Quando passa um documento PDF para um pedido, primeiro é convertido em imagens de uma imagem por página e, em seguida, em tokens.
A conversão de tokens em imagens aplica totalmente a lógica do Azure OpenAI.
Usamos a definição automática ao transmitir imagens para o Azure OpenAI. Isto significa que o custo de token de uma imagem depende da sua resolução inicial.
Imagem de baixa resolução
Imagens com resolução inferior a 512 x 512 píxeis têm a taxa de conversão plana de 85 tokens por imagem, independentemente do tamanho.
Imagens de alta resolução
Para imagens com resolução superior a 512 x 512 píxeis, a conversão do token acontece em duas etapas. As etapas são descritas na tabela seguinte.
| Passo | Descrição | Processo de conversão |
|---|---|---|
| 1 | Redimensionar a imagem | A imagem é redimensionada para caber dentro de um quadrado de 2048 x 2048 píxeis. Se o lado mais curto for maior que 768 píxeis, a imagem será redimensionada para que o lado mais curto tenha 768 píxeis de comprimento. A proporção é preservada durante o redimensionamento. |
| 2 | Conversão de tokens | A imagem redimensionada é dividida em mosaicos de 512 x 512 píxeis. Todos os mosaicos parciais são arredondados para um mosaico completo. O número de mosaicos determina o custo total do token: cada mosaico de 512 x 512 píxeis custa 170 tokens. Um extra de 85 tokens base são adicionados ao total. |