Compartilhar via

Consumir APIs sem servidor de um projeto ou hub do Microsoft Foundry diferente

Observação

Este documento refere-se ao portal do Microsoft Foundry (clássico ).

🔍 Exiba a documentação do Microsoft Foundry (novo) para saber mais sobre o novo portal.

Neste artigo, você aprenderá a configurar uma APIs sem servidor existente em um projeto ou hub diferente daquele que foi usado para criar a implantação.

Importante

Os modelos que estão em versão prévia são marcados como versão prévia em seus cartões de modelo no catálogo de modelos.

Alguns modelos no catálogo de modelos podem ser implantados como APIs sem servidor. Esse tipo de implantação fornece uma maneira de consumir modelos como uma API sem hospedá-los em sua assinatura, ao mesmo tempo que mantém a segurança empresarial e a conformidade que as organizações precisam. Essa opção de implantação não requer cota de sua assinatura.

A necessidade de consumir um ponto de extremidade de APIs sem servidor em um projeto ou hub diferente daquele que foi usado para criar a implantação pode surgir em situações como estas:

  • Você quer centralizar suas implantações em um determinado projeto ou hub e consumi-las pelos diferentes projetos ou hubs na sua organização.
  • Você precisa implantar um modelo em um hub em uma região específica do Azure onde a implantação sem servidor para esse modelo esteja disponível. No entanto, você precisa consumir o serviço de outra região, onde a implantação sem servidor não está disponível para os modelos específicos.

Pré-requisitos

  • Uma assinatura do Azure com uma forma de pagamento válida. As assinaturas gratuitas ou de avaliação do Azure não funcionarão. Caso você não tenha uma assinatura do Azure, crie uma conta paga do Azure para começar.

  • Um hub do Microsoft Foundry, se você estiver usando um projeto baseado em hub. Um projeto Foundry não utiliza um hub. Para obter mais informações, consulte os tipos de projeto.

  • Se você não tiver um, crie um projeto baseado em hub.

  • Um modelo implantado em uma API sem servidor. Este artigo pressupõe que você já implantou o modelo Meta-Llama-3-8B-Instruct. Para saber como implantar esse modelo como uma API sem servidor, confira Implantar modelos como APIs sem servidor.

  • Você precisa instalar o seguinte software para trabalhar com o Foundry:

    Você pode usar qualquer navegador da Web compatível para navegar na Foundry.

Criar uma conexão de endpoint de API sem servidor

Execute estas etapas para criar uma conexão:

  1. Conecte-se ao projeto ou hub em que o endpoint está implantado.

    Dica

    Como você pode personalizar o painel esquerdo no portal do Microsoft Foundry, talvez você veja itens diferentes dos mostrados nestas etapas. Se você não vir o que está procurando, selecione ... Mais na parte inferior do painel esquerdo.

    Vá para Foundry e navegue até o projeto no qual o endpoint ao qual você deseja se conectar está implantado.

  2. Obtenha a URL do ponto de extremidade e as credenciais do ponto de extremidade ao qual você deseja se conectar. Neste exemplo, você obtém os detalhes de um nome de ponto de extremidade meta-llama3-8b-qwerty.

    1. Na barra lateral esquerda do seu projeto no portal Foundry, acesse Meus ativos>Modelos + endpoints para ver a lista de implantações no projeto.

    2. Selecione a implantação à qual você deseja se conectar.

    3. Copie os valores para o URI de destino e a Chave.

  3. Agora, conecte-se ao projeto ou hub em que você deseja criar a conexão:

    Acesse o projeto para o qual a conexão precisa ser criada.

  4. Crie a conexão no projeto:

    1. No seu projeto no portal do Foundry, vá para a parte inferior da barra lateral esquerda e selecione o Centro de Gerenciamento.

    2. Na barra lateral esquerda do centro de gerenciamento, selecione Recursos conectados.

    3. Selecione Nova conexão.

    4. Selecione Modelo sem servidor.

    5. Para o URI de Destino, cole o valor que você copiou anteriormente.

    6. Faça o mesmo para a Chave e cole o valor copiado.

    7. Dê um nome para a conexão, nesse caso, meta-llama3-8b-connection.

    8. Selecione Adicionar conexão.

  5. Neste ponto, a conexão está pronta para consumo.

  6. Para validar se a conexão está funcionando:

    1. Retorne ao seu projeto no portal do Foundry.

    2. Na barra lateral esquerda do projeto, acesse Criar e personalizar>Prompt flow.

    3. Selecione Criar para criar um novo fluxo.

    4. Selecione Criar na caixa Fluxo de chat.

    5. Dê um nome para o seu Prompt flow e selecione Criar.

    6. Selecione o nó chat no gráfico para acessar a seção chat.

    7. Em Conexão, abra a lista de seleção e selecione a conexão que você acabou de criar, nesse caso meta-llama3-8b-connection.

    8. Selecione Iniciar sessão de computação na barra de navegação superior para começar um runtime automático de fluxo prompt.

    9. Selecione a opção Chat. Agora você pode enviar mensagens e receber respostas.

Conteúdo relacionado

  • Last updated on