Criar um cliente de chat

Um cenário comum em um aplicativo de IA é conectar-se a um modelo de IA generativo e usar prompts para se envolver em um diálogo baseado em bate-papo com ele.

Embora possa usar o Azure OpenAI SDK para se ligar "diretamente" a um modelo usando autenticação baseada em chaves ou Microsoft Entra ID; quando o seu modelo é implementado num projeto Microsoft Foundry, pode também usar o Microsoft Foundry SDK para recuperar um cliente de projeto, do qual pode obter um cliente de chat OpenAI autenticado para quaisquer modelos implementados no recurso Microsoft Foundry do projeto. Essa abordagem facilita a escrita de código que consome modelos implantados em seu projeto, alternando entre eles facilmente alterando o parâmetro de nome de implantação do modelo.

O exemplo de código Python seguinte utiliza o método get_openai_client() para obter um cliente OpenAI com o qual conversar com um modelo que foi implementado no recurso Microsoft Foundry do projeto.

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)