Criar um cliente de chat

Um cenário comum em um aplicativo de IA é conectar-se a um modelo de IA generativo e usar prompts para se envolver em um diálogo baseado em chat com ele.

Embora você possa usar o SDK do Azure OpenAI, para se conectar "diretamente" a um modelo usando a autenticação de ID do Microsoft Entra ou baseada em chave; quando o modelo é implantado em um projeto do Microsoft Foundry, você também pode usar o SDK do Microsoft Foundry para recuperar um cliente de projeto, do qual você pode obter um cliente de chat OpenAI autenticado para todos os modelos implantados no recurso Microsoft Foundry do projeto. Essa abordagem facilita a gravação de código que consome modelos implantados em seu projeto, alternando entre eles facilmente alterando o parâmetro de nome de implantação do modelo.

O exemplo de código python a seguir usa o método get_openai_client() para obter um cliente OpenAI com o qual conversar com um modelo que foi implantado no recurso Microsoft Foundry do projeto.

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)