Uso de grupos de sesiones en Azure Container Apps

Los grupos de sesiones proporcionan tiempos de asignación de sesiones subsegundos para los nuevos grupos y son responsables de la administración y el ciclo de vida de cada sesión.

Configuración

Puede controlar el comportamiento de los grupos de sesiones mediante los parámetros siguientes disponibles para az containerapp sessionpool create.

Creación de un grupo

El proceso para crear un grupo es ligeramente diferente en función de si va a crear un grupo de intérpretes de código o un grupo de contenedores personalizado.

Grupo de intérpretes de código

Para crear un grupo de sesiones de intérprete de código mediante la CLI de Azure, asegúrese de que tiene las versiones más recientes de la CLI de Azure y la extensión Azure Container Apps con los siguientes comandos:

# Upgrade the Azure CLI
az upgrade

# Install or upgrade the Azure Container Apps extension
az extension add --name containerapp --upgrade --allow-preview true -y

Usa el comando az containerapps sessionpool create para crear la piscina. En el ejemplo siguiente se crea un grupo de sesiones de intérprete de código de Python denominado my-session-pool. Asegúrese de reemplazar <RESOURCE_GROUP> por el nombre del grupo de recursos antes de ejecutar el comando.

az containerapp sessionpool create \
    --name my-session-pool \
    --resource-group <RESOURCE_GROUP> \
    --location westus2 \
    --container-type PythonLTS \
    --max-sessions 100 \
    --cooldown-period 300 \
    --network-status EgressDisabled

Puede definir la siguiente configuración al crear un grupo de sesiones:

Obtén el punto de conexión de la API de administración

Para usar sesiones de intérprete de código con integraciones del marco de LLM o mediante una llamada directamente a los puntos de conexión de la API de administración, necesita el punto de conexión de la API de administración del grupo.

El punto de conexión tiene el formato https://<REGION>.dynamicsessions.io/subscriptions/<SUBSCRIPTION_ID>/resourceGroups/<RESOURCE_GROUP>/sessionPools/<SESSION_POOL_NAME>.

Para recuperar el punto de conexión de la API de administración de un grupo de sesiones, use el az containerapps sessionpool show comando . Asegúrese de reemplazar <RESOURCE_GROUP> por el nombre del grupo de recursos antes de ejecutar el comando.

az containerapp sessionpool show \
    --name my-session-pool \
    --resource-group <RESOURCE_GROUP> \
    --query 'properties.poolManagementEndpoint' -o tsv

Grupo de contenedores personalizado

Para crear un grupo de sesiones de contenedor personalizado, debe proporcionar una imagen de contenedor y ajustes de configuración del grupo.

Se invoca o se comunica con cada sesión mediante solicitudes HTTP. El contenedor personalizado debe exponer un servidor HTTP en un puerto que especifique para responder a estas solicitudes.

az upgrade
az extension add --name containerapp --upgrade --allow-preview true -y

az containerapp sessionpool create \
    --name my-session-pool \
    --resource-group <RESOURCE_GROUP> \
    --environment <ENVIRONMENT> \
    --registry-server myregistry.azurecr.io \
    --registry-username <USER_NAME> \
    --registry-password <PASSWORD> \
    --container-type CustomContainer \
    --image myregistry.azurecr.io/my-container-image:1.0 \
    --cpu 0.25 --memory 0.5Gi \
    --target-port 80 \
    --cooldown-period 300 \
    --network-status EgressDisabled \
    --max-sessions 10 \
    --ready-sessions 5 \
    --env-vars "key1=value1" "key2=value2" \
    --location <LOCATION>

az containerapp sessionpool show \
    --name <SESSION_POOL_NAME> \
    --resource-group <RESOURCE_GROUP> \
    --query "properties.poolManagementEndpoint" \
    --output tsv

{
  "type": "Microsoft.App/sessionPools",
  "apiVersion": "2024-08-02-preview",
  "name": "my-session-pool",
  "location": "westus2",
  "properties": {
    "environmentId": "/subscriptions/<SUBSCRIPTION_ID>/resourceGroups/<RESOURCE_GROUP>/providers/Microsoft.ContainerApps/environments/<ENVIRONMENT_NAME>",
    "poolManagementType": "Dynamic",
    "containerType": "CustomContainer",
    "scaleConfiguration": {
      "maxConcurrentSessions": 10,
      "readySessionInstances": 5
    },
    "dynamicPoolConfiguration": {
      "executionType": "Timed",
      "cooldownPeriodInSeconds": 600
    },
    "secrets": [
      {
        "name": "registrypassword",
        "value": "<REGISTRY_PASSWORD>"
      }
    ],
    "customContainerTemplate": {
      "registryCredentials": {
          "server": "myregistry.azurecr.io",
          "username": "myregistry",
          "passwordSecretRef": "registrypassword"
      },
      "containers": [
        {
          "image": "myregistry.azurecr.io/my-container-image:1.0",
          "name": "mycontainer",
          "resources": {
            "cpu": 0.25,
            "memory": "0.5Gi"
          },
          "command": [
            "/bin/sh"
          ],
          "args": [
            "-c",
            "while true; do echo hello; sleep 10;done"
          ],
          "env": [
            {
              "name": "key1",
              "value": "value1"
            },
            {
              "name": "key2",
              "value": "value2"
            }
          ]
        }
      ],
      "ingress": {
        "targetPort": 80
      }
    },
    "sessionNetworkConfiguration": {
      "status": "EgressEnabled"
    }
  }
}

Administración de puntos de conexión

Los siguientes puntos de conexión están disponibles para administrar sesiones en un grupo:

Compile la dirección URL completa de cada punto de conexión mediante la concatenación del punto de conexión de la API de administración del grupo con la ruta de acceso del punto de conexión. La cadena de consulta debe incluir un identifier parámetro que contenga el identificador de sesión y un api-version parámetro con el valor 2024-02-02-preview.

Por ejemplo: https://<REGION>.dynamicsessions.io/subscriptions/<SUBSCRIPTION_ID>/resourceGroups/<RESOURCE_GROUP>/sessionPools/<SESSION_POOL_NAME>/code/execute?api-version=2024-02-02-preview&identifier=<IDENTIFIER>

Para recuperar el punto de conexión de administración del grupo de sesiones, use el az containerapp sessionpool show comando :

az containerapp sessionpool show \
    --name <SESSION_POOL_NAME> \
    --resource-group <RESOURCE_GROUP> \
    --query "properties.poolManagementEndpoint" \
    --output tsv

Todas las solicitudes al punto de conexión de administración del grupo deben incluir un encabezado Authorization con un token de portador. Para obtener información sobre cómo autenticarse con la API de administración de grupos, consulte Autenticación.

Cada solicitud de API también debe incluir el parámetro identifier de cadena de consulta con el identificador de sesión. Este identificador de sesión único permite a la aplicación interactuar con sesiones específicas. Para más información sobre los identificadores de sesión, consulte Identificadores de sesión.

Almacenamiento en caché de imágenes

Cuando se crea o actualiza un grupo de sesiones, Azure Container Apps almacena en caché la imagen de contenedor en el grupo. Este almacenamiento en caché ayuda a acelerar el proceso de creación de nuevas sesiones.

Los cambios en la imagen no se reflejan automáticamente en las sesiones. Para actualizar la imagen, actualice el grupo de sesiones con una nueva etiqueta de imagen. Use una etiqueta única para cada actualización de imagen para asegurarse de que se extraiga la nueva imagen.

Contenido relacionado

• Tipos de sesión: obtenga información sobre los diferentes tipos de sesiones dinámicas:

  • Sesiones de intérprete de código
  • Sesiones de contenedor personalizadas

• Tutoriales: Trabajar directamente con la API REST o a través de un agente de LLM:

  • Use un agente LLM:
    • AutoGen
    • LangChain
    • LlamaIndex
    • Kernel semántico
  • Uso de la API REST
    • Intérprete de código JavaScript