Solucionar problemas de ejecución remota de Bazel con Docker Sandbox

Informar un problema Ver fuente

Las compilaciones de Bazel que se ejecutan de forma local pueden fallar cuando se ejecutan de forma remota debido a restricciones y requisitos que no afectan a las compilaciones locales. Las causas más comunes de estas fallas se describen en Adapta las reglas de Bazel para la ejecución remota.

En esta página, se describe cómo identificar y resolver los problemas más comunes que surgen con la ejecución remota mediante la función de zona de pruebas de Docker, que impone restricciones a la compilación iguales a las de la ejecución remota. Esto te permite solucionar problemas de la compilación sin la necesidad de un servicio de ejecución remota.

La función de la zona de pruebas de Docker imita las restricciones de la ejecución remota de la siguiente manera:

  • Las acciones de compilación se ejecutan en contenedores de cadenas de herramientas. Puedes usar los mismos contenedores de cadena de herramientas para ejecutar tu compilación de forma local y remota a través de un servicio que admita la ejecución remota en contenedores.

  • Ningún dato irrelevante cruza los límites del contenedor. Solo las entradas y salidas declaradas de forma explícita ingresan y salen del contenedor, y solo después de que se complete correctamente la acción de compilación asociada.

  • Cada acción se ejecuta en un contenedor nuevo. Se crea un contenedor nuevo y único para cada acción de compilación generada.

Puedes solucionar estos problemas con uno de los siguientes métodos:

  • Soluciona problemas de forma nativa. Con este método, Bazel y sus acciones de compilación se ejecutan de forma nativa en tu máquina local. La función de la zona de pruebas de Docker impone restricciones a la compilación iguales a las de la ejecución remota. Sin embargo, este método no detectará herramientas, estados ni filtración de datos locales en tu compilación, lo que causará problemas con la ejecución remota.

  • Soluciona problemas en un contenedor de Docker. Con este método, Bazel y sus acciones de compilación se ejecutan dentro de un contenedor de Docker, lo que te permite detectar herramientas, estados y filtraciones de datos de la máquina local a la compilación, además de imponer restricciones iguales a las de la ejecución remota. Este método proporciona estadísticas sobre tu compilación, incluso si algunas partes de ella fallan. Este método es experimental y no se admite oficialmente.

Requisitos previos

Antes de comenzar a solucionar problemas, haz lo siguiente si aún no lo hiciste:

  • Instala Docker y configura los permisos necesarios para ejecutarlo.
  • Instala Bazel 0.14.1 o una versión posterior. Las versiones anteriores no son compatibles con la función de zona de pruebas de Docker.
  • Agrega el repositorio bazel-toolchains fijado a la versión de actualización más reciente al archivo WORKSPACE de tu compilación, como se describe aquí.
  • Agrega marcas al archivo .bazelrc para habilitar la función. Crea el archivo en el directorio raíz de tu proyecto de Bazel si no existe. Las marcas que aparecen a continuación son una muestra de referencia. Consulta el último archivo .bazelrc en el repositorio bazel-toolchains y copia los valores de las marcas definidas allí para la configuración docker-sandbox.
# Docker Sandbox Mode
build:docker-sandbox --host_javabase=<...>
build:docker-sandbox --javabase=<...>
build:docker-sandbox --crosstool_top=<...>
build:docker-sandbox --experimental_docker_image=<...>
build:docker-sandbox --spawn_strategy=docker --strategy=Javac=docker --genrule_strategy=docker
build:docker-sandbox --define=EXECUTOR=remote
build:docker-sandbox --experimental_docker_verbose
build:docker-sandbox --experimental_enable_docker_sandbox

Si tus reglas requieren herramientas adicionales, sigue estos pasos:

  1. Crea un contenedor de Docker personalizado mediante la instalación de herramientas con un Dockerfile y la compilación de la imagen de manera local.

  2. Reemplaza el valor de la marca --experimental_docker_image anterior por el nombre de la imagen de contenedor personalizada.

Soluciona problemas de forma nativa

Este método ejecuta Bazel y todas sus acciones de compilación directamente en la máquina local, y es una forma confiable de confirmar si la compilación tendrá éxito cuando se ejecute de forma remota.

Sin embargo, con este método, es posible que las herramientas, los objetos binarios y los datos instalados de manera local se filtren en tu compilación, en especial si esta usa reglas de configuración de estilo de WORKSPACE. Estas fugas causarán problemas con la ejecución remota. Para detectarlas, debes solucionar problemas en un contenedor de Docker, además de hacerlo de forma nativa.

Paso 1: Ejecuta la compilación

  1. Agrega la marca --config=docker-sandbox al comando de Bazel que ejecuta la compilación. Por ejemplo:

    bazel --bazelrc=.bazelrc build --config=docker-sandbox target
    
  2. Ejecuta la compilación y espera a que se complete. La compilación se ejecutará hasta cuatro veces más lenta de lo normal debido a la función de la zona de pruebas de Docker.

Puedes encontrar el siguiente error:

ERROR: 'docker' is an invalid value for docker spawn strategy.

Si lo haces, vuelve a ejecutar la compilación con la marca --experimental_docker_verbose. Esta marca habilita mensajes de error detallados. Por lo general, este error se debe a una instalación incorrecta de Docker o a la falta de permisos para ejecutarlo con la cuenta de usuario actual. Consulta la documentación de Docker para obtener más información. Si los problemas persisten, ve a Soluciona problemas en un contenedor de Docker.

Paso 2: Resuelve los problemas detectados

A continuación, se muestran los problemas más frecuentes y sus soluciones.

Soluciona problemas en un contenedor de Docker

Con este método, Bazel se ejecuta dentro de un contenedor de Docker de host, y las acciones de compilación de Bazel se ejecutan dentro de contenedores de cadenas de herramientas individuales que genera la función de zona de pruebas de Docker. La zona de pruebas genera un contenedor de la cadena de herramientas nuevo para cada acción de compilación y solo se ejecuta una acción en cada contenedor de la cadena de herramientas.

Este método proporciona un control más detallado de las herramientas instaladas en el entorno del host. Si separas la ejecución de la compilación de la ejecución de sus acciones de compilación y mantienes al mínimo las herramientas instaladas, puedes verificar si tu compilación tiene alguna dependencia en el entorno de ejecución local.

Paso 1: Compila el contenedor

  1. Crea un Dockerfile que cree el contenedor de Docker y, luego, instale Bazel con un conjunto mínimo de herramientas de compilación:

    FROM debian:stretch
    
    RUN apt-get update && apt-get install -y apt-transport-https curl software-properties-common git gcc gnupg2 g++ openjdk-8-jdk-headless python-dev zip wget vim
    
    RUN curl -fsSL https://download.docker.com/linux/debian/gpg | apt-key add -
    
    RUN add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/debian $(lsb_release -cs) stable"
    
    RUN apt-get update && apt-get install -y docker-ce
    
    RUN wget https://releases.bazel.build/<latest Bazel version>/release/bazel-<latest Bazel version>-installer-linux-x86_64.sh -O ./bazel-installer.sh && chmod 755 ./bazel-installer.sh
    
    RUN ./bazel-installer.sh
    
  2. Compila el contenedor como bazel_container:

    docker build -t bazel_container - < Dockerfile
    

Paso 2: Inicia el contenedor

Inicia el contenedor de Docker con el comando que se muestra a continuación. En el comando, sustituye la ruta de acceso al código fuente en el host que deseas compilar.

docker run -it \
  -v /var/run/docker.sock:/var/run/docker.sock \
  -v /tmp:/tmp \
  -v your source code directory:/src \
  -w /src \
  bazel_container \
  /bin/bash

Este comando ejecuta el contenedor como raíz, asigna el socket de Docker y activa el directorio /tmp. Esto permite que Bazel genere otros contenedores de Docker y use directorios en /tmp para compartir archivos con esos contenedores. Tu código fuente está disponible en /src dentro del contenedor.

El comando se inicia de forma intencional desde un contenedor base debian:stretch que incluye objetos binarios incompatibles con el contenedor rbe-ubuntu16-04 que se usa como contenedor de la cadena de herramientas. Si se filtran los objetos binarios del entorno local en el contenedor de la cadena de herramientas, se generarán errores de compilación.

Paso 3: Prueba el contenedor

Ejecuta los siguientes comandos desde el contenedor de Docker para probarlo:

docker ps
bazel version

Paso 4: Ejecuta la compilación

Ejecuta la compilación como se muestra a continuación. El usuario de salida es raíz, de modo que corresponde a un directorio al que se puede acceder con la misma ruta de acceso absoluta desde el contenedor de host en el que se ejecuta Bazel, desde los contenedores de la cadena de herramientas generados por la función de la zona de pruebas de Docker en la que se ejecutan las acciones de compilación de Bazel y desde la máquina local en la que se ejecutan los contenedores de host y de acción.

bazel --output_user_root=/tmp/bazel_docker_root --bazelrc=.bazelrc \ build --config=docker-sandbox target

Paso 5: Resuelve los problemas detectados

Puedes resolver las fallas de compilación de la siguiente manera:

  • Si la compilación falla con un error de “sin espacio en el disco”, puedes aumentar este límite si inicias el contenedor de host con la marca --memory=XX, en la que XX es el espacio asignado en el disco en gigabytes. Esto es experimental y puede generar un comportamiento impredecible.

  • Si la compilación falla durante las fases de análisis o carga, una o más de tus reglas de compilación declaradas en el archivo WORKSPACE no son compatibles con la ejecución remota. Consulta Adapta las reglas de Bazel para la ejecución remota a fin de conocer las posibles causas y soluciones alternativas.

  • Si la compilación falla por cualquier otro motivo, consulta los pasos para solucionar problemas en el Paso 2: Resuelve los problemas detectados.