sergio/takana

1#!/usr/bin/env bash
2# farm-worker-loop.sh — loop AUTÓNOMO del worker. Construye la cola recipes/incoming/ en
3# bucle (PROMOTE=0: sólo sella al store local, NO promueve, NO firma, NO toca gitea), con
4# watchdog de disco integrado. El hub (laptop) le mete recetas nuevas vía farm-sync.sh y le
5# baja el store sellado; este loop sólo muele lo que haya, 24/7, sin esperar a nadie.
6#
7# Idempotente: cada ciclo re-escanea incoming/; lo ya-sellado sale por cache-hit (instantáneo),
8# sólo construye lo nuevo. Cuando la cola está toda construida, duerme IDLE_SLEEP y reintenta.
9#
10# Lo lanza systemd (hammer-farm.service). Manual:  JOBS=2 ./scripts/farm/farm-worker-loop.sh
11set -uo pipefail
12HAMMER_DIR="${HAMMER_DIR:-/opt/hammer}"
13cd "$HAMMER_DIR"
14. "$HOME/.cargo/env" 2>/dev/null || true
15JOBS="${JOBS:-$(nproc)}"
16IDLE_SLEEP="${IDLE_SLEEP:-300}"
17
18# --- watchdog de disco: cada 3 min borra work/sources/* que ningún bwrap activo bind-monta
19# (seguro: sellada=store CAS, en-cola=se re-extrae sola). Evita que el vendoring llene el disco.
20# Además, si el disco supera DISK_HIGH%, purga los CACHES Go (GOMODCACHE ~/go/pkg/mod + gocache):
21# el `go mod vendor` de las recetas Go acumula ahí decenas de GB sin tope (el vendor/ local de cada
22# receta ya tiene lo que el build necesita; el modcache sólo se usa DURANTE el vendor). Si la purga
23# pisa un vendor en curso, esa receta reintenta el próximo ciclo (cache-hit el resto). Sin esto, una
24# tanda Go grande llena el disco de 80G y el I/O-wait dispara el load (cuello real, no CPU/RAM).
25DISK_HIGH="${DISK_HIGH:-82}"
26(
27  while :; do
28    sleep 180
29    # Protección 1: árboles que un bwrap activo bind-monta (fase compile dentro del sandbox).
30    active=$(pgrep -af bwrap 2>/dev/null | grep -oE 'work/sources/[^ ]+' | sort -u)
31    # Protección 2: árboles cuya receta tiene un `hammer build` EN VUELO. Durante el fetch/`go mod
32    # vendor`/resolve_phases (host-side, ANTES de que arranque el bwrap) el árbol no está bind-montado
33    # ⇒ la protección 1 no lo cubre. Una tanda Go con árbol de deps enorme (dnscontrol/lazysql) tarda
34    # minutos vendoreando; sin esto, el watchdog le borra el go.mod a mitad → "no build system".
35    building=$(pgrep -af 'release/hammer' 2>/dev/null | grep -oE '[^ ]+\.toml' | sed 's#.*/##;s#\.toml$##' | sort -u)
36    for d in work/sources/*/; do
37      [ -d "$d" ] || continue; dd=${d%/}
38      printf '%s\n' "$active" | grep -qxF "$dd" && continue
39      nm=$(basename "$dd"); nm=${nm%-*}   # work/sources/<name>-<sha40> → <name> (el sha no trae '-')
40      printf '%s\n' "$building" | grep -qxF "$nm" && continue
41      # Protección 3: árbol CALIENTE (modificado hace <2 min) ⇒ se está extrayendo AHORA. Una dep
42      # transitiva (p.ej. cairo bajo pango/gtk4) se extrae host-side ANTES del bwrap y con un nombre
43      # que NO coincide con la receta en vuelo ⇒ protecciones 1 y 2 no la cubren. Sin esto, el rm -rf
44      # compite con el tar y deja el árbol a medias ("Cannot mkdir" / luego "Directory not empty" para
45      # siempre). Un árbol en frío (extracción ya fallida/terminada) queda purgable ⇒ se re-extrae limpio.
46      [ -n "$(find "$dd" -mmin -2 -print -quit 2>/dev/null)" ] && continue
47      rm -rf "$dd"
48    done
49    use=$(df --output=pcent "$HAMMER_DIR" 2>/dev/null | tr -dc '0-9')
50    if [ -n "$use" ] && [ "$use" -ge "$DISK_HIGH" ]; then
51      # OJO: `go clean -modcache`/`-cache` borran ~/go/pkg/mod y ~/.cache/go-build ENTEROS. Ambos los
52      # usa `go mod vendor` (modcache p/ módulos, go-build p/ verificar el grafo). Si la purga corre
53      # mientras un vendor está activo —o en la VENTANA justo antes de que arranque (otra receta de la
54      # cola en serie)— le arranca el cache bajo los pies (`.partial`/`go-build/...: no such file`) y
55      # ESE vendor falla. La purga de work/sources de arriba ya liberó lo grueso (segura: saltea las
56      # protegidas). Por eso NO purgo las caches Go si hay CUALQUIER `hammer build` en vuelo (no solo
57      # un `go mod vendor` visible en este instante): difiero al próximo tick / al gap idle entre
58      # ciclos. El sandbox `go install` usa GOCACHE=/src + -mod=vendor ⇒ no toca estas caches del host.
59      if pgrep -f 'go mod vendor' >/dev/null 2>&1 || pgrep -f 'release/hammer.* build ' >/dev/null 2>&1; then
60        echo "$(date -u +%FT%TZ) watchdog: disco ${use}% ≥ ${DISK_HIGH}% pero hay build en vuelo ⇒ difiero purga caches Go"
61      else
62        echo "$(date -u +%FT%TZ) watchdog: disco ${use}% ≥ ${DISK_HIGH}% ⇒ purgo caches Go"
63        go clean -modcache 2>/dev/null; go clean -cache 2>/dev/null
64      fi
65    fi
66  done
67) &
68
69# Colas a construir (sólo SELLA, PROMOTE=0; el hub promueve+firma). `recipes/incoming` es la cola
70# compartida (otro agente, stack gráfico tawasuyu); `recipes/incoming-go` es la cola AISLADA del
71# frente Go (pre-sembrada para que el worker muela 24/7 sin pisar al otro agente). build-farm hace
72# `rm -rf work/farm` al inicio ⇒ construirlas EN SERIE (una por vuelta) es seguro, sin colisión.
73# incoming-clib: libs C (toolkit/foundational) que el worker SELLA pero el cron de cosecha-go IGNORA
74# (son build-deps, se usan vía catálogo; no tienen binario que el gate Go pueda smoke-testear).
75QUEUES="${QUEUES:-recipes/incoming recipes/incoming-go recipes/incoming-clib recipes/incoming-kde}"
76echo "$(date -u +%FT%TZ) worker-loop arrancado: JOBS=$JOBS IDLE_SLEEP=$IDLE_SLEEP QUEUES='$QUEUES'"
77while :; do
78  total=0
79  for Q in $QUEUES; do
80    n=$(ls "$Q"/*.toml 2>/dev/null | wc -l)
81    [ "$n" -gt 0 ] || continue
82    total=$((total + n))
83    echo "$(date -u +%FT%TZ) ciclo: $n recetas en $Q"
84    JOBS="$JOBS" PROMOTE=0 QUEUE="$Q" scripts/build-farm.sh 2>&1 | tail -50
85  done
86  if [ "$total" -gt 0 ]; then
87    echo "$(date -u +%FT%TZ) ciclo terminado; store sellado disponible para el hub"
88  else
89    echo "$(date -u +%FT%TZ) colas vacías; durmiendo ${IDLE_SLEEP}s"
90  fi
91  sleep "$IDLE_SLEEP"
92done