sergio/takana

1#!/usr/bin/env python3
2# hydrate-profile.py — proyecta al FHS el cierre ENTERO de un perfil de `targets.toml`.
3#
4# ══ POR QUÉ EXISTE, SI YA HAY UN hydrate POR ESCRITORIO ════════════════════════════════════════
5# `scripts/{kde,gnome,cosmic}/hydrate-*.sh` traen la lista de raíces ESCRITA A MANO dentro del
6# propio script. Desde que `docs/state/targets.toml` es la declaración de qué lleva cada imagen,
7# eso son DOS fuentes de verdad para lo mismo, y divergen sin que nada lo diga: el 2026-09-04 se
8# añadió `adwaita-cursors` a las raíces de cosmic y sway, y los scripts de hidratación —que no la
9# conocen— habrían seguido armando un rootfs sin cursores mientras el perfil decía que los lleva.
10# La métrica y la imagen dirían cosas distintas, que es exactamente el modo de fallo que
11# `vigia-imagen.py` existe para cazar.
12#
13# Acá el cierre sale de donde tiene que salir: `yupana.membresia()` sobre `targets.toml`, la misma
14# función que usan `build-state.py` y `vigia-imagen.py`. Si el perfil cambia, esto cambia solo.
15#
16# ══ EL ARTEFACTO SE ELIGE POR HASH, NO POR FECHA ═══════════════════════════════════════════════
17# `takana hash <receta>` da el ArtifactHash de la receta de HOY sin construir. Con dos artefactos
18# del mismo paquete conviviendo en el store —lo normal tras cualquier re-hash— el más reciente
19# puede ser el viejo. La fecha miente; el hash no.
20#
21# ══ UN NODO SIN ARTEFACTO NO SE SALTEA EN SILENCIO ═════════════════════════════════════════════
22# Se listan todos y se sale con código ≠ 0 salvo `--allow-missing`. Un rootfs al que le faltan
23# tres paquetes arranca y falla tres capas más abajo (`CLAUDE.md` regla 3, y la cicatriz de sway
24# llegando a 121/121 sin emulador de terminal).
25#
26#   uso:  scripts/hydrate-profile.py <perfil> [--into DIR] [--store DIR]
27#                                    [--link static|dynamic] [--keep] [--allow-missing]
28#
29#   La superficie va en INGLÉS (`CLAUDE.md` regla 4); los mensajes, en castellano.
30import os, sys, glob, shutil, subprocess
31
32sys.path.insert(0, os.path.dirname(os.path.abspath(__file__)))
33import yupana
34import targets as targets_mod
35
36ROOT = yupana.ROOT
37HAMMER = str(ROOT / "target/release/takana")
38
39
40def opcion(nombre, defecto=None):
41    """`--flag valor`. Devuelve `defecto` si no está."""
42    if nombre in sys.argv:
43        i = sys.argv.index(nombre)
44        if i + 1 < len(sys.argv):
45            return sys.argv[i + 1]
46        sys.exit("falta el valor de %s" % nombre)
47    return defecto
48
49
50# Lo que SÍ puede aparecer en la raíz de ciertos artefactos, con el motivo al lado. Sin esta tabla
51# el barrido canta tres cosas cada vez y dos son correctas ⇒ se deja de leer, que es como se muere un
52# guardián. La clave es el nombre de receta y el valor `(motivo, patrón de lo permitido)`.
53RAIZ_POR_CONTRATO = {
54    "seed-zig":       ("el toolchain zig ES el artefacto: su directorio versionado va en la raíz",
55                       r"^zig-"),
56    "product-rootfs": ("es un ROOTFS, no un paquete: `store` y `ente` son suyos por diseño",
57                       r"^(store|ente)$"),
58    "stage1-rootfs":  ("es un ROOTFS, no un paquete: `ente` es suyo por diseño",
59                       r"^(store|ente)$"),
60}
61
62# Suciedad REAL, medida, y cuyo arreglo está DECIDIDO en contra por ahora. Se imprime como contexto y
63# NO hace fallar: si fallara siempre, un ofensor NUEVO se perdería entre el ruido de uno viejo.
64RAIZ_DEUDA_DECIDIDA = {
65    "perl": "945 páginas nroff en `/` porque su Configure eligió man1dir=' '. El arreglo es UNA "
66            "línea y cuesta 305 rebuilds ⇒ va con el próximo bump. Ver recipes/perl.toml.",
67}
68
69
70def auditar_raices(store):
71    """`--auditar-raices`: la misma pregunta que el bloque «quién ensucia la RAÍZ», pero sobre el
72    STORE ENTERO en vez de sobre el cierre de un perfil, y sin hidratar nada.
73
74    ⚠ **POR QUÉ HACÍA FALTA**: la comprobación de abajo sólo ve los artefactos que un perfil
75    proyecta, y hoy hay **649 recetas que no alcanza ninguna imagen** (catálogo, no distro). Una fase
76    `install` que se equivoca de destino en una de ésas es invisible hasta el día que alguien la
77    declare en un perfil — y entonces ensucia la raíz del rootfs sin que se sepa quién fue.
78
79    Lo destapó `qdrant` (2026-09-11): selló con **69 M** de cabeceras de protobuf bajo `/src`, porque
80    el sandbox exporta `DESTDIR=/out` GLOBAL y el `make install` ANIDADO de `protobuf-src` lo hereda.
81    No está en ningún perfil ⇒ ningún guardián lo habría visto. Barrido el store entero tras
82    arreglarlo: los únicos que quedan son `perl` (deuda medida y decidida, ver `recipes/perl.toml`) y
83    los tres rootfs/seed, que ponen ahí lo suyo por contrato."""
84    import re as _re
85    import json as _json
86
87    # ⚠ **SÓLO EL ARTEFACTO VIGENTE DE CADA RECETA.** El store guarda TODOS los sellados históricos
88    # (bzip2 tenía dos al arreglarlo), así que auditarlos todos acusa a recetas YA SANAS por un
89    # sellado viejo — el mismo sobre-reporte que `static-audit.sh` tuvo que quitarse de encima
90    # («auditábamos el más reciente por mtime»). Un guardián que grita sobre lo ya arreglado se
91    # empieza a ignorar.
92    #   El hash vigente no se recalcula con `takana hash` receta a receta (1150 procesos): sale de
93    # los grafos de estado, que es donde el repo YA lo tiene escrito, y cubre a la vez el corpus y
94    # las cinco colas.
95    vigentes = set()
96    for g in glob.glob(str(ROOT / "docs/state/build-state*.json")):
97        try:
98            for nodo in _json.load(open(g)).get("nodes", {}).values():
99                h = nodo.get("hash")
100                if h:
101                    vigentes.add(h[3:] if h.startswith("b3:") else h)
102        except (OSError, ValueError):
103            continue
104
105    filas = []
106    mirados = 0
107    for d in sorted(glob.glob(os.path.join(store, "*"))):
108        m = _re.match(r"^([0-9a-f]{64})-(.+)$", os.path.basename(d))
109        if not m or not os.path.isdir(d) or (vigentes and m.group(1) not in vigentes):
110            continue
111        mirados += 1
112        try:
113            extra = sorted(e for e in os.listdir(d) if e not in FHS_RAIZ)
114        except OSError:
115            continue
116        if extra:
117            filas.append((len(extra), m.group(2), extra))
118    # ── SEGUNDA PREGUNTA, LA MISMA FAMILIA: symlinks que apuntan a una raíz que NO ES EL FHS ─────
119    # Un `install` se puede equivocar de destino de dos maneras. Una deja ficheros donde no van (lo
120    # de arriba). La otra deja **enlaces** con la ruta del SANDBOX horneada dentro:
121    #
122    #     usr/bin/bzcmp -> /out/usr/bin/bzdiff
123    #
124    # El Makefile de bzip2 crea sus symlinks con `ln -s $(PREFIX)/bin/bzdiff`, y como bzip2 no
125    # soporta `DESTDIR` la receta pasa `PREFIX=/out/usr` ⇒ el `/out` queda DENTRO del destino. Al
126    # hidratar, esos cuatro enlaces apuntan a un directorio que en el sistema real no existe.
127    #
128    # ⚠ Nada lo delata: el artefacto tiene contenido, los binarios de verdad corren, el audit de
129    # enlace estático pasa y la receta REPRODUCE. Cinco verdes sobre cuatro comandos rotos.
130    #
131    # **La regla es independiente del perfil, y por eso se puede aplicar al store entero**: un enlace
132    # a otro ARTEFACTO es normal y correcto (`kinfocenter -> /usr/bin/systemsettings`: los dos están
133    # en `escritorio-kde` y en el rootfs fundido resuelve). Lo que NUNCA puede estar bien es un
134    # destino absoluto cuya PRIMERA componente no sea del FHS — `/out`, `/src`, `/tmp`: ésas son
135    # rutas del lab, no del sistema que se instala.
136    malos_enlaces = []
137    for d in sorted(glob.glob(os.path.join(store, "*"))):
138        m = _re.match(r"^([0-9a-f]{64})-(.+)$", os.path.basename(d))
139        if not m or not os.path.isdir(d) or (vigentes and m.group(1) not in vigentes):
140            continue
141        for root, dirs, files in os.walk(d):
142            for e in files + dirs:
143                p_ = os.path.join(root, e)
144                if not os.path.islink(p_):
145                    continue
146                t = os.readlink(p_)
147                if not t.startswith("/"):
148                    continue                       # relativo: siempre correcto en un CAS
149                raiz = t.lstrip("/").split("/", 1)[0]
150                if raiz not in FHS_RAIZ:
151                    malos_enlaces.append((m.group(2), os.path.relpath(p_, d), t))
152
153    # ⚠ **UN BARRIDO QUE NO MIRÓ NADA TIENE QUE DECIRLO.** Filtrar por hash vigente significa que un
154    # `--store` que no case con los grafos (otra máquina, otro checkout, un store de prueba) deja
155    # CERO artefactos auditados — y sin esta guarda eso se imprimiría como «✓ 0 ofensores», que es
156    # una respuesta falsa con forma de respuesta. Es la regla de siempre: un ausente falla ruidoso.
157    if vigentes and mirados == 0:
158        print("!! 0 artefactos auditados: ninguno de los %d hashes vigentes está en `%s`.\n"
159              "   ¿`--store` apunta a otro sitio, o los grafos están sin regenerar?"
160              % (len(vigentes), store))
161        return 2
162
163    print("== raíces sucias en el STORE ENTERO ==")
164    nuevos = []
165    for n, nombre, extra in sorted(filas, reverse=True):
166        muestra = ", ".join(extra[:3]) + (", …" if n > 3 else "")
167        contrato = RAIZ_POR_CONTRATO.get(nombre)
168        if contrato and all(_re.match(contrato[1], e) for e in extra):
169            print("   ⊘ %-22s %4d  (%s) — %s" % (nombre, n, muestra, contrato[0]))
170            continue
171        if nombre in RAIZ_DEUDA_DECIDIDA:
172            print("   • %-22s %4d  (%s)" % (nombre, n, muestra))
173            print("     DEUDA DECIDIDA: %s" % RAIZ_DEUDA_DECIDIDA[nombre])
174            continue
175        print("   ✗ %-22s %4d  (%s)" % (nombre, n, muestra))
176        nuevos.append(nombre)
177    print("\n== symlinks con una raíz que NO es del FHS (ruta del lab horneada) ==")
178    if not malos_enlaces:
179        print("   ✓ ninguno")
180    else:
181        for nombre, origen, destino in malos_enlaces:
182            print("   ✗ %-18s %s -> %s" % (nombre, origen, destino))
183            if nombre not in nuevos:
184                nuevos.append(nombre)
185
186    if not nuevos:
187        print("\n   ✓ 0 ofensores NUEVOS sobre %d artefactos." % len(filas)
188              if filas else "\n   ✓ ningún artefacto pone nada fuera del FHS en su raíz")
189        return 0
190    print("\n   ✗ %d ofensor(es) NUEVO(s): %s\n"
191          "   Un `install` que se equivoca de destino se lee, en el rootfs fundido, como si fuera\n"
192          "   parte del sistema." % (len(nuevos), ", ".join(nuevos)))
193    return 1
194
195
196def main():
197    libres = [a for i, a in enumerate(sys.argv[1:], 1)
198              if not a.startswith("--") and not (sys.argv[i - 1].startswith("--")
199                                                 and sys.argv[i - 1] in FLAGS_CON_VALOR)]
200    if "--auditar-raices" in sys.argv:
201        sys.exit(auditar_raices(opcion("--store",
202                                       os.environ.get("HAMMER_STORE", str(ROOT / "store")))))
203    if not libres:
204        sys.exit(__doc__ or "uso: scripts/hydrate-profile.py <perfil> [--into DIR]")
205    perfil = libres[0]
206    store = opcion("--store", os.environ.get("HAMMER_STORE", str(ROOT / "store")))
207    # Dónde cae el rootfs por defecto. Se puede fijar por entorno porque el sitio CORRECTO depende
208    # de cómo esté montado el store en cada máquina, no del perfil (ver la sonda EXDEV de abajo).
209    base_into = os.environ.get("HAMMER_ROOTFS_DIR", str(ROOT / "work/out"))
210    into = opcion("--into", os.path.join(base_into, perfil.replace("escritorio-", "") + "-rootfs"))
211    link = opcion("--link", "static")
212    keep = "--keep" in sys.argv
213    permitir_faltantes = "--allow-missing" in sys.argv
214
215    perfiles = targets_mod.load()
216    if perfil not in perfiles:
217        sys.exit("perfil desconocido: %s (hay: %s)" % (perfil, ", ".join(sorted(perfiles))))
218    colas = yupana.cargar_colas()
219    memb = yupana.membresia(colas, perfiles)
220    nodos = sorted(n for n, ps in memb.items() if perfil in ps and n[0] != "wanted")
221    if not nodos:
222        sys.exit("el cierre de %s salió vacío — ¿el perfil declara raíces?" % perfil)
223
224    print("== %s: %d nodos en el cierre → %s" % (perfil, len(nodos), into))
225
226    # ── resolver ANTES de tocar el disco: si falta algo, que se sepa antes de borrar nada ──────
227    artefactos, faltan = [], []
228    for cola, nombre in nodos:
229        receta = ROOT / ("recipes/%s.toml" % nombre if cola == "corpus"
230                         else "recipes/%s/%s.toml" % (cola, nombre))
231        if not receta.exists():
232            faltan.append((nombre, "sin receta"))
233            continue
234        r = subprocess.run([HAMMER, "--store", store, "hash", str(receta)],
235                           capture_output=True, text=True)
236        h = r.stdout.strip().replace("b3:", "")
237        if len(h) != 64:
238            faltan.append((nombre, "hash no computable"))
239            continue
240        cand = glob.glob(os.path.join(store, h + "-*"))
241        if not cand:
242            faltan.append((nombre, "no sellado (%s)" % h[:12]))
243            continue
244        artefactos.append((nombre, h, cand[0]))
245
246    if faltan:
247        print("\n   ⚠ %d nodo(s) SIN artefacto en el store:" % len(faltan))
248        for nombre, motivo in faltan:
249            print("     %-28s %s" % (nombre, motivo))
250        if not permitir_faltantes:
251            sys.exit("\nabortado sin tocar %s — con `--allow-missing` se hidrata lo que hay" % into)
252        print("   → se continúa por `--allow-missing`: el rootfs sale INCOMPLETO\n")
253
254    if os.path.isdir(into) and not keep:
255        shutil.rmtree(into)
256    os.makedirs(into, exist_ok=True)
257
258    # ── EXDEV: `hydrate` proyecta por HARDLINK, y `linkat()` NO cruza un punto de MONTAJE ───────
259    # aunque los dos lados sean el mismo filesystem y el mismo disco. Acá el store y `work/out` son
260    # dos bind mounts del MISMO /dev/sdb: `st_dev` coincide y el hardlink falla igual — por eso la
261    # sonda es FUNCIONAL (se intenta un enlace de verdad) y no una comparación de `st_dev`, que fue
262    # el primer intento y no disparó. Sin esto salen 174 «artefactos que no proyectaron» y un rootfs
263    # de 272 ficheros que parece un problema de recetas.
264    sonda_src = os.path.join(store, ".hydrate-profile-probe")
265    sonda_dst = os.path.join(into, ".hydrate-profile-probe")
266    try:
267        with open(sonda_src, "w"):
268            pass
269        os.link(sonda_src, sonda_dst)
270        os.unlink(sonda_dst)
271    except OSError as e:
272        mp = subprocess.run(["findmnt", "-n", "-T", store, "-o", "TARGET"],
273                            capture_output=True, text=True).stdout.strip()
274        sys.exit("EXDEV: no se puede enlazar del store a `%s` (%s).\n"
275                 "       `hydrate` ENLAZA, no copia, y un hardlink no cruza un montaje.\n"
276                 "       el store está montado en: %s\n"
277                 "       elegí un `--into` bajo ESE montaje (o fijá HAMMER_ROOTFS_DIR)."
278                 % (into, e.strerror, mp or "?"))
279    finally:
280        if os.path.exists(sonda_src):
281            os.unlink(sonda_src)
282
283    fallidos = []
284    for i, (nombre, h, _d) in enumerate(artefactos, 1):
285        r = subprocess.run([HAMMER, "--store", store, "hydrate", h,
286                            "--into", into, "--link", link],
287                           capture_output=True, text=True)
288        if r.returncode != 0:
289            fallidos.append((nombre, (r.stderr or r.stdout).strip().splitlines()[-1:] or [""]))
290        if i % 25 == 0 or i == len(artefactos):
291            print("   %d/%d" % (i, len(artefactos)))
292
293    if fallidos:
294        print("\n   ✗ %d artefacto(s) no proyectaron:" % len(fallidos))
295        for nombre, msg in fallidos:
296            print("     %-28s %s" % (nombre, msg[0] if msg else ""))
297
298    # ── quién ensucia la RAÍZ del rootfs ────────────────────────────────────────────────────────
299    # Se mira por ARTEFACTO y no sobre el árbol fundido, porque en el árbol fundido el nombre del
300    # culpable ya se perdió: 945 ficheros sueltos en `/` no se parecen a «una fase install con el
301    # directorio de destino vacío», que es lo que son. Cazado el 2026-09-04 mirando un rootfs de
302    # verdad, no una métrica: `perl` instala sus 945 páginas nroff en `/` porque su Configure eligió
303    # `man1dir=' '`. Ver el comentario en `recipes/perl.toml`.
304    sucios = []
305    for nombre, _h, d in artefactos:
306        extra = sorted(e for e in os.listdir(d) if e not in FHS_RAIZ)
307        if extra:
308            sucios.append((nombre, extra))
309    if sucios:
310        print("\n   ⚠ entradas FUERA del FHS en la raíz del rootfs:")
311        for nombre, extra in sorted(sucios, key=lambda x: -len(x[1])):
312            muestra = ", ".join(extra[:3]) + (", …" if len(extra) > 3 else "")
313            print("     %-28s %4d  (%s)" % (nombre, len(extra), muestra))
314
315    n_fich = sum(len(f) for _, _, f in os.walk(into))
316    du = subprocess.run(["du", "-sh", into], capture_output=True, text=True).stdout.split()
317    print("\n== %s: %d ficheros, %s" % (into, n_fich, du[0] if du else "?"))
318    sys.exit(1 if (fallidos or (faltan and not permitir_faltantes)) else 0)
319
320
321FLAGS_CON_VALOR = {"--into", "--store", "--link"}
322
323# Lo que un artefacto PUEDE poner en la raíz. Todo lo demás es una fase `install` que se equivocó de
324# destino, y en un rootfs fundido eso se lee como si fuera parte del sistema.
325FHS_RAIZ = {"bin", "sbin", "lib", "lib64", "usr", "etc", "var", "run", "opt", "srv",
326            "home", "root", "boot", "dev", "proc", "sys", "tmp", "mnt", "media",
327            "ente",      # el manifiesto de atestación del producto (hammer bootstrap)
328            "linuxrc",   # el enlace de busybox, que va en la raíz por contrato del kernel
329            ".hammer"}   # metadatos del store: los pone hammer al sellar, no la receta
330
331if __name__ == "__main__":
332    main()