1# SDD 11 — Bootstrap from-scratch (track posterior)
2
3> **Estado:** diseño. Abre el *track posterior* del [SDD 10](10-roadmap.md): bajar de "hammer
4> sobre Alpine" a "hammer sobre sí mismo". No bloquea ninguna Fase 0–6 (ya cerradas); reusa
5> el laboratorio de build ([SDD 02](02-build-lab.md)) sin retrabajo.
6
7## 1. El problema: el cordón umbilical
8
9Hoy el userland que `hammer` muta es el de Alpine (musl + busybox ya cocidos). Eso fue
10deliberado ([ADR 0002](adr/0002-alpine-first.md)): validar la capa AI-nativa antes de gastar
11meses en un bootstrap. Validada esa capa, el track posterior responde una sola pregunta:
12
13> **¿Puede `hammer` compilar el sistema completo que ejecuta, sin pedirle nada al host más
14> que un toolchain semilla fijado por hash?**
15
16Si la respuesta es sí *y* el resultado es bit-reproducible, hammer deja de heredar la
17confianza de Alpine y la deriva de su propio [log de transparencia](09-trust-model.md).
18
19## 2. Principios (heredados, no nuevos)
20
21- **Todo es una receta sellada.** Cada pieza del bootstrap es un `Recipe` ([SDD 02 §1](02-build-lab.md))
22  cuyo artefacto se direcciona por hash en el `Store`. El bootstrap es un *subgrafo* del grafo
23  de dependencias que ya construye el lab, no un mecanismo aparte.
24- **Nada del host entra al hash.** El único insumo externo es el **toolchain semilla**, y entra
25  como un artefacto importado con su sha256 **fijado** ([ADR 0006](adr/0006-pinned-commits.md)),
26  igual que un tarball upstream. El host aporta un kernel para correr procesos y nada más.
27- **`zig cc` es la semilla primaria** ([ADR 0003](adr/0003-zig-cc-builder.md)): un binario
28  hermético = compilador C/C++ + musl + headers, cross al target. Escotilla `musl-cross-make`
29  (gcc+musl) detrás de la misma interfaz de receta (`compiler = "gcc"`) para los paquetes con
30  gcc-ismos.
31
32## 3. Las tres etapas
33
34```
35        host (sólo kernel + seed pinned)
36                 │
37   ┌─────────────▼─────────────┐
38   │ Stage 0 — toolchain semilla│  zig (o musl-cross-make) ingerido al store,
39   │   sellado por hash         │  fijado por sha256. Cross → x86_64-linux-musl.
40   └─────────────┬─────────────┘
41                 │ artifact_hash(seed)  ← dependencia de build de todo lo demás
42   ┌─────────────▼─────────────┐
43   │ Stage 1 — userland mínimo  │  musl, busybox/toybox, init arje, hammerd,
44   │   cross-compilado          │  cross-compilados CON Stage 0. Sale un rootfs sellado.
45   └─────────────┬─────────────┘
46                 │ rootfs_hash(stage1)
47   ┌─────────────▼─────────────┐
48   │ Stage 2 — rebuild nativo   │  DENTRO del rootfs Stage 1 (bwrap/chroot/VM),
49   │   y verificación           │  recompila toolchain+userland con las herramientas
50   └────────────────────────────┘  de Stage 1, NO las del host. Compara hashes.
51```
52
53### Stage 0 — Toolchain semilla
54
55Modelamos el toolchain semilla como una **fuente fijada**, no como un build: un `Source` de
56tipo tarball con `sha256` pinned (`zig-<ver>-linux-x86_64.tar.xz`, o el tarball de
57`musl-cross-make`). `hammer-bootstrap` lo descarga (fuera del sandbox, como `hammer_build::download`
58ya hace para `patch_url`/`content_url`), verifica el sha256 **antes** de sellarlo, y lo deposita
59en el store con un `artifact_hash` derivado de ese sha256. A partir de ahí el resto del
60bootstrap depende del *hash del store*, no de la ruta del host.
61
62Salida: `seed_hash` (artefacto del toolchain en el store).
63
64### Stage 1 — Userland mínimo
65
66Un conjunto de recetas cuyo `[deps].build` incluye `seed_hash`. El conjunto mínimo que arranca
67y se administra solo:
68
69| Pieza | Por qué | Compilador |
70|---|---|---|
71| `musl` | libc del target | zig cc (estático) |
72| `busybox` o `toybox` | coreutils + shell | zig cc (estático) |
73| `arje` | init: PID 1 + supervisión ([ADR 0007](adr/0007-arje-como-init-propio.md)) | toolchain Rust |
74| `hammerd` | diario + bus de agente + watcher, **servicio supervisado por arje** | toolchain Rust |
75
76Todo se enlaza estático o con rpath controlado (sin depender del loader del host). El resultado
77se ensambla en un **rootfs** (árbol FHS) que a su vez se sella como un artefacto del store
78(`stage1_hash`). El init **no se escribe de cero**: se adopta `arje`
79([ADR 0007](adr/0007-arje-como-init-propio.md)), cuyo PID 1 con supervisión real entrega el
80`CRASHED` real que la Fase 5 dejó diferido — `hammerd` corre como servicio bajo arje.
81
82> El **kernel** no es el foco de este hito: se importa pinned (como la semilla) para poder
83> correr el rootfs. Construirlo desde fuente es un sub-ítem posterior, ortogonal al
84> auto-alojamiento del userland.
85
86### Stage 2 — Rebuild nativo y verificación
87
88El corte del cordón. Dentro del rootfs Stage 1 (primero vía `bwrap`/`chroot`, luego en la VM
89destino), se reconstruyen Stage 0' y Stage 1' usando **sólo** las herramientas de Stage 1.
90Se compara:
91
92```
93hash(stage1)   vs   hash(stage1')
94```
95
96- **Iguales** ⇒ el sistema se compila a sí mismo bit a bit: reproducible y auto-alojado. Hito
97  cumplido.
98- **Distintos** ⇒ hay no-determinismo (timestamps, paths embebidos, orden de enlace). Se
99  caza y se elimina; es exactamente el trabajo que [SDD 09](09-trust-model.md) §2 exige.
100
101## 4. Manifiesto de bootstrap (embrión del log de transparencia) ✅
102
103Cada etapa anota una línea `(stage, recipe_hash, artifact_hash, seed_hash, ts)` en un
104`bootstrap.json` versionado (en la raíz del store). Ese manifiesto **es** la semilla del log de
105transparencia ([SDD 09 §4](09-trust-model.md)): un tercero reproduce el bootstrap y verifica que
106sus hashes coinciden con los publicados, sin confiar en el binario del autor.
107
108Implementado en `hammer-bootstrap::manifest` (`BootstrapManifest` / `StageEntry`): append-only e
109**idempotente** (de-dup por `(stage, artifact_hash)`), escritura atómica, y `ts` que **no** entra
110en ningún hash (dos reproducciones del mismo bootstrap difieren a lo sumo en ese campo). Stage 0
111ya anota su línea: `recipe_hash = None` (la semilla se ingiere, no se compila) y
112`artifact_hash == seed_hash` (la semilla es a la vez insumo y producto). **`hammer bootstrap
113manifest`** imprime el `bootstrap.json` actual: es la superficie de **publicación** del log: el autor
114lo comparte y un tercero reproduce el bootstrap y compara sus hashes contra estas líneas, sin confiar
115en el binario del autor ([SDD 09 §4](09-trust-model.md)).
116
117## 5. Interfaz
118
119Nuevo crate `hammer-bootstrap` (orquestador) sobre `hammer-build` + `hammer-core::Store`.
120No introduce mecanismo nuevo de build: encadena recetas y persiste el manifiesto.
121
122```rust
123// hammer-bootstrap
124pub fn stage0(seed: &SeedSpec, store: &Store) -> Result<ArtifactHash>;            // ✅ toolchain semilla
125pub fn stage1(spec: &Stage1Spec, cfg: &BuildConfig, store: &Store)
126    -> Result<RootfsHash>;                                                       // ◑ musl+busybox+hammerd; init arje ☐
127pub fn stage2(stage1: &RootfsHash, store: &Store) -> Result<VerifyReport>;        // ✅ ancla+verifica; rebuild in-rootfs en VM ✓ REPRODUCIBLE
128pub fn all(seed, recipes_dir, base_cfg, store) -> Result<AllReport>;              // ✅ encadena stage0→1→2 + manifiesto
129```
130
131`all` encadena las tres etapas del host en una corrida (stage0 ingiere la semilla, stage1 construye y
132sella el rootfs, stage2 ancla la referencia) y devuelve los tres hashes + el `BootstrapManifest`
133poblado. El veredicto `✓ REPRODUCIBLE` **no** sale de aquí: el rebuild nativo que lo decide corre
134dentro del rootfs (en la VM, `scripts/selfhost-verify.sh`); `all` deja la referencia anclada lista para
135que ese rebuild la compare con `stage2 --verify`. Idempotente (compone las idempotencias de cada etapa).
136
137`stage1` cross-compila `musl` + `busybox` + `hammerd` con la semilla (no el zig del host),
138ensambla un rootfs FHS por hardlink y lo sella; el `RootfsHash` se deriva del **contenido** (hashes
139de componentes + init), no del árbol en disco, así que es reproducible. El PID 1 provisional es el
140`init` de busybox vía `/etc/inittab`, que arranca `hammerd` como servicio respawn. `hammerd` es una
141receta Cargo (repo pinned + deps vendoreadas en el fetch para build `--offline`). `arje`
142([ADR 0007](adr/0007-arje-como-init-propio.md)) ya tiene su **receta puente** `recipes/arje-zero.toml`
143(Cargo, fuente = monorepo tawasuyu pinned al commit de la migración del CAS a BLAKE3, `-p arje-zero`):
144prueba que el lab construye el init, pero todavía **no** es PID 1. El paso "init real" —arje-zero
145como PID 1 del rootfs con su seed card, `arje-bus` y hammerd como Card de servicio supervisada, que
146entrega el `CRASHED` real— está diseñado en el [SDD 12](12-init-real.md) y **validado en QEMU**
147(ver [runbook](runbooks/stage1-vm-boot.md)).
148
149`stage2` ancla el **content-hash** del rootfs de Stage 1 (`ArtifactHash::of_tree` — los bytes
150reales, no el hash input-addressed del store) como la referencia a reproducir, y la anota en el
151manifiesto. `verify_against` la compara con un rebuild `stage1'` producido **dentro** del rootfs (en
152la VM, recompilando con sólo las herramientas de Stage 1): iguales ⇒ auto-alojado bit a bit. El
153determinismo necesario lo dan las rutas fijas (`/src`) + `SOURCE_DATE_EPOCH` del sandbox +
154`CARGO_PROFILE_RELEASE_CODEGEN_UNITS=1` (impuesto por el sandbox tras cazar el no-determinismo del
155codegen paralelo de rustc en `arje-zero`). **El rebuild in-rootfs ya se ejecutó end-to-end**: `KVM=1
156MEM=24576 ./scripts/selfhost-verify.sh` reconstruyó los 4/4 dentro del rootfs y su
157`of_tree(stage1') = b3:0039b2b9…` igualó la referencia ⇒ `✓ REPRODUCIBLE: stage1' == stage1`
158(ver [runbook](runbooks/stage1-vm-boot.md) §8).
159
160`SeedSpec { kind, version, url, sha256 }` es la identidad pinned de la semilla; `seed_hash()`
161deriva el `ArtifactHash` de `(kind, version, sha256)` — no del `url` ni del host, así que
162cualquier espejo del mismo tarball produce el mismo artefacto.
163
164CLI (implementado lo de Stage 0; el resto pendiente):
165
166```
167hammer bootstrap stage0 --url URL --sha256 HEX --version V [--seed zig|musl-cross-make]   # ✅
168hammer bootstrap stage1 --seed-hash HASH [--seed zig] [--recipes DIR]                      # ✅ booteado en QEMU
169hammer bootstrap stage2 --rootfs HASH [--verify CONTENT_HASH]                              # ✅ ancla+verifica; rebuild en VM ✓ REPRODUCIBLE
170hammer bootstrap all --url URL --sha256 HEX --version V [--seed zig] [--recipes DIR]       # ✅ las tres etapas + manifiesto
171hammer bootstrap manifest             # imprime el bootstrap.json (log de transparencia, §4)  # ✅
172```
173
174## 6. Decisiones (fijadas en [ADR 0008](adr/0008-bootstrap-stages.md))
175
176- **Semilla primaria:** `zig` por hermeticidad (ADR 0003), con `musl-cross-make` como escotilla
177  por receta. ✅
178- **coreutils+shell = `busybox`** (no toybox): el Stage 1 es una balsa desechable hacia el
179  userland nativo en Rust/Zig; se prioriza compatibilidad de flags y velocidad, y su GPLv2 no
180  contamina el sistema final. ✅
181- **init `arje` diferido:** Stage 1 con init mínimo provisional; `arje` (y el `CRASHED` real) entran
182  como receta git pinned en un lote posterior. ✅
183- **Layout de la semilla:** ingesta pura en Stage 0 + resolución del toolchain al usarlo
184  (`SeedSpec::toolchain_dir`, localiza `zig` en raíz o hijo versionado). ✅
185- **Particionado/montaje** de `/store` y `/var/lib/hammer` en la imagen destino: ✅ (Etapa B3).
186  `scripts/disk-image.sh` arma una imagen GPT con 3 particiones ext4 dedicadas —
187  `/dev/vda1`→`/`, `/dev/vda2`→`/store` (CAS inmutable), `/dev/vda3`→`/var/lib/hammer` (estado
188  mutable). El kernel monta vda1; un wrapper `/sbin/init` monta vda2/vda3 y hace `exec` del init
189  real (arje-zero). Consecuencia que hubo que resolver: con `/store` en su propia partición, el
190  sellado del store cruza filesystems y `rename(2)` da EXDEV ⇒ `Store::seal` cae a copia-a-staging
191  dentro del store + rename store-interno (atómico). Verificado in-VM: rebuild ✓ REPRODUCIBLE.
192- **Kernel:** importado pinned ahora; from-source después. ☐
193
194## 7. Auto-alojamiento: el builder rootfs (camino a Stage 2 pleno)
195
196La verificación de reproducibilidad de Stage 2 está operativa, probada y **ejecutada end-to-end**:
197`of_tree` (content-hash de bytes) + `verify_against`, los 4 componentes reconstruyen
198**bit-idéntico**, y el **rebuild *dentro* del rootfs** ya corrió en la VM dando `✓ REPRODUCIBLE`
199(variante (a) abajo; ver [runbook §8](runbooks/stage1-vm-boot.md)). El obstáculo que hubo que
200resolver para llegar ahí:
201
202> El Stage 1 que booteamos es un **runtime** (musl+busybox+hammerd+arje-zero): **no trae compilador**
203> (ni `zig`, ni `make`/autotools, ni `cargo`/rust, ni `linux-headers`, ni `bwrap`). No puede
204> reconstruir nada. El rebuild in-rootfs exige un **builder rootfs**: Stage 1 + el toolchain adentro.
205
206### 7.1 Qué necesita el builder rootfs
207
208Para correr `hammer bootstrap stage1` **dentro** de sí mismo: el binario `hammer` (estático), las
209recetas, la **semilla** (`zig`, ya un artefacto sellado), `make`+autotools, `cargo`+rust,
210`linux-headers`, y `bwrap` (el lab anida un sandbox ⇒ userns sin privilegios dentro del chroot/VM).
211
212### 7.2 Dos niveles de pureza (fasable)
213
214- **(a) Builder pragmático** — el toolchain entra al rootfs **desde Alpine** (apk), no construido por
215  hammer. Demuestra el **mecanismo** (rebuild in-rootfs + `of_tree(stage1)==of_tree(stage1')`) y
216  cierra la reproducibilidad *end-to-end*, sin ser aún auto-alojamiento puro.
217- **(b) Auto-alojamiento puro** — el toolchain lo **construye hammer desde fuente** (recetas para
218  make/autotools, y el gran tramo: rust/llvm o un rustc bootstrappeado). Es el end-state; el más
219  caro (construir rust desde cero). Se llega **incrementalmente**, reemplazando una a una las piezas
220  Alpine por componentes hammer, con Stage 2 verificando cada paso.
221  - **Pieza 1 — GNU make `4.4.1`** (`recipes/make.toml`): arranque de (b). Build estático musl con
222    `zig cc` (mismo camino que `grep`: tarball release con `configure` → AutoconfReady), sellado en
223    `b3:fbad44ac…` y **reproducible bit-a-bit** (dos builds en stores distintos ⇒ árbol idéntico).
224    Es la herramienta base de toda receta autotools. **Swap implementado:** `BuilderSpec.swaps`
225    (`ToolchainSwap { name, artifact, rel_path }`) monta el binario sellado sobre el path Alpine en
226    `/toolchain` (estático musl ⇒ sin shim del loader) y lo ancla en el **hash lógico** del builder
227    (`swaps_digest`, ordenado por nombre): la procedencia deja de ser "todo Alpine" y se vuelve
228    auditable para el log de transparencia. CLI: `hammer bootstrap builder --swap make=<hash>[:rel]`
229    (repetible; `rel_path` por defecto `usr/bin/<name>`). En el host: pura `b3:8a370f5d…` vs swapped
230    `b3:e7e2282c…`, y `/toolchain/usr/bin/make` queda hardlinkeado al artefacto `fbad44ac…`. El
231    `selfhost-verify.sh` lo expone opt-in con `SWAP_MAKE=1` (construye make y lo swapea). **Validado en
232    host:** con make de hammer los 4/4 reproducen `of_tree=9adefb82…` (idéntico al baseline determinista).
233  - **Pieza 2 — busybox `1.36.1`** (ya es componente de Stage 1, `recipes/busybox.toml`): provee el
234    `sh`+coreutils que el build usa del `/toolchain`. El `/toolchain` de Alpine es **mixto** — busybox
235    para `sh/sed/grep/awk/tar/find` (symlinks → `/bin/busybox`) y GNU coreutils para `cp/mkdir/install`.
236    El swap monta el busybox estático de hammer sobre `/toolchain/bin/busybox` (`--swap
237    busybox=<hash>:bin/busybox`; sin código nuevo — el mecanismo `--swap` ya soporta `rel_path`): los
238    applets busybox-backed pasan a usar hammer-busybox, coreutils GNU intacto. `SWAP_BUSYBOX=1` en el
239    verify. **Validado en host:** con make+busybox de hammer los 4/4 (incl. busybox compilándose a sí
240    mismo con hammer-busybox de shell) reproducen `of_tree=9adefb82…`.
241  - **Determinismo (transversal):** `codegen-units=1` NO bastaba — el backend paralelo de rustc/LLVM
242    (ThinLTO) divergía ~62 KB en `arje-zero` a >1 CPU. Fix: `CARGO_BUILD_JOBS=1` en el sandbox
243    serializa el jobserver ⇒ reproducible e independiente del nº de CPUs (SDD 09 §2). El baseline
244    reproducible verdadero es `of_tree=9adefb82…` (el viejo `0039b2b9…` era un build paralelo no-fiable).
245  - **✅ VARIANTE (b) CERRADA** (ver [runbook self-hosting-toolchain.md](runbooks/self-hosting-toolchain.md)):
246    se completaron todas las piezas en-camino — make, busybox, **coreutils, bwrap, linux-headers** y
247    el gran tramo **rust/cargo 1.91.1** (cadena purista mrustc→1.90→1.91.0→1.91.1, LLVM 20.1.8 externo
248    reusado; ver [`scripts/rust-frontier/`](../scripts/rust-frontier/README.md)). El **capstone** corrió
249    los 6 swaps juntos in-VM (`SWAP_{MAKE,BUSYBOX,COREUTILS,BWRAP,LINUX_HEADERS,RUST}=1`) dando
250    `✓ REPRODUCIBLE` con `of_tree(stage1')=7fa6cb4e…` bit a bit. Dos anclajes de `of_tree`: `9adefb82…`
251    (rustc Alpine, los 5 tools lo mantienen) y `7fa6cb4e…` (hammer-rust, auto-consistente — el
252    compilador emite los bytes). binutils desde fuente (`recipes/binutils.toml`, 2.45.1) cierra la
253    provenance pero es **inerte** al `of_tree` (zig provee as/ld; verificado por bisección). No quedan
254    piezas del toolchain por de-Alpinizar.
255
256### 7.3 Enganche con lo ya hecho
257
258`stage2` ya ancla `of_tree(stage1)`; el builder produce `stage1'` y `verify_against` emite el
259veredicto. El determinismo necesario está cubierto (paths fijos `/src`, `SOURCE_DATE_EPOCH`, locks
260deterministas). El sub-ítem era: **ensamblar el builder** (variante de `assemble_rootfs` que hidrata
261el toolchain) y **correr el rebuild anidado** en la VM.
262
263### 7.4 Estado: builder ensamblado + rebuild in-VM ejecutado ✅ ✓ REPRODUCIBLE
264
265El **ensamblado** del builder está implementado (`hammer_bootstrap::builder_rootfs`, variante a):
266
267```
268hammer bootstrap builder --stage1 <H> --seed-hash <H> \
269    [--toolchain .dev-fs/alpine] [--toolchain-tag alpine-3.23.4] \
270    [--hammer-bin <static-musl-hammer>] [--ref-content of_tree(stage1)] \
271    [--work-cache work/] [--out work/builder-rootfs]
272```
273
274Sobre el rootfs de Stage 1 (hidratado como base) monta: `/toolchain` (el rootfs Alpine, el sandbox
275de build), `/store` con la **semilla replicada** (el `hammer` de adentro resuelve zig por hash),
276`/usr/bin/hammer` + `/etc/hammer/recipes`, y el driver **`/usr/bin/rebuild-stage1`** que lee
277`/etc/hammer/rebuild.env` (`SEED_HASH`/`SEED_KIND`/`REF_CONTENT`), apunta `HAMMER_ROOTFS=/toolchain`,
278corre `hammer bootstrap stage1` y compara `stage1'` contra la referencia con `stage2 --verify`.
279
280El builder **no se sella** (su `/toolchain` Alpine no es content-addressed); se ensambla en un
281`out_dir` para empaquetar como initramfs. Su identidad sí es reproducible: un `ArtifactHash` *lógico*
282de sus insumos (stage1 + semilla + recetas + binario + tag del toolchain + el driver), anotado en el
283manifiesto (línea stage 2). Validado contra el store real (Stage 1 `73d7a9be…` + semilla
284`3ce721ec…` ⇒ builder `81dad3d9…`, 1.2 GB con el toolchain). **El paso operacional ya se ejecutó:**
285`scripts/selfhost-verify.sh` empaqueta el builder, lo bootea con KVM y corre `rebuild-stage1`
286no-interactivo; in-VM reconstruyó los 4/4 (arje-zero cu=1 en ~27 min) y `of_tree(stage1') =
287b3:0039b2b9…` igualó la referencia ⇒ `✓ REPRODUCIBLE: stage1' == stage1`. Lo que queda es la
288variante (b), el auto-alojamiento *puro* (toolchain construido por hammer desde fuente, §7.2).
289**Arrancada:** la pieza 1, GNU make `4.4.1` (`recipes/make.toml`), ya se construye desde fuente
290con el lab — estática, reproducible bit-a-bit (§7.2b). Ver [runbook §8](runbooks/stage1-vm-boot.md).
291
292## 8. Hecho cuando
293
294`hammer bootstrap --all` produce un rootfs que, ejecutado en la VM destino, **reconstruye su
295propio toolchain y userland con hashes idénticos a los publicados**, sin que ninguna
296herramienta del host entre al resultado. Ese día Alpine deja de ser una dependencia y pasa a
297ser, a lo sumo, una conveniencia de desarrollo.
298
299**Estado (2026-06-12):** el **mecanismo** está demostrado end-to-end con la variante (a) — el
300rootfs reconstruye su userland in-VM con `of_tree` idéntico (`✓ REPRODUCIBLE`, §7.4). Falta sólo
301la variante (b): que el **toolchain** dentro del builder lo construya hammer desde fuente (no
302provenga de Alpine), reemplazando una a una las piezas con Stage 2 verificando cada paso. Ese es
303el corte pleno del cordón.