Doku: Rollout llama.cpp v1.0.0 (b12359) auf Production verifiziert (GNAI-010 0.21, GNAI-008 0.24) #19

Open
vibe-agent wants to merge 1 commits from m6/llama-v100-rollout-doc into main
2 changed files with 2 additions and 0 deletions
@@ -44,6 +44,7 @@
| 2026-11-09 | 0.21 | Mistral Vibe | Befund aus 0.20 behoben: `ai_backup`-Service-Unit nutzt jetzt `RequiresMountsFor={{ ai_backup_nfs_mountpoint }}` (die bisherige `After=var-lib-ghostnet-pipeline.mount` passte nicht zur escapten Unit `var-lib-ghostnet\x2dpipeline.mount`). Deploy via `backup.yml` (production), verifiziert: systemd-Requires/After auf die Mount-Unit, manueller Lauf `Result=success` mit sha256-verifiziertem Archiv auf dem NFS-Share, Rollen-Zweitlauf `changed=0` (Abschnitt 14.6) |
| 2026-11-14 | 0.22 | spektr / Mistral Vibe | Backup-Lücke geschlossen (GNAI-021 follow-up): `ai_backup_paths` um `etc/gnmon` (Dashboard-OIDC-Secret) und `var/lib/ghostnet-ai/production/openwebui-data` (OpenWebUI-Userdaten) erweitert. Die Live-`webui.db` (+`-wal`/`-shm`) wird aus dem Tar ausgeschlossen und stattdessen per SQLite-Online-Backup-API (python3 stdlib) als konsistenter Snapshot an derselben Archiv-Pfad eingefügt. Verifiziert 14.11.2026: manueller Lauf `Result=success`, Archiv `ghostnet-ai-backup-20261114-0720.tar.gz` (844 MB) enthält `etc/gnmon/dashboard-secrets.env` + `openwebui-data/webui.db` (0 wal/shm-Einträge), extrahierte DB `PRAGMA integrity_check` = ok (3 User, 4 Chats), sha256-Sidecar; Rollen-Zweitlauf `changed=0`. Restore-SOP in der Rollen-README ergänzt |
| 2026-11-14 | 0.23 | spektr / Mistral Vibe | llama.cpp-Pin auf v1.0.0 gehoben (Release 13.11.2026): `inference_engine_image_ref` und `rocm_probe_image` auf `sha256:4bbbd2e3…` (Tag `server-rocm-v1.0.0-b12359-b1b770d`, Build `b12359`, Revision `b1b770d90…`, OCI-Label-Version `v1.0.0-b12359-b1b770d`); Flag-Abgleich gegen b12359 `llama-server --help` bestanden (nur `--defrag-thold` entfernt, ungenutzt). Details und verworfene neue Optionen (FP8-KV, MoE-Cache, api-key) in GNAI-010 0.20/3.1. Rollout auf 10.0.0.90 steht noch aus (Pull + expliziter Unit-Restart, da die Rolle aktive Units nicht neu startet) |
| 2026-11-14 | 0.24 | spektr / Mistral Vibe | Rollout des v1.0.0-Pins auf 10.0.0.90 durchgeführt und verifiziert: `ai.yml --tags service` (Check-Mode: nur `Image=`-Zeile, Real-Run `changed=2 failed=0` inkl. 23-GB-Pull), expliziter Unit-Restart, danach Health/`/props` (`b12359-b1b770d90`)/Alias/Chat+Usage/`/metrics` bestanden, Zweitlauf `changed=0`; Details in GNAI-010 0.21 |
---
@@ -38,6 +38,7 @@
| 2026-11-05 | 0.18 | spektr / Mistral Vibe | PWM-Durchgriffstest ergänzt (Abschnitt 10.10): manueller Lüfter-PWM 255 auf der Karte im Slot 03:00.0 ergibt 3.149 RPM und ein stabiles Junction-Plateau von 76 °C (Peaks 80 °C) bei unverändertem Durchsatz (18,04 t/s) – Vorläufe brachen bei 86–93 °C ab. Werkkurve als Engpass identifiziert; Benchmarks unter Override thermisch wieder zulässig, eigenes Lüfterkurven-Service als Dauerlösung festgelegt, M5-Monitoring als live verifiziert dokumentiert. Override nach Test auf Auto zurückgesetzt. |
| 2026-11-05 | 0.19 | spektr / Mistral Vibe | Dauerlösung deployt (Abschnitt 10.10): Rolle `gpu_fan_control` im Host-Projekt installiert den Systemdienst `gnai-gpu-fan-control` (PCI-stabile Adressierung beider Karten, Junction-Kurve 50/58/66/72/76 °C → 0/80/140/200/255 PWM, 5s-Zyklus, fallende Hysterese, EXIT-Failsafe auf Werksteuerung, Re-Assert des manuellen Modus je Zyklus). Preview/Deploy/Idempotenz bestanden, Kurzlasttest regelt 67–72 °C; BFCL-Restserie läuft wieder unter Lüfterschutz. |
| 2026-11-14 | 0.20 | spektr / Mistral Vibe | Image-Pin auf llama.cpp **v1.0.0** (Release 13.11.2026) gehoben: Tag `server-rocm-v1.0.0-b12359-b1b770d`, Index-Digest `sha256:4bbbd2e3…`, Build `b12359`, Revision `b1b770d90…` (Abschnitt 3.1). Upstream-Wechsel auf Semver: vX.Y.Z-Tags, aufgelöst über `nightly-tag.txt`; bewegliches `server-rocm` zeigt aktuell auf denselben Digest. Kompatibilitätsprüfung gegen `llama-server --help` von b12359 (Image lokal gepullt): alle 26 `Exec=`-Flags des Quadlets existieren; einzige entfernte Option `-dt/--defrag-thold` (#30565) wird nicht verwendet. Server-Härtung in 1.0 (#32113/#32115/#32098) betrifft uns nicht: kein server-seitiges `--tools`/MCP (Non-Loopback-Refusal greift nicht), keine privaten Media-URLs (keine Vision), OpenWebUI ist Non-Browser-Client. Neu verfügbare Optionen bewertet: `-ctk/-ctv f8_e4m3` (FP8-KV, auf gfx1030 emuliert — Benchmark vor Adoption, Default bleibt q8_0), `--moe-cache-cpu-share` (nur MoE, Profil ist dense), `--sleep-idle-seconds` (kontraproduktiv bei 128k), `--api-key` (optional, Port ohnehin netz-isoliert), `--allow-unauthenticated-tools`/`--media-allow-private-urls` (bleiben aus). libllama-soname .so.1/36 entfernte C-Symbole betreffen nur native Bindings — wir sind HTTP-only. Nach dem Rollout nennt die API `system_fingerprint: b12359-b1b770d90`. |
| 2026-11-14 | 0.21 | spektr / Mistral Vibe | Rollout v1.0.0 auf Production (10.0.0.90) bestanden: PR #18 gemerged (e2f38bf); `ai.yml --tags service` gegen Production — Check-Mode zeigte nur die geänderte `Image=`-Zeile beider Quadlets, Real-Run `ok=37 changed=2 failed=0` (23-GB-Pull in den gnai-production-Store, Quadlet-Render, daemon-reload); danach expliziter `systemctl --user restart gnai-production-llama-swift15` (Rolle startet aktive Units nicht selbst) — Container auf Image-ID `618fc635c28e`. Verifikation 14.11. ~15:20 Uhr: `/health` 200, `/props` `build_info: b12359-b1b770d90`, `/v1/models` mit Alias `swift-1.5-qwen3.8-27b-q6k`, `/metrics` 200, Chat-Completion 200 in 2,4 s mit `system_fingerprint: b12359-b1b770d90`, Usage und reasoning_content, Zweitlauf `ai.yml` konvergent `changed=0 failed=0` (Health+Alias-Checks der Rolle liefen gegen den neuen Container), WebUI `/health` 200, Negativtest: `10.0.0.90:8080` und `:8081` von außen geblockt. Startlog: `n_ctx_slot = 131072`, `listening on http://0.0.0.0:8080`; neuer informativer Warnhinweis „no API key is set and CORS allows all origins“ (Port ist netz-isoliert, `--api-key` bleibt optionale Härtung). Der Non-Loopback-Refusal #32113 trat wie erwartet NICHT auf (kein server-seitiges `--tools`/MCP). |
---