diff --git a/docs/GNAI-000-DOC_Index.md b/docs/GNAI-000-DOC_Index.md index f925ff1..538fd4d 100644 --- a/docs/GNAI-000-DOC_Index.md +++ b/docs/GNAI-000-DOC_Index.md @@ -1,8 +1,8 @@ # Ghostnet.AI – Dokumentationsindex und Projektstand -**Stand:** 2026-11-12 +**Stand:** 2026-11-14 -**Status:** Plattformgrundlage vorhanden; KI-Stack intern bis M4 abgenommen (Testing und Production live auf `10.0.0.90`, Monitoring produktiv); Sicherheitsabschluss: Fail2Ban-Abnahme und hostunabhängige Backups/Restore am 10.11.2026 geschlossen, WAN/IPv6-Fremdnetz-Rescan, NPM-Rückfalltest CT 104 und FRITZ!Box-Rollback noch offen; externe KI-Freigabe (M6) offen +**Status:** Plattformgrundlage vorhanden; KI-Stack bis M6 produktiv (Testing/Production live auf `10.0.0.90`, Monitoring M1–M6 produktiv, öffentlicher Nutzerpfad `https://chat.ghostnet.selfhost.eu` live seit 11.11.2026 inklusive Websuche 12.11. und Theme 14.11.); Sicherheitsabschluss: Fail2Ban-Abnahme, hostunabhängige Backups/Restore, Keycloak-Stabilisierung, praktischer NPM-Rückfalltest und CT-104-Entfernung am 10.11.2026 geschlossen — WAN/IPv6-Fremdnetz-Rescan vom Hotspot, FRITZ!Box-Abgleich und FRITZ!Box-DNS-Rollback noch offen; M5-Delivery-Kette: statische CI, Runner (CT 116) und Branch-Protection seit 10.11.2026 umgesetzt, privilegierter Deployment-Runner noch offen; Encoding (M7) in Planung, Implementierung noch nicht begonnen Dieses Dokument ist der zentrale Einstieg, nicht das technische Nachweisprotokoll. Details, historische Laufdaten und Bedienverfahren stehen ausschließlich in den @@ -52,6 +52,7 @@ jeweiligen Fachdokumenten. Die priorisierte weitere Umsetzung beschreibt der | [GNAI-009](platform/llm-server/ai/GNAI-009-PLAN_Llama-Model-Evaluation.md) | reproduzierbarer Modellvergleich | | [GNAI-010](platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md) | technische Sollkonfiguration des Testing-Servings | | [GNAI-020](platform/llm-server/ai/GNAI-020-TECH_OpenWebUI-WebSearch.md) | Websuche in OpenWebUI (SearXNG kuratiert + Native/Agentic Mode, UI- und API-Pfade) | +| [GNAI-021](platform/llm-server/ai/GNAI-021-TECH_OpenWebUI-Theme.md) | OpenWebUI-Theme „gnai-catppuccin-mocha" (GNMON-Farbschema) als Default, update-persistent via read-only custom.css-Mount | | [LLM-Server-Host-Ansible](../llm-server/host/ansible/README.md) | ausführbare Host-/ROCm-Playbooks und Rollen für `10.0.0.90` | | [LLM-Stack-Ansible](../llm-server/llm/ansible/README.md) | ausführbares Ansible-Projekt für den LLM-Stack auf `10.0.0.90` (Production/Testing, Umschaltung, Backup) | | [Encoding-Ansible](../llm-server/encoding/ansible/README.md) | ausführbares Ansible-Projekt für den CPU-Encoding-Workload auf `10.0.0.90` | @@ -89,14 +90,14 @@ Hauptverzeichnisse `llm-server/host/` (Grundkonfiguration des Servers), | --- | --- | --- | | KI-Host | Debian 13.6, Deployment-Zugang, Podman 5.4.2, getrennte rootless Konten, Gerätezugriff für beide KI-Konten; IPv4-only (31.10., GNAI-002 6); Lüftersteuerungs-Dienst `gnai-gpu-fan-control` als Dauerlösung (05.11., GNAI-010 10.10); Backup/Restore praktisch belegt (06.11., GNAI-008 14.6) und Backup-Unit per `RequiresMountsFor` boot-sicher (Fix 09.11., GNAI-008 14.6/0.21); Host-Neustart mit automatischem Production-Recovery (06.11. und erneut 09.11.2026, GNAI-008 14.6) | Host-/Treiber-Upgradepfad | | GPU/ROCm | beide RX 6900 XT als `gfx1030`, `ROCm0` und `ROCm1` im gepinnten Testing-Image erkannt; Modellladen, Layer-Verteilung und reale Inferenz auf beiden GPUs; 64k- und 128k-Stabilität in Testing (GNAI-010 10.5–10.9); GPU-Sensoren im Monitoring mit Alarmgrenzen (GNMON-000 M4/M5, verifiziert 09.11.2026) | Hardware-Ursache des thermischen Defekts an Slot `03:00.0` (GNAI-010 10.10) — Lüfterkurven-Service überbrückt als Dauerlösung | -| LLM-Serving | drei gepinnte Profile (Swift 1.0, Swift 1.5, Unsloth); Testing-Abnahme 64k/128k je Profil (GNAI-010 10.5–10.9); Production-Umgebung live mit Swift 1.5 Q6_K seit 06.11.2026 (Betreiberbeschluss 05.11., GNAI-009 10.4) inklusive Health, Alias und Inferenztest; exklusive Umschaltmechanik mit Recovery (GNAI-008 14.6, T1–T7; nach Neustart 09.11.2026 `gn_ai_active_env{env="production"}=1` verifiziert); **OpenWebUI v0.13.3 (digest-gepinnt) intern produktiv seit 10.11.2026** — Health 200, Model-Liste, reale Chat-Completion via OpenWebUI → llama.cpp (Rolle `open_webui`, Playbook `webui.yml`, Ingress `10.0.0.90:8081` nur von NPM, Split-DNS `chat.ghostnet.selfhost.eu` live) | LLM-Metriken jenseits `gn_ai_active_env`, Nutzerakzeptanzprüfung (GNAI-009 5.3). **Öffentlicher Nutzerpfad M6 live seit 11.11.2026:** `https://chat.ghostnet.selfhost.eu` (OpenWebUI v0.13.3, NPM → 10.0.0.90:8081, Keycloak-OIDC Client `gnai-openwebui` public+PKCE; Negativtests: 8081/Engine-Ports von außen geblockt, `/admin/` 403, keine AAAA; OIDC-Redirect-Kette verifiziert). **Websuche produktiv seit 12.11.2026 (GNAI-020):** SearXNG mit 43 kuratierten Engines (168 Ergebnisse/1,4 s), OpenWebUI Native/Agentic Mode (`search_web`/`fetch_url`, `ENABLE_WEB_SEARCH=True` + DB-Config-Sync), E2E-Tool-Loop via API mit Quellen verifiziert, NPM-Proxy-Timeouts chat.* 600 s gesetzt (12.11., GNAI-020 Abschnitt 6) | -| Deployment | lokales Ansible-Control-Projekt und idempotente Hostrollen; Production-Inventar mit Referenz- und Rollback-Profil, `ai_environment_switch` und Backup-Timer deployt und abgenommen (GNAI-008 14.6) | statische CI, Runner, geschützte Freigaben und automatisierter Rollback über die Delivery-Kette | +| LLM-Serving | drei gepinnte Profile (Swift 1.0, Swift 1.5, Unsloth); Testing-Abnahme 64k/128k je Profil (GNAI-010 10.5–10.9); Production-Umgebung live mit Swift 1.5 Q6_K seit 06.11.2026 (Betreiberbeschluss 05.11., GNAI-009 10.4) inklusive Health, Alias und Inferenztest; exklusive Umschaltmechanik mit Recovery (GNAI-008 14.6, T1–T7; nach Neustart 09.11.2026 `gn_ai_active_env{env="production"}=1` verifiziert); **OpenWebUI v0.13.3 (digest-gepinnt) intern produktiv seit 10.11.2026** — Health 200, Model-Liste, reale Chat-Completion via OpenWebUI → llama.cpp (Rolle `open_webui`, Playbook `webui.yml`, Ingress `10.0.0.90:8081` nur von NPM, Split-DNS `chat.ghostnet.selfhost.eu` live). **Öffentlicher Nutzerpfad M6 live seit 11.11.2026:** `https://chat.ghostnet.selfhost.eu` (OpenWebUI v0.13.3, NPM → 10.0.0.90:8081, Keycloak-OIDC Client `gnai-openwebui` public+PKCE; Negativtests: 8081/Engine-Ports von außen geblockt, `/admin/` 403, keine AAAA; OIDC-Redirect-Kette verifiziert). **Websuche produktiv seit 12.11.2026 (GNAI-020):** SearXNG mit 43 kuratierten Engines (168 Ergebnisse/1,4 s), OpenWebUI Native/Agentic Mode (`search_web`/`fetch_url`, `ENABLE_WEB_SEARCH=True` + DB-Config-Sync), E2E-Tool-Loop via API mit Quellen verifiziert, NPM-Proxy-Timeouts chat.* 600 s gesetzt (12.11., GNAI-020 Abschnitt 6). **Theme „gnai-catppuccin-mocha" live seit 14.11.2026 (GNAI-021)**, update-persistent via read-only custom.css-Mount | LLM-Metriken jenseits `gn_ai_active_env`, Nutzerakzeptanzprüfung (GNAI-009 5.3), Lizenz-/Nutzungsrahmen-Nachweis vor externer Freigabe (GNAI-009 10.4), Rate-Limit-Doku, Betriebs-SOP, API-Key-Freigabe für Agenten (GNAI-001 M6) | +| Deployment | lokales Ansible-Control-Projekt und idempotente Hostrollen; Production-Inventar mit Referenz- und Rollback-Profil, `ai_environment_switch` und Backup-Timer deployt und abgenommen (GNAI-008 14.6); **M5-Fortschritt 10.11.2026:** statische CI (Gitea Actions, 4 Jobs) + repo-scoped Runner `ci-static-01` auf CT 116 + Branch-Protection `main` (required checks, 1 Approval) eingerichtet und per PR-Durchlauf bewiesen (GNAI-008 Abschnitt 12) | privilegierter Deployment-Runner mit Promotion-Tag-Freigabe, Secret-Store/-Rotation, getrennte Testing-/Production-Rechte, Secret-Scan über die Git-Historie (GNAI-008 Abschnitt 12, Fragen 3–5) | | VPN | wg-easy v15.4.0; einziger Peer `ghost-laptop` als Server Admin; native nftables-Zielpolicy und NAT, Legacy-Bereinigung, Fremdnetz-, Positiv-/Negativ-, Dienst- und LXC-Wiederanlauftests bestanden; CT 104 am 07.10.2026 als zwölftes Ziel praktisch abgenommen; WAN-Exposure-Erfassung 10.11.2026: nur TCP 80/443 offen, keine AAAA (GNAI-007 7); frischer Stop-Mode-vzdump + hostunabhängige Kopie auf `ghostnet-ki` am 10.11.2026 | Fremdnetz-WAN-Rescan vom Hotspot (UDP 51820, TCP-Portmatrix), FRITZ!Box-Forward-/IPv6-Abgleich, wg-easy-GUI-HTTPS und KI-Server-Test bei eingeschaltetem Host | | DNS / Pi-hole | CT 100 unter `10.0.0.14` mit digest-gepinntem Pi-hole 2026.09.0 als Podman-Quadlet; SSH/nftables, UDP/TCP-DNS, Split-DNS, Blocking/Allowlist, FRITZ!Box-Cutover, LXC-Reboot und Stop-Mode-Backup am 01.10.2026 abgenommen; Ansible-Projekt am 09.11.2026 adoptiert (ansible-deploy via pct; `site.yml`/`verify-production` `changed=0`) und Split-DNS-Record `mon.ghostnet.selfhost.eu → 10.0.0.10` live (verifiziert per `dig @10.0.0.14`); frischer Stop-Mode-vzdump + hostunabhängige Kopie auf `ghostnet-ki` + praktischer Restore-Test (CT 150) am 10.11.2026 (GNAI-012 10.2) | vollständige App-/OIDC-Regression, praktischer FRITZ!Box-Rollback, mobile DuckDuckGo-/IPv6-Strategie, WireGuard-Profile | -| Reverse Proxy | CT-103-Zugänge, SSH-/Firewall-Baseline, Reboot und lokales Backup abgenommen; NPM 2.15.1 routet öffentlichen OIDC- und internen Admin-vHost getrennt; öffentliche Keycloak-Administration liefert 403; vollständiger Ansible-Sollzustand importiert und adoptiert (07.11.2026; preflight/verify-production/`site.yml --check` am 09.11.2026 ohne Befund, `changed=0`); Fail2Ban-Funktionsabnahme (Jails, kontrollierter Ban/Unban, nftables-Nachweis, Dienstneustart, LXC-Reboot) am 10.11.2026 bestanden, frischer Rollback-vzdump + hostunabhängige Kopie auf `ghostnet-ki` (GNAI-006 10/12); **12.11.2026: NPM-Proxyhost `chat.ghostnet.selfhost.eu` mit `proxy_read_timeout`/`proxy_send_timeout` 600 s für LLM-Research-Loops** (Betreiber-Schritt, GNAI-020 Abschnitt 6) | Fremdnetz-WAN-Rescan (Hotspot) und FRITZ!Box-Abgleich; NPM-Proxyhost `mon.ghostnet.selfhost.eu` für das Monitoring-Dashboard (M6) | +| Reverse Proxy | CT-103-Zugänge, SSH-/Firewall-Baseline, Reboot und lokales Backup abgenommen; NPM 2.15.1 routet öffentlichen OIDC- und internen Admin-vHost getrennt; öffentliche Keycloak-Administration liefert 403; vollständiger Ansible-Sollzustand importiert und adoptiert (07.11.2026; preflight/verify-production/`site.yml --check` am 09.11.2026 ohne Befund, `changed=0`); Fail2Ban-Funktionsabnahme (Jails, kontrollierter Ban/Unban, nftables-Nachweis, Dienstneustart, LXC-Reboot) am 10.11.2026 bestanden, frischer Rollback-vzdump + hostunabhängige Kopie auf `ghostnet-ki` (GNAI-006 10/12); NPM-Proxyhost `mon.ghostnet.selfhost.eu` → `10.0.0.90:8080` seit 09.11.2026 eingerichtet (ID 14, GNMON-000 M6); **12.11.2026: NPM-Proxyhost `chat.ghostnet.selfhost.eu` mit `proxy_read_timeout`/`proxy_send_timeout` 600 s für LLM-Research-Loops** (Betreiber-Schritt, GNAI-020 Abschnitt 6) | Fremdnetz-WAN-Rescan (Hotspot) und FRITZ!Box-Forward-/IPv6-Abgleich | | Keycloak | CT 102 unter `10.0.0.4` reproduzierbar per Ansible aufgebaut; gepinntes Keycloak 26.2.4 und PostgreSQL 16.15, Restore von CT 104, Container-/DB-Härtung, NPM-Cutover, interner Adminzugang, öffentliche Admin-Sperre, realer Vaultwarden-OIDC-Login und LXC-Neustart abgenommen; Stabilisierungsphase + praktischer NPM-Rückfalltest auf CT 104 am 10.11.2026 bestanden, CT 104 danach nach Betreiberfreigabe entfernt (GNAI-016 Phase F); Ansible-Drift CT 102 `changed=0`; frischer Stop-Mode-vzdump + hostunabhängige Kopie auf `ghostnet-ki` am 10.11.2026 | Betriebs-/Backup-/Restore-SOP | | Encoding | Konto, Pfade, eigener rootless Store und CPU-Isolation per Ansible verwaltet und verifiziert; NFS-Mount `/var/lib/ghostnet-pipeline` aktiv (verifiziert 09.11.2026); Planungsabschluss 19.10.2026 (Pipeline GNENC-002, Speicher auf CT-101); Monitoring-Anbindung umgesetzt (GNMON-000 M1–M5) | Implementierung (Images, Quadlets, Skripte, Worker); Lasttest und Limit-Feintuning; SMB-Output-Pickup als geschlossener Ablauf | -| Monitoring | M1–M6 produktiv auf `10.0.0.90` (System-Scope, Konten `gn-monitor` 986 / `gn-dashboard` 984): node_exporter + AMD-Textfile-Collector, VictoriaMetrics, Loki + Alloy, vmalert + Alertmanager (inkl. `gnmon-ai`/`GnAiEnvironmentDown`), Dashboard **v0.3.2 öffentlich über `https://mon.ghostnet.selfhost.eu`** (NPM CT-103 ID 14, LE-TLS; Keycloak-OIDC Realm Ghost.net, Client `gnai-dashboard`, Rollen `gnai-dashboard-user`/`-admin`; 8080 per nftables nur von 10.0.0.10; E2E inkl. 403-Negativtest und WebSocket-Circuit bestanden 09.11.2026, GNMON-000 M6) | echter SMTP-Versand, LLM-Metriken jenseits `gn_ai_active_env`, Retention-Feintuning, externer WireGuard-Zugriff auf mon (DNS/TLS öffentlich, praktisch ungetestet) | +| Monitoring | M1–M6 produktiv auf `10.0.0.90` (System-Scope, Konten `gn-monitor` 986 / `gn-dashboard` 984): node_exporter + AMD-Textfile-Collector, VictoriaMetrics, Loki + Alloy, vmalert + Alertmanager (inkl. `gnmon-ai`/`GnAiEnvironmentDown`), Dashboard **v0.3.6 öffentlich über `https://mon.ghostnet.selfhost.eu`** (NPM CT-103 ID 14, LE-TLS; Keycloak-OIDC Realm Ghost.net, Client `gnai-dashboard`, Rollen `gnai-dashboard-user`/`-admin`; 8080 per nftables nur von 10.0.0.10; E2E inkl. 403-Negativtest und WebSocket-Circuit bestanden 09.11.2026, GNMON-000 M6; Favicon-Revert auf v0.3.6 am 14.11.2026, GNAI-021) | echter SMTP-Versand, LLM-Metriken jenseits `gn_ai_active_env`, Retention-Feintuning, externer WireGuard-Zugriff auf mon (DNS/TLS öffentlich, praktisch ungetestet) | | Samba (CT 101) | Share-Bestand in GNAI-017 dokumentiert; Ansible-Projekt nach GNAI-019 gebaut und lokal verifiziert; Runbooks vorhanden; In-Place-Upgrade auf Debian 13 am 21.10.2026; smb.conf-Verlust beim Upgrade aus vzdump-Backup wiederhergestellt, Media-Shares und Workstation-Mounts verifiziert | produktive Adoption (Platzhalter, Schlüssel, Convergence, Verifikation), NFS-Export und Encoding-Shares produktiv, UID/GID-Abgleich produktiv, Backup-/Restore-Test | Ein Zielbild, eine Betreiberangabe oder ein erfolgreicher Teiltest gilt nicht als @@ -180,7 +181,8 @@ API-Keys und Rollen macht OpenWebUI selbst, Rate-Limits kommen auf NPM-Ebene; LiteLLM bleibt Zielbild-Kandidat, falls später Quotas/Routing pro Backend nötig werden. Interner Slice abgenommen 10.11.2026 (Health, Model-Liste, reale Chat-Completion durch OpenWebUI → llama.cpp mit -Token-Usage). +Token-Usage); **öffentlich live seit 11.11.2026** (Details Abschnitt 2; +Websuche 12.11. GNAI-020, Theme 14.11. GNAI-021). Bereits entschieden (nicht mehr offen): Das Backupziel ist die bestehende NFS-Anbindung der Encoding-Pipeline (`pve:/media/datenhdd3/Encoding`), die diff --git a/docs/GNAI-001-PLAN_Project-Roadmap.md b/docs/GNAI-001-PLAN_Project-Roadmap.md index bc5463a..b15af5a 100644 --- a/docs/GNAI-001-PLAN_Project-Roadmap.md +++ b/docs/GNAI-001-PLAN_Project-Roadmap.md @@ -4,9 +4,9 @@ **Titel:** Priorisierte Roadmap für Ghostnet.AI -**Stand:** 2026-11-09 +**Stand:** 2026-11-14 -**Status:** Arbeitsgrundlage; M2–M4 des KI-Stacks abgenommen, M1-Restpunkte und M5/M6 offen +**Status:** Arbeitsgrundlage; M1 bis auf Fremdnetz-Rescan/FRITZ!Box-Rollback geschlossen (10.11.), M2–M4 abgenommen, M5 statische CI/Runner/Branch-Protection umgesetzt (10.11.), M6 öffentlich live seit 11.11. (inkl. Websuche 12.11., Theme 14.11.), M7 offen **Referenzen:** [Projektstand](GNAI-000-DOC_Index.md), [Zielarchitektur](platform/llm-server/ai/GNAI-004-INFRA_Architecture.md), [Ansible-Plan](platform/llm-server/ai/GNAI-008-PLAN_Ansible-Deployment.md), [Modellbewertung](platform/llm-server/ai/GNAI-009-PLAN_Llama-Model-Evaluation.md), [`llama.cpp`-Sollkonfiguration](platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md) @@ -77,16 +77,22 @@ eingerichtet (GNAI-012 10.2, GNAI-006 10, PVE-Rolle `pve_lxc_backup_sync`), Keycloak-Stabilisierungsphase nachgewiesen (26 Tage, GNAI-016 Phase F) und WAN/IPv6-Exposure teilweise erfasst (nur TCP 80/443 offen, keine AAAA; GNAI-007 7). **Aktualisierung 10.11.2026 (später):** praktischer -NPM-Rückfalltest auf CT 104 bestanden und CT 104 nach Betreiberfreigabe -entfernt (GNAI-016 Phase F). Offen bleiben der Fremdnetz-WAN-Rescan vom -Hotspot mit FRITZ!Box-Abgleich, der praktische FRITZ!Box-DNS-Rollback und -hostunabhängige Restore-Tests für CT 102/103 (Restore-Pfad für CT 100 -praktisch belegt). +NPM-Rückfalltest auf CT 104 bestanden und CT 104 nach ausdrücklicher +Betreiberfreigabe entfernt (`pct destroy 104 --purge`, Archiv SHA-256-verifiziert +auf `ghostnet-ki`; GNAI-016 Phase F). Offen bleiben der Fremdnetz-WAN-Rescan +vom Hotspot mit FRITZ!Box-Forward-/IPv6-Abgleich und der praktisch +durchgespielte FRITZ!Box-DNS-Rollback auf einem Testclient. Der +hostunabhängige Restore-Pfad ist praktisch belegt (CT 100 → CT 150 am +10.11.2026, GNAI-012 10.2); damit ist Befund 4 des zentralen Index +(GNAI-000 Abschnitt 4) geschlossen — die frühere Restnotiz zu separaten +Restore-Tests für CT 102/103 entfällt. **Aktualisierung 09.11.2026:** Der vollständige Ansible-Sollzustand beider Hosts liegt inzwischen im Repository — CT 100 (`proxmox/lxc/ct-100-dns/ansible/`, -Production-Adoption noch offen, da CT 100 bis heute kein `ansible-deploy`-Konto -hat) und CT 103 (`proxmox/lxc/ct-103-reverse-proxy/ansible/`, am 07.11.2026 +am 09.11.2026 adoptiert: `ansible-deploy` per `pct exec`, danach +`verify-deploy-access` ok=5, `site.yml` konvergent `changed=0`, +`verify-production` ok=32 changed=0; GNMON-000 M6, GNAI-012 10.2) und +CT 103 (`proxmox/lxc/ct-103-reverse-proxy/ansible/`, am 07.11.2026 adoptiert und am 09.11.2026 verifiziert: preflight ok=15, verify-production ok=27 changed=0, `site.yml --check` changed=0). @@ -165,13 +171,29 @@ freigegeben, ohne PR-Code root-äquivalente Secrets zu geben. - keinen Production-Schlüssel in Pull-Request-Workflows bereitstellen; - Deploymentnachweis mit Commit, Artefaktdigests und Prüfergebnis erzeugen. +**Ausführungsstand 10.11.2026:** Statische CI ohne Serverzugang eingeführt +(`.gitea/workflows/ci-static.yml`, 4 Jobs: `secret-scan`, `yamllint`, +`ansible-syntax`, `markdown-links`; erster Lauf grün), dedizierter +Runner-LXC **CT 116** (`act_runner v0.2.13`, repo-scoped Runner `ci-static-01` +online, keine Server-Zugangsdaten auf dem Runner-LXC) und Branch-Protection +`main` gesetzt (`enable_push=false`, required status checks +`ci-static / (pull_request)`, `required_approvals=1`); erster +PR-Durchlauf (PR #2) mit squash-merge nach `main` bestanden (Commit +`962b387`; Details und Token-Hygiene in GNAI-008 Abschnitt 12). **Offen:** +Fragen 3–5 aus GNAI-008 Abschnitt 12 (Review-/Freigabe-Rechte, Secret-Store, +Promotion-Tag), privilegierter Deployment-Runner, Secret-Scan über die +Git-Historie, `act_runner`-Label `self-hosted` per Config nachziehen. + **Fertig, wenn:** Ein ungefährliches Testdeployment und anschließend ein freigegebenes Production-Deployment einschließlich fehlgeschlagenem Lauf und Recovery reproduzierbar nachgewiesen sind. ### Meilenstein 6 – Ersten Nutzerpfad veröffentlichen -**Ausführungsstand 11.11.2026:** OpenWebUI v0.13.3 (digest-gepinnt) ist als +**Status: live seit 11.11.2026; Nacharbeiten offen (siehe Ende des +Abschnitts).** + +**Ausführungsstand 14.11.2026:** OpenWebUI v0.13.3 (digest-gepinnt) ist als öffentlicher Nutzerpfad live: `https://chat.ghostnet.selfhost.eu` (NPM → `10.0.0.90:8081`, nur NPM darf auf den KI-Host durch), Keycloak-OIDC über Client `gnai-openwebui` (public + PKCE S256, Realm Ghost.net). LiteLLM-Gate @@ -187,8 +209,12 @@ kuratierten Engines + OpenWebUI Native/Agentic Mode, E2E-Tool-Loop via API (server-seitig, mit Quellen) verifiziert; Workspace-Tool `gnai-web-search` für API-Agenten via `tool_ids` geseeded; NPM-Proxy-Timeouts auf `chat.*` (600 s) für lange Research-Loops durch Betreiber gesetzt (12.11.2026, -GNAI-020 Abschnitt 6). Offen: Rate-Limit-Doku, LLM-Metriken im Monitoring, -Betriebs-SOP, API-Key-Freigabe für Agenten (`auth.enable_api_keys`). +GNAI-020 Abschnitt 6). **Theme „gnai-catppuccin-mocha" live seit 14.11.2026 +(GNAI-021)**. Offen: Rate-Limit-Doku, LLM-Metriken im Monitoring, +Betriebs-SOP, API-Key-Freigabe für Agenten (`auth.enable_api_keys`), +Nutzerakzeptanzprüfung auf dem Siegerprofil (GNAI-009 5.3) sowie der +Lizenz-/Nutzungsrahmen-Nachweis (GNAI-009 10.4 — vor der externen Freigabe +gefordert, als abgeschlossen noch nicht dokumentiert). **Ergebnis:** Genau ein klar definierter, authentifizierter Nutzerpfad ist öffentlich nutzbar; Backend- und Managementports bleiben intern. @@ -218,8 +244,15 @@ LLM-Betrieb nicht. und unter gleichzeitiger Inferenzlast testen; - erst danach Zeitplan, Queue, Benachrichtigung und Nutzer-SOP freigeben. -### Ausführungsstand 09.11.2026 +### Stand 14.11.2026 +- **M1 weitgehend geschlossen (10.11.2026):** Fail2Ban-Funktionsabnahme, + hostunabhängige Backups mit praktischem Restore-Test (CT 100 → CT 150), + Keycloak-Stabilisierungsphase (26 Tage), praktischer NPM-Rückfalltest auf + CT 104 und CT-104-Entfernung bestanden (GNAI-006 10/12, GNAI-012 10.2, + GNAI-016 Phase F); WAN/IPv6-Exposure teilweise erfasst (nur TCP 80/443 + offen, keine AAAA). **Offen:** Fremdnetz-WAN-Rescan vom Hotspot, + FRITZ!Box-Forward-/IPv6-Abgleich, praktischer FRITZ!Box-DNS-Rollback. - **M2 abgenommen:** Testing-Vertical-Slice mit drei gepinnten Profilen (Swift 1.0, Swift 1.5, Unsloth), 64k- und 128k-Abnahme, Idempotenz, Profilwechsel und Host-Reboot-Test bestanden (GNAI-010 Abschnitte @@ -232,12 +265,20 @@ LLM-Betrieb nicht. (T1–T7), Backup/Restore-Nachweise R1/R2, Alarmgrenzen — siehe GNAI-008 Abschnitt 14.6. Erneut verifiziert am 09.11.2026 nach einem Host-Neustart: automatisches Recovery auf Production ohne Zutun. -- **Monitoring-Anteil von M4 umgesetzt:** GNMON-000 M1–M5 produktiv auf - dem KI-Server inklusive Verfügbarkeitsregel `GnAiEnvironmentDown`. -- **Offen:** M1-Restpunkte (Fail2Ban-Tests, WAN-/IPv6-Exposure, Keycloak- - Stabilisierung und NPM-Rückfall, hostunabhängige Backups), M5 - Delivery-Kette (Gitea Actions/Runner), M6 erster öffentlicher Nutzerpfad, - M7 Encoding unter Last. +- **Monitoring:** GNMON-000 M1–M6 produktiv auf dem KI-Server inklusive + Verfügbarkeitsregel `GnAiEnvironmentDown` und öffentlichem Dashboard + `https://mon.ghostnet.selfhost.eu` (seit 09.11.2026). +- **M5 teilweise umgesetzt (10.11.2026):** statische CI + Runner CT 116 + + Branch-Protection `main` (GNAI-008 Abschnitt 12). **Offen:** privilegierter + Deployment-Runner, Promotion-Tag-Freigabe, Secret-Modell (Fragen 3–5). +- **M6 live seit 11.11.2026:** `https://chat.ghostnet.selfhost.eu` + (OpenWebUI v0.13.3 + Keycloak-OIDC `gnai-openwebui`), Websuche seit + 12.11. (GNAI-020), Theme seit 14.11. (GNAI-021). **Offen:** Nacharbeiten + laut M6-Abschnitt (Rate-Limit-Doku, LLM-Metriken, Betriebs-SOP, + API-Key-Freigabe, Nutzerakzeptanz- und Lizenz-Nachweis). +- **M7 offen:** Encoding-Implementierung (Images, Quadlets, Worker-Skript), + SMB-Output-Pickup als geschlossener Ablauf, Lasttest unter Inferenzlast + (GNENC-000 „Noch offen“). ## 4. Bewusst nicht Teil der nächsten Ausbaustufe diff --git a/docs/GNAI-013-PLAN_Security-Closure-and-Repository-Restructure.md b/docs/GNAI-013-PLAN_Security-Closure-and-Repository-Restructure.md index 759cde2..9d34879 100644 --- a/docs/GNAI-013-PLAN_Security-Closure-and-Repository-Restructure.md +++ b/docs/GNAI-013-PLAN_Security-Closure-and-Repository-Restructure.md @@ -1,8 +1,8 @@ # Sicherheitsabschluss und Repository-Neustrukturierung **Dokumenten-ID:** GNAI-013-PLAN -**Stand:** 2026-10-14 -**Status:** Aktiver Arbeitsplan +**Stand:** 2026-11-14 +**Status:** Aktiver Arbeitsplan; Abschnitte A–D bis auf den FRITZ!Box-DNS-Rollback abgeschlossen (10.11.2026), Abschnitt E bis auf die Resolver-Abstimmung des KI-Servers erledigt (M2–M6 produktiv) ## 1. Ziel @@ -41,16 +41,18 @@ Die ausführbare Infrastruktur ist seit 14.10.2026 ebenfalls hostbezogen: ghostnet.ai-infrastructure/ ├── llm-server/ │ ├── host/ansible/ # Grundkonfiguration des physischen KI-Servers -│ ├── llm/ # LLM-Stack (entsteht mit dem AI-Vertical-Slice) -│ └── encoding/ansible/ # CPU-Encoding-Workload +│ ├── llm/ # LLM-Stack (M2–M4 abgenommen, M6 live) +│ ├── encoding/ansible/ # CPU-Encoding-Workload +│ └── monitoring/ # Monitoring-Projekt (GNMON M1–M6 produktiv) ├── proxmox/ │ ├── shared/scripts/ # nur LXC-übergreifende PVE-Helfer │ └── lxc/ -│ ├── ct-100-dns/ # Hostwurzel + Ansible-Projekt; Production-Adoption offen (Stand 09.11.2026: kein ansible-deploy auf CT 100) +│ ├── ct-100-dns/ # Hostwurzel + Ansible-Projekt (adoptiert 09.11.2026 via pct exec, verify-production changed=0) │ ├── ct-102-keycloak/{ansible,scripts}/ │ ├── ct-103-reverse-proxy/ # Hostwurzel + Ansible-Projekt (adoptiert 07.11.2026, verifiziert 09.11.2026) │ ├── ct-104-keycloak/ # nur noch Migrations-Referenz; CT 104 am 10.11.2026 nach Freigabe entfernt (GNAI-016 Phase F) -│ └── ct-105-wireguard/ +│ ├── ct-105-wireguard/ +│ └── ct-116-runner/ # CI-Runner-LXC (act_runner, repo-scoped ci-static-01; seit 10.11.2026, GNAI-008 Abschnitt 12) └── shared/ansible/ # gemeinsam genutzte Rollen und Pins ``` @@ -144,13 +146,17 @@ hostbezogenen Playbooks oder Inventare. ### E. Übergang zum LLM-Stack -- [ ] KI-Server kontrolliert einschalten und Resolver auf den beschlossenen - Pi-hole-Pfad abstimmen. +- [x] KI-Server einschalten — läuft produktiv (M2–M4 abgenommen, M6 öffentlich + live; automatisches Production-Recovery nach Host-Neustart am 09.11.2026 + verifiziert, GNAI-008 14.6). **Noch offen:** Resolver auf den + beschlossenen Pi-hole-Pfad abstimmen — GNAI-003 belegt weiterhin + `10.0.0.1`/`1.1.1.1` als Resolver des KI-Servers. - [x] Lokale Ansible-`.venv` wegen des veralteten Repository-Pfads neu erstellen und alle Syntaxprüfungen regulär ausführen. - [x] Lesenden Preflight sowie Host-/ROCm-Verifikation wiederholen. -- [ ] Internes, nicht öffentliches `llama.cpp`-Testing-Vertical-Slice nach - GNAI-010 implementieren und bei 64k abnehmen. +- [x] Internes, nicht öffentliches `llama.cpp`-Testing-Vertical-Slice nach + GNAI-010 implementiert und bei 64k/128k abgenommen (M2; GNAI-010 + Abschnitte 10.5–10.9). ## 4. Arbeitsnachweise @@ -175,6 +181,10 @@ hostbezogenen Playbooks oder Inventare. - Offen bleibt in Abschnitt E: die Resolver-Abstimmung des KI-Servers auf den Pi-hole-Pfad. Ein kontrollierter Kaltstart des Servers wurde nicht durchgeführt; der Server lief durch, nur das Netzwerkkabel war gezogen. + **14.11.2026:** Host-Neustart inzwischen mehrfach praktisch belegt + (u. a. 09.11.2026 automatisches Production- und Monitoring-Recovery nach + Boot, GNAI-008 14.6, GNMON-000); die Resolver-Abstimmung ist weiterhin + offen. ### 05.10.2026 – Struktur, Geheimnisse und lokaler VPN-Client @@ -369,11 +379,13 @@ hostbezogenen Playbooks oder Inventare. - Der KI-Server ist bewusst ausgeschaltet und wird für die Punkte A bis D nicht benötigt. **10.11.2026: KI-Server läuft produktiv (M2–M4), inkl. automatischem Production-Recovery nach Host-Neustart.** -- CT 102 befindet sich in der 14-tägigen Stabilisierungsphase; der praktische - NPM-Rückfall auf den ausgeschalteten CT 104 bleibt offen. **10.11.2026: +- CT 102 befand sich in der 14-tägigen Stabilisierungsphase; der praktische + NPM-Rückfall auf den ausgeschalteten CT 104 war offen. **10.11.2026: Stabilisierungsphase nachgewiesen (26 Tage, NRestarts=0, keine Fehler) und - praktischer NPM-Rückfalltest auf CT 104 bestanden (GNAI-016); CT 104 ist - danach wieder ausgeschaltet.** + praktischer NPM-Rückfalltest auf CT 104 bestanden; CT 104 wurde danach nach + ausdrücklicher Betreiberfreigabe entfernt** (`pct destroy 104 --purge`, + finales Archiv SHA-256-verifiziert auf `ghostnet-ki` archiviert; + GNAI-016 Phase F). ## 6. Pflege diff --git a/docs/platform/llm-server/ai/GNAI-008-PLAN_Ansible-Deployment.md b/docs/platform/llm-server/ai/GNAI-008-PLAN_Ansible-Deployment.md index ee7ef3e..1928b81 100644 --- a/docs/platform/llm-server/ai/GNAI-008-PLAN_Ansible-Deployment.md +++ b/docs/platform/llm-server/ai/GNAI-008-PLAN_Ansible-Deployment.md @@ -2,8 +2,8 @@ **Dokumenten-ID:** GNAI-008-PLAN **Titel:** Ansible-Deployment für den KI-Server – Planungsstand -**Stand:** 2026-11-09 -**Status:** Nicht finaler Arbeitsentwurf zur Persistierung des Planungsstands; der belegte Implementierungsstand bis einschließlich M4 steht in Abschnitt 14 (14.6) +**Stand:** 2026-11-14 +**Status:** Nicht finaler Arbeitsentwurf zur Persistierung des Planungsstands; der belegte Implementierungsstand bis M4 steht in Abschnitt 14 (14.6), der M5-Fortschritt (statische CI, CT-116-Runner, Branch-Protection) in Abschnitt 12; M6 (öffentlicher OpenWebUI-Pfad, Websuche, Theme) ist in GNAI-020/GNAI-021 dokumentiert **Referenzen:** [Projektstand](../../../GNAI-000-DOC_Index.md), [Zielarchitektur](GNAI-004-INFRA_Architecture.md), [Modellbewertung](GNAI-009-PLAN_Llama-Model-Evaluation.md), [llama.cpp-Sollkonfiguration](GNAI-010-TECH_Llama-Serving.md), [Zugriffskonzept](../../GNAI-005-SEC_Access-Control.md) > **Abgrenzung:** Die Abschnitte 1–13 halten die Ergebnisse der am 19.09.2026 @@ -38,9 +38,11 @@ | 2026-09-21 | 0.16 | spektr / Codex | überholten Phasen- und Dokumentenbacklog konsolidiert, Umsetzungsreihenfolge an GNAI-001 delegiert und privilegierten Runner nach Recovery verschoben | | 2026-10-19 | 0.17 | spektr / Mistral Vibe | LLM-Server-Projekt in die fachlichen Hauptverzeichnisse `host/`, `llm/` und `encoding/` aufgeteilt; Abschnitte 6 und 7.4 an die neue Struktur angepasst | | 2026-10-31 | 0.18 | spektr / Mistral Vibe | Deployment-Plan mit Betreiberentscheidungen vom 31.10.2026 überarbeitet: dritte Umgebung Experimental, exklusives GPU-Scheduling mit schnellem Umschalter und kommunizierten Zeitfenstern, Wartungsseite/transparenter Endpunktwechsel für nutzerseitige Dienste, Model-Store als Kernrolle, verallgemeinerte Engine-Rolle, Gitea-Actions-Kette mit reduziertem Production-Scope, Strata als erster Experimental-Kandidat (Abschnitt 7.6) | +| 2026-11-14 | 0.19 | spektr / Mistral Vibe | Kopf-Stand nachgeführt: M5-Fortschritt 10.11.2026 (statische CI, CT-116-Runner, Branch-Protection — Abschnitt 12) aufgenommen; M6 live seit 11.11.2026 (OpenWebUI öffentlich, Websuche 12.11., Theme 14.11.) als Verweis auf GNAI-020/GNAI-021 ergänzt | | 2026-11-06 | 0.19 | spektr / Mistral Vibe | M4 umgesetzt und abgenommen (Abschnitt 14.6): Production-Inventar mit Referenz- (Swift 1.5) und Rollback-Profil (Unsloth), Rolle `ai_environment_switch` (Abschnitt 7.3) mit Recovery-Timer, Rolle `ai_backup` (Wochen-Timer auf NFS-Pipeline-Share), Verfügbarkeitsmetrik `gn_ai_active_env`; Abnahme T1–T7, echter Hostreboot, Restore-Nachweise R1/R2 | | 2026-11-09 | 0.20 | Mistral Vibe | Re-Verifikation nach Host-Neustart (09.11.2026, ~05:05 CET): Recovery-Service stellte Production automatisch wieder her (`gn_ai_active_env{env="production"}=1`, Engine `gnai-production-llama-swift15` aktiv). Befund: `gnai-ai-backup.service` lief beim Boot mit Exit 21 (NFS-Mountpoint zu diesem Zeitpunkt noch nicht gemountet) — Timer (Persistent) und Service haben keine Mount-Abhängigkeit; offen: `RequiresMountsFor=/var/lib/ghostnet-pipeline` in der `ai_backup`-Rolle (Abschnitt 14.6) | | 2026-11-09 | 0.21 | Mistral Vibe | Befund aus 0.20 behoben: `ai_backup`-Service-Unit nutzt jetzt `RequiresMountsFor={{ ai_backup_nfs_mountpoint }}` (die bisherige `After=var-lib-ghostnet-pipeline.mount` passte nicht zur escapten Unit `var-lib-ghostnet\x2dpipeline.mount`). Deploy via `backup.yml` (production), verifiziert: systemd-Requires/After auf die Mount-Unit, manueller Lauf `Result=success` mit sha256-verifiziertem Archiv auf dem NFS-Share, Rollen-Zweitlauf `changed=0` (Abschnitt 14.6) | +| 2026-11-14 | 0.22 | spektr / Mistral Vibe | Backup-Lücke geschlossen (GNAI-021 follow-up): `ai_backup_paths` um `etc/gnmon` (Dashboard-OIDC-Secret) und `var/lib/ghostnet-ai/production/openwebui-data` (OpenWebUI-Userdaten) erweitert. Die Live-`webui.db` (+`-wal`/`-shm`) wird aus dem Tar ausgeschlossen und stattdessen per SQLite-Online-Backup-API (python3 stdlib) als konsistenter Snapshot an derselben Archiv-Pfad eingefügt. Verifiziert 14.11.2026: manueller Lauf `Result=success`, Archiv `ghostnet-ai-backup-20261114-0720.tar.gz` (844 MB) enthält `etc/gnmon/dashboard-secrets.env` + `openwebui-data/webui.db` (0 wal/shm-Einträge), extrahierte DB `PRAGMA integrity_check` = ok (3 User, 4 Chats), sha256-Sidecar; Rollen-Zweitlauf `changed=0`. Restore-SOP in der Rollen-README ergänzt | --- diff --git a/docs/platform/llm-server/ai/GNAI-021-TECH_OpenWebUI-Theme.md b/docs/platform/llm-server/ai/GNAI-021-TECH_OpenWebUI-Theme.md new file mode 100644 index 0000000..8fdaf7c --- /dev/null +++ b/docs/platform/llm-server/ai/GNAI-021-TECH_OpenWebUI-Theme.md @@ -0,0 +1,142 @@ +# Technischer Arbeitsentwurf + +**Dokumenten-ID:** GNAI-021-TECH +**Titel:** Ghostnet-Branding „gnai-catppuccin-mocha" — OpenWebUI-Theme als Default + Favicon „ursprünglicher Geist" auf beiden Sites, update-persistent +**Stand:** 2026-11-14 +**Status:** produktiv seit 2026-11-14 (Betreiber-Go „schalte es live"): Theme live; Favicons nach Betreiberentscheid 2026-11-14 zurück auf den ursprünglichen Geist (Badge-Varianten v2/v5 verworfen) — Monitoring via Image v0.3.6 (unverändert), OpenWebUI via ro-Mounts; Konvergenz `changed=0` +**Referenzen:** [DOC-Index](../../../GNAI-000-DOC_Index.md), [GNMON-000](../monitoring/GNMON-000-DOC_Index.md) (Dashboard-Stil M3.1: Catppuccin Mocha, Monospace), Rolle `llm-server/llm/ansible/roles/open_webui/`, OpenWebUI v0.13.3 (digest-gepinnt, `sha256:46b59158…`), Upstream-Quelle `tag v0.13.3` + +> Dieses Dokument beschreibt den technischen Sollzustand des Custom-Themes für +> OpenWebUI (`https://chat.ghostnet.selfhost.eu`, intern `10.0.0.90:8081`) und +> warum es OpenWebUI-Updates unabhängig übersteht. + +--- + +## Änderungsverlauf + +| Datum | Version | Autor | Beschreibung | +| --- | --- | --- | --- | +| 2026-11-14 | 0.1 | spektr / Mistral Vibe | Erstfassung: Befunde zum Theme-Mechanismus in v0.13.3, update-persistenter Mount, Umsetzung in Rolle `open_webui`, Verifikation | +| 2026-11-14 | 0.2 | spektr / Mistral Vibe | Live-Rollout: erster Lauf `changed=3` (Theme-Dir, custom.css, Quadlet), Play brach vor den Handlern an der Served-Prüfung ab (alter Container ohne Mount) — daemon-reload + Unit-Restart manuell nachgezogen, danach `GET /static/custom.css` = 200 mit 5311 Bytes und Marker; zweiter Playbook-Lauf konvergent `changed=0, failed=0`. Der Neustart nach Quadlet-Change ist zugleich der Persistenz-Beweis: OpenWebUIs Start-Wipe von `static/` läuft dabei erneut und kann den ro-Mount nicht anfassen | +| 2026-11-14 | 0.3 | spektr / Mistral Vibe | Favicons ergänzt (Abschnitt 5): v2 (Ghost + Pulse-Badge) für das Monitoring-Dashboard, v5 (Ghost + Terminal-Badge) für OpenWebUI — gleiche read-only-Mount-Mechanik | +| 2026-11-14 | 0.4 | spektr / Mistral Vibe | Live-Rollout Favicons: OpenWebUI v5 via ro-Mounts OK (alle 5 Dateien byte-identisch serviert, md5-geprüft). Dashboard: Mount-Versuch über `/app/wwwroot` scheiterte (HTTP 500 — MapStaticAssets-Manifest-Mismatch, Befund in Abschnitt 5), deshalb Image-Rebuild `dashboard:v0.3.7` auf der Workstation (Image-ID `a2c15048e188`, favicon md5 `87f78a61…` im Image verifiziert), `podman save`/scp/`load` als gn-dashboard, Tag im Inventory gebumpt, Unit neu gestartet — `GET /favicon.png` = 200, 2488 Bytes, md5 identisch zur Quelle; Playbook konvergent `changed=0, failed=0` | +| 2026-11-14 | 0.5 | spektr / Mistral Vibe | Betreiberentscheid: Badge-Varianten verworfen, beide Sites nutzen wieder den ursprünglichen Geist. Monitoring komplett reverted (Quell-PNGs, Rolle, Inventory-Tag v0.3.6; `GET /favicon.png` = 2729 B, md5 `78966788…`). OpenWebUI: Favicon-Dateien gegen byte-identische Kopien des Dashboard-Originals ersetzt (Mounts bleiben); Inode-Befund dokumentiert (copy→Rename→neuer Inode, laufender Container serviert alt — deshalb notify Restart + flush_handlers vor den Checks). Beide Playbooks konvergent `changed=0, failed=0`; alle Favicon-URLs md5-verifiziert | + +--- + +## 1. Entscheidung + +Betreiberwunsch 2026-11-14: OpenWebUI soll im Farbschema der Monitor-Website +(`mon.ghostnet.selfhost.eu`, GNMON — Catppuccin Mocha, DejaVu Sans Mono, +Hacker-TUI-Stil) erscheinen; das Theme soll **Default für alle Nutzer** sein +und **unabhängig von OpenWebUI-Updates** bestehen bleiben (kein Image-Patch, +kein Fork). + +## 2. Befunde zum Theme-Mechanismus in OpenWebUI v0.13.3 + +a) **Es gibt kein server-seitiges Theme.** Die Theme-Wahl (`system`/`light`/ + `dark`/`oled-dark`/`her`) liegt pro Browser in `localStorage.theme` + (`src/app.html`, `src/lib/utils/theme.ts` `setTheme()`); in der DB + (`webui.db`) existiert keine Theme-Tabelle (Backend-Modelle/Routers enthalten + kein Theme — geprüft gegen `tag v0.13.3`). Ein „Default-Theme für alle + Nutzer" lässt sich daher nicht serverseitig erzwingen, sondern nur über + CSS, das beide Modi abdeckt (Abschnitt 3). +b) **Offizieller Extension-Point: `/static/custom.css`.** `src/app.html` lädt + auf jeder Seite ``. Das + Image enthält an dieser Stelle eine **leere** Placeholder-Datei + (`static/static/custom.css` = leerer Blob). Live verifiziert 2026-11-14: + `GET /` enthält den custom.css-Link; `GET /static/custom.css` → 200, 0 Bytes. +c) **`/static` wird aus `STATIC_DIR` serviert** (`main.py`: `app.mount('/static', + StaticFiles(directory=STATIC_DIR))`, Default `/app/backend/open_webui/static`). + Beim Start wiped `config.py` alle Top-Level-Dateien in `STATIC_DIR` und kopiert + sie aus dem Image neu (`STATIC_SOURCE_DIR = /app/build/static`). Eine + **read-only bind-mountete Einzeldatei** kann dort weder `unlink()`t noch per + `copyfile` überschrieben werden (EBUSY/EROFS, beides per `except: pass` + ge-swallowt) — sie überlebt jeden Start und jedes Image-Update. +d) **Theme-Switch setzt Inline-Styles.** `setTheme()` schreibt + `--color-gray-800/850/900/950` als Inline-Style auf `` (dark/oled-dark). + Das Theme-CSS braucht daher `!important` auf den Custom-Properties. + Ungelayertes CSS (custom.css) schlägt außerdem die `@layer theme`-Variablen + von Tailwind v4 (`src/tailwind.css` definiert nur die Graustufen selbst; + Akzentfarben kommen aus dem Tailwind-Default-Theme). +e) **Farbpalette des Dashboards** stammt aus + `llm-server/monitoring/src/Ghostnet.Dashboard/wwwroot/app.css` (`:root`, + Catppuccin Mocha: crust `#11111b` … text `#cdd6f4` … mauve `#cba6f7`). + +## 3. Umsetzung + +- Theme-Datei im Repo: `llm-server/llm/ansible/roles/open_webui/files/theme/gnai-catppuccin-mocha.css`. + Mapping: Graustufen-Rampe → Mocha-Oberflächen (dark: 950=crust, 900=base, + 850=mantle, 800=surface0 … 50=text; light: Rampe invertiert auf dieselbe + dunkle Palette, damit auch `light`/`system`-Nutzer das Mocha-Theme sehen), + Akzent-Rampen (blue→sapphire/blue, green→green/teal, red→red, yellow→yellow, + orange→peach, violet→mauve), `color-scheme: dark`, Monospace-Stack + (`"DejaVu Sans Mono", ui-monospace, …`), Splash-Screen auf base/peach/grün. +- Deployment (Rolle `open_webui`): + - `open_webui_theme_dir = /var/lib/ghostnet-ai/production/openwebui-theme`, + Datei `custom.css` (Owner `gnai-production`, `0644`). + - Quadlet `open-webui.container.j2`: + `Volume={{ open_webui_theme_dir }}/custom.css:/app/backend/open_webui/static/custom.css:ro`. + - Kein Restart bei reinen Inhaltsänderungen nötig (`/static` wird pro Request + von Disk gelesen); der Quadlet-Change triggert einmalig daemon-reload + + Restart über die bestehenden Handler. +- Verifikation im Playbook: nach dem Health-Check prüft + `GET http://10.0.0.90:8081/static/custom.css` auf HTTP 200 **und** den Marker + `gnai-catppuccin-mocha` im Body — so fällt ein künftiges Image, das custom.css + nicht mehr referenziert/serviert, sofort auf statt still zu verstummen. + +## 4. Warum das Theme Updates überlebt + +- Der Mount liegt **host-seitig im Quadlet** (Ansible, Git), nicht im Image. +- Die Theme-Datei liegt **im Repo** und wird idempotent erneut ausgerollt + (`changed=0` bei unverändertem Stand). +- Beim Container-Start (auch nach Image-Update auf neuen Digest) kopiert + OpenWebUI `static/` zwar neu, kann die read-only gemountete Datei aber nicht + anfassen (Befund c) — das Theme bleibt aktiv. +- Einzige Sollbruchstelle: Ein künftiges OpenWebUI-Release, das den + `custom.css`-Link aus `app.html` entfernt. Der Served-Check im Playbook + (Abschnitt 3) erkennt das beim nächsten Rollout; bis dahin bleibt das Theme + auch über Updates aktiv. + +## 5. Favicons — Betreiberentscheid 2026-11-14: ursprünglicher Geist auf BEIDEN Sites + +Badge-Varianten (v2 Pulse, v5 Terminal aus `~/Downloads/Gemini_Generated_Image_p4vvywp4vvywp4vv.jpg`) +wurden gebaut, live genommen und dann vom Betreiber verworfen: Beide Websites +verwenden wieder das ursprüngliche Geist-Favicon der Monitoring-Website +(`favicon.png` 32x32 md5 `78966788…`, `apple-touch-icon.png` 180x180 md5 `9bc48a15…`). + +- **Monitoring-Dashboard:** alles zurückgesetzt — Quell-PNGs, Rolle + `gnmon_dashboard` und Inventory-Tag auf `HEAD`/`v0.3.6` reverted; Unit neu + gestartet, `GET /favicon.png` = 2729 Bytes, md5 identisch zum Original. Der + Image-Bau v0.3.7 (mit v2-Favicon) bleibt als unbenutztes Image im Store liegen. +- **OpenWebUI:** Mount-Mechanik bleibt (funktioniert), nur der Inhalt wurde + ersetzt: `roles/open_webui/files/favicon/` enthält jetzt byte-identische Kopien + des Dashboard-Originals (favicon.png, apple-touch-icon.png) plus Ableitungen + (favicon-96x96.png, favicon.ico 16/32, favicon.svg als Data-URI-Wrapper). + Live verifiziert: alle fünf `/static/*`-URLs liefern die erwarteten md5s. +- **Befund Inode (14.11.2026):** Single-File-Bind-Mounts binden den Inode bei + Container-Erzeugung; Ansible `copy` ersetzt Dateien per Rename (neuer Inode) — + der laufende Container serviert dann weiter den alten Inhalt. Deshalb notifyen + die Copy-Tasks in der Rolle jetzt `Restart OpenWebUI unit`, und `flush_handlers` + läuft vor den Served-Checks. +- **Befund .NET (14.11.2026):** Beim Dashboard ist der Mount-Weg prinzipiell + unbrauchbar — .NET 10 `MapStaticAssets` liest Content-Length/ETag aus dem + Publish-Manifest (`Ghostnet.Dashboard.staticwebassets.endpoints.json`); eine + gemountete abweichende Datei lieferte HTTP 500 (kürzer) bzw. Truncation (länger). + Favicon-Änderungen am Dashboard erfordern also immer einen Image-Bau + Tag-Bump. + +- Out of scope: OpenWebUI-Splash (`splash.png`/`splash-dark.png`) und + `site.webmanifest`/`web-app-manifest-*.png` zeigen weiterhin das OpenWebUI-Logo. + +## 6. Grenzen / Offen + +- Die Theme-Auswahl im UI (Settings → General → Theme) bleibt sichtbar, ist + aber visuell neutralisiert (light und dark rendern beide Mocha). Wer explizit + „OLED Dark" wählt, bekommt ebenfalls Mocha (Crust statt Schwarz) — bewusst, + damit das GNMON-Theme überall greift. +- Die DejaVu-Sans-Mono-Datei des Dashboards wird nicht eingebettet (kein + Font-Mount ohne neuen Mount-Pfad); auf Linux-Clients mit installierter + DejaVu Sans Mono ist der Look identisch, sonst greift der Monospace-Fallback. +- Code-Highlighting (hljs) und eingebettete Markdown-Tabellen behalten ihre + eigenen Akzente — bewusst nur dezente Anpassungen (Links sapphire, Inline-Code + peach, Selection mauve). diff --git a/docs/platform/llm-server/ai/README.md b/docs/platform/llm-server/ai/README.md index 9c75d43..b0f0426 100644 --- a/docs/platform/llm-server/ai/README.md +++ b/docs/platform/llm-server/ai/README.md @@ -15,6 +15,7 @@ Video-Encoding-Workload besitzt einen | [GNAI-009](GNAI-009-PLAN_Llama-Model-Evaluation.md) | Modellbewertung für Swift/Unsloth; Betreiberbeschluss 05.11.2026: Swift 1.5 Q6_K als Production-Profil (Abschnitt 10.4) | | [GNAI-010](GNAI-010-TECH_Llama-Serving.md) | technische Sollkonfiguration für die Modellprofile auf rootless `llama.cpp` mit ROCm; Testing abgenommen (10.5–10.10), Production live seit 06.11.2026 | | [GNAI-020](GNAI-020-TECH_OpenWebUI-WebSearch.md) | Websuche in OpenWebUI: SearXNG mit kuratierten Engines + Native/Agentic Mode (`search_web`/`fetch_url`), UI- und API-Betrieb (Path A/B), produktiv verifiziert seit 12.11.2026 | +| [GNAI-021](GNAI-021-TECH_OpenWebUI-Theme.md) | OpenWebUI-Theme „gnai-catppuccin-mocha" (Farbschema des GNMON-Dashboards) als Default für alle Nutzer, update-persistent via read-only `custom.css`-Mount im Quadlet | Der übergreifende Projektstand steht im [zentralen Dokumentationsindex](../../../GNAI-000-DOC_Index.md). diff --git a/docs/platform/llm-server/encoding/GNENC-000-DOC_Index.md b/docs/platform/llm-server/encoding/GNENC-000-DOC_Index.md index 7be962b..632ae3c 100644 --- a/docs/platform/llm-server/encoding/GNENC-000-DOC_Index.md +++ b/docs/platform/llm-server/encoding/GNENC-000-DOC_Index.md @@ -1,8 +1,8 @@ # Video-Encoding – Dokumentationsindex und Projektstand **Dokumenten-ID:** GNENC-000-DOC -**Stand:** 2026-11-09 -**Status:** Planungsabschluss; externe Abhängigkeiten (CT-101, PVE-Host-NFS) umgesetzt; Monitoring-Bereich produktiv (GNMON-000 M1–M5); Encoding-Implementierung auf ghostnet-ki noch nicht begonnen +**Stand:** 2026-11-14 +**Status:** Planungsabschluss; externe Abhängigkeiten (CT-101, PVE-Host-NFS) umgesetzt; Monitoring-Bereich produktiv (GNMON-000 M1–M6); Encoding-Implementierung auf ghostnet-ki noch nicht begonnen ## Dokumente @@ -92,4 +92,4 @@ beschrieben. 3. Rootless-TUN-Verifizierung für den VPN-Sidecar auf dem Host. 4. Implementierung auf ghostnet-ki: Image-Bauten, Quadlet-Units (inkl. VPN-Sidecar), Worker-Skript, JD2-Event-Scripter. Der Monitoring-Bereich - (Collector, Dashboard, Alerting) ist mit GNMON-000 M1–M5 umgesetzt. + (Collector, Dashboard, Alerting) ist mit GNMON-000 M1–M6 umgesetzt. diff --git a/docs/platform/llm-server/monitoring/GNMON-000-DOC_Index.md b/docs/platform/llm-server/monitoring/GNMON-000-DOC_Index.md index 4b1c520..8507083 100644 --- a/docs/platform/llm-server/monitoring/GNMON-000-DOC_Index.md +++ b/docs/platform/llm-server/monitoring/GNMON-000-DOC_Index.md @@ -1,8 +1,8 @@ # Monitoring – Dokumentationsindex und Projektstand **Dokumenten-ID:** GNMON-000-DOC -**Stand:** 2026-11-09 -**Status:** Revision v2.0 (03.11.2026) übernommen; M1–M6 produktiv — Dashboard öffentlich über `https://mon.ghostnet.selfhost.eu` mit Keycloak-OIDC (abgenommen 09.11.2026) +**Stand:** 2026-11-14 +**Status:** Revision v2.0 (03.11.2026) übernommen; M1–M6 produktiv — Dashboard v0.3.6 öffentlich über `https://mon.ghostnet.selfhost.eu` mit Keycloak-OIDC (abgenommen 09.11.2026; Favicon-Revert auf v0.3.6 am 14.11.2026, GNAI-021) ## Dokumente @@ -64,12 +64,10 @@ User-Scope-systemd) im Verzeichnis `llm-server/monitoring/`: - Verifikation: Dev-Logzeile erscheint in Loki (`query_range` mit `source="dev-test"`), Idempotenzlauf `changed=0, failed=0`. -- **Offener Operator-Schritt (Workstation):** `sudo usermod -aG - adm,systemd-journal ghost` — die Journald-Quelle läuft ohne Fehler, - sammelt aber ohne Gruppenmitgliedschaft keine Einträge (dokumentiertes - Alloy-Verhalten). Danach Journald-Ingestion in einer neuen Session - verifizieren. (usermod durchgeführt 04.11.2026; aktivierungspflichtig - über Neustart des User-Managers, z. B. Laptop-Reboot.) +- **Operator-Schritt (Workstation) erledigt:** `sudo usermod -aG + adm,systemd-journal ghost` wurde am 04.11.2026 durchgeführt und nach dem + Neustart des User-Managers aktiv — die Journald-Ingestion läuft seitdem + (in M3.5+ verifiziert: Kernel- und User-Unit-Einträge landen in Loki). ### M4: Alerting (implementiert 04.11.2026, Workstation-Entwicklung) @@ -392,6 +390,10 @@ Realm `Ghost.net` (Vaultwarden-Realm, Issuer - **Kosmetik (09.11.2026, v0.3.3):** Favicon ist das Ghostnet-Geist-Maskottchen (`wwwroot/favicon.png` 32×32 + `apple-touch-icon.png` 180×180, aus dem Betreiber-Logo gerendert), via NPM als `image/png` 200 verifiziert. +- **14.11.2026 (GNAI-021):** Badge-Favicon-Varianten (v0.3.7) wurden nach + Betreiberentscheid verworfen; Monitoring reverted auf **v0.3.6** + (ursprünglicher Geist, md5-verifiziert). OpenWebUI erhielt das Theme + „gnai-catppuccin-mocha" + Favicon ebenfalls am 14.11.2026. - **GPU-Chart (11.11.2026, v0.3.4/6, Befund "nur zwei einzelne Linien"):** Der `.braille-chart` war als Flex-Item in `.gpu-chart` (display:flex) mit `overflow:hidden` auf min-width 0 kollabiert; der ResizeObserver maß die diff --git a/llm-server/llm/ansible/roles/ai_backup/README.md b/llm-server/llm/ansible/roles/ai_backup/README.md index d099627..ea1ea4d 100644 --- a/llm-server/llm/ansible/roles/ai_backup/README.md +++ b/llm-server/llm/ansible/roles/ai_backup/README.md @@ -8,9 +8,17 @@ share (`pve:/media/datenhdd3/Encoding`, operator decision 06.11.2026). ## Backup scope - `/etc/ghostnet-ai` (all environment config trees) +- `/etc/gnmon` (dashboard OIDC env file `dashboard-secrets.env`; added + 14.11.2026, GNAI-021 follow-up) - `/etc/containers/systemd/users/{980,981,984}` (rootless quadlets, included when present) - `/var/lib/ghostnet-ai/environment-state` (switch state) +- `/var/lib/ghostnet-ai/production/openwebui-data` (OpenWebUI app + user + data: uploads, cache; added 14.11.2026, GNAI-021 follow-up). The live + `webui.db`/`-wal`/`-shm` are **excluded** from the tar; instead a + consistent snapshot via SQLite's online-backup API (python3 stdlib) is + appended at the same archive path, so a mid-write WAL state is never + archived. - `/var/lib/ghostnet-ai/testing/bench/results` (benchmark artifacts) - `/var/lib/ghostnet-ai/shared/models` **without `*.gguf`** — the pinned `SOURCE.yml` manifests make the weights reproducible through the @@ -53,7 +61,13 @@ before it replaces the last good file; retention keeps the newest runtime converges with the restored state. 6. For model weights: restore via the model_store role (`--tags models`), then verify the `SOURCE.yml` checksums. -7. Re-run the affected environment playbook +7. For OpenWebUI user data (`var/lib/ghostnet-ai/production/openwebui-data`): + stop the unit (`runuser -u gnai-production -- systemctl --user stop + gnai-production-openwebui`), copy the archived `webui.db` back, + `chown -R gnai-production:gn-production` the data dir, start the unit, + then re-run `playbooks/webui.yml` (re-applies model/tool/config sync) + and verify `/health` + model list. +8. Re-run the affected environment playbook (`playbooks/ai.yml --tags service`) and verify health. Accepted proof (06.11.2026): full-tree extract-and-diff against the diff --git a/llm-server/llm/ansible/roles/ai_backup/defaults/main.yml b/llm-server/llm/ansible/roles/ai_backup/defaults/main.yml index 76e8422..a9a2ca9 100644 --- a/llm-server/llm/ansible/roles/ai_backup/defaults/main.yml +++ b/llm-server/llm/ansible/roles/ai_backup/defaults/main.yml @@ -25,12 +25,22 @@ ai_backup_script: /usr/local/sbin/gnai-ai-backup # the script only when they exist. ai_backup_paths: - etc/ghostnet-ai + - etc/gnmon - etc/containers/systemd/users/980 - etc/containers/systemd/users/981 - etc/containers/systemd/users/984 - var/lib/ghostnet-ai/environment-state + - var/lib/ghostnet-ai/production/openwebui-data - var/lib/ghostnet-ai/testing/bench/results +# OpenWebUI app data (GNAI-021 follow-up, 14.11.2026): the live SQLite +# webui.db (and its -wal/-shm sidecars) is EXCLUDED from the tar and replaced +# by a consistent snapshot taken via SQLite's online-backup API (python3 +# stdlib), so a mid-write WAL state is never archived. The snapshot lands at +# the same path inside the archive as the live db. +ai_backup_openwebui_data_dir: var/lib/ghostnet-ai/production/openwebui-data +ai_backup_openwebui_db: webui.db + # Included without its multi-gigabyte weights: model manifests and any # other metadata below the shared model store. ai_backup_model_store_meta: var/lib/ghostnet-ai/shared/models diff --git a/llm-server/llm/ansible/roles/ai_backup/tasks/main.yml b/llm-server/llm/ansible/roles/ai_backup/tasks/main.yml index 9b7b052..4dc19a6 100644 --- a/llm-server/llm/ansible/roles/ai_backup/tasks/main.yml +++ b/llm-server/llm/ansible/roles/ai_backup/tasks/main.yml @@ -13,6 +13,8 @@ - ai_backup_paths | length > 0 - ai_backup_service | length > 0 - ai_backup_script is match("^/usr/local/sbin/") + - ai_backup_openwebui_data_dir is match("^var/lib/") + - ai_backup_openwebui_db is match("^[a-z0-9_.-]+$") fail_msg: AI backup declarations are incomplete or invalid. - name: Require the NFS pipeline share to be mounted diff --git a/llm-server/llm/ansible/roles/ai_backup/templates/gnai-ai-backup.sh.j2 b/llm-server/llm/ansible/roles/ai_backup/templates/gnai-ai-backup.sh.j2 index 31ea209..f98b2ee 100644 --- a/llm-server/llm/ansible/roles/ai_backup/templates/gnai-ai-backup.sh.j2 +++ b/llm-server/llm/ansible/roles/ai_backup/templates/gnai-ai-backup.sh.j2 @@ -39,8 +39,40 @@ mkdir -p "$TARGET_DIR" STAMP=$(date +%Y%m%d-%H%M) ARCHIVE="$TARGET_DIR/ghostnet-ai-backup-$STAMP.tar.gz" TMP="$ARCHIVE.tmp" +RAWTMP="$ARCHIVE.raw" -tar -C / -czf "$TMP" "${paths[@]}" +# Consistent snapshot of the live OpenWebUI SQLite DB via the online-backup +# API (python3 stdlib; sqlite3 CLI is not installed on the host). The live +# db + wal/shm are excluded from the archive and the snapshot is appended at +# the same archive path. +DATA_REL="{{ ai_backup_openwebui_data_dir }}" +DB_REL="$DATA_REL/{{ ai_backup_openwebui_db }}" +STAGE="" +if [ -f "/$DB_REL" ]; then + STAGE=$(mktemp -d /tmp/gnai-ai-backup-stage.XXXXXX) + mkdir -p "$STAGE/$DATA_REL" + python3 - "/$DB_REL" "$STAGE/$DB_REL" <<'PY' +import sqlite3, sys +src = sqlite3.connect(f"file:{sys.argv[1]}?mode=ro", uri=True) +dst = sqlite3.connect(sys.argv[2]) +with dst: + src.backup(dst) +dst.close() +src.close() +PY +fi +trap 'rm -rf "$STAGE" "$RAWTMP"' EXIT + +# Build uncompressed first so the staged DB can be appended (tar -r does not +# work on compressed archives), then gzip. +tar -C / -cf "$RAWTMP" \ + --exclude="$DB_REL" --exclude="$DB_REL-wal" --exclude="$DB_REL-shm" \ + "${paths[@]}" +if [ -n "$STAGE" ]; then + tar -C "$STAGE" -rf "$RAWTMP" "$DB_REL" +fi +gzip -c "$RAWTMP" > "$TMP" +rm -f "$RAWTMP" if ! tar -tzf "$TMP" > /dev/null 2>&1; then log "ERROR: archive failed the integrity check" >&2 diff --git a/llm-server/llm/ansible/roles/open_webui/README.md b/llm-server/llm/ansible/roles/open_webui/README.md index 172ecfc..58fe2e3 100644 --- a/llm-server/llm/ansible/roles/open_webui/README.md +++ b/llm-server/llm/ansible/roles/open_webui/README.md @@ -43,3 +43,41 @@ Embedding-Modell wird nicht benötigt. Lang laufende Research-Loops (mehrere search_web/fetch_url-Runden) brauchen auf dem NPM-Proxy-Host `chat.ghostnet.selfhost.eu` erhöhte Proxy-Timeouts (siehe GNAI-020 Abschnitt NPM). + +## Theme (GNAI-021): GNMON Catppuccin Mocha als Default + +- `files/theme/gnai-catppuccin-mocha.css` wird nach + `/var/lib/ghostnet-ai/production/openwebui-theme/custom.css` deployt und im + Quadlet **read-only** über `/app/backend/open_webui/static/custom.css` + gemountet (`Volume=...:ro`). +- `index.html` lädt `/static/custom.css` auf jeder Seite — update-sicher: Beim + Container-Start kopiert OpenWebUI zwar `static/` neu (`config.py`), aber + eine read-only Einzeldatei kann weder unlinkt noch überschrieben werden; + der Mount liegt host-seitig im Quadlet, die Datei kommt aus Git. Image-Updates + (neuer Digest) ändern daran nichts. +- Default für alle Nutzer: OpenWebUI speichert die Theme-Wahl (light/dark) nur + pro Browser in `localStorage` — es gibt keinen server-seitigen Default. Das + CSS bildet daher `html.light` UND `html.dark` auf dieselbe Mocha-Palette ab + (`!important` gegen die Inline-Styles von `setTheme()`), sodass das + GNMON-Theme unabhängig von der UI-Auswahl immer greift. +- Verifikation: Task `Verify the GNMON theme is served as /static/custom.css` + prüft nach dem Health-Check, dass die Datei non-empty mit Marker ausgeliefert + wird. + +## Favicon (GNAI-021): ursprünglicher Geist (wie Monitoring-Website) + +- `files/favicon/` (favicon.png 32px und apple-touch-icon.png 180px + byte-identisch zum Dashboard-Original, dazu favicon-96x96.png, favicon.ico, + favicon.svg als Ableitungen) wird nach + `/var/lib/ghostnet-ai/production/openwebui-favicon/` deployt und im Quadlet + **read-only** über die entsprechenden Dateien in + `/app/backend/open_webui/static/` gemountet (app.html referenziert alle fünf). +- Update-persistent wie das Theme: Mount host-seitig im Quadlet, Datei aus Git; + OpenWebUIs Start-Kopie von `static/` kann eine ro-Einzeldatei nicht anfassen. +- Achtung Inode: Single-File-Bind-Mounts binden den Inode bei der + Container-Erzeugung; Ansible `copy` ersetzt die Datei (Rename → neuer Inode). + Inhaltsänderungen notifies deshalb `Restart OpenWebUI unit`, und + `flush_handlers` läuft vor den Served-Checks, damit die geprüft wird, was + der Neustart neu gebunden hat. +- Verifikation: `GET /static/favicon.png` muss byte-identisch zur deployen Datei + sein (content_length vs. stat). diff --git a/llm-server/llm/ansible/roles/open_webui/defaults/main.yml b/llm-server/llm/ansible/roles/open_webui/defaults/main.yml index b6704ca..8ecceee 100644 --- a/llm-server/llm/ansible/roles/open_webui/defaults/main.yml +++ b/llm-server/llm/ansible/roles/open_webui/defaults/main.yml @@ -48,6 +48,38 @@ open_webui_container_port: 8080 # Persistent app data (SQLite DB, uploads, cache). open_webui_data_dir: /var/lib/ghostnet-ai/production/openwebui-data +# GNMON theme (GNAI-021): Catppuccin Mocha wie das Monitoring-Dashboard. +# Wird als einzelne read-only-Datei über den Image-Placeholder +# /app/backend/open_webui/static/custom.css gemountet (index.html lädt +# /static/custom.css auf jeder Seite). Beim Container-Start kopiert OpenWebUI +# sein static/-Verzeichnis zwar neu (config.py), aber eine read-only +# Einzeldatei kann weder unlinkt noch überschrieben werden — die Fehler werden +# upstream ge-swallowt. Das Theme überlebt Image-Updates, weil der Mount +# host-seitig im Quadlet liegt und die Datei aus diesem Repo kommt. +open_webui_theme_dir: /var/lib/ghostnet-ai/production/openwebui-theme +open_webui_theme_src: theme/gnai-catppuccin-mocha.css +open_webui_theme_file: custom.css +open_webui_theme_container_path: /app/backend/open_webui/static/custom.css + +# Favicon (GNAI-021): the ORIGINAL ghost favicon of the monitoring site +# (byte-identical PNGs from src/Ghostnet.Dashboard/wwwroot/), same +# update-persistent mechanism as the theme: read-only single-file mounts over +# the image's /app/backend/open_webui/static/* favicon files (app.html +# references all of them). Badge variants were tried and rejected by the +# operator 2026-11-14 — both sites use the plain ghost. +open_webui_favicon_dir: /var/lib/ghostnet-ai/production/openwebui-favicon +open_webui_favicon_mounts: + - host_file: favicon.png + container_path: /app/backend/open_webui/static/favicon.png + - host_file: favicon-96x96.png + container_path: /app/backend/open_webui/static/favicon-96x96.png + - host_file: favicon.svg + container_path: /app/backend/open_webui/static/favicon.svg + - host_file: favicon.ico + container_path: /app/backend/open_webui/static/favicon.ico + - host_file: apple-touch-icon.png + container_path: /app/backend/open_webui/static/apple-touch-icon.png + # OIDC phase (M6 public route via NPM + Keycloak). Disabled for the # internal phase; enable together with the Keycloak client # `gnai-openwebui` and the NPM proxy host chat.ghostnet.selfhost.eu. diff --git a/llm-server/llm/ansible/roles/open_webui/files/favicon/apple-touch-icon.png b/llm-server/llm/ansible/roles/open_webui/files/favicon/apple-touch-icon.png new file mode 100644 index 0000000..fa7dbd1 Binary files /dev/null and b/llm-server/llm/ansible/roles/open_webui/files/favicon/apple-touch-icon.png differ diff --git a/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon-96x96.png b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon-96x96.png new file mode 100644 index 0000000..31f37cb Binary files /dev/null and b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon-96x96.png differ diff --git a/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.ico b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.ico new file mode 100644 index 0000000..7aa0608 Binary files /dev/null and b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.ico differ diff --git a/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.png b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.png new file mode 100644 index 0000000..23030a4 Binary files /dev/null and b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.png differ diff --git a/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.svg b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.svg new file mode 100644 index 0000000..3581051 --- /dev/null +++ b/llm-server/llm/ansible/roles/open_webui/files/favicon/favicon.svg @@ -0,0 +1 @@ + \ No newline at end of file diff --git a/llm-server/llm/ansible/roles/open_webui/files/theme/gnai-catppuccin-mocha.css b/llm-server/llm/ansible/roles/open_webui/files/theme/gnai-catppuccin-mocha.css new file mode 100644 index 0000000..7f8914e --- /dev/null +++ b/llm-server/llm/ansible/roles/open_webui/files/theme/gnai-catppuccin-mocha.css @@ -0,0 +1,134 @@ +/* Ghostnet.AI OpenWebUI theme "gnai-catppuccin-mocha" (GNAI-021). + * + * Farbschema identisch zum Monitoring-Dashboard (GNMON, app.css): + * Catppuccin Mocha + Monospace (DejaVu Sans Mono, wie im Dashboard selbst + * gehostet — hier als System-Stack, damit keine Font-Datei gemountet werden + * muss). + * + * Auslieferung: read-only bind mount over + * /app/backend/open_webui/static/custom.css (siehe Quadlet). index.html lädt + * /static/custom.css auf jeder Seite — update-sicher, weil der Mount host-seitig + * im Quadlet liegt und die Datei aus dem Repo kommt. + * + * Default-Theme: OpenWebUI speichert die Theme-Wahl (light/dark) pro Browser in + * localStorage; es gibt keinen server-seitigen Default. Dieses CSS bildet daher + * BEIDE Modi (html.light und html.dark) auf dieselbe Mocha-Palette ab — das + * GNMON-Theme ist damit für alle Nutzer der Default-Look, unabhängig von der + * Theme-Auswahl im UI. + * + * !important ist nötig, weil setTheme() (src/lib/utils/theme.ts) die Graustufen + * 800/850/900/950 als Inline-Style auf setzt; Inline-Styles schlagen + * Stylesheet-Regeln ohne !important. Ungelayertes CSS (diese Datei) schlägt + * además die @layer-theme-Variablen von Tailwind v4. + */ + +/* Basis (gilt immer, auch vor dem Setzen der light/dark-Klasse): Modus-Mapping + * für dark — zugleich Akzent-Rampen für beide Modi. */ +html:root { + color-scheme: dark; + + /* Monospace wie GNMON */ + --font-sans: "DejaVu Sans Mono", ui-monospace, SFMono-Regular, Menlo, Consolas, "Liberation Mono", monospace !important; + + /* Graustufen → Catppuccin Mocha (Dark-Semantik: 950 = tiefster Hintergrund) */ + --color-gray-50: #cdd6f4 !important; /* text */ + --color-gray-100: #cdd6f4 !important; /* text */ + --color-gray-200: #bac2de !important; /* subtext1 */ + --color-gray-300: #a6adc8 !important; /* subtext0 */ + --color-gray-400: #7f849c !important; /* overlay1 */ + --color-gray-500: #6c7086 !important; /* overlay0 */ + --color-gray-600: #585b70 !important; /* surface2 */ + --color-gray-700: #45475a !important; /* surface1 */ + --color-gray-800: #313244 !important; /* surface0 */ + --color-gray-850: #181825 !important; /* mantle */ + --color-gray-900: #1e1e2e !important; /* base */ + --color-gray-950: #11111b !important; /* crust */ + + /* In dark mode ist --color-white meist Textfarbe, --color-black Button-Grund */ + --color-white: #cdd6f4 !important; + --color-black: #11111b !important; + + /* Akzenten → Catppuccin (Links/Fokus blau, Erfolg grün, Fehler rot, Warnung gelb) */ + --color-blue-300: #b4befe !important; /* lavender */ + --color-blue-400: #74c7ec !important; /* sapphire */ + --color-blue-500: #89b4fa !important; /* blue */ + --color-blue-600: #89b4fa !important; + --color-blue-700: #74c7ec !important; + --color-green-400: #a6e3a1 !important; + --color-green-500: #a6e3a1 !important; + --color-green-600: #94e2d5 !important; /* teal */ + --color-red-400: #f38ba8 !important; + --color-red-500: #f38ba8 !important; + --color-yellow-300: #f9e2af !important; + --color-yellow-400: #f9e2af !important; + --color-yellow-500: #fab387 !important; /* peach */ + --color-orange-400: #fab387 !important; + --color-orange-500: #fab387 !important; + --color-violet-400: #cba6f7 !important; /* mauve */ + --color-violet-500: #cba6f7 !important; + --color-teal-400: #94e2d5 !important; + --color-teal-500: #94e2d5 !important; +} + +/* html.dark: identisch zur Basis — explizit mit !important gegen die + * Inline-Styles, die setTheme() für dark/oled-dark auf schreibt. */ +html.dark { + --color-gray-800: #313244 !important; + --color-gray-850: #181825 !important; + --color-gray-900: #1e1e2e !important; + --color-gray-950: #11111b !important; +} + +/* html.light: die Light-Rampe wird auf DERSELBE dunkle Mocha-Palette abgebildet + * (bg-white → base, text-gray-900 → text usw.), damit auch Nutzer mit Theme + * "light"/"system" (prefers-color-scheme: light) das GNMON-Theme sehen. */ +html.light { + --color-white: #1e1e2e !important; /* Light-Haupthintergrund → base */ + --color-black: #cdd6f4 !important; /* Light-Text → text */ + --color-gray-50: #181825 !important; /* helle Panels → mantle */ + --color-gray-100: #313244 !important; /* → surface0 */ + --color-gray-200: #45475a !important; /* Borders → surface1 */ + --color-gray-300: #585b70 !important; /* → surface2 */ + --color-gray-400: #6c7086 !important; /* → overlay0 */ + --color-gray-500: #7f849c !important; /* → overlay1 */ + --color-gray-600: #a6adc8 !important; /* → subtext0 */ + --color-gray-700: #bac2de !important; /* → subtext1 */ + --color-gray-800: #cdd6f4 !important; /* → text */ + --color-gray-850: #cdd6f4 !important; + --color-gray-900: #cdd6f4 !important; /* Light-Text → text */ + --color-gray-950: #cdd6f4 !important; +} + +/* Splash-Screen (app.html) auf Mocha trimmen — !important schlägt die + * Inline-Styles des Splash-Markups. */ +#splash-screen { + background: #1e1e2e !important; +} + +#splash-screen #progress-background { + background-color: #313244 !important; +} + +#splash-screen #progress-bar { + background-color: #a6e3a1 !important; +} + +/* Akzente im Fließtext (GNMON: Links sapphire, Code peach) */ +.marked a, +.prose a { + color: #74c7ec; +} + +.marked a:hover, +.prose a:hover { + color: #89dceb; +} + +code { + color: #fab387; +} + +::selection { + background: rgba(203, 166, 247, 0.35); /* mauve */ + color: #cdd6f4; +} diff --git a/llm-server/llm/ansible/roles/open_webui/tasks/main.yml b/llm-server/llm/ansible/roles/open_webui/tasks/main.yml index c7bf679..06a9b48 100644 --- a/llm-server/llm/ansible/roles/open_webui/tasks/main.yml +++ b/llm-server/llm/ansible/roles/open_webui/tasks/main.yml @@ -52,6 +52,45 @@ group: "{{ open_webui_user }}" mode: "0750" +- name: Ensure the OpenWebUI theme directory exists + ansible.builtin.file: + path: "{{ open_webui_theme_dir }}" + state: directory + owner: "{{ open_webui_user }}" + group: "{{ open_webui_user }}" + mode: "0750" + +- name: Deploy the GNMON theme as custom.css (read-only mount target, survives image updates) + # Single-file bind mounts pin the inode at container creation; Ansible copy + # replaces the file (rename -> new inode), so a content change MUST restart + # the unit to re-bind the current file. Hence the notify. + ansible.builtin.copy: + src: "files/{{ open_webui_theme_src }}" + dest: "{{ open_webui_theme_dir }}/{{ open_webui_theme_file }}" + owner: "{{ open_webui_user }}" + group: "{{ open_webui_user }}" + mode: "0644" + notify: Restart OpenWebUI unit + +- name: Ensure the OpenWebUI favicon directory exists + ansible.builtin.file: + path: "{{ open_webui_favicon_dir }}" + state: directory + owner: "{{ open_webui_user }}" + group: "{{ open_webui_user }}" + mode: "0750" + +- name: Deploy the ghost favicon files (read-only mount targets, survive image updates) + # Same inode caveat as the theme: content changes notify a unit restart. + ansible.builtin.copy: + src: "files/favicon/{{ item.host_file }}" + dest: "{{ open_webui_favicon_dir }}/{{ item.host_file }}" + owner: "{{ open_webui_user }}" + group: "{{ open_webui_user }}" + mode: "0644" + loop: "{{ open_webui_favicon_mounts }}" + notify: Restart OpenWebUI unit + - name: Check whether the WebUI secret key already exists ansible.builtin.command: argv: @@ -420,6 +459,13 @@ changed_when: false when: not ansible_check_mode +- name: Flush handlers before the served checks + # Content changes to the ro-mounted files notify "Restart OpenWebUI unit"; + # the restart must happen BEFORE the served checks, otherwise they test the + # stale inode still bound by the running container. + ansible.builtin.meta: flush_handlers + when: not ansible_check_mode + - name: Wait for the OpenWebUI health endpoint ansible.builtin.uri: url: "http://{{ open_webui_host_addr }}:{{ open_webui_host_port }}/health" @@ -431,6 +477,36 @@ until: open_webui_health.status == 200 when: not ansible_check_mode +- name: Verify the GNMON theme is served as /static/custom.css (non-empty, marker present) + # Guards the update-persistence contract: if a future OpenWebUI image stops + # referencing or serving custom.css, this fails instead of silently losing + # the theme. + ansible.builtin.uri: + url: "http://{{ open_webui_host_addr }}:{{ open_webui_host_port }}/static/custom.css" + status_code: 200 + timeout: 10 + return_content: true + register: open_webui_theme_served + failed_when: "'gnai-catppuccin-mocha' not in open_webui_theme_served.content" + when: not ansible_check_mode + +- name: Stat the deployed favicon for the served-size comparison + ansible.builtin.stat: + path: "{{ open_webui_favicon_dir }}/favicon.png" + register: open_webui_favicon_stat + when: not ansible_check_mode + +- name: Verify the ghost favicon is served as /static/favicon.png (byte-identical to the deployed file) + ansible.builtin.uri: + url: "http://{{ open_webui_host_addr }}:{{ open_webui_host_port }}/static/favicon.png" + status_code: 200 + timeout: 10 + register: open_webui_favicon_served + failed_when: >- + open_webui_favicon_served.content_length | int + != open_webui_favicon_stat.stat.size | int + when: not ansible_check_mode + - name: Verify the engine model list is reachable through OpenWebUI's network ansible.builtin.command: argv: diff --git a/llm-server/llm/ansible/roles/open_webui/templates/open-webui.container.j2 b/llm-server/llm/ansible/roles/open_webui/templates/open-webui.container.j2 index 4888c2d..27a6f94 100644 --- a/llm-server/llm/ansible/roles/open_webui/templates/open-webui.container.j2 +++ b/llm-server/llm/ansible/roles/open_webui/templates/open-webui.container.j2 @@ -11,6 +11,16 @@ Network={{ open_webui_network_name }} Network={{ open_webui_egress_network_name }} PublishPort={{ open_webui_host_addr }}:{{ open_webui_host_port }}:{{ open_webui_container_port }} Volume={{ open_webui_data_dir }}:/app/backend/data:rw +# GNMON theme (GNAI-021): read-only single-file mount over the image's empty +# custom.css placeholder. Survives image updates — the mount lives host-side +# in this quadlet, and OpenWebUI's startup static re-copy cannot unlink or +# overwrite a read-only bind-mounted file. +Volume={{ open_webui_theme_dir }}/{{ open_webui_theme_file }}:{{ open_webui_theme_container_path }}:ro +# Favicon (GNAI-021): original ghost, same read-only single-file mount pattern +# over the image's static favicon files (app.html references all of them). +{% for m in open_webui_favicon_mounts %} +Volume={{ open_webui_favicon_dir }}/{{ m.host_file }}:{{ m.container_path }}:ro +{% endfor %} # Secrets are injected as environment variables, never written to disk or git. Secret={{ open_webui_webui_secret_key_secret }},type=env,target=WEBUI_SECRET_KEY Secret={{ open_webui_engine_api_key_secret }},type=env,target=OPENAI_API_KEY