Files
infrastructure/docs/platform/llm-server/monitoring/GNMON-000-DOC_Index.md
T
spektr 76feaa9549 GNMON-001 M5: Dashboard-Rollout + AI-Verfuegbarkeitsregel auf dem KI-Server
gnmon_dashboard-Rolle (Rootless-Quadlet unter gn-dashboard 984,
ASPNETCORE_URLS=127.0.0.1:8080), Containerfile aus MCR-Basisimages,
Image-Transport per podman save/load (v0.1.0, ID 1b71e6d35069).
keep-id verworfen (crun-Overlay-Rechtebefund), Default-Mapping wie alle
GNMON-Dienste. GnAiEnvironmentDown-Regel (gn_ai_active_env == 0, 2m,
critical) aus GNAI-001 M4 integriert; Suite gruen und idempotent.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-06 14:45:41 +01:00

17 KiB
Raw Blame History

Monitoring – Dokumentationsindex und Projektstand

Dokumenten-ID: GNMON-000-DOC Stand: 2026-11-06 Status: Revision v2.0 (03.11.2026) übernommen; M1–M4 auf der Workstation implementiert und verifiziert; M5 inkl. Dashboard auf dem KI-Server produktiv (System-Scope); NPM/OIDC-Ingress folgt in M6

Dokumente

Dokument Zweck / Zielgruppe
GNMON-001-PLAN_Architecture.md Host-Monitoring: Metriken, Log-Pipeline, Dashboard, Anbindung Encoding; Infrastrukturadministratoren
docs/planning/gnmon-001-v2-0-monitoring-architektur-revision.md Arbeitskopie der v2.0-Revision (Betreiber-Rechercheordner)

Bestätigter Stand

  • Revision v2.0 (03.11.2026): Blazor Server statt Flask, Zeitreihen- (VictoriaMetrics + node_exporter mit AMD-Textfile-Skript) und Log-Stack (Alloy + Loki) statt state/system.json-Schnappschuss; Konten gn-monitor für Datenhaltung (986 — die zuvor geplante 983 war auf dem Server an gn-download vergeben; vergeben 05.11.2026), gn-dashboard (984) für die Web-App.
  • Anlass für die zügige Umsetzung: thermischer GPU0-SW-CTF-Vorfall vom 03.11.2026 (GNAI-010 Abschnitt 10.10) – ohne laufende Sensorüberwachung lief die Karte ~19 Minuten unbeobachtet auf die Abschaltung zu.

M1: Metrikpfad (implementiert 04.11.2026, Workstation-Entwicklung)

Entwickelt und getestet auf dem Betreiber-Laptop (CachyOS, rootless, User-Scope-systemd) im Verzeichnis llm-server/monitoring/:

  • amdgpu-textfile-collector.py (sysfs-only, kein ROCm erforderlich): Util, VRAM used/total, Edge/Junction/Memory-Temperatur, Lüfter-RPM und PWM je Karte; atomarer Textfile-Wechsel; auf der Laptop-APU gegen echte Sensordaten verifiziert, auf diskreten Karten (RX 6900 XT) in M5 zu bestätigen.
  • gnmon_collector-Rolle: node_exporter v1.12.1 (Upstream-Tarball, SHA256SUMS-verifiziert), Collector-Systemd-Timer (10 s), Port 9100 host-lokal.
  • gnmon_victoria_metrics-Rolle: rootless Quadlet, Network=host, VictoriaMetrics v1.154.1 (Digest sha256:c7884f32920dd45a9d86542a717227e63af03e060e53bbf8031e6e6fd0e1e05d, verifizierter Pull 04.11.2026), Scrape-Intervall 10 s, Retention 60 d, Health-Check im Playbook.
  • Verifikation: PromQL-Abfrage liefert gn_gpu_edge_temp_celsius (51 °C auf der Workstation-APU); Idempotenzlauf changed=0, failed=0.

M2: Logpfad (implementiert 04.11.2026, Workstation-Entwicklung)

  • gnmon_loki-Rolle: rootless Quadlet, Network=host, User=0 (Rootless-Mapping; das Upstream-Image läuft intern als UID 10001, die im User-Namespace nicht gemappt ist), Loki 3.6.19 (Digest sha256:0f9cbc340cbe33ee498e654075034336962057db072f57b37f253e14d476443a, verifizierter Pull 04.11.2026), TSDB-Schema v13, Filesystem-Store, Retention 30 d mit Compactor, Health-Check im Playbook.
  • gnmon_alloy-Rolle: Alloy v1.21.3 als Host-Binary (GNMON-001 §3; im rootless Container wäre die Journal-Gruppenzuordnung gid 981 nicht mappbar), User-Unit, SHA256SUMS-verifizierter Download, Journald-Quelle mit loki.relabel-Regeln (unit/syslog_identifier/priority als Labels) plus Datei-Quellen (Workstation: dev-test.log).
  • River-Syntax-Befunde (Alloy 1.21): Listenelemente benötigen Trailing-Commas; relabel_rules ist ein Attribut, das den rules-Export einer loki.relabel-Komponente nimmt; Rule-Attribute sind source_labels/target_label (Promtail-Stil).
  • Verifikation: Dev-Logzeile erscheint in Loki (query_range mit source="dev-test"), Idempotenzlauf changed=0, failed=0.
  • Offener Operator-Schritt (Workstation): sudo usermod -aG adm,systemd-journal ghost — die Journald-Quelle läuft ohne Fehler, sammelt aber ohne Gruppenmitgliedschaft keine Einträge (dokumentiertes Alloy-Verhalten). Danach Journald-Ingestion in einer neuen Session verifizieren. (usermod durchgeführt 04.11.2026; aktivierungspflichtig über Neustart des User-Managers, z. B. Laptop-Reboot.)

M4: Alerting (implementiert 04.11.2026, Workstation-Entwicklung)

Plan-Ergänzung (Lücke in v2.0 festgestellt): Sammeln und Anzeigen ohne Schwellwert-Alarm hätte den Vorfall vom 03.11. nicht verhindert. Betreiberentscheidung 04.11.2026: Benachrichtigung per E-Mail.

  • gnmon_vmalert-Rolle: rootless Quadlet, vmalert v1.154.1 (Digest sha256:aafb962b5a5713c71f0d697d629416f9cccf23aecb74f0ec5e829ddbf3f221f2), Evaluationsintervall 30 s, Datasource/Remote-Write/Notifier host-lokal.
  • gnmon_alertmanager-Rolle: rootless Quadlet, Alertmanager v0.34.2 (Digest sha256:39d8bb3966c694a124428a3a88fbcffd40bd069129ecd47c059f8a3f17c55f3b), E-Mail-Receiver (group_wait 30 s, repeat 4 h, send_resolved). SMTP-Credentials liegen in einer host-lokalen secrets-Datei außerhalb des Repos (~/.config/gnmon/alertmanager-secrets.yml); ohne sie wird eine Stub-Konfiguration deployt, die den Pfad ohne Mail testbar hält.
  • Alert-Regeln (alerts.yml): GpuJunctionTempCritical (> 95 °C, 2 min, critical), GpuFanStalledUnderLoad (PWM > 5 % bei 0 RPM, 3 min, critical — exakte Signatur des GPU0-Ausfalls), GpuEdgeTempHigh, GpuVramNearFull, NodeExporterDown, NodeExporterAbsent; plus Dev-only-Selbsttestregel (GnmonSelfTest, in M5 serverseitig zu deaktivieren).
  • Verifikation: Selbsttest-Alert erscheint in Alertmanager (/api/v2/alerts), Idempotenzlauf changed=0, failed=0.
  • Offen bis M5: echter SMTP-Versand gegen den Betreiber-Mailserver (Operator-Schritt: secrets-Datei + Testmail).

M3.5 + M3.6: Log-Browser und Alerts-Ansicht (04.11.2026)

  • LokiClient (query_range + Label-Values) und AlertmanagerClient (v2 API) als weitere typed HTTP-Clients; Logs-Seite mit Quellen-Filter (syslog_identifier), Zeilen-Suche (LogQL |=), Live-Tail-Toggle (3-s-Polling, pausierbar); Alerts-Seite listet aktive Alerts mit Severity-Farben.
  • Alloy-Journal-Pipeline überarbeitet (Journald-Ingestion war nach dem Reboot aktiv, aber ohne stabile Labels):
    • Befund 1: In User-Scope öffnet die sd-journal-Auto-Discovery nur das User-Journal; die Workstation setzt darum einen expliziten Journal-Pfad (gnmon_alloy_journal_path, Inventory pro Host).
    • Befund 2: Das in der Dokumentation propagierte relabel_rules = loki.relabel.*.rules am loki.source.journal überträgt die __journal_*-Felder in v1.21.3 (User-Scope) nicht in stabile Labels (systematische Verifikation über statisches Label und Test-Logger: Labels kamen nie an). Ersatz: format_as_json = true am Source + loki.process mit stage.json/stage.labels/stage.output extrahiert unit, user_unit, syslog_identifier, priority deterministisch und reduziert die Zeile auf MESSAGE.
  • Verifikation: Logger-Probes landen mit syslog_identifier=ghost, priority=5 in Loki; Kernel-Einträge mit syslog_identifier=kernel; user-unit-Einträge mit unit=user@1000.service. Ansible-Rolle idempotent (changed=0).

M3: Blazor-Dashboard (implementiert 04.11.2026, Workstation)

M3.1–M3.4 in kleinen visuell abnehmbaren Schritten umgesetzt (Betreiberwunsch 04.11.2026):

  • M3.1 GUI-Gerüst (.NET 10, Interactive Server): Layout/Nav im Hacker-TUI-Stil, Catppuccin-Mocha-Palette, Monospace, ASCII-Button-Navi mit invers-grünem Aktivzustand; Bootstrap restlos entfernt.
  • M3.2 Live-Ressourcen: CPU/RAM/Disk-Kacheln mit ASCII-Progressbars (Schwellenfarben passend zu den vmalert-Severities) im 2-s-Takt; VictoriaMetricsClient (PromQL, kulturinvariantes Parsing).
  • M3.3 GPU-Detailseite: Karten-Discovery über gn_gpu_up, Live-Util/VRAM/Temp/Power/Lüfter je Karte; ASCII-Spinner-Komponente (dots/braille/line, Lüfter-Spinner mit RPM-gekoppelter Rotation); Reconnect-Dialog deutsch lokalisiert.
  • M3.4 Verläufe — Betreiberentscheidung: Braille-Chart (btop-Stil). Vergleichsvarianten ASCII-Sparkline, div-Block-Chart und ApexCharts wurden bewertet und entfernt (ApexCharts-Paket inkl. CDN-Referenz raus; null JS-Chart-Abhängigkeiten). Die AsciiBrailleChart-Komponente: 8-Punkt-Braille (2×4 Dots je Zeichen), vertikaler Farbgradient grün (unten) → gelb → rot (oben), Liniengrid hinter der Grafik (Betreiberentscheidung gegen Punkte- und Strichgrid), Breite per JS-Messung von Containerbreite und echter Zeichenbreite (Range-API, Font-Fallback-tolerant), Proben linear interpoliert.
  • Schrift: DejaVu Sans Mono wird mit der Website ausgeliefert (wwwroot/fonts, Bitstream-Vera-Lizenz beigelegt) — vollständige Braille- und Box-Drawing-Abdeckung, deterministische Metriken.
  • Live-Verzögerung CPU: statt Fenster-Mittelung läuft die Kette Scrape 5 s (vorher 10 s) → rate[10s] roh → EMA-Glättung (α 0,65) im Dashboard; Reaktion auf Lastsprünge < 10 s statt Minuten.
  • Fallendokumente (Implementierungsbefunde):
    • Blazor-CSS-Isolation greift nicht auf NavLink-Kindkomponenten; Nav-Styles laufen über ::deep (sonst stiller Regelverlust).
    • double.TryParse von PromQL-Strings ist kulturabhängig: de-DE liest den Punkt als Gruppentrenner; Parsing invariant.
    • Braille-Dot-Füllung muss je Zeichen bottom-up erfolgen (Intra-Zellen- Inversion macht Kurvenkanten verkehrt herum).
    • Leere Chart-Zellen als U+2800 statt Leerzeichen: sonst driftet die Zeile bei Font-Fallback (abweichende Vorschübe).
    • Gemessene Containerbreite muss über Daten-Refresh persistiert werden (Reset pro Update lies die Grafik zusammenschrumpfen).
    • Per-page Render Mode hält das Layout statisch: Layout-Spinner nur als CSS-Animation, Komponenten-Animation nur in Seiteninhalten.

M5: Server-Rollout ghostnet-ki (implementiert 05.11.2026, System-Scope)

Rollenübergreifender Umbau von User-Scope (Workstation) auf scope-Variablen (user|system) je Rolle; produktive Änderung mit Betreiber-Go, Ausführung als ansible-deploy (NOPASSWD), neue gnmon_accounts-Rolle vorangestellt (Tags accounts,never): gn-monitor UID/GID 986 mit Linger + systemd-journal-Gruppe, Verifikation von gn-dashboard (984, vorbestehend).

  • Scope-Architektur: Quadlets unter /etc/containers/systemd/users/986 (per runuser … systemctl --user verwaltet; quadlet-generierte Units sind nicht enable-bar), Config unter /etc/gnmon, Daten unter /var/lib/gn-monitor/*. subuid/subgid für gn-monitor: 755360:65536 (nach anfänglichem Fehlstart in 165536 bereinigt; danach podman system migrate nötig, da die uid_map nur einen Eintrag hatte).
  • Image-Transport: Docker-Hub-Pull vom Server scheitert am Rate-Limit; Images wurden auf der Workstation per Digest-Pull verifiziert, als tar transportiert und als gn-monitor geladen (podman load verliert Digest-Namen → Inventory pinnt Tag-Refs auf die Image-IDs: VM v1.154.1, Loki 3.6.19, AM v0.34.2, vmalert v1.154.1).
  • Host-lokale Bindings (§7): Alle Dienste lauschen 127.0.0.1 — node_exporter :9100, VictoriaMetrics :8428 (-httpListenAddr), Loki :3100/:9096 (http/grpc_listen_address), Alertmanager :9093, vmalert :8880. Dashboard-Container (:8080) folgt; externer Zugriff erst später über NPM (M6, mit OIDC).
  • Implementierungsbefunde (05.11.2026): a) Der Textfile-Collector wiederholte # HELP/# TYPE je Karte; node_exporter verwirft bei Doppelung die ganze Datei („second HELP line"). Auf der Workstation (1 Karte) fiel es nicht auf, auf dem Server (2+ Karten) blieben alle gn_gpu_*-Metriken aus. Refactor: HELP/TYPE einmal je Metrikfamilie. b) VM-Flag -httpListenAddr erwartet host:port, nicht nur die Adresse (sonst: „missing port in address"). c) Alle vier Container-Rollen notifizierten nur den User-Scope-Restart- Handler; im System-Scope kamen Config-/Quadlet-Änderungen nie zur Laufzeit an. Notify-Liste mit beiden Handler-Namen (der falsche Scope skipt sich selbst); VM-Handler dafür konsistent in (system scope)/(user scope) benannt. d) Die Playbook-Verifikationen sind nun scope-agnostisch: Log-Pfad wird journal-basiert geprüft (logger -t gnmon-verify, Loki-Query syslog_identifier="gnmon-verify"; Datei-Seed nur bei konfigurierten File-Targets), SelfTest-Verify nur auf der Workstation (gnmon_vmalert_selftest_rule), serverseitig AM-200-Check.
  • Verifikation (05.11.2026): Volle Suite (--tags accounts,collector,metrics,logs,alerting) grün; Zweitlauf changed=0, failed=0 (idempotent). gn_gpu_up zeigt 2 Karten (card 0/1), Edge 30/27 °C, Junction 33/27 °C, 6 W, Lüfter 0 rpm bei PWM 0 (Idle-erwartbar) — der RX-6900-XT-Sensorpfad aus GNAI-010 10.3 ist damit im Monitoring bestätigt; GpuFanStalledUnderLoad greift erstmals bei Last. vmalert /-/healthy 200 ohne feuernde Alerts, AM /api/v2/alerts 200 leer. Workstation-Gegenprobe nach dem Rollenumbau ebenfalls grün und idempotent (changed=0 — dort fielen die Bugfixes a)/c) als Changes an und wurden neu gestartet).
  • Aufgeräumt: Image-Tars in /var/tmp gelöscht; gn-monitor-Images sauber (nur die vier Tag-Refs, keine Transport-Reste).
  • Bekannte Kosmetik: GPU-Label gpu="unknown" auf dem Server (product_name im sysfs dort nicht lesbar); möglicher Fallback über PCI-Vendor/Device-ID bei Bedarf.

M5: Dashboard-Rollout + AI-Verfügbarkeitsregel (implementiert 06.11.2026)

Betreiber-Go 06.11.2026; vorheriger Repo-Abgleich mit dem LLM-Stack-Agent (commit 7ec8a97 GNAI-001 M4): keine Konflikte; Andocken stattdessen über die neue Textfile-Metrik.

  • Integration gn_ai_active_env: Die ai_environment_switch-Rolle (GNAI-001 M4) schreibt gn_ai_active_env{env} in unser Textfile- Verzeichnis (/var/lib/gn-monitor/textfile, 30-s-Timer, als root geschriebene 644-Datei für node_exporter lesbar). Metrik traf bereits in VictoriaMetrics ein (env="production" = 1); die vom LLM-Stack vorgeschlagene Regel wurde als Gruppe gnmon-ai übernommen: GnAiEnvironmentDown (gn_ai_active_env == 0, 2 min, critical). vmalert lädt und evaluiert sie fehlerfrei (Regelabruf /api/v1/rules).
  • Dashboard-Container (gnmon_dashboard-Rolle, Tag dashboard):
    • images/dashboard/Containerfile: Multi-Stage-Build aus MCR (dotnet/sdk:10.0 → dotnet/aspnet:10.0, beide nicht dem Docker-Hub-Rate-Limit unterworfen), Non-Root-User 984 im Image, ASPNETCORE_URLS host-lokal voreingestellt. Build auf der Workstation verifiziert, dann transportiert (podman save → scp → als gn-dashboard geladen): docker.io/ghostnet/dashboard:v0.1.0, Image-ID 1b71e6d35069… (identisch zur Workstation).
    • Quadlet unter /etc/containers/systemd/users/984, Network=host (Abfragen der host-lokalen Monitoring-APIs), ASPNETCORE_URLS=http://127.0.0.1:8080, Restart=on-failure; Verifikations-Tasks im Playbook auf HTTP 200.
    • keep-id-Befund (06.11.2026): UserNS=keep-id (Plan-Ansatz „Non-Root-User gemappt auf 984") scheitert serverseitig mit crun „Permission denied" auf dem Overlay-merged-Verzeichnis der gn-dashboard-Storage — während dasselbe bei gn-monitor (VM-Image) funktioniert; Ursache offen. Entscheidung: Default-Rootless-Mapping wie bei allen GNMON-Diensten; der Image-User 984 läuft damit in der gn-dashboard-SubUID-Range (beobachtet: Host-UID 625271 = 624288+983), Attribution über den Range eindeutig.
  • Verifikation (06.11.2026): Dashboard antwortet auf dem Server mit der vollständigen Blazor-Shell (Ressourcen/GPUs-Layout im HTML); Gesamtsuite --tags accounts,collector,metrics,logs,alerting,dashboard grün, Zweitlauf changed=0, failed=0 (idempotent). Playbook-Befund: ansible-uri liefert bei chunked Responses keinen body — Inhaltsprüfung nicht portabel, auf HTTP 200 verifiziert.
  • Aufgeräumt: Dashboard-Tar auf Server und Workstation gelöscht, versehentlicher Root-Load entfernt; kein verwaister Container-Rest.

Noch offen

  1. Punkte 1–6 aus GNMON-001 v2.0 Abschnitt 9 (Metrics-Account-Identität, NPM-Hostname/Keycloak-Client, UID/GID gn-monitor, Chart-Bibliothek, LLM-Metriken, Retention-Feinjustierung).
  2. Alarmierung (Planlücke): v2.0 deckt Sammeln und Anzeigen ab, aber keinen Schwellwert-Alarm (Motivation des Vorfalls). Vorschlag: vmalert-Regeln gegen VictoriaMetrics mit Notification-Kanal; Kanal- Auswahl (Mail/ntfy/Matrix) ist eine Betreiberentscheidung.
  3. M6 auf ghostnet-ki: externer Dashboard-Zugriff über NPM (CT-103) mit TLS + WebSocket-Upgrade sowie OIDC/Keycloak (Confidential Client gn-dashboard, CT-102); damit einhergehend Bindung von :8080 auf die Host-LAN-IP und nftables-Regel „8080 nur von 10.0.0.10" (GNMON-001 §7; solange das Dashboard rein host-lokal läuft, ist keine Regel nötig — alles andere bindet bereits nur Loopback).
  4. keep-id-Ursachenanalyse (crun/Overlay-Rechte der gn-dashboard-Storage) bei Bedarf; Entscheidung zum Default-Mapping steht in Abschnitt M5.