Files
infrastructure/docs/platform/llm-server
spektr 7ec8a970b7 GNAI-001 M4 abgeschlossen: Backup/Reboot/Alarmgrenzen (GNAI-008 14.6)
Rolle ai_backup: woechentlicher Timer, NFS-Ziel (Encoding-Pipeline-
Anbindung, Betreiberentscheid), Archiv ohne GGUF-Weights (SOURCE.yml-
Reproduzierbarkeit), SHA256-Sidecar, Retention 8; Restore-Nachweise
R1 (Baum-Diff) und R2 (environment-state restore) bestanden. Echter
Hostreboot: Recovery-Service bringt Production selbststaendig hoch.
Verfuegbarkeitsmetrik gn_ai_active_env (Textfile, 30 s) mit Regel-
vorschlag fuer die GNMON-Suite. M4 damit vollstaendig abgenommen.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-06 07:34:52 +01:00
..

LLM-Server ghostnet-ki

Dieser Gerätebereich dokumentiert den physischen Server 10.0.0.90. Er gruppiert die gemeinsame Hostbasis, den eigentlichen LLM-Stack, den davon fachlich getrennten CPU-Encoding-Workload und das host-weite Monitoring. Alle vier Bereiche teilen Hardware, Betriebssystem und Ansible-Control-Projekt.

Bereich Inhalt
Host Hardware, Debian-Basis und GPU-Ausgangslage
Zugänge Benutzer, Netzwerk, Resolver und SSH
AI Architektur, Ansible-Deployment, Modellbewertung und llama.cpp-Serving
Encoding CPU-Encoding-Architektur und Pipeline-Plan
Monitoring Systemmetriken, Collector und Dashboard

Übergreifende Rollen stehen im Zugriffskonzept, der Gesamtstand im zentralen Dokumentationsindex.