Files
infrastructure/docs/platform/llm-server
spektr 57a3c1140a GNAI-010 v0.16: Slot-Tauschprobe - Defekt folgt dem Slot, nicht der Karte (10.10)
Verdaechtige Karte im Slot 07:00.0 stabil bei ~60 C; bisher unauffaellige
Karte im Slot 03:00.0 bei 86-88 C nach 5,5 Min (gleiche Leistung ~140 W).
Beide Slots ueber 01.11.-Referenzniveau: Verdacht Luftfuehrungs-Regression
am Gehaeuse. RMA zurueckgestellt; Gehaeuse-Pruefung und GNMON-001-Anschluss
des KI-Servers als Folgeaktionen festgelegt.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-04 16:59:45 +01:00
..

LLM-Server ghostnet-ki

Dieser Gerätebereich dokumentiert den physischen Server 10.0.0.90. Er gruppiert die gemeinsame Hostbasis, den eigentlichen LLM-Stack, den davon fachlich getrennten CPU-Encoding-Workload und das host-weite Monitoring. Alle vier Bereiche teilen Hardware, Betriebssystem und Ansible-Control-Projekt.

Bereich Inhalt
Host Hardware, Debian-Basis und GPU-Ausgangslage
Zugänge Benutzer, Netzwerk, Resolver und SSH
AI Architektur, Ansible-Deployment, Modellbewertung und llama.cpp-Serving
Encoding CPU-Encoding-Architektur und Pipeline-Plan
Monitoring Systemmetriken, Collector und Dashboard

Übergreifende Rollen stehen im Zugriffskonzept, der Gesamtstand im zentralen Dokumentationsindex.