spektr
1e1a6788a0
Technische Abnahme nach 10.3 am 01.11.2026 in Testing gefahren und bestanden: n_ctx_slot=131072, kein OOM (14,4/14,8 GiB von je 16 GiB), Prefill-Leiter 7,6k/29k/59,5k/121,9k Tokens mit 624/591/503/396 t/s, langer Request mit finish=stop, sauberer Kontext-Negativtest (138k Tokens -> HTTP 400) und 62 Minuten gemischte Stabilitätslast ohne Neustart (NRestarts=0). Generated by Mistral Vibe. Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
LLM-Server ghostnet-ki
Dieser Gerätebereich dokumentiert den physischen Server 10.0.0.90. Er
gruppiert die gemeinsame Hostbasis, den eigentlichen LLM-Stack, den davon
fachlich getrennten CPU-Encoding-Workload und das host-weite Monitoring. Alle
vier Bereiche teilen Hardware, Betriebssystem und Ansible-Control-Projekt.
| Bereich | Inhalt |
|---|---|
| Host | Hardware, Debian-Basis und GPU-Ausgangslage |
| Zugänge | Benutzer, Netzwerk, Resolver und SSH |
| AI | Architektur, Ansible-Deployment, Modellbewertung und llama.cpp-Serving |
| Encoding | CPU-Encoding-Architektur und Pipeline-Plan |
| Monitoring | Systemmetriken, Collector und Dashboard |
Übergreifende Rollen stehen im Zugriffskonzept, der Gesamtstand im zentralen Dokumentationsindex.