Technische Abnahme nach 10.3 am 01.11.2026 in Testing gefahren und bestanden: n_ctx_slot=131072, kein OOM (14,4/14,8 GiB von je 16 GiB), Prefill-Leiter 7,6k/29k/59,5k/121,9k Tokens mit 624/591/503/396 t/s, langer Request mit finish=stop, sauberer Kontext-Negativtest (138k Tokens -> HTTP 400) und 62 Minuten gemischte Stabilitätslast ohne Neustart (NRestarts=0). Generated by Mistral Vibe. Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
Plattform- und Gerätedokumentation
Dieser Bereich bildet die beiden physischen Geräte der Infrastruktur ab: den Proxmox-Server mit seinen LXCs und den separaten LLM-Server mit AI-Serving und CPU-Encoding. Übergreifende Rollen und Zugriffsziele bleiben auf dieser Ebene. Die SSH-Konfiguration des Proxmox-Hypervisors selbst ist weiterhin nicht Teil der LXC-Dokumentation.
| Dokument | Inhalt |
|---|---|
| LLM-Server | physischer Server 10.0.0.90, Hostbasis, AI-Serving und Encoding |
| Proxmox-Server | Proxmox-Kontext und LXC-Dienste einschließlich DNS, Reverse Proxy und WireGuard |
| GNAI-005 | Rollen- und Zugriffsziel für die Infrastruktur |
Der übergreifende Projektstand steht im zentralen Dokumentationsindex.