Files
infrastructure/docs/platform/llm-server/ai
spektr 345eb36c2b GNAI-010 v0.12: Unsloth-Wiederholung bestanden + thermisches Lastprofil (10.8)
Unsloth-Abnahme am 01.11.2026: Grundtests, 128k-Prefill-Leiter
(677/659/559/420 t/s, durchgehend schneller als Swift), Kontext-Negativtest
und 62 Minuten Stabilitaetslast ohne Neustart; Rueckwechsel auf Swift ohne
erneuten Download. Beide Profile damit technisch abgenommen - die fachliche
A/B-Serie (GNAI-009) kann beginnen.

Begleitend erstmals thermisches Lastprofil per Host-Sensoren (111 Proben):
CPU 52C, GPU-Junction max 54C, Power 36-49% der Caps - kein Throttling.
Lautstaete ist die werkseitige Luefterkurve, kein thermischer Zwang;
dauerhafte Sensorueberwachung gehoert in GNMON-001.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
..

KI-Dokumentation

Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.

Dokument Inhalt
GNAI-001 priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien
GNAI-004 Zielarchitektur, Komponenten und Datenwege des KI-Stacks
GNAI-008 nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment
GNAI-009 nicht finaler A/B-Plan für Swift, Unsloth, Reasoning-, Kontext- und MTP-Abnahme
GNAI-010 technische Sollkonfiguration für zwei geprüfte Modellprofile auf rootless llama.cpp mit ROCm

Der übergreifende Projektstand steht im zentralen Dokumentationsindex.