Unsloth UD-Q6_K (xhigh, 30 AIME-Aufgaben): Score 0.500 (15/30) bei hoechstem Token-Aufwand (Summe 279.436, Median 7.488) - Overthinking ohne Thinking-Optimierung. Swift 1.5 gewinnt mit bestem Score (23/30) UND niedrigster Token-Summe (249.448). AB1-Kriterium fuer Unsloth auf AIME deutlich verfehlt (8 Erfolge Rueckstand). Ablaufnotiz: transienter SSH-Abbruch toetete nur die lokale Ansible-Sitzung; der serverseitige Lauf lief vollstaendig durch, Auswertung manuell nachgeholt. Generated by Mistral Vibe. Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
KI-Dokumentation
Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.
| Dokument | Inhalt |
|---|---|
| GNAI-001 | priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien |
| GNAI-004 | Zielarchitektur, Komponenten und Datenwege des KI-Stacks |
| GNAI-008 | nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment |
| GNAI-009 | nicht finaler A/B-Plan für Swift, Unsloth, Reasoning-, Kontext- und MTP-Abnahme |
| GNAI-010 | technische Sollkonfiguration für zwei geprüfte Modellprofile auf rootless llama.cpp mit ROCm |
Der übergreifende Projektstand steht im zentralen Dokumentationsindex.