Files
infrastructure/docs/platform/llm-server/ai
spektr fc880e4c8a GNAI-009 v0.7: Unsloth-Referenzlauf AIME24 abgeschlossen - Swift 1.5 gewinnt das Dreierduell (10.1)
Unsloth UD-Q6_K (xhigh, 30 AIME-Aufgaben): Score 0.500 (15/30) bei
hoechstem Token-Aufwand (Summe 279.436, Median 7.488) - Overthinking ohne
Thinking-Optimierung. Swift 1.5 gewinnt mit bestem Score (23/30) UND
niedrigster Token-Summe (249.448). AB1-Kriterium fuer Unsloth auf AIME
deutlich verfehlt (8 Erfolge Rueckstand). Ablaufnotiz: transienter
SSH-Abbruch toetete nur die lokale Ansible-Sitzung; der serverseitige
Lauf lief vollstaendig durch, Auswertung manuell nachgeholt.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-03 05:51:44 +01:00
..

KI-Dokumentation

Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.

Dokument Inhalt
GNAI-001 priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien
GNAI-004 Zielarchitektur, Komponenten und Datenwege des KI-Stacks
GNAI-008 nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment
GNAI-009 nicht finaler A/B-Plan für Swift, Unsloth, Reasoning-, Kontext- und MTP-Abnahme
GNAI-010 technische Sollkonfiguration für zwei geprüfte Modellprofile auf rootless llama.cpp mit ROCm

Der übergreifende Projektstand steht im zentralen Dokumentationsindex.