Files
infrastructure/docs/platform/llm-server/ai
spektr ed74691949 GNAI-009 v0.6: AB3-Serie AIME24 durchgefuehrt und dokumentiert (Abschnitt 10)
Erster gewerteter AB-Lauf (beide Swift-Profile, xhigh, 30 AIME-Aufgaben):
Swift 1.5 loest 0.767 vs 0.667 bei praktisch identischem Token-Aufwand
je Aufgabe (Effizienz gleichauf, Summe -7%). Die Herstellerzusage
(58.5% weniger Thinking-Tokens) reproduziert sich auf AIME nicht -
konsistent mit der bekannten AIME-Schwachstelle und der BF16/vLLM-
Vergleichsbasis. Gesamt-Token exakt per Journal-Korrelation (30/30,
keine Retries); Usage-Logging-Proxy als Folgevermerk.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-02 18:19:02 +01:00
..

KI-Dokumentation

Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.

Dokument Inhalt
GNAI-001 priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien
GNAI-004 Zielarchitektur, Komponenten und Datenwege des KI-Stacks
GNAI-008 nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment
GNAI-009 nicht finaler A/B-Plan für Swift, Unsloth, Reasoning-, Kontext- und MTP-Abnahme
GNAI-010 technische Sollkonfiguration für zwei geprüfte Modellprofile auf rootless llama.cpp mit ROCm

Der übergreifende Projektstand steht im zentralen Dokumentationsindex.