Files
infrastructure/docs/platform/llm-server/ai
spektr 43f6e72d06 GNAI-010 v0.13: Swift 1.5 Q6_K bereitgestellt und technisch abgenommen (10.9)
Drittes Profil nach GNAI-009 3.4: Download 22,2 GiB SHA-256-verifiziert,
S0-Bring-up 64k, S1 128k (n_ctx_slot=131072, VRAM 15,1/14,9 GiB), Health,
Alias, Thinking- und Tool-Call-Tests bestanden, Prefill-Leiter 684/676/576/423
t/s (Unsloth-Niveau, Swift 1.0 deutlich darunter), Kontext-Negativtest sauber.
Stabilitaetsstunde laeuft parallel; group_vars auf 128k zurueckgestellt.
Swift 1.5 bleibt bis zur AB-Bewertung aktives Profil.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-02 03:49:39 +01:00
..

KI-Dokumentation

Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.

Dokument Inhalt
GNAI-001 priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien
GNAI-004 Zielarchitektur, Komponenten und Datenwege des KI-Stacks
GNAI-008 nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment
GNAI-009 nicht finaler A/B-Plan für Swift, Unsloth, Reasoning-, Kontext- und MTP-Abnahme
GNAI-010 technische Sollkonfiguration für zwei geprüfte Modellprofile auf rootless llama.cpp mit ROCm

Der übergreifende Projektstand steht im zentralen Dokumentationsindex.