Files
infrastructure/docs/platform/llm-server/ai

KI-Dokumentation

Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.

Dokument Inhalt
GNAI-001 priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien
GNAI-004 Zielarchitektur, Komponenten und Datenwege des KI-Stacks
GNAI-008 nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment
GNAI-009 Modellbewertung für Swift/Unsloth; Betreiberbeschluss 05.11.2026: Swift 1.5 Q6_K als Production-Profil (Abschnitt 10.4)
GNAI-010 technische Sollkonfiguration für die Modellprofile auf rootless llama.cpp mit ROCm; Testing abgenommen (10.5–10.10), Production live seit 06.11.2026
GNAI-020 Websuche in OpenWebUI: SearXNG mit kuratierten Engines + Native/Agentic Mode (search_web/fetch_url), UI- und API-Betrieb (Path A/B), produktiv verifiziert seit 12.11.2026

Der übergreifende Projektstand steht im zentralen Dokumentationsindex.