Files
infrastructure/docs/platform/llm-server/ai
spektr 060901d104 LLM-Server: Container-Protokollierung geklärt und in GNAI-010 dokumentiert (v0.7)
conmon schreibt mit dem Journald-Treiber ins System-Journal (Syslog-Identifier
= Container-Name, _COMM=conmon); lesbar als root, podman logs bleibt für das
Workload-Konto leer (Journal-Dateirechte, bewusst keine systemd-journal-
Gruppe). Lesewege in GNAI-010 Abschnitt 8.1; 64k-Bring-up-Startlogs sind
protokollfähig (n_slots=1, n_ctx_slot=65536, Listening, MTP-Tensoren nicht
geladen). Zusätzlich dokumentiert: LLAMA_ARG_HOST-Default des Images und die
bewusst akzeptierte API-Key-Lücke des internen Testing-Netzes.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
..

KI-Dokumentation

Dieser Bereich enthält die fachliche Zielarchitektur und Deployment-Planung für den KI-Stack auf dem LLM-Server. Gemeinsame Hostgrundlagen liegen im Geräteindex, übergreifende Netzwerk- und Sicherheitsgrundlagen in der Plattformdokumentation. Der CPU-basierte Video-Encoding-Workload besitzt einen eigenen Dokumentationsbereich.

Dokument Inhalt
GNAI-001 priorisierter High-Level-Implementierungsplan mit Entscheidungstoren und Abnahmekriterien
GNAI-004 Zielarchitektur, Komponenten und Datenwege des KI-Stacks
GNAI-008 nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment
GNAI-009 nicht finaler A/B-Plan für Swift, Unsloth, Reasoning-, Kontext- und MTP-Abnahme
GNAI-010 technische Sollkonfiguration für zwei geprüfte Modellprofile auf rootless llama.cpp mit ROCm

Der übergreifende Projektstand steht im zentralen Dokumentationsindex.