conmon schreibt mit dem Journald-Treiber ins System-Journal (Syslog-Identifier = Container-Name, _COMM=conmon); lesbar als root, podman logs bleibt für das Workload-Konto leer (Journal-Dateirechte, bewusst keine systemd-journal- Gruppe). Lesewege in GNAI-010 Abschnitt 8.1; 64k-Bring-up-Startlogs sind protokollfähig (n_slots=1, n_ctx_slot=65536, Listening, MTP-Tensoren nicht geladen). Zusätzlich dokumentiert: LLAMA_ARG_HOST-Default des Images und die bewusst akzeptierte API-Key-Lücke des internen Testing-Netzes. Generated by Mistral Vibe. Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
LLM serving stack
This directory will hold the executable infrastructure for the LLM serving
stack on ghostnet-ki: rootless llama.cpp with ROCm, separated into
Production and Testing environments.
It is created with the internal LLM vertical slice (roadmap milestone 2 in
GNAI-001). The planned
architecture, deployment and serving configuration are documented under
../../docs/platform/llm-server/ai/.