Files
infrastructure/llm-server/llm
spektr 0c6e302e7b LLM-Server: BFCL-Harness aufgesetzt (GNAI-009 5.1, GPQA-Ersatz)
Separates gepinntes Image gnai-bench:bfcl-2026.3.23 (python:3.10-slim per
Digest, bfcl-eval 2026.3.23 - Python 3.10 wegen BFCL-Zielumgebung), Runner
run-bfcl.sh mit Remote-Modus gegen die OpenAI-kompatible Engine-API
(REMOTE_OPENAI_BASE_URL=http://llama-cpp:8080/v1). Kategorien: simple,
multiple, irrelevance (Irrelevance-Detection: Modell soll bei unpassenden
Anfragen NICHT rufen). Smoke und Serienlauf bewusst NACH Abschluss der
laufenden IFEval/MATH-Serie - Engine-Kontakt waehrend eines Benchmark-Laufs
wuerde die Messung kontaminieren.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-03 06:17:05 +01:00
..

LLM serving stack

This directory will hold the executable infrastructure for the LLM serving stack on ghostnet-ki: rootless llama.cpp with ROCm, separated into Production and Testing environments.

It is created with the internal LLM vertical slice (roadmap milestone 2 in GNAI-001). The planned architecture, deployment and serving configuration are documented under ../../docs/platform/llm-server/ai/.