Commit Graph
21 Commits
Author SHA1 Message Date
spektr b723e0ee01 GNAI-009 v0.9: IFEval- und MATH500-Serien abgeschlossen - differenziertes Bild (10.2/10.3)
IFEval (100 Samples, xhigh): Swift 1.0 gewinnt mit 0.76 vor Swift 1.5
(0.70) und Unsloth (0.63), mit niedrigster Token-Summe. MATH500 (math_verify,
da exact_match ein Format-Artefakt der Reasoning-Trennung ist): Swift 1.0
0.32, Unsloth 0.28, Swift 1.5 0.27. Damit gewinnt Swift 1.5 nur AIME;
die breite Thinking-Ersparnis des Herstellers reproduziert sich nicht.
Die Profilentscheidung verschiebt sich auf BFCL und die Praxissuite.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-03 11:08:07 +01:00
spektr f1dcc8f6a9 GNAI-009 v0.8: GPQA durch BFCL ersetzt (Betreiberentscheidung 03.11.2026)
GPQA Diamond ist im Frontier-Bereich gesattigt (>90% bei allen Anbietern)
und fuer die A/B-Trennung lokal nicht mehr trennscharf. Ersatz: Berkeley
Function Calling Leaderboard (bfcl-eval 2026.3.23) als etablierter
Tool-Use-Benchmark - mechanische Bewertung (AST, ausfuehrbare Calls,
Irrelevance-Detection), direkt gegen die OpenAI-kompatible Engine-API
lauffaehig (REMOTE_OPENAI_BASE_URL). Agentic-Benchmarks (tau2-bench,
Terminal-Bench) bleiben der Experimental-Stufe vorbehalten.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-03 06:02:49 +01:00
spektr fc880e4c8a GNAI-009 v0.7: Unsloth-Referenzlauf AIME24 abgeschlossen - Swift 1.5 gewinnt das Dreierduell (10.1)
Unsloth UD-Q6_K (xhigh, 30 AIME-Aufgaben): Score 0.500 (15/30) bei
hoechstem Token-Aufwand (Summe 279.436, Median 7.488) - Overthinking ohne
Thinking-Optimierung. Swift 1.5 gewinnt mit bestem Score (23/30) UND
niedrigster Token-Summe (249.448). AB1-Kriterium fuer Unsloth auf AIME
deutlich verfehlt (8 Erfolge Rueckstand). Ablaufnotiz: transienter
SSH-Abbruch toetete nur die lokale Ansible-Sitzung; der serverseitige
Lauf lief vollstaendig durch, Auswertung manuell nachgeholt.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-03 05:51:44 +01:00
spektr ed74691949 GNAI-009 v0.6: AB3-Serie AIME24 durchgefuehrt und dokumentiert (Abschnitt 10)
Erster gewerteter AB-Lauf (beide Swift-Profile, xhigh, 30 AIME-Aufgaben):
Swift 1.5 loest 0.767 vs 0.667 bei praktisch identischem Token-Aufwand
je Aufgabe (Effizienz gleichauf, Summe -7%). Die Herstellerzusage
(58.5% weniger Thinking-Tokens) reproduziert sich auf AIME nicht -
konsistent mit der bekannten AIME-Schwachstelle und der BF16/vLLM-
Vergleichsbasis. Gesamt-Token exakt per Journal-Korrelation (30/30,
keine Retries); Usage-Logging-Proxy als Folgevermerk.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-02 18:19:02 +01:00
spektr 6384f72314 GNAI-010: Stabilitaetsstunde Swift 1.5 bestanden - Abnahme 10.9 abgeschlossen
12/12 gemischte Requests ueber 62 Minuten ohne Neustart (NRestarts=0),
VRAM konstant bei 15,3/15,0 GiB. Damit sind alle drei Modellprofile
vollstaendig technisch abgenommen; die fachlichen AB-Serien (GNAI-009 4)
koennen beginnen.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-02 05:30:46 +01:00
spektr 43f6e72d06 GNAI-010 v0.13: Swift 1.5 Q6_K bereitgestellt und technisch abgenommen (10.9)
Drittes Profil nach GNAI-009 3.4: Download 22,2 GiB SHA-256-verifiziert,
S0-Bring-up 64k, S1 128k (n_ctx_slot=131072, VRAM 15,1/14,9 GiB), Health,
Alias, Thinking- und Tool-Call-Tests bestanden, Prefill-Leiter 684/676/576/423
t/s (Unsloth-Niveau, Swift 1.0 deutlich darunter), Kontext-Negativtest sauber.
Stabilitaetsstunde laeuft parallel; group_vars auf 128k zurueckgestellt.
Swift 1.5 bleibt bis zur AB-Bewertung aktives Profil.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-02 03:49:39 +01:00
spektr bc37972a09 GNAI-009 v0.5: Swift 1.5 als dritter Kandidat + Benchmark-Design; Rollen erweitert
Betreiberbeschluss 01.11.2026: Swift 1.5 Q6_K aufgenommen (GNAI-009 3.4,
Artefakt gepinnt: Revision 14bfe4b, SHA-256 cd2eb65 aus HF-Blob-Metadaten,
22,2 GiB). Testmatrix um S-Reihe und AB3/AB4 erweitert (AB3 isoliert die
Thinking-Optimierung Swift 1.0 vs 1.5, AB4 ist der Praxisvergleich).
Benchmark-Design ergaenzt: lm-evaluation-harness gegen die interne Engine-API
(AIME, GPQA Diamond, MATH-500, IFEval) plus Kernkennzahl Score je
Median-Reasoning-Token aus der getrennten reasoning_content.

model_store: drittes Artefakt; inference_engine: Profil swift15
(Unit gnai-testing-llama-swift15, Alias swift-1.5-qwen3.8-27b-q6k).

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:46:47 +01:00
spektr 345eb36c2b GNAI-010 v0.12: Unsloth-Wiederholung bestanden + thermisches Lastprofil (10.8)
Unsloth-Abnahme am 01.11.2026: Grundtests, 128k-Prefill-Leiter
(677/659/559/420 t/s, durchgehend schneller als Swift), Kontext-Negativtest
und 62 Minuten Stabilitaetslast ohne Neustart; Rueckwechsel auf Swift ohne
erneuten Download. Beide Profile damit technisch abgenommen - die fachliche
A/B-Serie (GNAI-009) kann beginnen.

Begleitend erstmals thermisches Lastprofil per Host-Sensoren (111 Proben):
CPU 52C, GPU-Junction max 54C, Power 36-49% der Caps - kein Throttling.
Lautstaete ist die werkseitige Luefterkurve, kein thermischer Zwang;
dauerhafte Sensorueberwachung gehoert in GNMON-001.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr e4aac1acc9 GNAI-010 v0.11: Host-Reboot-Test bestanden - 10.4 vollständig abgenommen
Nach systemctl reboot auf dem dedizierten Host: Linger aktiv, beide
Engine-Units inactive, keine Container (kein automatischer Start wie
vorgesehen, kein [Install]-Abschnitt). Bewusster Start des aktiven Profils
über die Rolle erfolgreich (Health 200, Alias korrekt).

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 09c755330a GNAI-010: Host-Reboot-Hinweis korrigiert - ghostnet-ki ist Bare-Metal, kein Proxmox-LXC
Der KI-Server ist eine eigenständige Debian-Installation auf dedizierter
Hardware (GNAI-002); der Neustart-Test läuft direkt auf dem Host (Betreiber
mit sudo), nicht über pct. Erwartung nach Reboot: Linger aktiv, keine
Engine-Unit startet automatisch, Start des Profils bewusst über die Rolle.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 2f03a7e624 GNAI-010 v0.10: Wiederanlauf-/Profilwechselabnahme; Ausschluss-Befund korrigiert (10.7)
10.4-Tests bestanden: Idempotenz (changed=0), kontrollierter Neustart
erhaelt Profil/Modell, bewusster Stopp bleibt Stopp, Profilwechsel in beide
Richtungen ueber die Rolle fehlerfrei ohne erneuten Download.

Befundkorrektur 5.3: direkter systemctl start der zweiten Unit fuehrt KEINEN
geordneten Wechsel aus - beide Modelle laden in der UEbergangsphase parallel
(beobachtet 01.11.2026). Conflicts= sichert nur den Endzustand; Before= aus
den Quadlets entfernt. Der geordnete Stop-vor-Start-Wechsel ist
ausschliesslich die Rollen-Umschaltoperation. Host-Reboot-Test an den
Betreiber uebertragen.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 1e1a6788a0 GNAI-010 v0.9: 128k-Abnahme Swift bestanden (Abschnitt 10.6)
Technische Abnahme nach 10.3 am 01.11.2026 in Testing gefahren und bestanden:
n_ctx_slot=131072, kein OOM (14,4/14,8 GiB von je 16 GiB), Prefill-Leiter
7,6k/29k/59,5k/121,9k Tokens mit 624/591/503/396 t/s, langer Request mit
finish=stop, sauberer Kontext-Negativtest (138k Tokens -> HTTP 400) und
62 Minuten gemischte Stabilitätslast ohne Neustart (NRestarts=0).

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektrandMistral Vibe 3306b3de4b GNAI-010: Änderungsverlaufseintrag zu v0.8 ergänzt
Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 3548615b2a GNAI-010 v0.8: 64k-Grundabnahme Swift bestanden (Abschnitt 10.5)
Technische Abnahme nach 10.1/10.2 am 31.10.2026 in Testing gefahren und
bestanden: SHA-256 und System-Fingerprint des gepinnten Builds, kein
PublishPort, Unit stabil, n_ctx_slot=65536, GPU-Offload über beide Karten
(12,7/13,1 GiB von je 16 GiB, kein CPU-Offload), Health 200 OK, korrekter
Alias, Thinking-Request mit getrenntem Reasoning und finaler Antwort,
syntaktisch gültiger Tool-Call (get_weather/Berlin). Offen: 128k-Abnahme
(10.3), Wiederanlauf-/Profilwechseltests (10.4), Unsloth-Wiederholung.
Hinweis dokumentiert: load_tensors-Verteilzeilen bei Verbose 3 nicht
gedruckt.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 060901d104 LLM-Server: Container-Protokollierung geklärt und in GNAI-010 dokumentiert (v0.7)
conmon schreibt mit dem Journald-Treiber ins System-Journal (Syslog-Identifier
= Container-Name, _COMM=conmon); lesbar als root, podman logs bleibt für das
Workload-Konto leer (Journal-Dateirechte, bewusst keine systemd-journal-
Gruppe). Lesewege in GNAI-010 Abschnitt 8.1; 64k-Bring-up-Startlogs sind
protokollfähig (n_slots=1, n_ctx_slot=65536, Listening, MTP-Tensoren nicht
geladen). Zusätzlich dokumentiert: LLAMA_ARG_HOST-Default des Images und die
bewusst akzeptierte API-Key-Lücke des internen Testing-Netzes.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 026c840029 LLM-Server: M2-Vertical-Slice in Betrieb - Swift-Stack läuft, Inferenz nachgewiesen
Erster produktiver Start des llama.cpp-Testing-Stacks auf ghostnet-ki
(31.10.2026). Fix-Liste aus den Live-Läufen:
- Quadlet-Exec ohne Binärnamen (AMD-Image hat ENTRYPOINT /app/llama-server;
  GNAI-010 v0.6 dokumentiert den Befund)
- Deterministischer daemon-reload vor Unit-Zugriff (Handler allein griff nicht,
  wenn ein vorheriger Lauf die Quadlets gerendert hatte)
- Netz-Abhängigkeit Wants/After im Container-Quadlet (Netzwerk-Unit wurde
  nie mitgestartet -> network not found)
- Stopp-Bedingung für Profilwechsel korrigiert (nur aktive Units stoppen)
- Health-Tool-Kette curl/wget/bash-/dev/tcp mit Pfad-Normalisierung; curl -f
  als Gesundheitssignal (Statuszeile stand nie im stdout)
- chdir für alle runuser-Aufrufe der Health-Checks

Nachweise: Health 200 OK, /v1/models Alias korrekt, Idempotenz changed=0,
VRAM 12,6/13,0 GiB von je 16 GiB auf beiden Karten (Layer-Split 1:1),
echte Chat-Completion mit System-Fingerprint des gepinnten Builds,
Reasoning getrennt von der Antwort.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr 89787b0e23 LLM-Server: IPv6 deaktiviert (host_baseline) + Swift-Repin und wget-4-Download nach Live-Befunden
Betreiberentscheidung 31.10.2026 (GNAI-002 Abschnitt 6): Der KI-Host wird
kohärent IPv4-only betrieben. host_baseline verwaltet
/etc/sysctl.d/99-ghostnet-disable-ipv6.conf (all+default), wendet es bei
Änderung an und verifiziert den Laufzeitwert. Anlass: hängender get_url-
Download durch AAAA-Antworten ohne nutzbare IPv6-Route (Messungen im
Dokument; Pi-hole filtert AAAA nicht, der Host nutzt Pi-hole nicht).

model_store nach Live-Befunden: Swift-Repin auf Repository-Revision
98a6100 (alte Revision entfernt, Datei laut Herausgeber-SHA256SUMS
unverändert; GNAI-010 v0.5) und Download über wget -4 mit expliziter
SHA-256-Verifikation vor dem atomaren Move.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:32:17 +01:00
spektr f4aef4413b GNAI-008 v0.18: Deployment-Plan überarbeitet (drei Umgebungen, Model-Store, CI/CD-Scope)
Betreiberentscheidungen 31.10.2026: Umgebungen Production, Testing und
Experimental mit exklusivem GPU-Scheduling; Umschaltoperation
ai_environment_switch für kurze Downtimes mit kommunizierten Zeitfenstern;
Wartungsseite oder transparenter Endpunktwechsel für nutzerseitige Dienste;
model_store als Kernrolle für gepinnte Weights in /var/lib/ghostnet-ai/shared;
verallgemeinerte inference_engine-Rolle; Gitea-Actions-Kette mit Runner-Scope
Experimental/Testing und Production ausschließlich über Promotion-Tag;
Strata als erster Experimental-Kandidat (Abschnitt 7.6) mit gfx1030-Vorbehalten.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-11-01 17:31:45 +01:00
spektr 92c846f527 LLM-Server: ausführbares Projekt in die Hauptverzeichnisse host/, llm/ und encoding/ aufgeteilt.
Grundkonfiguration des Servers liegt nun unter llm-server/host/ansible/
(vorher llm-server/ansible/), der LLM-Stack-Platzhalter unter llm-server/llm/
und der Encoding-Workload unter llm-server/encoding/. Dokumentation und
Pfadverweise (ansible.cfg roles_path, .venv-Tiefe, Markdown-Links) angepasst;
Linkvalidator meldet broken_local_links=0.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
2026-10-19 14:42:14 +02:00
spektr 00ed091890 CT-102 Keycloak: Migration nach Podman und Ansible abgeschlossen und gehärtet. 2026-10-14 15:01:14 +02:00
spektr b40f726d22 Add: DNS über Pi-Hole LXC. Härtung von CT-105 Wireguard. 2026-10-05 17:45:38 +02:00