From 6384f723140136540a059aab284ca385f7c38e1a Mon Sep 17 00:00:00 2001 From: spektr Date: Mon, 2 Nov 2026 05:30:46 +0100 Subject: [PATCH] GNAI-010: Stabilitaetsstunde Swift 1.5 bestanden - Abnahme 10.9 abgeschlossen 12/12 gemischte Requests ueber 62 Minuten ohne Neustart (NRestarts=0), VRAM konstant bei 15,3/15,0 GiB. Damit sind alle drei Modellprofile vollstaendig technisch abgenommen; die fachlichen AB-Serien (GNAI-009 4) koennen beginnen. Generated by Mistral Vibe. Co-Authored-By: Mistral Vibe --- .../llm-server/ai/GNAI-010-TECH_Llama-Serving.md | 16 +++++++--------- 1 file changed, 7 insertions(+), 9 deletions(-) diff --git a/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md b/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md index f1ce8d9..97607c7 100644 --- a/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md +++ b/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md @@ -688,16 +688,14 @@ abgenommen: | Tool-Call | `finish_reason: tool_calls`, gültiger Call `get_weather` mit `{"city":"Berlin"}` | | Prefill-Leiter (präfixfrei, `cache_n=42`) | 7.597 Tokens bei 684 t/s; 29.021 bei 676 t/s; 59.469 bei 576 t/s; 121.863 bei 423 t/s – identisches Promptset wie Swift 1.0 und Unsloth, Ergebnis auf Unsloth-Niveau | | Kontext-Negativtest | 138.446 Tokens sauber mit HTTP 400 `exceed_context_size_error` abgewiesen | -| Stabilitätsstunde | 12 gemischte Requests über 62 Minuten: ohne Neustart (im Ergebnis nachzutragen, falls abweichend) | +| Stabilitätsstunde | 12 gemischte Requests über 62 Minuten: alle beantwortet; `NRestarts=0`, Unit durchgehend `active` seit 03:39, VRAM konstant (15,3/15,0 GiB, kein Anstieg) | -Einordnung der Vorläufigkeit: Die Stabilitätsstunde lief parallel zur -Dokumentation; ein abweichendes Ergebnis wird hier nachgetragen. Mit den -identischen Leiter-Prompts liegen jetzt für alle drei Profile vergleichbare -Prefill-Messungen vor: Unsloth (677/659/559/420 t/s) und Swift 1.5 -(684/676/576/423 t/s) liegen praktisch gleichauf, Swift 1.0 (624/591/503/396) -darunter. Die fachlichen Serien AB1 bis AB4 (GNAI-009 Abschnitt 4) können -beginnen; Swift 1.5 bleibt bis zur Serienergebnisbewertung als aktives -Profil in Testing aktiv. +Einordnung: Mit identischen Leiter-Prompts liegen für alle drei Profile +vergleichbare Prefill-Messungen vor: Unsloth (677/659/559/420 t/s) und +Swift 1.5 (684/676/576/423 t/s) liegen praktisch gleichauf, Swift 1.0 +(624/591/503/396) darunter. Die fachlichen Serien AB1 bis AB4 +(GNAI-009 Abschnitt 4) können beginnen; Swift 1.5 bleibt bis zur +Serienergebnisbewertung als aktives Profil in Testing aktiv. #### Thermisches Begleitprofil (Betreiberfrage vom 01.11.2026)