diff --git a/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md b/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md index f1ce8d9..97607c7 100644 --- a/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md +++ b/docs/platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md @@ -688,16 +688,14 @@ abgenommen: | Tool-Call | `finish_reason: tool_calls`, gültiger Call `get_weather` mit `{"city":"Berlin"}` | | Prefill-Leiter (präfixfrei, `cache_n=42`) | 7.597 Tokens bei 684 t/s; 29.021 bei 676 t/s; 59.469 bei 576 t/s; 121.863 bei 423 t/s – identisches Promptset wie Swift 1.0 und Unsloth, Ergebnis auf Unsloth-Niveau | | Kontext-Negativtest | 138.446 Tokens sauber mit HTTP 400 `exceed_context_size_error` abgewiesen | -| Stabilitätsstunde | 12 gemischte Requests über 62 Minuten: ohne Neustart (im Ergebnis nachzutragen, falls abweichend) | +| Stabilitätsstunde | 12 gemischte Requests über 62 Minuten: alle beantwortet; `NRestarts=0`, Unit durchgehend `active` seit 03:39, VRAM konstant (15,3/15,0 GiB, kein Anstieg) | -Einordnung der Vorläufigkeit: Die Stabilitätsstunde lief parallel zur -Dokumentation; ein abweichendes Ergebnis wird hier nachgetragen. Mit den -identischen Leiter-Prompts liegen jetzt für alle drei Profile vergleichbare -Prefill-Messungen vor: Unsloth (677/659/559/420 t/s) und Swift 1.5 -(684/676/576/423 t/s) liegen praktisch gleichauf, Swift 1.0 (624/591/503/396) -darunter. Die fachlichen Serien AB1 bis AB4 (GNAI-009 Abschnitt 4) können -beginnen; Swift 1.5 bleibt bis zur Serienergebnisbewertung als aktives -Profil in Testing aktiv. +Einordnung: Mit identischen Leiter-Prompts liegen für alle drei Profile +vergleichbare Prefill-Messungen vor: Unsloth (677/659/559/420 t/s) und +Swift 1.5 (684/676/576/423 t/s) liegen praktisch gleichauf, Swift 1.0 +(624/591/503/396) darunter. Die fachlichen Serien AB1 bis AB4 +(GNAI-009 Abschnitt 4) können beginnen; Swift 1.5 bleibt bis zur +Serienergebnisbewertung als aktives Profil in Testing aktiv. #### Thermisches Begleitprofil (Betreiberfrage vom 01.11.2026)