M6: Websuche in OpenWebUI produktiv — SearXNG kuratiert + Native/Agentic Mode (GNAI-020)
ci-static / secret-scan (push) Successful in 21s
ci-static / yamllint (push) Successful in 1m13s
ci-static / ansible-syntax (push) Successful in 29s
ci-static / markdown-links (push) Successful in 20s
ci-static / secret-scan (pull_request) Successful in 21s
ci-static / yamllint (pull_request) Successful in 33s
ci-static / ansible-syntax (pull_request) Successful in 27s
ci-static / markdown-links (pull_request) Successful in 21s

Root causes des bisherigen Haengers: ENABLE_WEB_SEARCH fehlte (Default False
in v0.13.3), persistierte config-Tabelle schlug die Env-Werte
(web.search.enable=false, engine=""), ENABLE_RAG_WEB_SEARCH ist in v0.13.3
tot, SearXNG lief mit 123 Default-Engines, und meta.defaultFeatureIds des
Modells war leer (neue UI-Chats starten ohne Web-Search-Toggle).

- web_search-Rolle: settings.yml mit keep_only (43 kuratierte Engines, Namen
  aus der Default-settings.yml des gepinnten Images 626105eec), alle Engines
  auf categories:[general] + disabled:false (OpenWebUI sendet keinen
  categories-Parameter), outgoing.request_timeout 2.5s/max 8s,
  suspended_times auf Minuten verkuerzt; Probe assertet echte JSON-results.
- open_webui-Rolle: ENABLE_WEB_SEARCH=True, RESULT_COUNT=8,
  WEB_SEARCH_CONCURRENT_REQUESTS=4, WEB_FETCH_MAX_CONTENT_LENGTH=100000,
  USER_AGENT (Browser-String); ENABLE_RAG_WEB_SEARCH entfernt;
  Quadlet-Template quotet Environment="KEY=value" (systemd-Split bei Spaces,
  betraf u.a. OAUTH_SCOPES).
- DB-Sync idempotent: config-rows web.search.*/web.fetch.* an Env angleichen
  (DB gewinnt ueber Env), Model-Meta capabilities.web_search +
  builtinTools.web_search=true + defaultFeatureIds=["web_search"],
  Workspace-Tool gnai-web-search (web_search/fetch_url gegen
  http://searxng:8080) mit public read grant fuer API-Agenten via tool_ids.
- Doku GNAI-020 (Umsetzung, Verifikation, UI-/API-Pfade Path A/B,
  NPM-Timeout-Betreiber-Schritt); Index + Roadmap M6 aktualisiert.

Verifiziert 12.11.2026 auf 10.0.0.90: SearXNG 168 Ergebnisse/1,4 s, aus
OpenWebUI-Container via Alias HTTP 200/1,9 s; /api/models zeigt
defaultFeatureIds=['web_search']; E2E Path A ohne tool_ids (nur session_id
+ features.web_search): server-seitiger Loop search_web x2 + fetch_url x2,
Zitation in sources, korrekte Antwort mit Quellen (v0.13.3, 2026-11-08);
Playbook danach changed=0; secret-scan/yamllint/ansible-syntax/links OK.

Generated by Mistral Vibe.
Co-Authored-By: Mistral Vibe <vibe@mistral.ai>
This commit is contained in:
2026-11-12 03:41:17 +01:00
parent 8c347604f6
commit d40712e9ab
14 changed files with 668 additions and 32 deletions
+4 -3
View File
@@ -1,6 +1,6 @@
# Ghostnet.AI – Dokumentationsindex und Projektstand
**Stand:** 2026-11-10
**Stand:** 2026-11-12
**Status:** Plattformgrundlage vorhanden; KI-Stack intern bis M4 abgenommen (Testing und Production live auf `10.0.0.90`, Monitoring produktiv); Sicherheitsabschluss: Fail2Ban-Abnahme und hostunabhängige Backups/Restore am 10.11.2026 geschlossen, WAN/IPv6-Fremdnetz-Rescan, NPM-Rückfalltest CT 104 und FRITZ!Box-Rollback noch offen; externe KI-Freigabe (M6) offen
@@ -51,6 +51,7 @@ jeweiligen Fachdokumenten. Die priorisierte weitere Umsetzung beschreibt der
| [GNAI-008](platform/llm-server/ai/GNAI-008-PLAN_Ansible-Deployment.md) | detaillierter Ansible-/Gitea-Planungsstand und Implementierungshistorie |
| [GNAI-009](platform/llm-server/ai/GNAI-009-PLAN_Llama-Model-Evaluation.md) | reproduzierbarer Modellvergleich |
| [GNAI-010](platform/llm-server/ai/GNAI-010-TECH_Llama-Serving.md) | technische Sollkonfiguration des Testing-Servings |
| [GNAI-020](platform/llm-server/ai/GNAI-020-TECH_OpenWebUI-WebSearch.md) | Websuche in OpenWebUI (SearXNG kuratiert + Native/Agentic Mode, UI- und API-Pfade) |
| [LLM-Server-Host-Ansible](../llm-server/host/ansible/README.md) | ausführbare Host-/ROCm-Playbooks und Rollen für `10.0.0.90` |
| [LLM-Stack-Ansible](../llm-server/llm/ansible/README.md) | ausführbares Ansible-Projekt für den LLM-Stack auf `10.0.0.90` (Production/Testing, Umschaltung, Backup) |
| [Encoding-Ansible](../llm-server/encoding/ansible/README.md) | ausführbares Ansible-Projekt für den CPU-Encoding-Workload auf `10.0.0.90` |
@@ -88,11 +89,11 @@ Hauptverzeichnisse `llm-server/host/` (Grundkonfiguration des Servers),
| --- | --- | --- |
| KI-Host | Debian 13.6, Deployment-Zugang, Podman 5.4.2, getrennte rootless Konten, Gerätezugriff für beide KI-Konten; IPv4-only (31.10., GNAI-002 6); Lüftersteuerungs-Dienst `gnai-gpu-fan-control` als Dauerlösung (05.11., GNAI-010 10.10); Backup/Restore praktisch belegt (06.11., GNAI-008 14.6) und Backup-Unit per `RequiresMountsFor` boot-sicher (Fix 09.11., GNAI-008 14.6/0.21); Host-Neustart mit automatischem Production-Recovery (06.11. und erneut 09.11.2026, GNAI-008 14.6) | Host-/Treiber-Upgradepfad |
| GPU/ROCm | beide RX 6900 XT als `gfx1030`, `ROCm0` und `ROCm1` im gepinnten Testing-Image erkannt; Modellladen, Layer-Verteilung und reale Inferenz auf beiden GPUs; 64k- und 128k-Stabilität in Testing (GNAI-010 10.5–10.9); GPU-Sensoren im Monitoring mit Alarmgrenzen (GNMON-000 M4/M5, verifiziert 09.11.2026) | Hardware-Ursache des thermischen Defekts an Slot `03:00.0` (GNAI-010 10.10) — Lüfterkurven-Service überbrückt als Dauerlösung |
| LLM-Serving | drei gepinnte Profile (Swift 1.0, Swift 1.5, Unsloth); Testing-Abnahme 64k/128k je Profil (GNAI-010 10.5–10.9); Production-Umgebung live mit Swift 1.5 Q6_K seit 06.11.2026 (Betreiberbeschluss 05.11., GNAI-009 10.4) inklusive Health, Alias und Inferenztest; exklusive Umschaltmechanik mit Recovery (GNAI-008 14.6, T1–T7; nach Neustart 09.11.2026 `gn_ai_active_env{env="production"}=1` verifiziert); **OpenWebUI v0.13.3 (digest-gepinnt) intern produktiv seit 10.11.2026** — Health 200, Model-Liste, reale Chat-Completion via OpenWebUI → llama.cpp (Rolle `open_webui`, Playbook `webui.yml`, Ingress `10.0.0.90:8081` nur von NPM, Split-DNS `chat.ghostnet.selfhost.eu` live) | LLM-Metriken jenseits `gn_ai_active_env`, Nutzerakzeptanzprüfung (GNAI-009 5.3). **Öffentlicher Nutzerpfad M6 live seit 11.11.2026:** `https://chat.ghostnet.selfhost.eu` (OpenWebUI v0.13.3, NPM → 10.0.0.90:8081, Keycloak-OIDC Client `gnai-openwebui` public+PKCE; Negativtests: 8081/Engine-Ports von außen geblockt, `/admin/` 403, keine AAAA; OIDC-Redirect-Kette verifiziert) |
| LLM-Serving | drei gepinnte Profile (Swift 1.0, Swift 1.5, Unsloth); Testing-Abnahme 64k/128k je Profil (GNAI-010 10.5–10.9); Production-Umgebung live mit Swift 1.5 Q6_K seit 06.11.2026 (Betreiberbeschluss 05.11., GNAI-009 10.4) inklusive Health, Alias und Inferenztest; exklusive Umschaltmechanik mit Recovery (GNAI-008 14.6, T1–T7; nach Neustart 09.11.2026 `gn_ai_active_env{env="production"}=1` verifiziert); **OpenWebUI v0.13.3 (digest-gepinnt) intern produktiv seit 10.11.2026** — Health 200, Model-Liste, reale Chat-Completion via OpenWebUI → llama.cpp (Rolle `open_webui`, Playbook `webui.yml`, Ingress `10.0.0.90:8081` nur von NPM, Split-DNS `chat.ghostnet.selfhost.eu` live) | LLM-Metriken jenseits `gn_ai_active_env`, Nutzerakzeptanzprüfung (GNAI-009 5.3). **Öffentlicher Nutzerpfad M6 live seit 11.11.2026:** `https://chat.ghostnet.selfhost.eu` (OpenWebUI v0.13.3, NPM → 10.0.0.90:8081, Keycloak-OIDC Client `gnai-openwebui` public+PKCE; Negativtests: 8081/Engine-Ports von außen geblockt, `/admin/` 403, keine AAAA; OIDC-Redirect-Kette verifiziert). **Websuche produktiv seit 12.11.2026 (GNAI-020):** SearXNG mit 43 kuratierten Engines (168 Ergebnisse/1,4 s), OpenWebUI Native/Agentic Mode (`search_web`/`fetch_url`, `ENABLE_WEB_SEARCH=True` + DB-Config-Sync), E2E-Tool-Loop via API mit Quellen verifiziert, NPM-Proxy-Timeouts chat.* 600 s gesetzt (12.11., GNAI-020 Abschnitt 6) |
| Deployment | lokales Ansible-Control-Projekt und idempotente Hostrollen; Production-Inventar mit Referenz- und Rollback-Profil, `ai_environment_switch` und Backup-Timer deployt und abgenommen (GNAI-008 14.6) | statische CI, Runner, geschützte Freigaben und automatisierter Rollback über die Delivery-Kette |
| VPN | wg-easy v15.4.0; einziger Peer `ghost-laptop` als Server Admin; native nftables-Zielpolicy und NAT, Legacy-Bereinigung, Fremdnetz-, Positiv-/Negativ-, Dienst- und LXC-Wiederanlauftests bestanden; CT 104 am 07.10.2026 als zwölftes Ziel praktisch abgenommen; WAN-Exposure-Erfassung 10.11.2026: nur TCP 80/443 offen, keine AAAA (GNAI-007 7); frischer Stop-Mode-vzdump + hostunabhängige Kopie auf `ghostnet-ki` am 10.11.2026 | Fremdnetz-WAN-Rescan vom Hotspot (UDP 51820, TCP-Portmatrix), FRITZ!Box-Forward-/IPv6-Abgleich, wg-easy-GUI-HTTPS und KI-Server-Test bei eingeschaltetem Host |
| DNS / Pi-hole | CT 100 unter `10.0.0.14` mit digest-gepinntem Pi-hole 2026.09.0 als Podman-Quadlet; SSH/nftables, UDP/TCP-DNS, Split-DNS, Blocking/Allowlist, FRITZ!Box-Cutover, LXC-Reboot und Stop-Mode-Backup am 01.10.2026 abgenommen; Ansible-Projekt am 09.11.2026 adoptiert (ansible-deploy via pct; `site.yml`/`verify-production` `changed=0`) und Split-DNS-Record `mon.ghostnet.selfhost.eu → 10.0.0.10` live (verifiziert per `dig @10.0.0.14`); frischer Stop-Mode-vzdump + hostunabhängige Kopie auf `ghostnet-ki` + praktischer Restore-Test (CT 150) am 10.11.2026 (GNAI-012 10.2) | vollständige App-/OIDC-Regression, praktischer FRITZ!Box-Rollback, mobile DuckDuckGo-/IPv6-Strategie, WireGuard-Profile |
| Reverse Proxy | CT-103-Zugänge, SSH-/Firewall-Baseline, Reboot und lokales Backup abgenommen; NPM 2.15.1 routet öffentlichen OIDC- und internen Admin-vHost getrennt; öffentliche Keycloak-Administration liefert 403; vollständiger Ansible-Sollzustand importiert und adoptiert (07.11.2026; preflight/verify-production/`site.yml --check` am 09.11.2026 ohne Befund, `changed=0`); Fail2Ban-Funktionsabnahme (Jails, kontrollierter Ban/Unban, nftables-Nachweis, Dienstneustart, LXC-Reboot) am 10.11.2026 bestanden, frischer Rollback-vzdump + hostunabhängige Kopie auf `ghostnet-ki` (GNAI-006 10/12) | Fremdnetz-WAN-Rescan (Hotspot) und FRITZ!Box-Abgleich; NPM-Proxyhost `mon.ghostnet.selfhost.eu` für das Monitoring-Dashboard (M6) |
| Reverse Proxy | CT-103-Zugänge, SSH-/Firewall-Baseline, Reboot und lokales Backup abgenommen; NPM 2.15.1 routet öffentlichen OIDC- und internen Admin-vHost getrennt; öffentliche Keycloak-Administration liefert 403; vollständiger Ansible-Sollzustand importiert und adoptiert (07.11.2026; preflight/verify-production/`site.yml --check` am 09.11.2026 ohne Befund, `changed=0`); Fail2Ban-Funktionsabnahme (Jails, kontrollierter Ban/Unban, nftables-Nachweis, Dienstneustart, LXC-Reboot) am 10.11.2026 bestanden, frischer Rollback-vzdump + hostunabhängige Kopie auf `ghostnet-ki` (GNAI-006 10/12); **12.11.2026: NPM-Proxyhost `chat.ghostnet.selfhost.eu` mit `proxy_read_timeout`/`proxy_send_timeout` 600 s für LLM-Research-Loops** (Betreiber-Schritt, GNAI-020 Abschnitt 6) | Fremdnetz-WAN-Rescan (Hotspot) und FRITZ!Box-Abgleich; NPM-Proxyhost `mon.ghostnet.selfhost.eu` für das Monitoring-Dashboard (M6) |
| Keycloak | CT 102 unter `10.0.0.4` reproduzierbar per Ansible aufgebaut; gepinntes Keycloak 26.2.4 und PostgreSQL 16.15, Restore von CT 104, Container-/DB-Härtung, NPM-Cutover, interner Adminzugang, öffentliche Admin-Sperre, realer Vaultwarden-OIDC-Login und LXC-Neustart abgenommen; Stabilisierungsphase + praktischer NPM-Rückfalltest auf CT 104 am 10.11.2026 bestanden, CT 104 danach nach Betreiberfreigabe entfernt (GNAI-016 Phase F); Ansible-Drift CT 102 `changed=0`; frischer Stop-Mode-vzdump + hostunabhängige Kopie auf `ghostnet-ki` am 10.11.2026 | Betriebs-/Backup-/Restore-SOP |
| Encoding | Konto, Pfade, eigener rootless Store und CPU-Isolation per Ansible verwaltet und verifiziert; NFS-Mount `/var/lib/ghostnet-pipeline` aktiv (verifiziert 09.11.2026); Planungsabschluss 19.10.2026 (Pipeline GNENC-002, Speicher auf CT-101); Monitoring-Anbindung umgesetzt (GNMON-000 M1–M5) | Implementierung (Images, Quadlets, Skripte, Worker); Lasttest und Limit-Feintuning; SMB-Output-Pickup als geschlossener Ablauf |
| Monitoring | M1–M6 produktiv auf `10.0.0.90` (System-Scope, Konten `gn-monitor` 986 / `gn-dashboard` 984): node_exporter + AMD-Textfile-Collector, VictoriaMetrics, Loki + Alloy, vmalert + Alertmanager (inkl. `gnmon-ai`/`GnAiEnvironmentDown`), Dashboard **v0.3.2 öffentlich über `https://mon.ghostnet.selfhost.eu`** (NPM CT-103 ID 14, LE-TLS; Keycloak-OIDC Realm Ghost.net, Client `gnai-dashboard`, Rollen `gnai-dashboard-user`/`-admin`; 8080 per nftables nur von 10.0.0.10; E2E inkl. 403-Negativtest und WebSocket-Circuit bestanden 09.11.2026, GNMON-000 M6) | echter SMTP-Versand, LLM-Metriken jenseits `gn_ai_active_env`, Retention-Feintuning, externer WireGuard-Zugriff auf mon (DNS/TLS öffentlich, praktisch ungetestet) |
+7 -2
View File
@@ -182,8 +182,13 @@ Health 200, interne E2E-Inferenz bestanden. Negativ: WAN-Scan nur 80/443,
8081/Engine-Ports geblockt, `/admin/` 403, keine AAAA. Reale Browser-Anmeldung des Betreibers am 11.11.2026 bestanden (OIDC-Session
`oidc` in OpenWebUI-DB, User `ma-koenig@gmx.net` provisioniert); öffentlicher
Chat-Test via `https://chat.ghostnet.selfhost.eu/api/chat/completions` → 200
mit Token-Usage. Offen: Rate-Limit-Doku, LLM-Metriken im Monitoring,
Betriebs-SOP.
mit Token-Usage. **Websuche live seit 12.11.2026 (GNAI-020):** SearXNG mit
kuratierten Engines + OpenWebUI Native/Agentic Mode, E2E-Tool-Loop via API
(server-seitig, mit Quellen) verifiziert; Workspace-Tool `gnai-web-search`
für API-Agenten via `tool_ids` geseeded; NPM-Proxy-Timeouts auf `chat.*`
(600 s) für lange Research-Loops durch Betreiber gesetzt (12.11.2026,
GNAI-020 Abschnitt 6). Offen: Rate-Limit-Doku, LLM-Metriken im Monitoring,
Betriebs-SOP, API-Key-Freigabe für Agenten (`auth.enable_api_keys`).
**Ergebnis:** Genau ein klar definierter, authentifizierter Nutzerpfad ist
öffentlich nutzbar; Backend- und Managementports bleiben intern.
@@ -0,0 +1,200 @@
# Technischer Arbeitsentwurf
**Dokumenten-ID:** GNAI-020-TECH
**Titel:** Websuche in OpenWebUI (SearXNG, self-hosted) — kuratierte Engines + Native/Agentic Mode
**Stand:** 2026-11-12
**Status:** produktiv und E2E-verifiziert (Abschnitt 4), vom Betreiber im UI bestätigt (12.11.2026); Betreiber-Entscheidung 2026-11-12: Option A (self-hosted SearXNG, kein externer API-Key)
**Referenzen:** [Roadmap M6](../../../GNAI-001-PLAN_Project-Roadmap.md), [DOC-Index](../../../GNAI-000-DOC_Index.md), Rollen `llm-server/llm/ansible/roles/web_search/` und `roles/open_webui/` (READMEs), OpenWebUI-Doku Stand 2026-11-10 (docs.openwebui.com)
> Dieses Dokument beschreibt den technischen Sollzustand und den belegten
> Betriebsstand der Websuche in OpenWebUI.
---
## Änderungsverlauf
| Datum | Version | Autor | Beschreibung |
| --- | --- | --- | --- |
| 2026-11-12 | 0.1 | spektr / Mistral Vibe | Erstfassung: Befunde, Umsetzung (Rollen `web_search`/`open_webui`), Verifikation, Betriebs-Pfade |
| 2026-11-12 | 0.2 | spektr / Mistral Vibe | Befund h) ergänzt: `meta.defaultFeatureIds` war leer — neue UI-Chats starteten ohne Web-Search-Toggle; Model-Sync setzt jetzt `defaultFeatureIds=["web_search"]`; E2E-Nachweis nur mit Builtin-Tools; NPM-Timeout-Schritt (Abschnitt 6) durch Betreiber ausgeführt und als erledigt markiert |
---
## 1. Entscheidung
Betreiberentscheid 2026-11-12: Agenten und Nutzer von `https://chat.ghostnet.selfhost.eu`
sollen harness-grade Websuche bekommen (mehrstufiger search→fetch→search-Loop mit
zitierbaren Quellen), self-hosted über die bestehende SearXNG-Instanz im
Egress-Netz — **kein externer Search-API-Key** (Option A aus der Recherche vom
2026-11-11; externe Anbieter Exa/Tavily/Brave bleiben als Erweiterung offen, Abschnitt 7).
Recherche-Ergebnis (November 2026): OpenWebUI v0.13.3 (neuestes Release, 2026-11-08)
bietet zwei Modi — Legacy-RAG (unsupported) und **Native/Agentic Mode** (Default seit
v0.10) mit den Builtin-Tools `search_web` (Snippets, kein RAG/Embedding) und
`fetch_url` (ganze Seite, zitierfähig). Harnesses (Claude Code, OpenCode, LM Studio
Bionic) arbeiten prinzipiell gleich: das Modell entscheidet selbst, wann es sucht und
liest. Externe APIs (Benchmark openbenchmarks 2026-10-21): Exa 99,3 % / Tavily 97,7 %
Accuracy — SearXNG ist qualitativ von den Upstream-Engines abhängig, bleibt aber die
Privacy-konforme Wahl.
## 2. Befunde: warum die bisherige Implementierung nicht funktionierte
a) **`ENABLE_WEB_SEARCH` fehlte** — in v0.13.3 ist der Default **False**
(`config.py:1169`). Ohne dieses Gate werden `search_web`/`fetch_url` nie injiziert.
b) **Persistierte Config schlägt Env** — OpenWebUI legt jeden ConfigVar in der
`config`-Tabelle ab und die DB gewinnt über die Env-Variable. Die DB enthielt
`web.search.enable=false`, `web.search.engine=""`, `web.search.searxng_query_url=""`
(Seeding beim ersten Start) — die Env-Werte der Rolle griffen faktisch nicht.
c) **`ENABLE_RAG_WEB_SEARCH=True` war in v0.13.3 eine tote Variable** — der
Legacy-RAG-Pfad existiert nicht mehr; ein Embedding-Download beim ersten
Suchlauf (SentenceTransformers all-MiniLM-L6-v2, ~500 MB) war ein Hänge-Kandidat.
d) **SearXNG lief mit allen 123 Default-Engines** (`use_default_settings: true`),
inkl. key-loser API-Engines und Warez-/Adult-Indizes — langsam, CAPTCHA/429-Bans
bis 15 Tage (`suspended_times`).
e) **API vs. UI**: Builtin-Tools werden nur für UI-Requests (mit `session_id`)
injiziert (`utils/middleware.py:2070`); reine API-Requests ohne `chat_id`+`id`
bekommen rohe `tool_calls` zurück (Client-seitige Ausführung). Server-seitiger
Tool-Loop für API-Agenten: **Path A** (Abschnitt 5).
f) `SEARXNG_QUERY_URL` mit `<query>`-Placeholder ist korrekt: v0.13.3 streicht den
Query-String und sendet `q`/`format=json` selbst (`retrieval/web/searxng.py`).
SearXNG braucht `search.formats: [html, json]` (sonst 403).
g) SearXNG durchsucht ohne `categories`-Parameter nur die Kategorie `general`
(`webadapter.py get_selected_categories`) — IT-/Science-/News-Engines wären ohne
Override nie angesprungen.
h) **Neuer Chat ohne Web-Search-Toggle**: `meta.defaultFeatureIds` des Modells war
leer — in v0.13.3 startet ein neuer UI-Chat mit `webSearchEnabled` nur dann, wenn
`defaultFeatureIds` `"web_search"` enthält (`Chat.svelte defaultFeature()`).
Behebung: Model-Sync setzt `defaultFeatureIds=["web_search"]` (verifiziert per
`/api/models`: `info.meta.defaultFeatureIds = ['web_search']`).
## 3. Umsetzung (Ansible, Playbook `webui.yml`, Inventory `production`)
### 3.1 Rolle `web_search` (SearXNG)
- `templates/settings.yml.j2`: `use_default_settings.engines.keep_only` mit 43
kuratierten Engines (Web: bing, brave, duckduckgo, startpage, mojeek, qwant,
swisscows, mwmbl, marginalia; News: bing/brave./ddg/mojeek/startpage/swisscows/yahoo
news, reuters, tagesschau; Wikis: wikipedia, wikidata; IT/Doku: github,
github code, gitlab, stackoverflow, askubuntu, superuser, arch linux wiki, pypi,
npm, crates.io, repology, docker hub, microsoft learn, mdn, hackernews; Science/
Security: arxiv, semantic scholar, pubmed, europepmc, openalex, crossref,
springer nature, national vulnerability database). Engine-Namen exakt wie in der
Default-`settings.yml` des gepinnten Images (Commit `626105eec`). Jeder Engine per
`engines:`-Override auf `disabled: false` + `categories: [general]` (siehe 2g).
- `outgoing.request_timeout: 2.5`, `max_request_timeout: 8` (Default 3.0/10.0);
`search.suspended_times` auf 60–600 s verkürzt (Datacenter-Egress landet sonst
tagelang auf Bans); `limiter: false`, `formats: [html, json]` wie gehabt.
- Playbook-Probe verschärft: JSON-API muss echte `results` liefern (nicht nur HTTP 200).
### 3.2 Rolle `open_webui`
- Env (Quadlet): `ENABLE_WEB_SEARCH=True`, `WEB_SEARCH_ENGINE=searxng`,
`SEARXNG_QUERY_URL=http://searxng:8080/search?q=<query>`, `WEB_SEARCH_RESULT_COUNT=8`,
`WEB_SEARCH_CONCURRENT_REQUESTS=4`, `WEB_FETCH_MAX_CONTENT_LENGTH=100000`,
`USER_AGENT=<realistischer Browser-String>` (Bot-Detection des Web-Loaders);
`ENABLE_RAG_WEB_SEARCH` entfernt (2c).
- Quadlet-Template: `Environment="KEY=value"` quoting (sonst splittet systemd Werte
mit Leerzeichen — betraf u. a. `OAUTH_SCOPES=openid email profile`).
- DB-Sync (idempotent, sqlite wie beim Model-Sync):
- `config`-Zeilen `web.search.enable=true`, `web.search.engine="searxng"`,
`web.search.searxng_query_url`, `web.search.result_count=8`,
`web.search.concurrent_requests=4`, `web.fetch.max_content_length=100000`
(korrigiert 2b; Config wird pro Request aus der DB gelesen, kein Restart nötig).
- Model-Row `swift-1.5-qwen3.8-27b-q6k`: `meta.capabilities.web_search=true`,
`meta.builtinTools.web_search=true` und `meta.defaultFeatureIds=["web_search"]`
(Defaults sind true, aber explizit — ein UI-Toggle darf API-Agenten nicht
unbemerkt kappen; `defaultFeatureIds` schaltet den Web-Search-Toggle in neuen
UI-Chats default an, siehe 2h). Native Function Calling ist seit v0.10 Default,
`params` bleibt `{}`.
- Workspace-Tool **`gnai-web-search`** (`files/gnai-web-search-tool.py` +
`files/gnai-web-search-tool.specs.json`): `web_search(query, count, time_range)`
und `fetch_url(url)` gegen `http://searxng:8080` (aiohttp, Browser-UA, 100k-Cap),
mit public read `access_grant` für alle User. Für API-Agenten, die per
`tool_ids` explizit Tools anfordern (2e).
## 4. Verifikation (2026-11-12, produktiv auf `10.0.0.90`)
a) Playbook: `--check --diff` sauber, produktiver Lauf ok, danach **`changed=0`**
(Idempotenz, GNAI-010 10.4).
b) SearXNG in-container: 168 Ergebnisse in **1,36 s** (vorher: 123 Engines, bis 10 s+).
c) Aus dem OpenWebUI-Container via Alias `searxng`: HTTP 200, JSON mit Ergebnissen
in **1,9 s**.
d) OpenWebUI-Container-Env enthält alle Web-Search-Variablen; Health `HTTP 200`;
Model-Row-Meta und `config`-Zeilen korrekt in `webui.db`.
e) **E2E-Tool-Loop (Path A, Abschnitt 5)**: Chat via API mit `features.web_search=true`
+ `session_id` + `tool_ids=["gnai-web-search"]` — das Modell führte mehrere
`web_search`/`fetch_url`-Runden server-seitig aus (sah widersprüchliche Angaben
v0.12.5 vs v0.13.0, verifizierte per GitHub-API) und antwortete mit Quellen:
„aktuellste Release **v0.13.3** vom 2026-11-08“ — korrekt (Cross-Check gegen
`api.github.com/repos/open-webui/open-webui/releases/latest`).
f) **E2E nur mit Builtin-Tools** (kein `tool_ids`, nur `session_id` +
`features.web_search=true`): Chat-Record zeigt `function_call search_web` ×2 mit
echten SearXNG-Ergebnis-JSONs, dann `function_call fetch_url` ×2 mit Seiteninhalt,
`sources` enthält die gelesene GitHub-Releases-Seite (Zitation), finale Antwort
korrekt mit 3 Quellen. Damit ist der UI-Pfad (neuer Chat, Toggle via
`defaultFeatureIds` an) abgedeckt.
g) Nach beiden Tests: Playbook-Lauf `changed=0`; Test-Chats gelöscht, temporärer
Test-API-Key entfernt, `auth.enable_api_keys` wieder auf `false`.
h) **Betreiber-Bestätigung im UI (12.11.2026):** neuer Chat auf frisch geladener
Seite — Web-Search-Toggle default an (über `defaultFeatureIds`), das Modell
sieht `search_web`/`fetch_url` und nutzt sie im Research-Loop.
## 5. Betrieb: Websuche in UI und API
- **UI (Browser, OIDC)**: Web-Search-Toggle im Chat (oder Default-Feature am Modell) →
`search_web`/`fetch_url` als Native-Tools; Zitationen erscheinen, sobald das Modell
eine Seite per `fetch_url` gelesen hat.
- **API-Agenten — Path A (empfohlen, voller agentic Loop server-seitig)**:
1. `POST /api/v1/chats/new` (Chat mit User- + leerer Assistant-Message anlegen) → `chat_id`.
2. `POST /api/chat/completions` mit `stream:true`, `chat_id`, `id:<assistant-msg-id>`,
`session_id:<beliebig non-empty>` (schaltet Builtin-Tools frei), `features:{web_search:true}`,
optional `tool_ids:["gnai-web-search"]` → Antwort `{"status":true,"task_ids":[...]}`.
3. Ergebnis aus dem Chat lesen: `GET /api/v1/chats/{chat_id}` (Poll bis `done:true`).
Ohne `chat_id`+`id`+`stream` werden rohe `tool_calls` an den Client zurückgegeben
(Client-seitige Ausführung, OpenAI-Semantik) — siehe docs.openwebui.com
„Server-Side Tool Calling (API)".
Kompakt als curl (API-Key des Users vorausgesetzt; `auth.enable_api_keys` muss
global an sein — aktuell `false`, siehe Abschnitt 7):
```bash
# A1: Chat anlegen (User- + leere Assistant-Message)
CHAT_ID=$(curl -s -X POST "$OWUI_URL/api/v1/chats/new" -H "Authorization: Bearer $OWUI_KEY" \
-H "Content-Type: application/json" -d "{\"chat\":{\"title\":\"run\",\"models\":[\"$MODEL\"],\"history\":{\"currentId\":\"$AID\",\"messages\":{\"$UID\":{\"id\":\"$UID\",\"role\":\"user\",\"content\":\"...\",\"timestamp\":$TS,\"models\":[\"$MODEL\"],\"childrenIds\":[\"$AID\"]},\"$AID\":{\"id\":\"$AID\",\"role\":\"assistant\",\"content\":\"\",\"parentId\":\"$UID\",\"childrenIds\":[],\"model\":\"$MODEL\",\"modelIdx\":0,\"done\":false,\"timestamp\":$((TS+1))}}}}}" | jq -r .id)
# A2: Completion feuern — server-seitiger Tool-Loop (stream:true + chat_id + id + session_id)
curl -s -X POST "$OWUI_URL/api/chat/completions" -H "Authorization: Bearer $OWUI_KEY" \
-H "Content-Type: application/json" -d "{\"model\":\"$MODEL\",\"messages\":[{\"role\":\"user\",\"content\":\"Recherchiere ...\"}],\"stream\":true,\"chat_id\":\"$CHAT_ID\",\"id\":\"$AID\",\"session_id\":\"api-$(uuidgen)\",\"features\":{\"web_search\":true}}"
# -> {"status":true,"task_ids":[...],"chat_id":"..."}
# A3: Ergebnis pollen
curl -s "$OWUI_URL/api/v1/chats/$CHAT_ID" -H "Authorization: Bearer $OWUI_KEY" | jq ".chat.history.messages[\"$AID\"] | {done, content, sources}"
```
- **Path B** (`params.function_calling:"legacy"` + `tool_ids`): eine Tool-Runde vor
der Antwort, Antwort im HTTP-Body — ohne Builtin-Tools.
## 6. NPM-Proxy-Timeout (CT 103) — erledigt 2026-11-12
Lange Research-Loops (mehrere Tool-Runden, 128k-Kontext, xhigh) dauern Minuten —
der NPM-Default-`proxy_read_timeout` (60 s) schneidet den Stream ab. **Durch den
Betreiber am 12.11.2026 ausgeführt:** NPM → Proxy Hosts → `chat.ghostnet.selfhost.eu`
→ Edit → Advanced → Custom Nginx: `proxy_read_timeout 600s; proxy_send_timeout 600s;
proxy_connect_timeout 60s;` (Websocket-Support war bereits aktiv). Konfiguriert
in der NPM-Datenbank auf CT 103, nicht im Repository.
## 7. Offene Punkte / Erweiterungen
- `auth.enable_api_keys` steht auf `false` (Default) — API-Keys für Agenten müssen
global und pro User freigegeben werden, wenn Agenten Path A nutzen sollen
(Betreiber-Entscheidung offen; UI-Verifikation ist auch ohne API-Key möglich).
- Optional externer Key (Tavily/Exa/Brave als Podman-Secret + `WEB_SEARCH_ENGINE`),
falls SearXNG-Qualität für News nicht reicht (Benchmark: Exa/Tavily ~97–99 %).
- Optional MCP: SearXNG-MCP-Container im Egress-Netz als `server:mcp:<id>` in
OpenWebUI registrieren (native MCP-Unterstützung seit v0.6.31, Streamable HTTP).
- Optional v0.13 „Open Terminal“ (realer Browser/Desktop für das Modell) für
JS-lastige Seiten — zusätzlicher Dienst, Egress nötig.
- `ENABLE_WEB_SEARCH_CONFIRMATION=True` möglich (User bestätigt jede Suche) — für
die interne SearXNG-Instanz nicht gesetzt.
- Tool-Loop-Verhalten des Modells bei xhigh/128k überwachen (GPU-Last bei langen
Recherchen; ggf. `WEB_SEARCH_RESULT_COUNT` oder `WEB_FETCH_MAX_CONTENT_LENGTH` senken).
+1
View File
@@ -14,6 +14,7 @@ Video-Encoding-Workload besitzt einen
| [GNAI-008](GNAI-008-PLAN_Ansible-Deployment.md) | nicht finaler Arbeitsentwurf für Ansible- und Gitea-Deployment |
| [GNAI-009](GNAI-009-PLAN_Llama-Model-Evaluation.md) | Modellbewertung für Swift/Unsloth; Betreiberbeschluss 05.11.2026: Swift 1.5 Q6_K als Production-Profil (Abschnitt 10.4) |
| [GNAI-010](GNAI-010-TECH_Llama-Serving.md) | technische Sollkonfiguration für die Modellprofile auf rootless `llama.cpp` mit ROCm; Testing abgenommen (10.5–10.10), Production live seit 06.11.2026 |
| [GNAI-020](GNAI-020-TECH_OpenWebUI-WebSearch.md) | Websuche in OpenWebUI: SearXNG mit kuratierten Engines + Native/Agentic Mode (`search_web`/`fetch_url`), UI- und API-Betrieb (Path A/B), produktiv verifiziert seit 12.11.2026 |
Der übergreifende Projektstand steht im
[zentralen Dokumentationsindex](../../../GNAI-000-DOC_Index.md).