Files
infrastructure/docs/platform/llm-server/README.md
T

18 lines
888 B
Markdown

# LLM-Server `ghostnet-ki`
Dieser Gerätebereich dokumentiert den physischen Server `10.0.0.90`. Er
gruppiert die gemeinsame Hostbasis, den eigentlichen LLM-Stack und den davon
fachlich getrennten CPU-Encoding-Workload. Alle drei Bereiche teilen Hardware,
Betriebssystem und Ansible-Control-Projekt.
| Bereich | Inhalt |
| --- | --- |
| [Host](host/GNAI-002-INFRA_BaseSystem.md) | Hardware, Debian-Basis und GPU-Ausgangslage |
| [Zugänge](host/GNAI-003-INFRA_Users.md) | Benutzer, Netzwerk, Resolver und SSH |
| [AI](ai/README.md) | Architektur, Ansible-Deployment, Modellbewertung und `llama.cpp`-Serving |
| [Encoding](encoding/GNENC-000-DOC_Index.md) | CPU-Encoding-Architektur und offener Implementierungsstand |
Übergreifende Rollen stehen im
[Zugriffskonzept](../GNAI-005-SEC_Access-Control.md), der Gesamtstand im
[zentralen Dokumentationsindex](../../GNAI-000-DOC_Index.md).