ghostnet.ai/infrastructure
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
Files
main
infrastructure/docs/GNAI-001-INFRA_BaseSystem.md
T
spektr 8c581330b3 Initial commit
2026-08-28 18:54:45 +02:00

6.8 KiB
Raw Permalink Blame History

Standard Operating Procedure

Dokumenten-ID: GNAI-001-INFRA Titel: Initialisierung und OS-Installation: LLM-Server (Phase 1)
Version: 1.1 Status: Architekturentscheidung
Vorgänger / Referenzen: -

1. Zweck und Geltungsbereich

Dieses Dokument beschreibt den standardisierten Prozess für die Hardware-Konfiguration, BIOS-Einstellung, Betriebssystem-Installation und Basis-Härtung von LLM-Servern (Large Language Model). Ziel ist die Gewährleistung einer reproduzierbaren, fehlerfreien und performanten Basis für die spätere KI-Anwendungssoftware.

2. Spezifikationen (Hardware-Konfiguration)

Komponente Spezifikation Bemerkung
Gehäuse Silverstone SST-RM42-502 Rackmount / Server-Chassis
Mainboard ASRock Z790 PG Lightning Socket LGA1700
CPU Intel Core i5-13600K 14 Kerne (6P + 8E)
CPU-Kühler Thermalright Peerless Assassin 120 Mini -
RAM Crucial Pro DDR5 RAM 64GB Kit (2x32GB) Dimm Slot A2 & B2
PSU Corsair RM1200e 1200W ATX 3.0
SSD 2 TB Samsung 970 EVO Plus Primäre NVMe (Slot M2_1)
GPU 1 Sapphire Nitro+ AMD Radeon RX 6900 XT OC 16GB PCIe Slot 1 (x16)
GPU 2 Sapphire Nitro+ AMD Radeon RX 6900 XT OC 16GB PCIe Slot 2 (x8/x4 via PCH)

2.1 BIOS-Konfiguration

Vor der Betriebssystem-Installation sind folgende Schritte im BIOS (Aufrufen via DEL oder F2 beim Booten) durchzuführen:

  1. Firmware-Update (Instant Flash):
  • BIOS-Datei auf einen FAT32-formatierten USB-Stick entpacken.
  • Im BIOS navigieren zu: Tool -> Instant Flash.
  • BIOS-Version auf 19.02 (oder neuer) aktualisieren.
  1. RAM-Performance:
  • Navigieren zu: OC Tweaker -> DRAM Configuration.
  • Load XMP Setting: auf XMP Profile 1 stellen.
  1. Virtualisierung & PCI-Einstellungen (Wichtig für GPU/ROCm):
  • Navigieren zu: Advanced -> CPU Configuration -> Intel Virtualization Technology -> Enabled.
  • Navigieren zu: Advanced -> PCI Configuration:
    • Above 4G Decoding: Enabled
    • Re-Size BAR Support: Enabled (Kritisch für AMD ROCm Multi-GPU-Performance!)

3. Installation des Betriebssystems

3.1 Vorbereitung des Installationsmediums (am Admin-PC)

  1. Debian ISO herunterladen:

    curl -L -O https://cdimage.debian.org/debian-cd/current-minimal/amd64/iso-cd/debian-netinst.iso

  2. Checksum verifizieren:

    curl -O https://cdimage.debian.org/debian-cd/current/amd64/iso-cd/SHA512SUMS
sha512sum --ignore-missing -c SHA512SUMS

    Erwartete Ausgabe: debian-netinst.iso: OK (Treffen Fehler auf, Download wiederholen).

  3. Bootfähigen USB-Stick erstellen:

  • Ventoy auf dem USB-Stick installieren.
  • Die heruntergeladene ISO-Datei direkt per Dateimanager auf die Ventoy-Partition kopieren.

3.2 Schritt-für-Schritt Installationsanleitung (Debian Netinst)

  1. Booten:
  • USB-Stick einstecken, System starten und per F11 das Boot-Menü öffnen.
  • USB-Stick auswählen -> Im Ventoy-Menü debian-netinst.iso wählen -> Graphical Install auswählen.
  1. Lokalisierung:
  • Language: German - Deutsch
  • Land/Territorium: Deutschland
  • Tastaturlayout: Deutsch
  1. Netzwerk & Hostname:
  • Hostname: ghostnet-ai-node-01 (oder entsprechend Vorgabe des IP-Plans).
  • Domain-Name: ghost.net
  • Netzwerk: Per DHCP konfigurieren lassen. (Feste IP wird nach der Installation vergeben).
  1. Benutzerverwaltung:
  • Root-Passwort: Starkes Passwort aus dem Passwort-Manager eintragen.
  • Neuer Benutzer:
    • Vollständiger Name: Admin
    • Benutzername: gnaiadmin
    • Passwort: Sicheres Kennwort vergeben.
  1. Partitionierung (Manuell / Geführt):
  • Methode: Geführt - gesamte Festplatte verwenden.
  • Disk auswählen: Samsung SSD 970 EVO Plus 2TB.
  • Schema: Alle Dateien auf eine Partition (für Anfänger empfohlen).
  • Wichtig: Änderungen auf die Festplatte schreiben -> Ja.
  1. Paketmanager-Konfiguration:
  • Spiegelserver-Land: Deutschland
  • deb.debian.org wählen.
  • HTTP-Proxy: Leer lassen.
  1. Software-Auswahl (Software selection):
  • [_] Debian desktop environment (ABWÄHLEN)
  • [_] GNOME / KDE / etc. (ABWÄHLEN)
  • SSH server (AUSWÄHLEN)
  • standard system utilities (AUSWÄHLEN)
  1. Bootloader (GRUB):
  • GRUB-Bootloader in den primären Laufwerksbereich installieren: Ja
  • Gerät wählen: /dev/nvme0n1 (Samsung SSD).
  1. Abschluss:
  • USB-Stick entfernen und auf Weiter klicken, um das System neu zu starten.

3.3 Post-Installation & Basis-Härtung (Erst-Setup via CLI)

Nach dem Neustart als root am Terminal anmelden und folgende Schritte ausführen:

1. Sudo-Rechte für den Admin-User einrichten

apt update && apt install -y sudo
usermod -aG sudo gnaiadmin

2. Netzwerk auf Statische IP umstellen

Datei /etc/network/interfaces anpassen (Beispiel-IP an den lokalen Netzwerkplan anpassen):

nano /etc/network/interfaces

Inhalt anpassen/ergänzen:

auto enp8s0
iface enp8s0 inet static
    address 10.0.0.90/24
    gateway 10.0.0.1
    dns-nameservers 10.0.0.1 1.1.1.1

Netzwerk neustarten: systemctl restart networking

3. Grundlegende Admin-Tools & Firmware installieren

Da AMD RX 6900 XT GPUs verwendet werden, müssen die Unfree-Firmware-Pakete vorbereitet werden:

# Non-free Repository aktivieren
apt install -y software-properties-common
apt-add-repository non-free-firmware -y
apt update

# Grundlegende Tools und GPU-Firmware installieren
apt install -y curl wget git htop tmux pciutils firmware-amd-graphics firmware-linux-nonfree

4. SSH-Schlüssel hinterlegen (Remote-Zugriff)

Wechsle zum Admin-User:

su - gnaiadmin
mkdir -p ~/.ssh
chmod 700 ~/.ssh
nano ~/.ssh/authorized_keys # Public-Key des Admin-PCs einfügen
chmod 600 ~/.ssh/authorized_keys

4. Abnahmekriterien

Vor der Übergabe an das KI-Team (Phase 2) muss das System folgende Punkte bestehen:

  • RAM-Check: free -h zeigt mindestens ~62 GB RAM an.
  • GPU-Erkennung: lspci | grep -i vga listet beide AMD RX 6900 XT Grafikkarten auf.
  • Netzwerk: Der Server ist via SSH (ssh gnaiadmin@<IP>) vom Admin-PC erreichbar.
  • Storage: df -h / zeigt die vollständige ~2 TB Partition an.
  • Re-Size BAR: Prüfen mit dmesg | grep -i BAR. Es sollten Einträge vorhanden sein, die auf erfolgreiche Zuordnung hinweisen (ReBAR active).

5. Dokumentation der Änderungen

Datum Version Geändert von Beschreibung der Änderung
2026-08-24 1.0 spektr Erstellung des Initial-Dokuments (Hardware & OS)
2026-08-24 1.1 spektr / Assistant Detaillierung der BIOS-ReBAR-Settings, Netinst-CLI-Schritte, Post-Installation & Abnahmekriterien hinzugefügt.
Reference in New Issue View Git Blame Copy Permalink