203 lines
6.8 KiB
Markdown
203 lines
6.8 KiB
Markdown
# Standard Operating Procedure
|
|
|
|
**Dokumenten-ID:** GNAI-001-INFRA
|
|
**Titel:** Initialisierung und OS-Installation: LLM-Server (Phase 1)
|
|
**Version:** 1.1
|
|
**Status:** Architekturentscheidung
|
|
**Vorgänger / Referenzen:** -
|
|
|
|
---
|
|
|
|
## 1. Zweck und Geltungsbereich
|
|
|
|
Dieses Dokument beschreibt den standardisierten Prozess für die Hardware-Konfiguration, BIOS-Einstellung, Betriebssystem-Installation und Basis-Härtung von LLM-Servern (Large Language Model). Ziel ist die Gewährleistung einer reproduzierbaren, fehlerfreien und performanten Basis für die spätere KI-Anwendungssoftware.
|
|
|
|
---
|
|
|
|
## 2. Spezifikationen (Hardware-Konfiguration)
|
|
|
|
| Komponente | Spezifikation | Bemerkung |
|
|
| --- | --- | --- |
|
|
| **Gehäuse** | Silverstone SST-RM42-502 | Rackmount / Server-Chassis |
|
|
| **Mainboard** | ASRock Z790 PG Lightning | Socket LGA1700 |
|
|
| **CPU** | Intel Core i5-13600K | 14 Kerne (6P + 8E) |
|
|
| **CPU-Kühler** | Thermalright Peerless Assassin 120 Mini | - |
|
|
| **RAM** | Crucial Pro DDR5 RAM 64GB Kit (2x32GB) | Dimm Slot A2 & B2 |
|
|
| **PSU** | Corsair RM1200e | 1200W ATX 3.0 |
|
|
| **SSD** | 2 TB Samsung 970 EVO Plus | Primäre NVMe (Slot M2_1) |
|
|
| **GPU 1** | Sapphire Nitro+ AMD Radeon RX 6900 XT OC 16GB | PCIe Slot 1 (x16) |
|
|
| **GPU 2** | Sapphire Nitro+ AMD Radeon RX 6900 XT OC 16GB | PCIe Slot 2 (x8/x4 via PCH) |
|
|
|
|
### 2.1 BIOS-Konfiguration
|
|
|
|
Vor der Betriebssystem-Installation sind folgende Schritte im BIOS (Aufrufen via `DEL` oder `F2` beim Booten) durchzuführen:
|
|
|
|
1. **Firmware-Update (Instant Flash):**
|
|
* BIOS-Datei auf einen FAT32-formatierten USB-Stick entpacken.
|
|
* Im BIOS navigieren zu: `Tool` -> `Instant Flash`.
|
|
* BIOS-Version auf **`19.02`** (oder neuer) aktualisieren.
|
|
|
|
|
|
2. **RAM-Performance:**
|
|
* Navigieren zu: `OC Tweaker` -> `DRAM Configuration`.
|
|
* **Load XMP Setting:** auf **XMP Profile 1** stellen.
|
|
|
|
|
|
3. **Virtualisierung & PCI-Einstellungen (Wichtig für GPU/ROCm):**
|
|
* Navigieren zu: `Advanced` -> `CPU Configuration` -> **Intel Virtualization Technology** -> `Enabled`.
|
|
* Navigieren zu: `Advanced` -> `PCI Configuration`:
|
|
* **Above 4G Decoding:** `Enabled`
|
|
* **Re-Size BAR Support:** `Enabled` *(Kritisch für AMD ROCm Multi-GPU-Performance!)*
|
|
|
|
---
|
|
|
|
## 3. Installation des Betriebssystems
|
|
|
|
### 3.1 Vorbereitung des Installationsmediums (am Admin-PC)
|
|
|
|
1. **Debian ISO herunterladen:**
|
|
```bash
|
|
curl -L -O https://cdimage.debian.org/debian-cd/current-minimal/amd64/iso-cd/debian-netinst.iso
|
|
```
|
|
|
|
2. **Checksum verifizieren:**
|
|
```bash
|
|
curl -O https://cdimage.debian.org/debian-cd/current/amd64/iso-cd/SHA512SUMS
|
|
sha512sum --ignore-missing -c SHA512SUMS
|
|
```
|
|
*Erwartete Ausgabe:* `debian-netinst.iso: OK` (Treffen Fehler auf, Download wiederholen).
|
|
|
|
3. **Bootfähigen USB-Stick erstellen:**
|
|
* [Ventoy](https://www.ventoy.net) auf dem USB-Stick installieren.
|
|
* Die heruntergeladene ISO-Datei direkt per Dateimanager auf die Ventoy-Partition kopieren.
|
|
|
|
---
|
|
|
|
### 3.2 Schritt-für-Schritt Installationsanleitung (Debian Netinst)
|
|
|
|
1. **Booten:**
|
|
* USB-Stick einstecken, System starten und per `F11` das Boot-Menü öffnen.
|
|
* USB-Stick auswählen -> Im Ventoy-Menü `debian-netinst.iso` wählen -> **Graphical Install** auswählen.
|
|
|
|
2. **Lokalisierung:**
|
|
* **Language:** `German - Deutsch`
|
|
* **Land/Territorium:** `Deutschland`
|
|
* **Tastaturlayout:** `Deutsch`
|
|
|
|
3. **Netzwerk & Hostname:**
|
|
* **Hostname:** `ghostnet-ai-node-01` (oder entsprechend Vorgabe des IP-Plans).
|
|
* **Domain-Name:** `ghost.net`
|
|
* **Netzwerk:** Per DHCP konfigurieren lassen. *(Feste IP wird nach der Installation vergeben).*
|
|
|
|
4. **Benutzerverwaltung:**
|
|
* **Root-Passwort:** Starkes Passwort aus dem Passwort-Manager eintragen.
|
|
* **Neuer Benutzer:**
|
|
* Vollständiger Name: `Admin`
|
|
* Benutzername: `gnaiadmin`
|
|
* Passwort: Sicheres Kennwort vergeben.
|
|
|
|
5. **Partitionierung (Manuell / Geführt):**
|
|
* Methode: `Geführt - gesamte Festplatte verwenden`.
|
|
* Disk auswählen: `Samsung SSD 970 EVO Plus 2TB`.
|
|
* Schema: `Alle Dateien auf eine Partition (für Anfänger empfohlen)`.
|
|
* **Wichtig:** Änderungen auf die Festplatte schreiben -> `Ja`.
|
|
|
|
6. **Paketmanager-Konfiguration:**
|
|
* Spiegelserver-Land: `Deutschland`
|
|
* `deb.debian.org` wählen.
|
|
* HTTP-Proxy: Leer lassen.
|
|
|
|
7. **Software-Auswahl (Software selection):**
|
|
* [_] Debian desktop environment *(ABWÄHLEN)*
|
|
* [_] GNOME / KDE / etc. *(ABWÄHLEN)*
|
|
* [x] **SSH server** *(AUSWÄHLEN)*
|
|
* [x] **standard system utilities** *(AUSWÄHLEN)*
|
|
|
|
8. **Bootloader (GRUB):**
|
|
* GRUB-Bootloader in den primären Laufwerksbereich installieren: `Ja`
|
|
* Gerät wählen: `/dev/nvme0n1` (Samsung SSD).
|
|
|
|
9. **Abschluss:**
|
|
* USB-Stick entfernen und auf `Weiter` klicken, um das System neu zu starten.
|
|
|
|
---
|
|
|
|
### 3.3 Post-Installation & Basis-Härtung (Erst-Setup via CLI)
|
|
|
|
Nach dem Neustart als `root` am Terminal anmelden und folgende Schritte ausführen:
|
|
|
|
#### 1. Sudo-Rechte für den Admin-User einrichten
|
|
|
|
```bash
|
|
apt update && apt install -y sudo
|
|
usermod -aG sudo gnaiadmin
|
|
```
|
|
|
|
#### 2. Netzwerk auf Statische IP umstellen
|
|
|
|
Datei `/etc/network/interfaces` anpassen (Beispiel-IP an den lokalen Netzwerkplan anpassen):
|
|
|
|
```bash
|
|
nano /etc/network/interfaces
|
|
```
|
|
|
|
Inhalt anpassen/ergänzen:
|
|
|
|
```text
|
|
auto enp8s0
|
|
iface enp8s0 inet static
|
|
address 10.0.0.90/24
|
|
gateway 10.0.0.1
|
|
dns-nameservers 10.0.0.1 1.1.1.1
|
|
```
|
|
|
|
Netzwerk neustarten: `systemctl restart networking`
|
|
|
|
#### 3. Grundlegende Admin-Tools & Firmware installieren
|
|
|
|
Da AMD RX 6900 XT GPUs verwendet werden, müssen die Unfree-Firmware-Pakete vorbereitet werden:
|
|
|
|
```bash
|
|
# Non-free Repository aktivieren
|
|
apt install -y software-properties-common
|
|
apt-add-repository non-free-firmware -y
|
|
apt update
|
|
|
|
# Grundlegende Tools und GPU-Firmware installieren
|
|
apt install -y curl wget git htop tmux pciutils firmware-amd-graphics firmware-linux-nonfree
|
|
|
|
```
|
|
|
|
#### 4. SSH-Schlüssel hinterlegen (Remote-Zugriff)
|
|
|
|
Wechsle zum Admin-User:
|
|
|
|
```bash
|
|
su - gnaiadmin
|
|
mkdir -p ~/.ssh
|
|
chmod 700 ~/.ssh
|
|
nano ~/.ssh/authorized_keys # Public-Key des Admin-PCs einfügen
|
|
chmod 600 ~/.ssh/authorized_keys
|
|
|
|
```
|
|
|
|
---
|
|
|
|
## 4. Abnahmekriterien
|
|
|
|
Vor der Übergabe an das KI-Team (Phase 2) muss das System folgende Punkte bestehen:
|
|
|
|
* **RAM-Check:** `free -h` zeigt mindestens ~62 GB RAM an.
|
|
* **GPU-Erkennung:** `lspci | grep -i vga` listet **beide** AMD RX 6900 XT Grafikkarten auf.
|
|
* **Netzwerk:** Der Server ist via SSH (`ssh gnaiadmin@<IP>`) vom Admin-PC erreichbar.
|
|
* **Storage:** `df -h /` zeigt die vollständige ~2 TB Partition an.
|
|
* **Re-Size BAR:** Prüfen mit `dmesg | grep -i BAR`. Es sollten Einträge vorhanden sein, die auf erfolgreiche Zuordnung hinweisen (ReBAR active).
|
|
|
|
---
|
|
|
|
## 5. Dokumentation der Änderungen
|
|
|
|
| Datum | Version | Geändert von | Beschreibung der Änderung |
|
|
| --- | --- | --- | --- |
|
|
| 2026-08-24 | 1.0 | spektr | Erstellung des Initial-Dokuments (Hardware & OS) |
|
|
| 2026-08-24 | 1.1 | spektr / Assistant | Detaillierung der BIOS-ReBAR-Settings, Netinst-CLI-Schritte, Post-Installation & Abnahmekriterien hinzugefügt. | |