README.md aktualisiert

This commit is contained in:
dfuhrmann 2026-07-02 10:43:01 +00:00
parent 8ec37113f3
commit d87757390b
1 changed files with 12 additions and 9 deletions

View File

@ -13,7 +13,6 @@ Das System ist auf das folgende Modell optimiert, welches sich im Verzeichnis `m
## Installation (Windows)
### 1. Verzeichnisstruktur vorbereiten
Laden sie die requirements.txt und app.py herunter und plazieren Sie die in das Projektverzeichniss.
@ -28,22 +27,26 @@ python -m venv venv
.\venv\Scripts\activate.bat
```
### 4. Modell platzieren
### 3. Modell platzieren
Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platzieren Sie diese im Ordner `models/`.
### 5. Abhängigkeiten installieren
Wählen Sie je nach Systemkonfiguration **eine** der beiden Optionen in der aktivierten Eingabeaufforderung aus:
### 4. Abhängigkeiten installieren
**Option A: CPU-Modus**
```cmd
pip install -r requirements.txt --force-reinstall --no-cache-dir
```
**Option B: Mit GPU-Beschleunigung (Nvidia CUDA)**
Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein:
* **Nvidia CUDA Toolkit**
* **Visual Studio Build Tools**
**Option A: Mit GPU-Beschleunigung (Nvidia CUDA)**
```cmd
set GGML_CUDA=1
pip install -r requirements.txt --force-reinstall --no-cache-dir
```
**Option B: Reiner CPU-Modus (Keine Nvidia-Grafikkarte vorhanden)**
```cmd
pip install -r requirements.txt --force-reinstall --no-cache-dir
```
---