diff --git a/README.md b/README.md index 5d5c2fb..7011845 100644 --- a/README.md +++ b/README.md @@ -13,7 +13,6 @@ Das System ist auf das folgende Modell optimiert, welches sich im Verzeichnis `m ## Installation (Windows) - ### 1. Verzeichnisstruktur vorbereiten Laden sie die requirements.txt und app.py herunter und plazieren Sie die in das Projektverzeichniss. @@ -28,22 +27,26 @@ python -m venv venv .\venv\Scripts\activate.bat ``` -### 4. Modell platzieren +### 3. Modell platzieren Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platzieren Sie diese im Ordner `models/`. -### 5. Abhängigkeiten installieren -Wählen Sie je nach Systemkonfiguration **eine** der beiden Optionen in der aktivierten Eingabeaufforderung aus: +### 4. Abhängigkeiten installieren + +**Option A: CPU-Modus** +```cmd +pip install -r requirements.txt --force-reinstall --no-cache-dir +``` + +**Option B: Mit GPU-Beschleunigung (Nvidia CUDA)** +Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein: +* **Nvidia CUDA Toolkit** +* **Visual Studio Build Tools** -**Option A: Mit GPU-Beschleunigung (Nvidia CUDA)** ```cmd set GGML_CUDA=1 pip install -r requirements.txt --force-reinstall --no-cache-dir ``` -**Option B: Reiner CPU-Modus (Keine Nvidia-Grafikkarte vorhanden)** -```cmd -pip install -r requirements.txt --force-reinstall --no-cache-dir -``` ---