README.md aktualisiert
This commit is contained in:
parent
8ec37113f3
commit
d87757390b
21
README.md
21
README.md
|
|
@ -13,7 +13,6 @@ Das System ist auf das folgende Modell optimiert, welches sich im Verzeichnis `m
|
|||
|
||||
## Installation (Windows)
|
||||
|
||||
|
||||
### 1. Verzeichnisstruktur vorbereiten
|
||||
|
||||
Laden sie die requirements.txt und app.py herunter und plazieren Sie die in das Projektverzeichniss.
|
||||
|
|
@ -28,22 +27,26 @@ python -m venv venv
|
|||
.\venv\Scripts\activate.bat
|
||||
```
|
||||
|
||||
### 4. Modell platzieren
|
||||
### 3. Modell platzieren
|
||||
Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platzieren Sie diese im Ordner `models/`.
|
||||
|
||||
### 5. Abhängigkeiten installieren
|
||||
Wählen Sie je nach Systemkonfiguration **eine** der beiden Optionen in der aktivierten Eingabeaufforderung aus:
|
||||
### 4. Abhängigkeiten installieren
|
||||
|
||||
**Option A: CPU-Modus**
|
||||
```cmd
|
||||
pip install -r requirements.txt --force-reinstall --no-cache-dir
|
||||
```
|
||||
|
||||
**Option B: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
||||
Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein:
|
||||
* **Nvidia CUDA Toolkit**
|
||||
* **Visual Studio Build Tools**
|
||||
|
||||
**Option A: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
||||
```cmd
|
||||
set GGML_CUDA=1
|
||||
pip install -r requirements.txt --force-reinstall --no-cache-dir
|
||||
```
|
||||
|
||||
**Option B: Reiner CPU-Modus (Keine Nvidia-Grafikkarte vorhanden)**
|
||||
```cmd
|
||||
pip install -r requirements.txt --force-reinstall --no-cache-dir
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
|
|
|
|||
Loading…
Reference in New Issue