README.md aktualisiert
This commit is contained in:
parent
f60ee76694
commit
21f5de859c
15
README.md
15
README.md
|
|
@ -34,7 +34,22 @@ Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platziere
|
||||||
|
|
||||||
### 4. Abhängigkeiten installieren
|
### 4. Abhängigkeiten installieren
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
**A: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
**A: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
||||||
|
|
||||||
|
Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein:
|
||||||
|
* **Nvidia CUDA Toolkit**
|
||||||
|
* **Visual Studio Build Tools**
|
||||||
|
|
||||||
```cmd
|
```cmd
|
||||||
set GGML_CUDA=1
|
set GGML_CUDA=1
|
||||||
pip install -r requirements.txt --force-reinstall --no-cache-dir
|
pip install -r requirements.txt --force-reinstall --no-cache-dir
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue