README.md aktualisiert
This commit is contained in:
parent
f60ee76694
commit
21f5de859c
15
README.md
15
README.md
|
|
@ -34,7 +34,22 @@ Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platziere
|
|||
|
||||
### 4. Abhängigkeiten installieren
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
**A: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
||||
|
||||
Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein:
|
||||
* **Nvidia CUDA Toolkit**
|
||||
* **Visual Studio Build Tools**
|
||||
|
||||
```cmd
|
||||
set GGML_CUDA=1
|
||||
pip install -r requirements.txt --force-reinstall --no-cache-dir
|
||||
|
|
|
|||
Loading…
Reference in New Issue