diff --git a/README.md b/README.md index 0f9b321..1e1a9fd 100644 --- a/README.md +++ b/README.md @@ -34,7 +34,22 @@ Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platziere ### 4. Abhängigkeiten installieren + + + + + + + + + + **A: Mit GPU-Beschleunigung (Nvidia CUDA)** + +Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein: +* **Nvidia CUDA Toolkit** +* **Visual Studio Build Tools** + ```cmd set GGML_CUDA=1 pip install -r requirements.txt --force-reinstall --no-cache-dir