README.md aktualisiert
This commit is contained in:
parent
e20d5fc806
commit
ec166155dc
17
README.md
17
README.md
|
|
@ -15,13 +15,13 @@ Das System ist auf das folgende Modell optimiert, welches sich im Verzeichnis `m
|
||||||
## Installation
|
## Installation
|
||||||
|
|
||||||
### 1. Verzeichnisstruktur vorbereiten
|
### 1. Verzeichnisstruktur vorbereiten
|
||||||
Projektverzeichnis erstellen:
|
Laden sie die requirements.txt und app.py herunter und plazieren Sie die in das Projektverzeichniss.
|
||||||
|
|
||||||
|
Projektverzeichnis Inhalt:
|
||||||
- models
|
- models
|
||||||
- requirements.txt
|
- requirements.txt
|
||||||
- app.py
|
- app.py
|
||||||
|
|
||||||
Laden sie die requirements.txt und app.py herunter und plazieren Sie die ebenfalls in das Projektverzeichniss.
|
|
||||||
|
|
||||||
### 2. Virtuelle Umgebung (venv) erstellen und aktivieren
|
### 2. Virtuelle Umgebung (venv) erstellen und aktivieren
|
||||||
Erstellen Sie eine isolierte Python-Umgebung und aktivieren Sie diese über die Windows-Eingabeaufforderung (CMD):
|
Erstellen Sie eine isolierte Python-Umgebung und aktivieren Sie diese über die Windows-Eingabeaufforderung (CMD):
|
||||||
```cmd
|
```cmd
|
||||||
|
|
@ -30,22 +30,13 @@ python -m venv venv
|
||||||
```
|
```
|
||||||
|
|
||||||
### 3. Modell platzieren
|
### 3. Modell platzieren
|
||||||
Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platzieren Sie diese im erstellten Ordner. Der Pfad muss exakt wie folgt lauten:
|
Laden Sie die Modelldatei `Qwen3.5-4B-Instruct-Q8_0.gguf` herunter und platzieren Sie diese in den models Ordner. Der Pfad muss exakt wie folgt lauten:
|
||||||
`models/Qwen3.5-4B-Instruct-Q8_0.gguf`
|
`models/Qwen3.5-4B-Instruct-Q8_0.gguf`
|
||||||
|
|
||||||
|
|
||||||
### 4. Abhängigkeiten installieren
|
### 4. Abhängigkeiten installieren
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
**A: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
**A: Mit GPU-Beschleunigung (Nvidia CUDA)**
|
||||||
|
|
||||||
Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein:
|
Falls Sie die GPU-Beschleunigung nutzen möchten, müssen vorab folgende Komponenten auf dem System installiert sein:
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue