Commit
•
6e7e23b
1
Parent(s):
d4c79c0
Update README.md
Browse files
README.md
CHANGED
|
@@ -28,6 +28,16 @@ Modellen er trænet med ChatML format (samme som OpenAI's modeller), og skal bru
|
|
| 28 |
|
| 29 |
## Inferens
|
| 30 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 31 |
### vLLM
|
| 32 |
```
|
| 33 |
pip install vllm
|
|
|
|
| 28 |
|
| 29 |
## Inferens
|
| 30 |
|
| 31 |
+
### Ollama
|
| 32 |
+
Installér ollama:
|
| 33 |
+
https://ollama.ai/download
|
| 34 |
+
|
| 35 |
+
Kør:
|
| 36 |
+
```
|
| 37 |
+
ollama run mhenrichsen/danskgpt-tiny-chat
|
| 38 |
+
```
|
| 39 |
+
|
| 40 |
+
|
| 41 |
### vLLM
|
| 42 |
```
|
| 43 |
pip install vllm
|