Spaces:
Running
Running
Delete run.sh
Browse files
run.sh
DELETED
|
@@ -1,15 +0,0 @@
|
|
| 1 |
-
#!/bin/sh
|
| 2 |
-
# 1) สตาร์ท Ollama server พื้นฐาน
|
| 3 |
-
ollama serve &
|
| 4 |
-
|
| 5 |
-
# 2) รอให้ server พร้อม (เช่น 5 วินาที)
|
| 6 |
-
sleep 60
|
| 7 |
-
|
| 8 |
-
# 3) ดึงโมเดลเข้า cache เพื่อ cold-start รวดเร็วขึ้น
|
| 9 |
-
ollama pull qwen2.5-coder:3b
|
| 10 |
-
|
| 11 |
-
# 4) หยุด server ชั่วคราว
|
| 12 |
-
pkill ollama
|
| 13 |
-
|
| 14 |
-
# 5) สตาร์ท server ใหม่ พร้อม inference flags
|
| 15 |
-
ollama serve --threads 2 --batch-size 1 --mmap
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|