rapacious commited on
Commit
65896e1
·
verified ·
1 Parent(s): a6f3ef3

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +9 -13
Dockerfile CHANGED
@@ -1,25 +1,21 @@
1
  FROM ubuntu:22.04
2
 
 
3
  RUN apt-get update && apt-get install -y \
4
- unzip wget curl python3 python3-pip
 
5
 
6
- # Sao chép binary LLaMA đã build
7
- COPY llama_bin.zip /app/llama_bin.zip
8
  WORKDIR /app
9
 
10
- # Giải nén binaries
 
11
  RUN unzip llama_bin.zip && rm llama_bin.zip && chmod +x bin/*
12
 
13
- # Đặt biến môi trường để tìm `libllama.so`
14
  ENV LD_LIBRARY_PATH=/app/bin:$LD_LIBRARY_PATH
15
 
16
- # Sao chép model
17
  RUN mkdir -p /models
18
- RUN wget -O /models/qwen2.5-0.5b-instruct-q5_k_m.gguf \
19
- https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q5_k_m.gguf
20
-
21
- # Mở cổng 8000 cho Hugging Face Space
22
- EXPOSE 3000
23
 
24
- # Chạy server với host 0.0.0.0 để có thể truy cập từ bên ngoài
25
- CMD ["./bin/llama-server", "-m", "/models/qwen2.5-0.5b-instruct-q5_k_m.gguf", "--host", "0.0.0.0", "--port", "3000"]
 
1
  FROM ubuntu:22.04
2
 
3
+ # Cài đặt công cụ và thư viện cơ bản
4
  RUN apt-get update && apt-get install -y \
5
+ unzip wget curl libgcc-s1 libstdc++6 \
6
+ && rm -rf /var/lib/apt/lists/*
7
 
 
 
8
  WORKDIR /app
9
 
10
+ # Sao chép và giải nén binary
11
+ COPY llama_bin.zip /app/llama_bin.zip
12
  RUN unzip llama_bin.zip && rm llama_bin.zip && chmod +x bin/*
13
 
 
14
  ENV LD_LIBRARY_PATH=/app/bin:$LD_LIBRARY_PATH
15
 
16
+ # Tải hình trong runtime thay vì build time
17
  RUN mkdir -p /models
18
+ CMD ["sh", "-c", "wget -O /models/qwen2.5-0.5b-instruct-q5_k_m.gguf https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q5_k_m.gguf && ./bin/llama-server -m /models/qwen2.5-0.5b-instruct-q5_k_m.gguf --host 0.0.0.0 --port 3000"]
 
 
 
 
19
 
20
+ # Dùng cổng 3000 cho Spaces
21
+ EXPOSE 3000