rapacious commited on
Commit
b7f1710
·
verified ·
1 Parent(s): c61e07b

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +11 -5
Dockerfile CHANGED
@@ -1,8 +1,8 @@
1
  FROM ubuntu:22.04
2
 
3
- # Cài đặt công cụ thư viện cần thiết, bao gồm libgomp1
4
  RUN apt-get update && apt-get install -y \
5
- unzip wget curl libgcc-s1 libstdc++6 libgomp1 \
6
  && rm -rf /var/lib/apt/lists/*
7
 
8
  WORKDIR /app
@@ -13,13 +13,19 @@ RUN unzip llama_bin.zip && rm llama_bin.zip && chmod +x bin/*
13
 
14
  ENV LD_LIBRARY_PATH=/app/bin:$LD_LIBRARY_PATH
15
 
16
- # Tạo thư mục và tải mô hình trong build time
17
  RUN mkdir -p /models && \
18
  wget -O /models/qwen2.5-0.5b-instruct-q5_k_m.gguf https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q5_k_m.gguf && \
19
  chmod -R 777 /models
20
 
 
 
 
 
 
 
21
  # Dùng cổng 3000 cho Spaces
22
  EXPOSE 3000
23
 
24
- # Chạy llama-server
25
- CMD ["./bin/llama-server", "-m", "/models/qwen2.5-0.5b-instruct-q5_k_m.gguf", "--host", "0.0.0.0", "--port", "3000"]
 
1
  FROM ubuntu:22.04
2
 
3
+ # Cài đặt công cụ, thư viện Python
4
  RUN apt-get update && apt-get install -y \
5
+ unzip wget curl libgcc-s1 libstdc++6 libgomp1 python3 python3-pip \
6
  && rm -rf /var/lib/apt/lists/*
7
 
8
  WORKDIR /app
 
13
 
14
  ENV LD_LIBRARY_PATH=/app/bin:$LD_LIBRARY_PATH
15
 
16
+ # Tải mô hình
17
  RUN mkdir -p /models && \
18
  wget -O /models/qwen2.5-0.5b-instruct-q5_k_m.gguf https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q5_k_m.gguf && \
19
  chmod -R 777 /models
20
 
21
+ # Cài Gradio
22
+ RUN pip3 install gradio requests
23
+
24
+ # Sao chép app.py
25
+ COPY app.py /app/app.py
26
+
27
  # Dùng cổng 3000 cho Spaces
28
  EXPOSE 3000
29
 
30
+ # Chạy llama-server và Gradio
31
+ CMD ["sh", "-c", "./bin/llama-server -m /models/qwen2.5-0.5b-instruct-q5_k_m.gguf --host 0.0.0.0 --port 3000 & sleep 5 && python3 /app/app.py"]