Update Dockerfile

Dockerfile

@@ -1,13 +1,14 @@
-# Dockerfile
-FROM quay.io/go-skynet/local-ai:latest
+# 使用基础镜像 ollama/ollama:latest
+FROM ollama/ollama
 
-WORKDIR /app
+# 执行 apt 更新和安装 python3 和 pip3
+RUN apt update && apt install -y python3 && apt install -y python3-pip
 
-RUN mkdir models
+# 安装 litellm 和 litellm[proxy]，指定豆瓣镜像源
+RUN pip3 install litellm
+RUN pip3 install 'litellm[proxy]'
 
-RUN wget -q "https://huggingface.co/TheBloke/Mistral-7B-Instruct-v0.2-GGUF/resolve/main/mistral-7b-instruct-v0.2.Q4_0.gguf" -O models/mistral-7b-instruct-v0.2.Q4_0.gguf
-COPY models/* models/
-
-EXPOSE 8080
-
-CMD ["--models-path", "/app/models", "--context-size", "4090", "--threads", "4"]
+# 设置启动命令(踩坑记录：CMD无法覆盖ollama/ollama镜像的ENTRYPOINT,导致一致报错，改用ENTRYPOINT就可以解决)
+# CMD ["litellm", "--model", "ollama/deepseek-llm:67b-chat"]
+# 设置ENTRYPOINT
+ENTRYPOINT ["litellm", "--model", "ollama/mistral:instruct"]