list-2-0-ultra-codex / Dockerfile
legitey01's picture
Update Dockerfile
da1455b verified
raw
history blame contribute delete
680 Bytes
FROM python:3.10-slim
# Instala compiladores básicos
RUN apt-get update && apt-get install -y wget build-essential cmake
# Otmização máxima
ENV CMAKE_BUILD_PARALLEL_LEVEL=1
ENV MAKEFLAGS="-j1"
# Instala as bibliotecas exatas do motor da API
RUN pip install "llama-cpp-python==0.2.90" fastapi uvicorn
# Baixa o nosso modelo Oficial da Qwen
RUN wget https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF/resolve/main/qwen2.5-0.5b-instruct-q8_0.gguf -O /model.gguf
# Copia a sua API super otimizada para o container
COPY api.py /api.py
# Mostra pro HF em qual porta rodar e inicializa SUA API!
EXPOSE 7860
CMD ["uvicorn", "api:app", "--host", "0.0.0.0", "--port", "7860"]