Spaces:
gijl
/
No application file

plo3 / Dockerfile
gijl's picture
Update Dockerfile
693e2b4 verified
# ุงุณุชุฎุฏุงู… ุงู„ุตูˆุฑุฉ ุงู„ุฑุณู…ูŠุฉ ุงู„ุชูŠ ุชุฏู…ุฌ Open WebUI ู…ุน Ollama
FROM ghcr.io/open-webui/open-webui:ollama
# โ”€โ”€ ุฅุนุฏุงุฏุงุช ุงู„ู…ุณุงุฑุงุช ุงู„ุฏุงุฆู…ุฉ (HF Spaces ูŠุฑุจุท ุงู„ู…ุฎุฒู† ุนู„ู‰ /data) โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€
ENV OLLAMA_MODELS=/data/ollama
ENV DATA_DIR=/data/webui
ENV PORT=7860
ENV HOST=0.0.0.0
# โ”€โ”€ ุฅุจู‚ุงุก ุงู„ู†ู…ูˆุฐุฌ ููŠ ุงู„ุฐุงูƒุฑุฉ ุฅู„ู‰ ุงู„ุฃุจุฏ (ู„ุง ุชูุฑูŠุบ ุนู†ุฏ ุงู„ุฎู…ูˆู„) โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€
ENV OLLAMA_KEEP_ALIVE=-1
# โ”€โ”€ ุฅุนุฏุงุฏุงุช ุงู„ู†ู…ูˆุฐุฌ ุงู„ู…ุฑุงุฏ ุชุญู…ูŠู„ู‡ ู…ู† Hugging Face โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€
# ุบูŠู‘ุฑ ู‡ุฐู‡ ุงู„ู‚ูŠู… ูู‚ุท ู„ุชุดุบูŠู„ ุฃูŠ ู†ู…ูˆุฐุฌ GGUF ู…ู† HF ุฏูˆู† ุชุนุฏูŠู„ ุฃูŠ ุดูŠุก ุขุฎุฑ:
#
# HF_REPO : ู…ุณุงุฑ ุงู„ู…ุณุชูˆุฏุน ุนู„ู‰ HF (ู…ุซุงู„: unsloth/gemma-4-E2B-it-GGUF)
# HF_FILE : ุงุณู… ู…ู„ู GGUF ุจุฏู‚ุฉ ูƒู…ุง ูŠุธู‡ุฑ ููŠ ุงู„ู…ุณุชูˆุฏุน
# MODEL_NAME: ุงู„ุงุณู… ุงู„ุฐูŠ ุณูŠุธู‡ุฑ ุจู‡ ุงู„ู†ู…ูˆุฐุฌ ููŠ ูˆุงุฌู‡ุฉ Open WebUI
# HF_TOKEN : (ุงุฎุชูŠุงุฑูŠ) ู…ุทู„ูˆุจ ูู‚ุท ู„ู„ู†ู…ุงุฐุฌ ุงู„ุฎุงุตุฉ/ุงู„ู…ุญู…ูŠุฉ (gated models)
ENV HF_REPO="gijl/gemma-4-E2B-it-GGUF"
ENV HF_FILE="gemma-4-E2B-it-UD-Q5_K_XL.gguf"
ENV MODEL_NAME="my-gemma"
ENV HF_TOKEN=""
# โ”€โ”€ ู…ุนุงู…ู„ุงุช ุชุดุบูŠู„ ุงู„ู†ู…ูˆุฐุฌ (ูŠู…ูƒู† ุชุนุฏูŠู„ู‡ุง ุญุณุจ ุญุฌู… ุงู„ู†ู…ูˆุฐุฌ ูˆุงู„ุฐุงูƒุฑุฉ ุงู„ู…ุชุงุญุฉ) โ”€โ”€
ENV MODEL_CTX=128000
ENV MODEL_THREADS=2
# ุชุซุจูŠุช ุฃุฏุงุฉ Hugging Face
RUN pip install -U huggingface_hub
# ู†ุณุฎ ุณูƒุฑูŠุจุช ุงู„ุชุดุบูŠู„
COPY run.sh /app/run.sh
RUN chmod +x /app/run.sh
CMD ["/app/run.sh"]