File size: 1,701 Bytes
34c7351 693e2b4 34c7351 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 | # ุงุณุชุฎุฏุงู
ุงูุตูุฑุฉ ุงูุฑุณู
ูุฉ ุงูุชู ุชุฏู
ุฌ Open WebUI ู
ุน Ollama
FROM ghcr.io/open-webui/open-webui:ollama
# โโ ุฅุนุฏุงุฏุงุช ุงูู
ุณุงุฑุงุช ุงูุฏุงุฆู
ุฉ (HF Spaces ูุฑุจุท ุงูู
ุฎุฒู ุนูู /data) โโโโโโโโโโโโโโ
ENV OLLAMA_MODELS=/data/ollama
ENV DATA_DIR=/data/webui
ENV PORT=7860
ENV HOST=0.0.0.0
# โโ ุฅุจูุงุก ุงููู
ูุฐุฌ ูู ุงูุฐุงูุฑุฉ ุฅูู ุงูุฃุจุฏ (ูุง ุชูุฑูุบ ุนูุฏ ุงูุฎู
ูู) โโโโโโโโโโโโโโโ
ENV OLLAMA_KEEP_ALIVE=-1
# โโ ุฅุนุฏุงุฏุงุช ุงููู
ูุฐุฌ ุงูู
ุฑุงุฏ ุชุญู
ููู ู
ู Hugging Face โโโโโโโโโโโโโโโโโโโโโโโโโโโโ
# ุบููุฑ ูุฐู ุงูููู
ููุท ูุชุดุบูู ุฃู ูู
ูุฐุฌ GGUF ู
ู HF ุฏูู ุชุนุฏูู ุฃู ุดูุก ุขุฎุฑ:
#
# HF_REPO : ู
ุณุงุฑ ุงูู
ุณุชูุฏุน ุนูู HF (ู
ุซุงู: unsloth/gemma-4-E2B-it-GGUF)
# HF_FILE : ุงุณู
ู
ูู GGUF ุจุฏูุฉ ูู
ุง ูุธูุฑ ูู ุงูู
ุณุชูุฏุน
# MODEL_NAME: ุงูุงุณู
ุงูุฐู ุณูุธูุฑ ุจู ุงููู
ูุฐุฌ ูู ูุงุฌูุฉ Open WebUI
# HF_TOKEN : (ุงุฎุชูุงุฑู) ู
ุทููุจ ููุท ูููู
ุงุฐุฌ ุงูุฎุงุตุฉ/ุงูู
ุญู
ูุฉ (gated models)
ENV HF_REPO="gijl/gemma-4-E2B-it-GGUF"
ENV HF_FILE="gemma-4-E2B-it-UD-Q5_K_XL.gguf"
ENV MODEL_NAME="my-gemma"
ENV HF_TOKEN=""
# โโ ู
ุนุงู
ูุงุช ุชุดุบูู ุงููู
ูุฐุฌ (ูู
ูู ุชุนุฏูููุง ุญุณุจ ุญุฌู
ุงููู
ูุฐุฌ ูุงูุฐุงูุฑุฉ ุงูู
ุชุงุญุฉ) โโ
ENV MODEL_CTX=128000
ENV MODEL_THREADS=2
# ุชุซุจูุช ุฃุฏุงุฉ Hugging Face
RUN pip install -U huggingface_hub
# ูุณุฎ ุณูุฑูุจุช ุงูุชุดุบูู
COPY run.sh /app/run.sh
RUN chmod +x /app/run.sh
CMD ["/app/run.sh"]
|