Spaces:
gijl
/
No application file

File size: 1,701 Bytes
34c7351
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
693e2b4
34c7351
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
# ุงุณุชุฎุฏุงู… ุงู„ุตูˆุฑุฉ ุงู„ุฑุณู…ูŠุฉ ุงู„ุชูŠ ุชุฏู…ุฌ Open WebUI ู…ุน Ollama
FROM ghcr.io/open-webui/open-webui:ollama

# โ”€โ”€ ุฅุนุฏุงุฏุงุช ุงู„ู…ุณุงุฑุงุช ุงู„ุฏุงุฆู…ุฉ (HF Spaces ูŠุฑุจุท ุงู„ู…ุฎุฒู† ุนู„ู‰ /data) โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€
ENV OLLAMA_MODELS=/data/ollama
ENV DATA_DIR=/data/webui
ENV PORT=7860
ENV HOST=0.0.0.0

# โ”€โ”€ ุฅุจู‚ุงุก ุงู„ู†ู…ูˆุฐุฌ ููŠ ุงู„ุฐุงูƒุฑุฉ ุฅู„ู‰ ุงู„ุฃุจุฏ (ู„ุง ุชูุฑูŠุบ ุนู†ุฏ ุงู„ุฎู…ูˆู„) โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€
ENV OLLAMA_KEEP_ALIVE=-1

# โ”€โ”€ ุฅุนุฏุงุฏุงุช ุงู„ู†ู…ูˆุฐุฌ ุงู„ู…ุฑุงุฏ ุชุญู…ูŠู„ู‡ ู…ู† Hugging Face โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€
# ุบูŠู‘ุฑ ู‡ุฐู‡ ุงู„ู‚ูŠู… ูู‚ุท ู„ุชุดุบูŠู„ ุฃูŠ ู†ู…ูˆุฐุฌ GGUF ู…ู† HF ุฏูˆู† ุชุนุฏูŠู„ ุฃูŠ ุดูŠุก ุขุฎุฑ:
#
#   HF_REPO   : ู…ุณุงุฑ ุงู„ู…ุณุชูˆุฏุน ุนู„ู‰ HF  (ู…ุซุงู„: unsloth/gemma-4-E2B-it-GGUF)
#   HF_FILE   : ุงุณู… ู…ู„ู GGUF ุจุฏู‚ุฉ ูƒู…ุง ูŠุธู‡ุฑ ููŠ ุงู„ู…ุณุชูˆุฏุน
#   MODEL_NAME: ุงู„ุงุณู… ุงู„ุฐูŠ ุณูŠุธู‡ุฑ ุจู‡ ุงู„ู†ู…ูˆุฐุฌ ููŠ ูˆุงุฌู‡ุฉ Open WebUI
#   HF_TOKEN  : (ุงุฎุชูŠุงุฑูŠ) ู…ุทู„ูˆุจ ูู‚ุท ู„ู„ู†ู…ุงุฐุฌ ุงู„ุฎุงุตุฉ/ุงู„ู…ุญู…ูŠุฉ (gated models)
ENV HF_REPO="gijl/gemma-4-E2B-it-GGUF"
ENV HF_FILE="gemma-4-E2B-it-UD-Q5_K_XL.gguf"
ENV MODEL_NAME="my-gemma"
ENV HF_TOKEN=""

# โ”€โ”€ ู…ุนุงู…ู„ุงุช ุชุดุบูŠู„ ุงู„ู†ู…ูˆุฐุฌ (ูŠู…ูƒู† ุชุนุฏูŠู„ู‡ุง ุญุณุจ ุญุฌู… ุงู„ู†ู…ูˆุฐุฌ ูˆุงู„ุฐุงูƒุฑุฉ ุงู„ู…ุชุงุญุฉ) โ”€โ”€
ENV MODEL_CTX=128000
ENV MODEL_THREADS=2

# ุชุซุจูŠุช ุฃุฏุงุฉ Hugging Face
RUN pip install -U huggingface_hub

# ู†ุณุฎ ุณูƒุฑูŠุจุช ุงู„ุชุดุบูŠู„
COPY run.sh /app/run.sh
RUN chmod +x /app/run.sh

CMD ["/app/run.sh"]