gijl commited on
Commit
181b3d5
·
verified ·
1 Parent(s): 0f46e7f

Update run.sh

Browse files
Files changed (1) hide show
  1. run.sh +2 -2
run.sh CHANGED
@@ -15,7 +15,7 @@ echo "Starting Ollama server..."
15
  OLLAMA_MODELS=/data/ollama ollama serve &
16
 
17
  # الانتظار بضع ثوانٍ للتأكد من أن Ollama يعمل ومستعد لتلقي الطلبات
18
- sleep 1
19
 
20
  # التحقق من وجود النموذج في المخزن؛ إذا لم يكن موجوداً، قم بتنزيله
21
  if [ ! -f "$MODELS_DIR/$MODEL_FILE" ]; then
@@ -39,7 +39,7 @@ cat <<EOF > $MODELS_DIR/Modelfile
39
  FROM $MODELS_DIR/$MODEL_FILE
40
 
41
  # إعدادات مشابهة لما طلبته في llama.cpp
42
- PARAMETER num_ctx 6400
43
  PARAMETER num_thread 2
44
  EOF
45
 
 
15
  OLLAMA_MODELS=/data/ollama ollama serve &
16
 
17
  # الانتظار بضع ثوانٍ للتأكد من أن Ollama يعمل ومستعد لتلقي الطلبات
18
+ sleep 4
19
 
20
  # التحقق من وجود النموذج في المخزن؛ إذا لم يكن موجوداً، قم بتنزيله
21
  if [ ! -f "$MODELS_DIR/$MODEL_FILE" ]; then
 
39
  FROM $MODELS_DIR/$MODEL_FILE
40
 
41
  # إعدادات مشابهة لما طلبته في llama.cpp
42
+ PARAMETER num_ctx 128000
43
  PARAMETER num_thread 2
44
  EOF
45