Update run.sh
Browse files
run.sh
CHANGED
|
@@ -15,7 +15,7 @@ echo "Starting Ollama server..."
|
|
| 15 |
OLLAMA_MODELS=/data/ollama ollama serve &
|
| 16 |
|
| 17 |
# الانتظار بضع ثوانٍ للتأكد من أن Ollama يعمل ومستعد لتلقي الطلبات
|
| 18 |
-
sleep
|
| 19 |
|
| 20 |
# التحقق من وجود النموذج في المخزن؛ إذا لم يكن موجوداً، قم بتنزيله
|
| 21 |
if [ ! -f "$MODELS_DIR/$MODEL_FILE" ]; then
|
|
@@ -39,8 +39,8 @@ cat <<EOF > $MODELS_DIR/Modelfile
|
|
| 39 |
FROM $MODELS_DIR/$MODEL_FILE
|
| 40 |
|
| 41 |
# إعدادات مشابهة لما طلبته في llama.cpp
|
| 42 |
-
PARAMETER num_ctx
|
| 43 |
-
PARAMETER num_thread
|
| 44 |
EOF
|
| 45 |
|
| 46 |
# تسجيل النموذج داخل Ollama
|
|
|
|
| 15 |
OLLAMA_MODELS=/data/ollama ollama serve &
|
| 16 |
|
| 17 |
# الانتظار بضع ثوانٍ للتأكد من أن Ollama يعمل ومستعد لتلقي الطلبات
|
| 18 |
+
sleep 1
|
| 19 |
|
| 20 |
# التحقق من وجود النموذج في المخزن؛ إذا لم يكن موجوداً، قم بتنزيله
|
| 21 |
if [ ! -f "$MODELS_DIR/$MODEL_FILE" ]; then
|
|
|
|
| 39 |
FROM $MODELS_DIR/$MODEL_FILE
|
| 40 |
|
| 41 |
# إعدادات مشابهة لما طلبته في llama.cpp
|
| 42 |
+
PARAMETER num_ctx 6400
|
| 43 |
+
PARAMETER num_thread 2
|
| 44 |
EOF
|
| 45 |
|
| 46 |
# تسجيل النموذج داخل Ollama
|