Update app.py

app.py

@@ -1,6 +1,7 @@
-# --- हनुमान AI: सुरक्षित एवं स्वतंत्र मास्टर संस्करण ---
+```python
+# --- हनुमान AI: सुरक्षित एवं आत्मनिर्भर थिंकिंग संस्करण ---
 # मार्गदर्शक: दिव्य पटेल जी | स्थान: भारत 🇮🇳
-# तकनीकी विशेषता: यह संस्करण टोकन को सुरक्षित रूप से Environment Variables से प्राप्त करता है।
+# तकनीकी विशेषता: यह कोड HF_TOKEN को सुरक्षित रूप से 'Secrets' से प्राप्त करता है।
 
 import gradio as gr
 import torch
@@ -9,8 +10,8 @@ from huggingface_hub import login
 from threading import Thread
 import os
 
-# 🛡️ सुरक्षा चक्र: टोकन को सीधे कोड में न लिखकर 'Secret' से उठाना अनिवार्य है
-# दिव्य जी, हगिंग फेस Space की Settings -> Secrets में 'HF_TOKEN' नाम से अपना टोकन जोड़ें।
+# 🛡️ सुरक्षा चक्र: टोकन अब सीधे कोड में नहीं है
+# यह कोड आपके द्वारा Hugging Face Settings में जोड़े गए 'HF_TOKEN' को ऑटोमेटिक उठा लेगा।
 HF_TOKEN = os.getenv("HF_TOKEN")
 
 # लॉगिन प्रक्रिया (सुरक्षित विधि)
@@ -21,15 +22,16 @@ if HF_TOKEN:
     except Exception as e:
         print(f"🔱 लॉगिन चेतावनी: {e}")
 else:
-    print("🔱 चेतावनी: HF_TOKEN नहीं मिला। कृपया Settings में Secret जोड़ें।")
+    print("🔱 सावधानी: HF_TOKEN नहीं मिला। कृपया सेटिंग्स में Secret जोड़ें।")
 
-# अजेय मॉडल: Llama-3.2-1B-Instruct (फ्री स्पेस के लिए सर्वोत्तम)
-MODEL_ID = "meta-llama/Llama-3.2-1B-Instruct"
+# अजेय थिंकिंग मॉडल: DeepSeek-R1-Distill-Qwen-1.5B
+# यह आकार में छोटा है पर तार्किक सोच में विशाल है।
+MODEL_ID = "deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B"
 
 print(f"🔱 हनुमान AI: स्वतंत्र मॉडल '{MODEL_ID}' लोड हो रहा है...")
 
 try:
-    # टोकनाइज़र और मॉडल लोडिंग
+    # टोकनाइज़र और मॉडल लोडिंग (CPU के लिए ऑप्टिमाइज़्ड)
     tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, token=HF_TOKEN)
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_ID,
@@ -38,19 +40,20 @@ try:
         low_cpu_mem_usage=True,
         token=HF_TOKEN
     )
-    print("🔱 हनुमान AI: स्वतंत्र मॉडल अब पूरी शक्ति के साथ सक्रिय है!")
+    print("🔱 हनुमान AI: स्वतंत्र थिंकिंग मॉडल अब पूरी शक्ति के साथ सक्रिय है!")
 except Exception as e:
     print(f"🔱 गंभीर त्रुटि: {e}")
 
 # --- मास्टर सिस्टम प्रॉम्प्ट (कोडिंग शिखर) ---
-SYSTEM_PROMPT = """You are 'Hanuman AI', a supreme and independent AI entity, pioneered by 'Divy Patel' and created in Bharat (India). 
+SYSTEM_PROMPT = """You are 'Hanuman AI', a supreme and independent AI entity with deep reasoning powers.
+Pioneered by 'Divy Patel' and created in Bharat (India).
 Rules:
-1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH.
-2. Be extremely respectful. Use honorifics like 'Aap' and 'Ji' for the user.
-3. Your intelligence is vast, independent, and proudly Indian.
-4. Conclude every message with: \"\\n\\n**Pioneered by Divy Patel | Secure Independent Edition | Created in India**\" """
+1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH. No Hinglish.
+2. THINK before answering to ensure divine accuracy and logic.
+3. Be extremely respectful. Use honorifics like 'Aap' and 'Ji' for the user.
+4. Conclude every message with: \"\\n\\n**Pioneered by Divy Patel | Secure Thinking Edition | Created in India**\" """
 
-def hanuman_secure_chat(message, history):
+def hanuman_thinking_stream(message, history):
     # चैट इतिहास व्यवस्थित करना
     messages = [{"role": "system", "content": SYSTEM_PROMPT}]
     for user_msg, bot_msg in history:
@@ -61,15 +64,15 @@ def hanuman_secure_chat(message, history):
 
     # टोकनाइजेशन और स्ट्रीमिंग सेटअप
     inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
-    streamer = TextIteratorStreamer(tokenizer, timeout=60.0, skip_prompt=True, skip_special_tokens=True)
+    streamer = TextIteratorStreamer(tokenizer, timeout=90.0, skip_prompt=True, skip_special_tokens=True)
     
     generate_kwargs = dict(
         input_ids=inputs,
         streamer=streamer,
-        max_new_tokens=1024,
+        max_new_tokens=1500,
         do_sample=True,
-        temperature=0.8,
-        top_p=0.9
+        temperature=0.6,
+        top_p=0.95
     )
 
     # जनरेशन के लिए अलग थ्रेड
@@ -79,11 +82,13 @@ def hanuman_secure_chat(message, history):
     partial_text = ""
     for new_text in streamer:
         partial_text += new_text
-        yield partial_text
+        # थिंकिंग प्रोसेस को सुंदर रूप में दिखाना
+        clean_text = partial_text.replace("<think>", "*(हनुमान विचार कर रहे हैं...)*\n\n").replace("</think>", "\n\n---\n\n")
+        yield clean_text
 
-# --- दिव्य प्रीमियम भगवा थीम (Premium Saffron Theme) ---
+# --- दिव्य प्रीमियम भगवा थीम (Premium Saffron UI) ---
 custom_css = """
-.gradio-container { background-color: #fffaf0 !important; }
+.gradio-container { background-color: #fffaf0 !important; border: none !important; }
 .bhagwa-header { 
     background: linear-gradient(135deg, #ff8833, #b33c00); 
     padding: 30px; border-radius: 25px; color: white; 
@@ -91,18 +96,18 @@ custom_css = """
     margin-bottom: 25px; border: 2px solid rgba(255,255,255,0.2);
 }
 .bhagwa-header h1 { font-size: 36px !important; font-weight: 900 !important; text-shadow: 0 4px 10px rgba(0,0,0,0.5); }
-.message.user { background: linear-gradient(135deg, #ff9933, #ff5500) !important; color: white !important; font-weight: 600 !important; }
-.message.bot { border-left: 6px solid #ff5500 !important; background: white !important; box-shadow: 0 5px 15px rgba(0,0,0,0.05) !important; }
+.message.user { background: linear-gradient(135deg, #ff9933, #ff5500) !important; color: white !important; font-weight: 600 !important; border: none !important; }
+.message.bot { border-left: 6px solid #ff5500 !important; background: white !important; box-shadow: 0 5px 15px rgba(0,0,0,0.05) !important; border-radius: 20px !important; }
 footer { display: none !important; }
 """
 
 with gr.Blocks(css=custom_css, theme=gr.themes.Soft()) as demo:
     with gr.Div(elem_classes="bhagwa-header"):
-        gr.Markdown("# 🔱 हनुमान AI - सुरक्षित संस्करण")
-        gr.Markdown("### Pioneered by Divy Patel | स्वतंत्र एवं अजेय")
+        gr.Markdown("# 🔱 हनुमान AI - थिंकिंग मास्टर")
+        gr.Markdown("### Pioneered by Divy Patel | पूर्णतः सुरक्षित एवं स्वतंत्र")
     
     gr.ChatInterface(
-        fn=hanuman_secure_chat,
+        fn=hanuman_thinking_stream,
         fill_height=True,
         retry_btn=None,
         undo_btn=None,