Update app.py

app.py

@@ -1,54 +1,47 @@
-# --- हनुमान AI: जय माँ संस्करण (Gradio 6.0 अजेय फिक्स) ---
+# --- हनुमान AI: सुपरफास्ट लॉजिक एवं जय माँ संस्करण ---
 # मार्गदर्शक: दिव्य पटेल जी | भारत 🇮🇳
-# फिक्स: ChatInterface TypeError और CSS Warning का पूर्ण समाधान।
+# विशेषता: यह संस्करण CPU पर सबसे तेज़ गति और बेहतरीन रीज़निंग के लिए है।
 
 import gradio as gr
 import torch
 from transformers import AutoModelForCausalLM, AutoTokenizer, TextIteratorStreamer
-from huggingface_hub import login
 from threading import Thread
 import os
 
-# 🛡️ परफॉरमेंस और सुरक्षा
+# 🛡️ CPU टर्बो स्पीड सेटिंग 
+torch.set_num_threads(2) 
 os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
-HF_TOKEN = os.getenv("HF_TOKEN")
+os.environ["OMP_NUM_THREADS"] = "2"
 
-# लॉगिन प्रक्रिया - जय माँ!
-if HF_TOKEN:
-    try:
-        login(token=HF_TOKEN)
-        print("🔱 हनुमान AI: जय माँ! लॉगिन सफल!")
-    except Exception as e:
-        print(f"🔱 लॉगिन चेतावनी: {e}")
+# विश्व का सबसे तेज़ और चतुर 1.5B मॉडल (बिना थिंकिंग ओवरहेड के)
+MODEL_ID = "Qwen/Qwen2.5-1.5B-Instruct"
 
-# अजेय थिंकिंग मॉडल
-MODEL_ID = "deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B"
-
-print(f"🔱 हनुमान AI: जय माँ! मॉडल '{MODEL_ID}' लोड हो रहा है...")
+print(f"🔱 हनुमान AI: जय माँ! सुपरफास्ट लॉजिक मॉडल '{MODEL_ID}' लोड हो रहा है...")
 
 try:
-    tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, token=HF_TOKEN)
+    # इसमें किसी टोकन या गेटेड एक्सेस की आवश्यकता नहीं है, यह पूर्णतः स्वतंत्र है!
+    tokenizer = AutoTokenizer.from_pretrained(MODEL_ID)
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_ID,
         torch_dtype=torch.float32, 
         device_map="cpu", 
-        low_cpu_mem_usage=True,
-        token=HF_TOKEN
+        low_cpu_mem_usage=True
     )
-    print("🔱 हनुमान AI: जय माँ! आपका स्वतंत्र मॉडल अब पूरी तरह जागृत है!")
+    print("🔱 हनुमान AI: जय माँ! अजेय और तेज़ मॉडल सक्रिय है!")
 except Exception as e:
     print(f"🔱 गंभीर त्रुटि: {e}")
 
-# --- दिव्य मास्टर सिस्टम प्रॉम्प्ट ---
+# --- मास्टर सिस्टम प्रॉम्प्ट (जय माँ शक्ति) ---
 SYSTEM_PROMPT = """You are 'Hanuman AI', a supreme independent AI entity, powered by the divine grace of 'Jai Maa'.
 Pioneered by the visionary 'Divy Patel' and created with absolute pride in Bharat (India). 
 Rules:
 1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH.
-2. THINK deeply before delivering the final answer.
+2. Provide FAST, highly logical, and highly accurate answers.
 3. Show immense respect. Always use 'Aap' and 'Ji' for Divy Patel Ji.
-4. Conclude every message with: \"\\n\\n**Pioneered by Divy Patel | Jai Maa Edition | Fully Independent & Created in India**\" """
+4. Conclude every message with: \"\\n\\n**Pioneered by Divy Patel | Superfast Logic Edition | Created in India**\" """
 
 def hanuman_maa_chat_stream(message, history):
+    # चैट इतिहास व्यवस्थित करना
     messages = [{"role": "system", "content": SYSTEM_PROMPT}]
     for user_msg, bot_msg in history:
         if user_msg: messages.append({"role": "user", "content": user_msg})
@@ -56,29 +49,33 @@ def hanuman_maa_chat_stream(message, history):
     
     messages.append({"role": "user", "content": message})
 
-    inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
-    streamer = TextIteratorStreamer(tokenizer, timeout=120.0, skip_prompt=True, skip_special_tokens=True)
+    # इनपुट प्रोसेसिंग
+    text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+    model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
+    
+    # लाइव स्ट्रीमिंग के लिए सेटअप (तेज़ गति के साथ)
+    streamer = TextIteratorStreamer(tokenizer, timeout=60.0, skip_prompt=True, skip_special_tokens=True)
     
     generate_kwargs = dict(
-        input_ids=inputs,
+        **model_inputs,
         streamer=streamer,
         max_new_tokens=1024,
+        use_cache=True,      # टर्बो स्पीड के लिए मेमोरी कैश
         do_sample=True,
-        temperature=0.6,
-        top_p=0.95
+        temperature=0.7,
+        top_p=0.90
     )
 
+    # जनरेशन थ्रेड
     thread = Thread(target=model.generate, kwargs=generate_kwargs)
     thread.start()
 
     partial_text = ""
     for new_text in streamer:
         partial_text += new_text
-        # थिंकिंग प्रोसेस को दिव्य रूप में दर्शाना
-        clean_text = partial_text.replace("<think>", "*(हनुमान विचार कर रहे हैं... जय माँ!)*\n\n").replace("</think>", "\n\n---\n\n")
-        yield clean_text
+        yield partial_text
 
-# --- दिव्य भगवा थीम (HTML + CSS) नए Gradio 6.0 के अनुकूल ---
+# --- दिव्य भगवा थीम (HTML - Gradio 6.0 Safe) ---
 divine_ui = """
 <style>
 .gradio-container { background-color: #fffaf0 !important; }
@@ -88,25 +85,22 @@ divine_ui = """
     text-align: center; box-shadow: 0 15px 35px rgba(179, 60, 0, 0.4);
     margin-bottom: 25px;
 }
-.bhagwa-header h1 { font-size: 34px !important; font-weight: 900 !important; margin-bottom: 5px; }
-.bhagwa-header p { font-size: 16px !important; opacity: 0.9; }
+.bhagwa-header h1 { font-size: 36px !important; font-weight: 900 !important; margin-bottom: 5px; text-shadow: 0 4px 8px rgba(0,0,0,0.5); }
+.bhagwa-header p { font-size: 16px !important; opacity: 0.95; font-weight: 500; }
 </style>
 <div class="bhagwa-header">
     <h1>🔱 हनुमान AI - जय माँ संस्करण</h1>
-    <p>Pioneered by Divy Patel | स्वतंत्र एवं अजेय स्वदेशी तकनीक</p>
+    <p>Pioneered by Divy Patel | सुपरफास्ट लॉजिक एवं अजेय स्वदेशी तकनीक</p>
 </div>
 """
 
-# यहाँ से css और theme हटा दिए गए हैं ताकि Warning न आए
 with gr.Blocks() as demo:
     gr.HTML(divine_ui)
     
-    # यहाँ से पुराने बटन हटा दिए गए हैं ताकि TypeError न आए
     gr.ChatInterface(
         fn=hanuman_maa_chat_stream,
         fill_height=True
     )
 
 if __name__ == "__main__":
-    # जय माँ! सर्वर लॉन्च हो रहा है।
     demo.launch()