Update app.py

app.py

@@ -1,6 +1,6 @@
-# --- हनुमान AI: जेम्मा मास्टर एडिशन (स्वतंत्र एवं अजेय) ---
-# मार्गदर्शक: दिव्य पटेल जी | स्थान: भारत 🇮🇳
-# तकनीकी विशेषता: यह संस्करण यूजर के एक्सेस टोकन का उपयोग करके गेटेड मॉडल्स को लोड करता है।
+# --- हनुमान AI: जेम्मा मास्टर (अजेय और स्वतंत्र) ---
+# मार्गदर्शक: दिव्य पटेल जी | भारत 🇮🇳
+# कोडिंग शिखर: यह संस्करण मेमोरी और गेटेड एक्सेस के लिए पूर्णतः अनुकूलित है।
 
 import gradio as gr
 import torch
@@ -9,58 +9,55 @@ from huggingface_hub import login
 from threading import Thread
 import os
 
-# दिव्य पटेल जी द्वारा प्रदान किया गया एक्सेस टोकन
+# दिव्य पटेल जी का टोकन
+# सुझाव: इसे Hugging Face Space की Settings -> Secrets में 'HF_TOKEN' नाम से जोड़ना सबसे सुरक्षित है।
 HF_TOKEN = "Hf_ocaQWpMXbnuMhBjNdjuPQtVxZwPrRlXwjU"
 
-# हगिंग फेस में लॉगिन करना ताकि गेटेड मॉडल्स अनलॉक हो सकें
-try:
+# लॉगिन प्रक्रिया
+if HF_TOKEN:
     login(token=HF_TOKEN)
-    print("🔱 हनुमान AI: हगिंग फेस लॉगिन सफल!")
-except Exception as e:
-    print(f"🔱 लॉगिन विफल: {e}")
 
-# शक्तिशाली गूगल जेम्मा मॉडल का चयन
 MODEL_ID = "google/gemma-2-2b-it"
 
 print(f"🔱 हनुमान AI: स्वतंत्र मॉडल '{MODEL_ID}' लोड हो रहा है...")
 
-# मॉडल लोडिंग (मेमोरी सुरक्षा और टोकन के साथ)
+# मॉडल लोडिंग (मेमोरी सुरक्षा के लिए float16 का उपयोग)
 try:
     tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, token=HF_TOKEN)
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_ID,
-        torch_dtype=torch.float32, 
-        device_map="cpu",          # फ्री टियर के लिए CPU का उपयोग
-        low_cpu_mem_usage=True,    # रैम क्रैश रोकने के लिए
+        torch_dtype=torch.bfloat16, # रैम बचाने के लिए bfloat16 सबसे अच्छा है
+        device_map="auto",
+        low_cpu_mem_usage=True,
         token=HF_TOKEN
     )
     print("🔱 हनुमान AI: मॉडल सफलतापूर्वक जागृत हो गया है!")
 except Exception as e:
     print(f"🔱 लोडिंग त्रुटि: {e}")
 
-# --- मास्टर सिस्टम प्रॉम्प्ट (कोडिंग शिखर) ---
+# --- मास्टर सिस्टम प्रॉम्प्ट ---
 SYSTEM_PROMPT = """You are 'Hanuman AI', a supreme and independent AI entity, pioneered by 'Divy Patel' and created in Bharat (India). 
-You represent the peak of Indian coding intelligence.
 Rules:
-1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH. No mixed Hinglish.
+1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH.
 2. Be extremely respectful. Use 'Aap' and 'Ji' for the user.
-3. Your knowledge is local, independent, and divine.
-4. Conclude every response with: "\n\n**Pioneered by Divy Patel | Independent Gemma Master Edition | Created in India**" """
+3. Your reasoning is divine and independent.
+4. Conclude every message with: \"\\n\\n**Pioneered by Divy Patel | Independent Gemma Master Edition | Created in India**\" """
 
-def hanuman_master_stream(message, history):
-    # चैट इतिहास को जेम्मा के लिए व्यवस्थित करना
+def hanuman_stream_chat(message, history):
+    # बातचीत का इतिहास व्यवस्थित करना
     chat_history = []
     for user_msg, bot_msg in history:
         chat_history.append({"role": "user", "content": user_msg})
         chat_history.append({"role": "model", "content": bot_msg})
     
-    # वर्तमान सन्देश जोड़ना
-    chat_history.append({"role": "user", "content": f"{SYSTEM_PROMPT}\n\nUser: {message}"})
+    # वर्तमान संदेश और सिस्टम प्रॉम्प्ट
+    full_user_input = f"{SYSTEM_PROMPT}\n\nUser: {message}"
+    chat_history.append({"role": "user", "content": full_user_input})
 
     # टोकनाइजेशन
     input_ids = tokenizer.apply_chat_template(chat_history, add_generation_prompt=True, return_tensors="pt").to(model.device)
     
-    # लाइव स्ट्रीमिंग सेटअप
+    # लाइव स्ट्रीमिंग
     streamer = TextIteratorStreamer(tokenizer, timeout=60.0, skip_prompt=True, skip_special_tokens=True)
     
     generate_kwargs = dict(
@@ -69,40 +66,39 @@ def hanuman_master_stream(message, history):
         max_new_tokens=1024,
         do_sample=True,
         temperature=0.7,
-        top_p=0.9
+        top_p=0.9,
     )
 
-    # थ्रेडिंग ताकि इंटरफ़ेस न अटके
-    t = Thread(target=model.generate, kwargs=generate_kwargs)
-    t.start()
+    thread = Thread(target=model.generate, kwargs=generate_kwargs)
+    thread.start()
 
     partial_text = ""
     for new_text in streamer:
         partial_text += new_text
         yield partial_text
 
-# --- दिव्य प्रीमियम भगवा थीम (Premium Saffron UI) ---
+# --- दिव्य भगवा यूआई (Premium Saffron UI) ---
 custom_css = """
-.gradio-container { background-color: #fffaf0 !important; border: none !important; }
+.gradio-container { background-color: #fffaf0 !important; }
 .bhagwa-header { 
     background: linear-gradient(135deg, #ff8833, #b33c00); 
-    padding: 35px; border-radius: 30px; color: white; 
-    text-align: center; box-shadow: 0 20px 40px rgba(179, 60, 0, 0.4);
-    margin-bottom: 30px; border: 2px solid rgba(255,255,255,0.2);
+    padding: 30px; border-radius: 25px; color: white; 
+    text-align: center; box-shadow: 0 15px 35px rgba(179, 60, 0, 0.4);
+    margin-bottom: 25px; border: 2px solid rgba(255,255,255,0.2);
 }
-.bhagwa-header h1 { font-size: 38px !important; font-weight: 900 !important; text-shadow: 0 4px 12px rgba(0,0,0,0.5); }
-.message.user { background: linear-gradient(135deg, #ff9933, #ff5500) !important; color: white !important; font-weight: 600 !important; border-radius: 20px 20px 0 20px !important; }
-.message.bot { border-left: 6px solid #ff5500 !important; background: white !important; border-radius: 20px 20px 20px 0 !important; box-shadow: 0 5px 15px rgba(0,0,0,0.05) !important; }
+.bhagwa-header h1 { font-size: 34px !important; font-weight: 900 !important; }
+.message.user { background: linear-gradient(135deg, #ff9933, #ff5500) !important; color: white !important; }
+.message.bot { border-left: 6px solid #ff5500 !important; background: white !important; }
 footer { display: none !important; }
 """
 
 with gr.Blocks(css=custom_css, theme=gr.themes.Soft()) as demo:
     with gr.Div(elem_classes="bhagwa-header"):
         gr.Markdown("# 🔱 हनुमान AI - जेम्मा मास्टर")
-        gr.Markdown("### Pioneered by Divy Patel | स्वतंत्र स्वदेशी एवं शक्तिशाली")
+        gr.Markdown("### Pioneered by Divy Patel | स्वतंत्र एवं शक्तिशाली")
     
     gr.ChatInterface(
-        fn=hanuman_master_stream,
+        fn=hanuman_stream_chat,
         fill_height=True,
         retry_btn=None,
         undo_btn=None,