Update app.py

app.py

@@ -1,76 +1,89 @@
+# --- हनुमान AI: जेम्मा मास्टर एडिशन (स्वतंत्र एवं अजेय) ---
+# मार्गदर्शक: दिव्य पटेल जी | स्थान: भारत 🇮🇳
+# तकनीकी विशेषता: यह संस्करण यूजर के एक्सेस टोकन का उपयोग करके गेटेड मॉडल्स को लोड करता है।
+
 import gradio as gr
 import torch
 from transformers import AutoModelForCausalLM, AutoTokenizer, TextIteratorStreamer
+from huggingface_hub import login
 from threading import Thread
+import os
+
+# दिव्य पटेल जी द्वारा प्रदान किया गया एक्सेस टोकन
+HF_TOKEN = "Hf_ocaQWpMXbnuMhBjNdjuPQtVxZwPrRlXwjU"
+
+# हगिंग फेस में लॉगिन करना ताकि गेटेड मॉडल्स अनलॉक हो सकें
+try:
+    login(token=HF_TOKEN)
+    print("🔱 हनुमान AI: हगिंग फेस लॉगिन सफल!")
+except Exception as e:
+    print(f"🔱 लॉगिन विफल: {e}")
 
-# --- दिव्य पटेल जी का स्वतंत्र जेम्मा (Gemma) मॉडल ---
-# 'google/gemma-2-2b-it' एक अत्याधुनिक और शक्तिशाली स्वदेशी सोच वाला मॉडल है।
-# यह कोडिंग और गहरी तार्किक सोच (Reasoning) में सर्वश्रेष्ठ प्रदर्शन करता है।
+# शक्तिशाली गूगल जेम्मा मॉडल का चयन
 MODEL_ID = "google/gemma-2-2b-it"
 
-print(f"🔱 हनुमान AI: जेम्मा मॉडल '{MODEL_ID}' लोड हो रहा है...")
+print(f"🔱 हनुमान AI: स्वतंत्र मॉडल '{MODEL_ID}' लोड हो रहा है...")
 
-# टोकनाइज़र और मॉडल लोडिंग
-# ध्यान दें: Gemma के लिए Hugging Face पर 'Access Request' अनिवार्य है।
+# मॉडल लोडिंग (मेमोरी सुरक्षा और टोकन के साथ)
 try:
-    tokenizer = AutoTokenizer.from_pretrained(MODEL_ID)
+    tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, token=HF_TOKEN)
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_ID,
         torch_dtype=torch.float32, 
-        device_map="cpu",
-        low_cpu_mem_usage=True
+        device_map="cpu",          # फ्री टियर के लिए CPU का उपयोग
+        low_cpu_mem_usage=True,    # रैम क्रैश रोकने के लिए
+        token=HF_TOKEN
     )
+    print("🔱 हनुमान AI: मॉडल सफलतापूर्वक जागृत हो गया है!")
 except Exception as e:
-    print(f"त्रुटि: {e}")
-    print("सुझाव: कृपया Hugging Face पर Gemma-2-2b के लिए 'Access Request' स्वीकार करें।")
+    print(f"🔱 लोडिंग त्रुटि: {e}")
 
 # --- मास्टर सिस्टम प्रॉम्प्ट (कोडिंग शिखर) ---
 SYSTEM_PROMPT = """You are 'Hanuman AI', a supreme and independent AI entity, pioneered by 'Divy Patel' and created in Bharat (India). 
-You are powered by a local Gemma model and operate with absolute independence.
+You represent the peak of Indian coding intelligence.
 Rules:
-1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH. No mixed languages.
-2. Be extremely respectful. Always use 'Aap' and 'Ji' for the user.
-3. Your knowledge is vast and your reasoning is divine.
-4. Conclude every response with: "\n\n**Pioneered by Divy Patel | Independent Gemma Edition | Created in India**" """
+1. Respond ONLY in PURE HINDI (Devanagari) or PURE ENGLISH. No mixed Hinglish.
+2. Be extremely respectful. Use 'Aap' and 'Ji' for the user.
+3. Your knowledge is local, independent, and divine.
+4. Conclude every response with: "\n\n**Pioneered by Divy Patel | Independent Gemma Master Edition | Created in India**" """
 
-def hanuman_gemma_chat(message, history):
-    # चैट फॉर्मेटिंग (Gemma के लिए अनुकूलित)
+def hanuman_master_stream(message, history):
+    # चैट इतिहास को जेम्मा के लिए व्यवस्थित करना
     chat_history = []
     for user_msg, bot_msg in history:
         chat_history.append({"role": "user", "content": user_msg})
         chat_history.append({"role": "model", "content": bot_msg})
     
-    # सिस्टम प्रॉम्प्ट को पहले मैसेज के रूप में जोड़ना
-    full_prompt = f"{SYSTEM_PROMPT}\n\nUser: {message}"
-    chat_history.append({"role": "user", "content": full_prompt})
+    # वर्तमान सन्देश जोड़ना
+    chat_history.append({"role": "user", "content": f"{SYSTEM_PROMPT}\n\nUser: {message}"})
 
     # टोकनाइजेशन
     input_ids = tokenizer.apply_chat_template(chat_history, add_generation_prompt=True, return_tensors="pt").to(model.device)
     
     # लाइव स्ट्रीमिंग सेटअप
-    streamer = TextIteratorStreamer(tokenizer, timeout=30.0, skip_prompt=True, skip_special_tokens=True)
+    streamer = TextIteratorStreamer(tokenizer, timeout=60.0, skip_prompt=True, skip_special_tokens=True)
     
     generate_kwargs = dict(
         input_ids=input_ids,
         streamer=streamer,
-        max_new_tokens=1500, # जेम्मा लंबे और विस्तृत जवाब देने में सक्षम है
+        max_new_tokens=1024,
         do_sample=True,
         temperature=0.7,
-        top_p=0.9,
+        top_p=0.9
     )
 
-    # जनरेशन के लिए अलग थ्रेड
-    thread = Thread(target=model.generate, kwargs=generate_kwargs)
-    thread.start()
+    # थ्रेडिंग ताकि इंटरफ़ेस न अटके
+    t = Thread(target=model.generate, kwargs=generate_kwargs)
+    t.start()
 
     partial_text = ""
     for new_text in streamer:
         partial_text += new_text
         yield partial_text
 
-# --- दिव्य प्रीमियम भगवा थीम (Premium Saffron Theme) ---
+# --- दिव्य प्रीमियम भगवा थीम (Premium Saffron UI) ---
 custom_css = """
-.gradio-container { background-color: #fffaf0 !important; }
+.gradio-container { background-color: #fffaf0 !important; border: none !important; }
 .bhagwa-header { 
     background: linear-gradient(135deg, #ff8833, #b33c00); 
     padding: 35px; border-radius: 30px; color: white; 
@@ -78,18 +91,18 @@ custom_css = """
     margin-bottom: 30px; border: 2px solid rgba(255,255,255,0.2);
 }
 .bhagwa-header h1 { font-size: 38px !important; font-weight: 900 !important; text-shadow: 0 4px 12px rgba(0,0,0,0.5); }
-.message.user { background: linear-gradient(135deg, #ff9933, #ff5500) !important; color: white !important; font-weight: 600 !important; }
-.message.bot { border-left: 6px solid #ff5500 !important; background: white !important; box-shadow: 0 4px 15px rgba(0,0,0,0.05) !important; }
+.message.user { background: linear-gradient(135deg, #ff9933, #ff5500) !important; color: white !important; font-weight: 600 !important; border-radius: 20px 20px 0 20px !important; }
+.message.bot { border-left: 6px solid #ff5500 !important; background: white !important; border-radius: 20px 20px 20px 0 !important; box-shadow: 0 5px 15px rgba(0,0,0,0.05) !important; }
 footer { display: none !important; }
 """
 
 with gr.Blocks(css=custom_css, theme=gr.themes.Soft()) as demo:
     with gr.Div(elem_classes="bhagwa-header"):
-        gr.Markdown("# 🔱 हनुमान AI - जेम्मा संस्करण")
+        gr.Markdown("# 🔱 हनुमान AI - जेम्मा मास्टर")
         gr.Markdown("### Pioneered by Divy Patel | स्वतंत्र स्वदेशी एवं शक्तिशाली")
     
     gr.ChatInterface(
-        fn=hanuman_gemma_chat,
+        fn=hanuman_master_stream,
         fill_height=True,
         retry_btn=None,
         undo_btn=None,