Update app.py

app.py

@@ -1,140 +1,135 @@
-# --- 🔱 Hanuman Vision: Phi-3.5 Supreme Engine ---
+# --- 🔱 हनुमान AI: अजेय विज़न (Fail-Proof Edition) ---
 # मार्गदर्शक: दिव्य पटेल जी | भारत 🇮🇳
-# मॉडल: microsoft/Phi-3.5-vision-instruct (4.2B Parameters - 10GB RAM Safe)
-# फिक्स: दिव्य जी का 'अजेय हिस्ट्री लूप' (Universal Gradio History Fix)
+# समाधान: दिव्य जी का 'अजेय हिस्ट्री लूप' और 'भगवा यूआई' 
 
 import gradio as gr
 import torch
-from transformers import AutoModelForCausalLM, AutoProcessor
-from PIL import Image
+from transformers import AutoProcessor, Qwen2VLForConditionalGeneration
+from qwen_vl_utils import process_vision_info
 import os
 
-model_id = "microsoft/Phi-3.5-vision-instruct"
+# 🛡️ चरम गति (Extreme Speed) के लिए CPU टर्बो सेटिंग
+torch.set_num_threads(2)
+os.environ["OMP_NUM_THREADS"] = "2"
 
-print("🔱 हनुमान विज़न Phi-3.5 जागृत हो रहा है... दिव्य जी के 'अजेय हिस्ट्री लूप' के साथ।")
+# 16GB रैम के लिए सबसे सुरक्षित और तेज़ विज़न मॉडल (कभी क्रैश नहीं होगा)
+MODEL_ID = "Qwen/Qwen2-VL-2B-Instruct"
 
-# चरों (Variables) को पहले ही परिभाषित करना ताकि NameError कभी न आए
-model = None
-processor = None
+print(f"🔱 हनुमान AI जागृत हो रहा है... '{MODEL_ID}' लोड हो रहा है...")
 
 try:
-    # 🛠️ रैम ऑप्टिमाइजेशन और Flash Attention फिक्स (attn_implementation="eager")
-    model = AutoModelForCausalLM.from_pretrained(
-        model_id,
-        device_map="cpu", 
-        trust_remote_code=True, 
-        torch_dtype=torch.bfloat16,
-        low_cpu_mem_usage=True,
-        attn_implementation="eager" 
+    processor = AutoProcessor.from_pretrained(MODEL_ID)
+    model = Qwen2VLForConditionalGeneration.from_pretrained(
+        MODEL_ID,
+        torch_dtype=torch.float32,
+        device_map="cpu",
+        low_cpu_mem_usage=True
     )
-    processor = AutoProcessor.from_pretrained(model_id, trust_remote_code=True)
+    print("🔱 हनुमान AI: अजेय विज़न मॉडल पूर्णतः सक्रिय है!")
 except Exception as e:
-    print(f"🔱 सिस्टम त्रुटि: {e}")
+    print(f"🔱 गंभीर त्रुटि: {e}")
+    processor, model = None, None
 
-# दिव्य जी का अजेय चैट टेम्पलेट
-DIVY_CUSTOM_TEMPLATE = """{% for message in messages %}{{'<|' + message['role'] + '|>\n' + message['content'] + '<|end|>\n' }}{% endfor %}{% if add_generation_prompt and messages[-1]['role'] != 'assistant' %}{{- '<|assistant|>\n' -}}{% endif %}"""
+SYSTEM_PROMPT = "You are 'Hanuman AI', a supreme multimodal entity pioneered by Divy Patel. You must respond ONLY in English. Analyze deeply."
 
-if processor is not None:
-    processor.tokenizer.chat_template = DIVY_CUSTOM_TEMPLATE
-
-def hanuman_phi_engine(message, history, image_path):
-    """Phi-3.5 के लिए विशेष तार्किक इंजन - दिव्य जी के अजेय हिस्ट्री लूप के साथ"""
+def hanuman_failproof_engine(message, history, image_path):
     if model is None or processor is None:
-        return "🔱 त्रुटि: मॉडल लोड नहीं हो सका। कृपया लॉग्स की जाँच करें।"
-
-    messages = []
+        return "🔱 सिस्टम त्रुटि: मॉडल लोड नहीं हो सका।"
+        
+    messages = [{"role": "system", "content": [{"type": "text", "text": SYSTEM_PROMPT}]}]
     
-    # 🛠️ दिव्य पटेल जी का अजेय हिस्ट्री लूप (The Supreme History Parser)
-    # यह Gradio के पुराने (List) और नए (Dictionary) दोनों फॉर्मेट्स को संभाल लेगा
+    # 🛠️ दिव्य पटेल जी का अजेय इतिहास लूप (The Supreme Fix)
+    # विज़न मॉडल की मांग के अनुसार हर टेक्स्ट को लिस्ट [{"type": "text"}] में लपेटा गया है।
     if history:
         for val in history:
             # अगर Gradio पुराना वर्ज़न है (List of Lists)
             if isinstance(val, (list, tuple)) and len(val) == 2:
-                user_msg, bot_msg = val
-                if user_msg: messages.append({"role": "user", "content": str(user_msg)})
-                if bot_msg: messages.append({"role": "assistant", "content": str(bot_msg)})
+                u, b = val
+                if u: messages.append({"role": "user", "content": [{"type": "text", "text": str(u)}]})
+                if b: messages.append({"role": "assistant", "content": [{"type": "text", "text": str(b)}]})
             
             # अगर Gradio नया वर्ज़न है (Dictionaries)
             elif isinstance(val, dict):
-                role = val.get("role")
-                content = val.get("content")
-                if role and content:
-                    if role == "model": role = "assistant"
-                    messages.append({"role": role, "content": str(content)})
-
-    # वर्तमान संदेश और चित्र की तैयारी
-    current_text = message if message.strip() else "Please analyze this image deeply."
-    
-    images_list = None
+                r = val.get("role")
+                c = val.get("content")
+                if r and c:
+                    if r == "model": r = "assistant"
+                    messages.append({"role": r, "content": [{"type": "text", "text": str(c)}]})
+                    
+    # वर्तमान संदेश (चित्र और टेक्स्ट)
+    current_content = []
     if image_path:
-        # Phi-3.5 चित्र को इस विशेष टैग से पहचानता है
-        final_content_string = f"<|image_1|>\n{current_text}"
-        images_list = [Image.open(image_path).convert("RGB")]
-    else:
-        final_content_string = current_text
-
-    # वर्तमान प्रश्न जोड़ना
-    messages.append({"role": "user", "content": final_content_string})
-
+        current_content.append({"type": "image", "image": image_path})
+        
+    msg_text = message if message and str(message).strip() else "Analyze this multimedia deeply."
+    current_content.append({"type": "text", "text": msg_text})
+    
+    messages.append({"role": "user", "content": current_content})
+    
     try:
-        # टेम्पलेट लागू करना
-        prompt = processor.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+        # बिना किसी कस्टम टेम्पलेट के, डिफ़ॉल्ट सुरक्षित विधि
+        text = processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+        image_inputs, video_inputs = process_vision_info(messages)
         
-        # इनपुट्स तैयार करना
-        if images_list:
-            inputs = processor(text=prompt, images=images_list, return_tensors="pt").to("cpu")
-        else:
-            inputs = processor(text=prompt, return_tensors="pt").to("cpu")
-
-        # सुरक्षित जेनरेशन
-        generated_ids = model.generate(**inputs, max_new_tokens=512, do_sample=False)
+        inputs = processor(
+            text=[text],
+            images=image_inputs,
+            videos=video_inputs,
+            padding=True,
+            return_tensors="pt"
+        ).to("cpu")
         
-        # अतिरिक्त टोकन्स को काटना
+        generated_ids = model.generate(**inputs, max_new_tokens=512)
         generated_ids_trimmed = [
             out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
         ]
-        
         response = processor.batch_decode(
             generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
         )[0]
-
+        
         return response
     except Exception as e:
         return f"🔱 तकनीकी बाधा: {str(e)}"
 
-# --- 🔱 दिव्य विज़न डैशबोर्ड ---
-with gr.Blocks(title="Hanuman Phi-3.5 Supreme") as demo:
-    gr.HTML("""
-    <div style='text-align: center; background: linear-gradient(135deg, #ff8833, #b33c00); padding: 20px; border-radius: 15px; color: white;'>
-        <h1 style='color: white; margin: 0;'>🔱 Hanuman AI - Phi-3.5 Vision</h1>
-        <p style='margin: 5px 0 0 0;'><b>Pioneered by Divy Patel | भारत 🇮🇳 | त्रुटि-मुक्त अजेय संस्करण</b></p>
-    </div>
-    """)
+# --- 🔱 दिव्य भगवा थीम (आपके सैंपल कोड से प्रेरित) ---
+divine_ui = """
+<style>
+.gradio-container { background-color: #fffaf0 !important; }
+.bhagwa-header { 
+    background: linear-gradient(135deg, #ff8833, #b33c00); 
+    padding: 30px; border-radius: 25px; color: white; 
+    text-align: center; box-shadow: 0 15px 35px rgba(179, 60, 0, 0.4);
+    margin-bottom: 25px;
+}
+.bhagwa-header h1 { font-size: 36px !important; font-weight: 900 !important; margin-bottom: 5px; text-shadow: 0 4px 8px rgba(0,0,0,0.5); }
+.bhagwa-header p { font-size: 16px !important; opacity: 0.95; font-weight: 500; }
+</style>
+<div class="bhagwa-header">
+    <h1>🔱 हनुमान AI - ���जेय विज़न</h1>
+    <p>Pioneered by Divy Patel | त्रुटि-मुक्त अजेय स्वदेशी तकनीक</p>
+</div>
+"""
+
+with gr.Blocks() as demo:
+    gr.HTML(divine_ui)
     
-    chatbot = gr.Chatbot(height=550, label="दिव्य संवाद इतिहास")
+    chatbot = gr.Chatbot(height=500, label="दिव्य संवाद इतिहास")
     
     with gr.Row():
-        msg_in = gr.Textbox(placeholder="अपना प्रश्न यहाँ लिखें...", scale=7, label="इनपुट")
-        img_in = gr.Image(type="filepath", scale=3, label="मल्टीमीडिया")
+        msg_in = gr.Textbox(placeholder="अपना संदेश यहाँ लिखें...", scale=7)
+        img_in = gr.Image(type="filepath", scale=3)
         submit_btn = gr.Button("सक्रिय करें", variant="primary")
 
     def chat_logic(m, h, i):
         if not m.strip() and i is None:
             return m, h, i
-            
-        result = hanuman_phi_engine(m, h, i)
-        
-        display_text = m if m.strip() else "[चित्र अपलोड किया गया]"
-        h.append([display_text, result])
-        
+        res = hanuman_failproof_engine(m, h, i)
+        disp = m if m.strip() else "[चित्र अपलोड किया गया]"
+        h.append([disp, res])
         return "", h, None
 
     submit_btn.click(chat_logic, [msg_in, chatbot, img_in], [msg_in, chatbot, img_in])
     msg_in.submit(chat_logic, [msg_in, chatbot, img_in], [msg_in, chatbot, img_in])
 
-    gr.Markdown("---")
-    gr.Markdown("### 🚩 दिव्य पटेल जी के लिए सिस्टम रिपोर्ट:")
-    gr.Markdown("- **मॉडल:** Microsoft Phi-3.5-Vision (4.2B)\n- **फिक्स:** दिव्य जी द्वारा दिया गया 'सुपर-फ्लैश' हिस्ट्री लूप सफलतापूर्वक जोड़ा गया।")
-
 if __name__ == "__main__":
     demo.launch()