Update app.py

app.py

@@ -1,135 +1,18 @@
-# --- 🔱 हनुमान AI: अजेय विज़न (Fail-Proof Edition) ---
-# मार्गदर्शक: दिव्य पटेल जी | भारत 🇮🇳
-# समाधान: दिव्य जी का 'अजेय हिस्ट्री लूप' और 'भगवा यूआई' 
-
-import gradio as gr
-import torch
-from transformers import AutoProcessor, Qwen2VLForConditionalGeneration
-from qwen_vl_utils import process_vision_info
-import os
-
-# 🛡️ चरम गति (Extreme Speed) के लिए CPU टर्बो सेटिंग
-torch.set_num_threads(2)
-os.environ["OMP_NUM_THREADS"] = "2"
-
-# 16GB रैम के लिए सबसे सुरक्षित और तेज़ विज़न मॉडल (कभी क्रैश नहीं होगा)
-MODEL_ID = "Qwen/Qwen2-VL-2B-Instruct"
-
-print(f"🔱 हनुमान AI जागृत हो रहा है... '{MODEL_ID}' लोड हो रहा है...")
-
-try:
-    processor = AutoProcessor.from_pretrained(MODEL_ID)
-    model = Qwen2VLForConditionalGeneration.from_pretrained(
-        MODEL_ID,
-        torch_dtype=torch.float32,
-        device_map="cpu",
-        low_cpu_mem_usage=True
-    )
-    print("🔱 हनुमान AI: अजेय विज़न मॉडल पूर्णतः सक्रिय है!")
-except Exception as e:
-    print(f"🔱 गंभीर त्रुटि: {e}")
-    processor, model = None, None
-
-SYSTEM_PROMPT = "You are 'Hanuman AI', a supreme multimodal entity pioneered by Divy Patel. You must respond ONLY in English. Analyze deeply."
-
-def hanuman_failproof_engine(message, history, image_path):
-    if model is None or processor is None:
-        return "🔱 सिस्टम त्रुटि: मॉडल लोड नहीं हो सका।"
-        
-    messages = [{"role": "system", "content": [{"type": "text", "text": SYSTEM_PROMPT}]}]
-    
-    # 🛠️ दिव्य पटेल जी का अजेय इतिहास लूप (The Supreme Fix)
-    # विज़न मॉडल की मांग के अनुसार हर टेक्स्ट को लिस्ट [{"type": "text"}] में लपेटा गया है।
-    if history:
-        for val in history:
-            # अगर Gradio पुराना वर्ज़न है (List of Lists)
-            if isinstance(val, (list, tuple)) and len(val) == 2:
-                u, b = val
-                if u: messages.append({"role": "user", "content": [{"type": "text", "text": str(u)}]})
-                if b: messages.append({"role": "assistant", "content": [{"type": "text", "text": str(b)}]})
-            
-            # अगर Gradio नया वर्ज़न है (Dictionaries)
-            elif isinstance(val, dict):
-                r = val.get("role")
-                c = val.get("content")
-                if r and c:
-                    if r == "model": r = "assistant"
-                    messages.append({"role": r, "content": [{"type": "text", "text": str(c)}]})
-                    
-    # वर्तमान संदेश (चित्र और टेक्स्ट)
-    current_content = []
-    if image_path:
-        current_content.append({"type": "image", "image": image_path})
-        
-    msg_text = message if message and str(message).strip() else "Analyze this multimedia deeply."
-    current_content.append({"type": "text", "text": msg_text})
-    
-    messages.append({"role": "user", "content": current_content})
-    
-    try:
-        # बिना किसी कस्टम टेम्पलेट के, डिफ़ॉल्ट सुरक्षित विधि
-        text = processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
-        image_inputs, video_inputs = process_vision_info(messages)
-        
-        inputs = processor(
-            text=[text],
-            images=image_inputs,
-            videos=video_inputs,
-            padding=True,
-            return_tensors="pt"
-        ).to("cpu")
-        
-        generated_ids = model.generate(**inputs, max_new_tokens=512)
-        generated_ids_trimmed = [
-            out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
-        ]
-        response = processor.batch_decode(
-            generated_ids_trimmed, skip_special_tokens=True, clean_up_tokenization_spaces=False
-        )[0]
-        
-        return response
-    except Exception as e:
-        return f"🔱 तकनीकी बाधा: {str(e)}"
-
-# --- 🔱 दिव्य भगवा थीम (आपके सैंपल कोड से प्रेरित) ---
-divine_ui = """
-<style>
-.gradio-container { background-color: #fffaf0 !important; }
-.bhagwa-header { 
-    background: linear-gradient(135deg, #ff8833, #b33c00); 
-    padding: 30px; border-radius: 25px; color: white; 
-    text-align: center; box-shadow: 0 15px 35px rgba(179, 60, 0, 0.4);
-    margin-bottom: 25px;
-}
-.bhagwa-header h1 { font-size: 36px !important; font-weight: 900 !important; margin-bottom: 5px; text-shadow: 0 4px 8px rgba(0,0,0,0.5); }
-.bhagwa-header p { font-size: 16px !important; opacity: 0.95; font-weight: 500; }
-</style>
-<div class="bhagwa-header">
-    <h1>🔱 हनुमान AI - अजेय विज़न</h1>
-    <p>Pioneered by Divy Patel | त्रुटि-मुक्त अजेय स्वदेशी तकनीक</p>
-</div>
-"""
-
-with gr.Blocks() as demo:
-    gr.HTML(divine_ui)
-    
-    chatbot = gr.Chatbot(height=500, label="दिव्य संवाद इतिहास")
-    
-    with gr.Row():
-        msg_in = gr.Textbox(placeholder="अपना संदेश यहाँ लिखें...", scale=7)
-        img_in = gr.Image(type="filepath", scale=3)
-        submit_btn = gr.Button("सक्रिय करें", variant="primary")
-
-    def chat_logic(m, h, i):
-        if not m.strip() and i is None:
-            return m, h, i
-        res = hanuman_failproof_engine(m, h, i)
-        disp = m if m.strip() else "[चित्र अपलोड किया गया]"
-        h.append([disp, res])
-        return "", h, None
-
-    submit_btn.click(chat_logic, [msg_in, chatbot, img_in], [msg_in, chatbot, img_in])
-    msg_in.submit(chat_logic, [msg_in, chatbot, img_in], [msg_in, chatbot, img_in])
-
-if __name__ == "__main__":
-    demo.launch()
+{{- bos_token -}}
+{%- if messages[0]["role"] == "system" -%}
+	{{- raise_exception("System role not supported") -}}
+{%- endif -%}
+{%- for message in messages -%}
+	{%- if message["role"] == "user" != (loop.index0 % 2 == 0) -%}
+		{{- raise_exception("Conversation roles must alternate user/assistant/user/assistant/...") -}}
+	{%- endif -%}
+	{%- if message["role"] == "assistant" -%}
+		{%- set role = "model" -%}
+	{%- else -%}
+		{%- set role = message["role"] -%}
+	{%- endif -%}
+	{{- "<start_of_turn>" + role + "\n" + message["content"] | trim + "<end_of_turn>\n" -}}
+{%- endfor -%}
+{%- if add_generation_prompt -%}
+	{{- "<start_of_turn>model\n" -}}
+{%- endif -%}