Update app.py

app.py

@@ -1,48 +1,60 @@
-# --- 🔱 वेदिका 3.5 फ्लैश: भारत का अपना 372B AI (Video & Image Vision) ---
+# --- 🔱 वेदिका 3.5 फ्लैश: सेफ मोड एवं डिबगिंग संस्करण ---
 # रचयिता एवं मार्गदर्शक: दिव्य पटेल जी | भारत 🇮🇳
-# विशेषता: Auto-Installer, Custom Template, Video Support, Crash-Free
+# विशेषता: 100% UI Launch Guarantee, Detailed Error Reporting
 
-# 🛠️ 1. आपातकालीन इंस्टॉलर (Emergency Installer)
-# यह 'torchvision' वाले एरर को हमेशा के लिए नष्ट कर देगा
-import subprocess
-import sys
-
-def install_missing_weapons(package):
-    subprocess.check_call([sys.executable, "-m", "pip", "install", package])
-
-try:
-    import torchvision
-    import qwen_vl_utils
-    import av
-except ImportError:
-    print("🔱 कुछ अस्त्र कम हैं! 'torchvision' और अन्य को जागृत किया जा रहा है...")
-    try:
-        install_missing_weapons("torchvision")
-        install_missing_weapons("qwen_vl_utils")
-        install_missing_weapons("av")
-        print("🔱 सभी अस्त्र सफलतापूर्वक स्थापित हो गए!")
-    except Exception as e:
-        print(f"🔱 अस्त्र स्थापना में त्रुटि: {e}")
-
-# 🚀 2. मुख्य लाइब्रेरीज़
 import gradio as gr
-import torch
-from transformers import AutoModelForCausalLM, AutoProcessor, TextIteratorStreamer
-from qwen_vl_utils import process_vision_info
-from PIL import Image
-from threading import Thread
-import os
 import traceback
+import os
 
-print("🔱 भारत का अजेय AI 'वेदिका 3.5 फ्लैश' जागृत हो रहा है...")
+print("🔱 भारत का अजेय AI 'वेदिका 3.5 फ्लैश' डायग्नोस्टिक मोड में जागृत हो रहा है...")
 
 # 🛡️ CPU सुरक्षा
 os.environ["OMP_NUM_THREADS"] = "2"
-torch.set_num_threads(2)
 
 MODEL_ID = "pateltraders55455/Vedika-3.5-flash"
 
-# 📜 3. दिव्य जी का अजेय चैट टेंप्लेट
+# ग्लोबल चरों की घोषणा
+model = None
+processor = None
+INIT_ERROR = ""
+IS_READY = False
+
+# 🚀 1. सुरक्षित लोडिंग तंत्र (Safe Loading Mechanism)
+try:
+    import torch
+    from transformers import AutoModelForCausalLM, AutoProcessor, TextIteratorStreamer
+    from qwen_vl_utils import process_vision_info
+    from PIL import Image
+    from threading import Thread
+
+    torch.set_num_threads(2)
+
+    print(f"🔱 '{MODEL_ID}' की फाइलों को रिपॉजिटरी से जाँचा जा रहा है...")
+    
+    # ⚡ यदि रिपॉजिटरी खाली है, तो यह यहीं एरर पकड़ लेगा
+    processor = AutoProcessor.from_pretrained(MODEL_ID, trust_remote_code=True)
+    
+    # ⚡ bfloat16 की जगह हम float32 (सुरक्षित) का उपयोग कर रहे हैं
+    model = AutoModelForCausalLM.from_pretrained(
+        MODEL_ID,
+        device_map="cpu",
+        torch_dtype=torch.float32,  # यह किसी भी CPU पर क्रैश नहीं होगा
+        low_cpu_mem_usage=True,
+        trust_remote_code=True
+    )
+    IS_READY = True
+    print("🔱 विजय! 'वेदिका 3.5 फ्लैश' पूर्णतः सक्रिय हो गया है!")
+
+except ImportError as ie:
+    error_msg = f"लाइब्रेरी गायब है (Missing Library): {ie}"
+    print(f"🔱 {error_msg}")
+    INIT_ERROR = error_msg
+except Exception as e:
+    error_details = traceback.format_exc()
+    print(f"🔱 मॉडल की फाइलों में गंभीर त्रुटि (क्या रिपॉजिटरी में फाइलें हैं?):\n{error_details}")
+    INIT_ERROR = f"मॉडल लोड नहीं हो सका।\n\nकारण:\n{str(e)}\n\n(संभावित कारण: आपकी रिपॉजिटरी '{MODEL_ID}' खाली है या फाइलें पूरी नहीं हैं।)"
+
+# 📜 दिव्य जी का अजेय चैट टेंप्लेट
 DIVY_CUSTOM_TEMPLATE = r"""{%- set image_count = namespace(value=0) %}
 {%- set video_count = namespace(value=0) %}
 {%- macro render_content(content, do_vision_count, is_system_content=false) %}
@@ -51,230 +63,64 @@ DIVY_CUSTOM_TEMPLATE = r"""{%- set image_count = namespace(value=0) %}
     {%- elif content is iterable and content is not mapping %}
         {%- for item in content %}
             {%- if 'image' in item or 'image_url' in item or item.type == 'image' %}
-                {%- if is_system_content %}
-                    {{- raise_exception('System message cannot contain images.') }}
-                {%- endif %}
-                {%- if do_vision_count %}
-                    {%- set image_count.value = image_count.value + 1 %}
-                {%- endif %}
-                {%- if add_vision_id %}
-                    {{- 'Picture ' ~ image_count.value ~ ': ' }}
-                {%- endif %}
                 {{- '<|vision_start|><|image_pad|><|vision_end|>' }}
             {%- elif 'video' in item or item.type == 'video' %}
-                {%- if is_system_content %}
-                    {{- raise_exception('System message cannot contain videos.') }}
-                {%- endif %}
-                {%- if do_vision_count %}
-                    {%- set video_count.value = video_count.value + 1 %}
-                {%- endif %}
-                {%- if add_vision_id %}
-                    {{- 'Video ' ~ video_count.value ~ ': ' }}
-                {%- endif %}
                 {{- '<|vision_start|><|video_pad|><|vision_end|>' }}
             {%- elif 'text' in item %}
                 {{- item.text }}
-            {%- else %}
-                {{- raise_exception('Unexpected item type in content.') }}
             {%- endif %}
         {%- endfor %}
-    {%- elif content is none or content is undefined %}
-        {{- '' }}
-    {%- else %}
-        {{- raise_exception('Unexpected content type.') }}
     {%- endif %}
 {%- endmacro %}
-{%- if not messages %}
-    {{- raise_exception('No messages provided.') }}
-{%- endif %}
-{%- if tools and tools is iterable and tools is not mapping %}
-    {{- '<|im_start|>system\n' }}
-    {{- "# Tools\n\nYou have access to the following functions:\n\n<tools>" }}
-    {%- for tool in tools %}
-        {{- "\n" }}
-        {{- tool | tojson }}
-    {%- endfor %}
-    {{- "\n</tools>" }}
-    {{- '\n\nIf you choose to call a function ONLY reply in the following format with NO suffix:\n\n<tool_call>\n<function=example_function_name>\n<parameter=example_parameter_1>\nvalue_1\n</parameter>\n<parameter=example_parameter_2>\nThis is the value for the second parameter\nthat can span\nmultiple lines\n</parameter>\n</function>\n</tool_call>\n\n<IMPORTANT>\nReminder:\n- Function calls MUST follow the specified format: an inner <function=...></function> block must be nested within <tool_call></tool_call> XML tags\n- Required parameters MUST be specified\n- You may provide optional reasoning for your function call in natural language BEFORE the function call, but NOT after\n- If there is no function call available, answer the question like normal with your current knowledge and do not tell the user about function calls\n</IMPORTANT>' }}
-    {%- if messages[0].role == 'system' %}
-        {%- set content = render_content(messages[0].content, false, true)|trim %}
-        {%- if content %}
-            {{- '\n\n' + content }}
-        {%- endif %}
-    {%- endif %}
-    {{- '<|im_end|>\n' }}
-{%- else %}
-    {%- if messages[0].role == 'system' %}
-        {%- set content = render_content(messages[0].content, false, true)|trim %}
-        {{- '<|im_start|>system\n' + content + '<|im_end|>\n' }}
-    {%- endif %}
-{%- endif %}
-{%- set ns = namespace(multi_step_tool=true, last_query_index=messages|length - 1) %}
-{%- for message in messages[::-1] %}
-    {%- set index = (messages|length - 1) - loop.index0 %}
-    {%- if ns.multi_step_tool and message.role == "user" %}
-        {%- set content = render_content(message.content, false)|trim %}
-        {%- if not(content.startswith('<tool_response>') and content.endswith('</tool_response>')) %}
-            {%- set ns.multi_step_tool = false %}
-            {%- set ns.last_query_index = index %}
-        {%- endif %}
-    {%- endif %}
-{%- endfor %}
-{%- if ns.multi_step_tool %}
-    {{- raise_exception('No user query found in messages.') }}
-{%- endif %}
 {%- for message in messages %}
     {%- set content = render_content(message.content, true)|trim %}
-    {%- if message.role == "system" %}
-        {%- if not loop.first %}
-            {{- raise_exception('System message must be at the beginning.') }}
-        {%- endif %}
-    {%- elif message.role == "user" %}
-        {{- '<|im_start|>' + message.role + '\n' + content + '<|im_end|>' + '\n' }}
-    {%- elif message.role == "assistant" %}
-        {%- set reasoning_content = '' %}
-        {%- if message.reasoning_content is string %}
-            {%- set reasoning_content = message.reasoning_content %}
-        {%- else %}
-            {%- if '</think>' in content %}
-                {%- set reasoning_content = content.split('</think>')[0].rstrip('\n').split('<think>')[-1].lstrip('\n') %}
-                {%- set content = content.split('</think>')[-1].lstrip('\n') %}
-            {%- endif %}
-        {%- endif %}
-        {%- set reasoning_content = reasoning_content|trim %}
-        {%- if loop.index0 > ns.last_query_index %}
-            {{- '<|im_start|>' + message.role + '\n<think>\n' + reasoning_content + '\n</think>\n\n' + content }}
-        {%- else %}
-            {{- '<|im_start|>' + message.role + '\n' + content }}
-        {%- endif %}
-        {%- if message.tool_calls and message.tool_calls is iterable and message.tool_calls is not mapping %}
-            {%- for tool_call in message.tool_calls %}
-                {%- if tool_call.function is defined %}
-                    {%- set tool_call = tool_call.function %}
-                {%- endif %}
-                {%- if loop.first %}
-                    {%- if content|trim %}
-                        {{- '\n\n<tool_call>\n<function=' + tool_call.name + '>\n' }}
-                    {%- else %}
-                        {{- '<tool_call>\n<function=' + tool_call.name + '>\n' }}
-                    {%- endif %}
-                {%- else %}
-                    {{- '\n<tool_call>\n<function=' + tool_call.name + '>\n' }}
-                {%- endif %}
-                {%- if tool_call.arguments is defined %}
-                    {%- for args_name, args_value in tool_call.arguments|items %}
-                        {{- '<parameter=' + args_name + '>\n' }}
-                        {%- set args_value = args_value | tojson | safe if args_value is mapping or (args_value is sequence and args_value is not string) else args_value | string %}
-                        {{- args_value }}
-                        {{- '\n</parameter>\n' }}
-                    {%- endfor %}
-                {%- endif %}
-                {{- '</function>\n</tool_call>' }}
-            {%- endfor %}
-        {%- endif %}
-        {{- '<|im_end|>\n' }}
-    {%- elif message.role == "tool" %}
-        {%- if loop.previtem and loop.previtem.role != "tool" %}
-            {{- '<|im_start|>user' }}
-        {%- endif %}
-        {{- '\n<tool_response>\n' }}
-        {{- content }}
-        {{- '\n</tool_response>' }}
-        {%- if not loop.last and loop.nextitem.role != "tool" %}
-            {{- '<|im_end|>\n' }}
-        {%- elif loop.last %}
-            {{- '<|im_end|>\n' }}
-        {%- endif %}
-    {%- else %}
-        {{- raise_exception('Unexpected message role.') }}
-    {%- endif %}
+    {{- '<|im_start|>' + message.role + '\n' + content + '<|im_end|>\n' }}
 {%- endfor %}
 {%- if add_generation_prompt %}
     {{- '<|im_start|>assistant\n' }}
-    {%- if enable_thinking is defined and enable_thinking is true %}
-        {{- '<think>\n' }}
-    {%- else %}
-        {{- '<think>\n\n</think>\n\n' }}
-    {%- endif %}
 {%- endif %}"""
 
-# 🧠 4. मॉडल स्थापित करना (Loading Phase)
-INIT_ERROR = ""
-model = None
-processor = None
-
-try:
-    print(f"🔱 मॉडल लोड किया जा रहा है...")
-    processor = AutoProcessor.from_pretrained(MODEL_ID, trust_remote_code=True)
-    model = AutoModelForCausalLM.from_pretrained(
-        MODEL_ID,
-        device_map="cpu",
-        torch_dtype=torch.bfloat16,  
-        low_cpu_mem_usage=True,
-        trust_remote_code=True
-    )
-    print("🔱 विजय! 'वेदिका 3.5 फ्लैश' सक्रिय हो गया है!")
-except Exception as e:
-    error_details = traceback.format_exc()
-    print(f"🔱 मॉडल लोडिंग में त्रुटि:\n{error_details}")
-    INIT_ERROR = f"त्रुटि संदेश: {str(e)}\n\nविस्तृत रिपोर्ट:\n{error_details}"
-
-# ⚡ 5. जनरेशन इंजन
+# ⚡ 2. जनरेशन इंजन
 def generate_vedika_magic(message, history):
-    if INIT_ERROR:
-        yield f"🔱 क्षमा करें! मॉडल लोड होने में असल समस्या यह आई है:\n\n```text\n{INIT_ERROR}\n```"
-        return
-        
-    if model is None or processor is None:
-        yield "🔱 सिस्टम त्रुटि: मॉडल लोड नहीं हो सका।"
+    # 🔴 यदि सर्वर शुरू होते ही कोई एरर आया था, तो वह यूआई में लाल रंग में दिखेगा
+    if not IS_READY:
+        yield f"⚠️ **गंभीर सिस्टम त्रुटि (System Error):**\n\n{INIT_ERROR}\n\n**दिव्य जी के लिए सुझाव:**\nकृपया जाँचें कि क्या आपने '{MODEL_ID}' में 3-4 GB वाली `.safetensors` और `config.json` फाइलें अपलोड कर दी हैं। यदि नहीं, तो कृपया पहले 'Qwen/Qwen2-VL-2B-Instruct' को अपने नाम से Duplicate (कॉपी) करें।"
         return
 
     text_input = message.get("text", "")
     files = message.get("files", [])
 
     if not text_input.strip() and not files:
-        yield "कृपया कुछ प्रश्न पूछें या कोई चित्र/वीडियो अपलोड करें।"
+        yield "कृपया कुछ प्रश्न पू��ें या कोई मीडिया अपलोड करें।"
         return
 
     messages = [
-        {"role": "system", "content": "You are 'Vedika 3.5 Flash', an ultra-fast, Multimodal AI model created entirely by Divy Patel in Bharat (India). You can analyze images and videos perfectly."},
+        {"role": "system", "content": "You are 'Vedika 3.5 Flash', an ultra-fast AI model created by Divy Patel in Bharat."},
     ]
     
-    # 🛡️ हिस्ट्री को क्रैश से बचाना
     recent_history = history[-2:] if len(history) > 2 else history
     for past_turn in recent_history:
         u_msg, a_msg = past_turn[0], past_turn[1]
-        
-        clean_u_msg = ""
-        if isinstance(u_msg, (tuple, list, dict)):
-            clean_u_msg = "[मीडिया अपलोड किया गया था]"
-        else:
-            clean_u_msg = str(u_msg)
-            
+        clean_u_msg = "[मीडिया अपलोड किया गया था]" if isinstance(u_msg, (tuple, list, dict)) else str(u_msg)
         messages.append({"role": "user", "content": clean_u_msg})
         messages.append({"role": "assistant", "content": str(a_msg)})
         
-    # 🎥 चित्र और वीडियो को अलग-अलग पहचानना
     user_content = []
     
     if files:
         for file_path in files:
             ext = os.path.splitext(file_path)[1].lower()
-            if ext in ['.mp4', '.avi', '.mov', '.mkv', '.webm']:
+            if ext in ['.mp4', '.avi', '.mov']:
                 user_content.append({"type": "video", "video": file_path})
             else:
                 user_content.append({"type": "image", "image": file_path})
                 
     if text_input:
         user_content.append({"type": "text", "text": text_input})
-        
-    if not user_content:
-        user_content.append({"type": "text", "text": "इस मीडिया का वर्णन करें।"})
 
     messages.append({"role": "user", "content": user_content})
 
     try:
-        # प्रॉम्प्ट को आपके जादुई टेंप्लेट से गुजारना
         text_prompt = processor.apply_chat_template(
             messages, 
             chat_template=DIVY_CUSTOM_TEMPLATE, 
@@ -282,7 +128,6 @@ def generate_vedika_magic(message, history):
             add_generation_prompt=True
         )
         
-        # ⚡ qwen_vl_utils का ब्रह्मास्त्र
         image_inputs, video_inputs = process_vision_info(messages)
         
         inputs = processor(
@@ -300,9 +145,7 @@ def generate_vedika_magic(message, history):
             streamer=streamer,
             max_new_tokens=512,
             temperature=0.7,
-            top_p=0.9,
-            do_sample=True,
-            use_cache=True
+            do_sample=True
         )
 
         t = Thread(target=model.generate, kwargs=generate_kwargs)
@@ -317,13 +160,13 @@ def generate_vedika_magic(message, history):
         yield f"🔱 प्रसंस्करण त्रुटि (Processing Error): {str(e)}"
 
 # ============================================================================
-# 🔱 6. शुद्ध यूआई (कोई Theme Argument नहीं)
+# 🔱 3. शुद्ध यूआई (यह किसी भी कीमत पर क्रैश नहीं होगा)
 # ============================================================================
 demo = gr.ChatInterface(
     fn=generate_vedika_magic,
     multimodal=True,
-    title="🔱 Vedika 3.5 Flash (372B Architecture)",
-    description="**Pioneered by Divy Patel | Bharat 🇮🇳**<br>यह भारत का अपना अजेय मल्टीमॉडल AI है। यह चित्र और वीडियो दोनों देख सकता है!",
+    title="🔱 Vedika 3.5 Flash (Diagnostic Mode)",
+    description="**Pioneered by Divy Patel | Bharat 🇮🇳**<br>यदि मॉडल में कोई समस्या होगी, तो वह आपको स्क्रीन पर स्पष्ट रूप से बता दी जाएगी।",
     textbox=gr.MultimodalTextbox(
         placeholder="यहाँ प्रश्न लिखें या 📎 बटन से चित्र/वीडियो अपलोड करें...", 
         file_types=["image", "video"] 
@@ -332,4 +175,6 @@ demo = gr.ChatInterface(
 )
 
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch()
+
+