Update app.py

app.py

@@ -1,70 +1,104 @@
-# --- 🔱 वेदिका 3.5 फ्लैश: भारत का अपना 2B AI (Super Fast Version) ---
+# --- 🔱 वेदिका 3.5 फ्लैश: भारत का अपना 2B AI (Multimodal Vision) ---
 # रचयिता एवं मार्गदर्शक: दिव्य पटेल जी | भारत 🇮🇳
-# विशेषता: Ultra-Fast (bfloat16), Memory Safe, No Crash on 2nd Question
+# विशेषता: Image Reading (Vision), Ultra-Fast, Memory Safe
 
 import gradio as gr
 import torch
-from transformers import AutoModelForCausalLM, AutoTokenizer, TextIteratorStreamer
+from transformers import AutoModelForCausalLM, AutoProcessor, TextIteratorStreamer
+from PIL import Image
 from threading import Thread
 import os
 
-print("🔱 भारत का अजेय AI 'वेदिका 3.5 फ्लैश' सुपर-फास्ट मोड में जागृत हो रहा है...")
+print("🔱 भारत का अजेय AI 'वेदिका 3.5 फ्लैश' (मल्टीमॉडल) जागृत हो रहा है...")
 
 # 🛡️ मुफ़्त सर्वर (2 vCPU) के लिए CPU को पूर्णतः अनुकूलित (Optimize) करना
 os.environ["OMP_NUM_THREADS"] = "2"
 torch.set_num_threads(2)
 
-# 🚀 दिव्य जी का अपना स्वदेशी 2B मॉडल
+# 🚀 दिव्य जी का अपना स्वदेशी 2B मल्टीमॉडल (विज़न) मॉडल
 MODEL_ID = "pateltraders55455/Vedika-3.5-flash"
 
 try:
-    print(f"🔱 '{MODEL_ID}' (2B) लोड किया जा रहा है...")
+    print(f"🔱 '{MODEL_ID}' (2B Vision) लोड किया जा रहा है...")
     
-    tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)
+    # ⚡ मल्टीमीडिया (चित्र और टेक्स्ट) को एक साथ समझने के लिए AutoProcessor
+    processor = AutoProcessor.from_pretrained(MODEL_ID, trust_remote_code=True)
     
-    # ⚡ ब्रह्मास्त्र 1: bfloat16 का उपयोग करके गति को दोगुना करना
+    # ⚡ bfloat16 का उपयोग करके गति को दोगुना करना
     model = AutoModelForCausalLM.from_pretrained(
         MODEL_ID,
         device_map="cpu",
-        torch_dtype=torch.bfloat16,     # गति बढ़ाने के लिए हल्का डेटा प्रकार
-        low_cpu_mem_usage=True,         # रैम की भारी बचत
+        torch_dtype=torch.bfloat16,     # गति बढ़ाने के लिए
+        low_cpu_mem_usage=True,         # रैम की बचत
         trust_remote_code=True
     )
-    print("🔱 विजय! 'वेदिका 3.5 फ्लैश' सुपर-फास्ट गति के साथ स्थापित हो गया है!")
+    print("🔱 विजय! 'वेदिका 3.5 फ्लैश' की दिव्य दृष्टि (Vision) सक्रिय हो गई है!")
     
 except Exception as e:
     print(f"🔱 मॉडल लोडिंग में त्रुटि: {e}")
-    model, tokenizer = None, None
+    model, processor = None, None
 
 def generate_vedika_magic(message, history):
-    """वेदिका 3.5 फ्लैश का क्रैश-फ्री और तीव्र इंजन"""
+    """वेदिका 3.5 फ्लैश का दृष्टि-संपन्न और तीव्र इंजन"""
     
-    if model is None or tokenizer is None:
+    if model is None or processor is None:
         yield "🔱 सिस्टम त्रुटि: मॉडल लोड नहीं हो सका। कृपया अपनी रिपॉजिटरी की जाँच करें।"
         return
 
-    # 🛡️ ब्रह्मास्त्र 2: स्मार्ट मेमोरी लिमिट (एरर से बचाने के लिए)
-    # यह केवल पिछले 2 सवालों को याद रखेगा, ताकि CPU कभी ओवरलोड न हो और क्रैश न करे!
+    # 1. संदेश से टेक्स्ट और चित्र (Images) निकालना
+    text_input = message.get("text", "")
+    files = message.get("files", [])
+
+    if not text_input.strip() and not files:
+        yield "कृपया कुछ प्रश्न पूछें या कोई चित्र अपलोड करें।"
+        return
+
+    # 🛡️ स्मार्ट मेमोरी लिमिट (केवल पिछले 2 सवाल याद रखेगा)
     recent_history = history[-2:] if len(history) > 2 else history
 
     messages = [
-        {"role": "system", "content": "You are 'Vedika 3.5 Flash', an ultra-fast, 2 Billion parameter AI model created entirely by Divy Patel in Bharat (India). Always be highly intelligent, respectful, and proud of your Indian origin."},
+        {"role": "system", "content": "You are 'Vedika 3.5 Flash', an ultra-fast, Multimodal 2 Billion parameter AI model created entirely by Divy Patel in Bharat (India). You can analyze images perfectly. Always be highly intelligent, respectful, and proud of your Indian origin."},
     ]
     
     # सीमित इतिहास (History) जोड़ना
-    for user_msg, ai_msg in recent_history:
-        messages.append({"role": "user", "content": user_msg})
-        messages.append({"role": "assistant", "content": ai_msg})
+    for past_msg in recent_history:
+        u_msg, a_msg = past_msg[0], past_msg[1]
+        # यदि इतिहास में कोई चित्र (Tuple/Dict) था, तो उसे क्रैश से बचाने के लिए सुरक्षित टेक्स्ट में बदलें
+        if isinstance(u_msg, (tuple, dict, list)):
+            u_msg = "[Image Uploaded]"
+        messages.append({"role": "user", "content": str(u_msg)})
+        messages.append({"role": "assistant", "content": str(a_msg)})
         
-    messages.append({"role": "user", "content": message})
+    # 2. चित्र और टेक्स्ट का नया डेटा तैयार करना
+    user_content = []
+    images_list = []
+    
+    # यदि चित्र अपलोड किए गए हैं
+    for file_path in files:
+        user_content.append({"type": "image"})
+        try:
+            images_list.append(Image.open(file_path).convert("RGB"))
+        except Exception as e:
+            print(f"चित्र पढ़ने में त्रुटि: {e}")
+            
+    # यदि टेक्स्ट लिखा गया है
+    if text_input:
+        user_content.append({"type": "text", "text": text_input})
+        
+    messages.append({"role": "user", "content": user_content})
 
     try:
-        text_prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
-        inputs = tokenizer([text_prompt], return_tensors="pt").to(model.device)
+        # 3. मल्टीमॉडल प्रॉम्प्ट तैयार करना
+        text_prompt = processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+        
+        # ⚡ प्रोसेसर को चित्र और टेक्स्ट दोनों देना
+        if images_list:
+            inputs = processor(text=[text_prompt], images=images_list, return_tensors="pt").to(model.device)
+        else:
+            inputs = processor(text=[text_prompt], return_tensors="pt").to(model.device)
 
-        streamer = TextIteratorStreamer(tokenizer, timeout=60.0, skip_prompt=True, skip_special_tokens=True)
+        streamer = TextIteratorStreamer(processor.tokenizer, timeout=60.0, skip_prompt=True, skip_special_tokens=True)
         
-        # ⚡ गति बढ़ाने के लिए जनरेशन सेटिंग्स
         generate_kwargs = dict(
             **inputs,
             streamer=streamer,
@@ -72,7 +106,7 @@ def generate_vedika_magic(message, history):
             temperature=0.7,
             top_p=0.9,
             do_sample=True,
-            use_cache=True       # ⚡ ब्रह्मास्त्र 3: कैशिंग से स्पीड बढ़ाना
+            use_cache=True       # ⚡ कैशिंग से स्पीड बढ़ाना
         )
 
         t = Thread(target=model.generate, kwargs=generate_kwargs)
@@ -87,14 +121,19 @@ def generate_vedika_magic(message, history):
         yield f"🔱 प्रसंस्करण त्रुटि: {str(e)}"
 
 # ============================================================================
-# 🔱 वेदिका 3.5 फ्लैश का शुद्ध यूआई (कोई अतिरिक्त आर्गुमेंट नहीं)
+# 🔱 वेदिका 3.5 फ्लैश का शुद्ध मल्टीमॉडल यूआई
 # ============================================================================
+# कोई अतिरिक्त आर्गुमेंट नहीं, केवल शुद्ध मल्टीमॉडल चैट
 
 demo = gr.ChatInterface(
     fn=generate_vedika_magic,
-    title="🔱 Vedika 3.5 Flash (Super Fast)",
-    description="**Pioneered by Divy Patel | Bharat 🇮🇳**<br>यह भारत का अपना स्वदेशी 2 बिलियन पैरामीटर वाला AI मॉडल है (गति और सुरक्षा के लिए अनुकूलित)।",
-    textbox=gr.Textbox(placeholder="वेदिका 3.5 फ्लैश से कुछ भी पूछें..."),
+    multimodal=True,  # ⚡ यही ���ह अस्त्र है जो चित्र अपलोड करने का बटन (📎) देगा!
+    title="🔱 Vedika 3.5 Flash (Multimodal)",
+    description="**Pioneered by Divy Patel | Bharat 🇮🇳**<br>यह भारत का अपना स्वदेशी 2B मल्टीमॉडल AI है। चित्र अपलोड करें और प्रश्न पूछें!",
+    textbox=gr.MultimodalTextbox(
+        placeholder="यहाँ प्रश्न लिखें या चित्र (📎) अपलोड करें...", 
+        file_types=["image"]
+    ),
     concurrency_limit=1
 )