Update app.py

app.py

@@ -1,36 +1,46 @@
 import os
 import gradio as gr
 from duckduckgo_search import DDGS
-from langchain_community.llms import HuggingFaceHub
-from langchain.chains import RetrievalQA
+from huggingface_hub import InferenceClient
 
-# 🔱 නොමිලේ Web Search කිරීමේ Function එක
-def web_search(query):
-    with DDGS() as ddgs:
-        results = [r['body'] for r in ddgs.text(query, max_results=3)]
-        return "\n".join(results)
+# 🔱 Hugging Face Token එක Secret එකෙන් ලබා ගැනීම
+HF_TOKEN = os.getenv("HF_TOKEN")
+
+# 🔱 Gemma 2 සඳහා Client එක සකස් කිරීම
+client = InferenceClient("google/gemma-2-9b-it", token=HF_TOKEN)
 
-# 🔱 Gemma 2 පාවිච්චි කර උත්තරය සැකසීම
-def inachi_ai_response(user_input):
+def web_search(query):
     try:
-        # 1. මුලින්ම අන්තර්ජාලයේ සොයනවා
-        context = web_search(user_input)
-        
-        # 2. Gemma Model එකට Instruction එක දෙනවා
-        prompt = f"Context: {context}\n\nQuestion: {user_input}\n\nAnswer like a Specialist:"
-        
-        # මෙතනදී අපි Hugging Face හි Inference API එක පාවිච්චි කරනවා (GPU ඕනේ නැහැ)
-        # 🔱 මේ සඳහා ඔයාගේ Hugging Face Token එක 'HF_TOKEN' ලෙස Secret එකක් දාන්න.
-        repo_id = "google/gemma-2-9b-it" 
-        
-        # ... (මෙහිදී API එක හරහා Request එක යැවීම සිදුවේ)
-        # සරලව කිවහොත් මෙය Web Search දත්ත ගෙන Gemma මඟින් විග්‍රහ කර පෙන්වයි.
-        
-        return f"Specialist, අන්තර්ජාලයෙන් ලැබුණු තොරතුරු අනුව:\n{context}\n\n---"
+        with DDGS() as ddgs:
+            results = [r['body'] for r in ddgs.text(query, max_results=3)]
+            return "\n".join(results)
+    except Exception:
+        return "තොරතුරු සෙවීමේදී බාධාවක් ඇති විය."
+
+def inachi_ai_response(user_input, history):
+    # 1. Web Search කිරීම
+    context = web_search(user_input)
+    
+    # 2. Prompt එක සැකසීම
+    prompt = f"Context: {context}\n\nQuestion: {user_input}\n\nAnswer like a Specialist AI:"
     
-    except Exception as e:
-        return f"දෝෂයක් සිදුවුණා Specialist: {str(e)}"
+    # 3. Gemma 2 වෙතින් පිළිතුර ලබා ගැනීම
+    response = ""
+    for message in client.chat_completion(
+        messages=[{"role": "user", "content": prompt}],
+        max_tokens=1024,
+        stream=True,
+    ):
+        token = message.choices[0].delta.content
+        response += token
+        yield response
+
+# 🔱 Gradio ChatInterface එක (මේක දැන් ගොඩක් ලස්සනයි)
+demo = gr.ChatInterface(
+    fn=inachi_ai_response,
+    title="INACHI-PRIME (Gemma 2 Web-Search)",
+    description="Specialist, මම Gemma 2 සහ සජීවී අන්තර්ජාල සෙවුම් බලයෙන් ක්‍රියාත්මක වෙමි."
+)
 
-# 🔱 Gradio UI එක
-demo = gr.Interface(fn=inachi_ai_response, inputs="text", outputs="text", title="INACHI-PRIME (Gemma 2 + Web Search)")
-demo.launch()
+if __name__ == "__main__":
+    demo.launch()