Update app.py

app.py

@@ -3,11 +3,19 @@ import gradio as gr
 from duckduckgo_search import DDGS
 from huggingface_hub import InferenceClient
 
-# 🔱 HF Token එක Secret එකෙන් ලබා ගැනීම
+# 🔱 HF Token එක ලබා ගැනීම
 HF_TOKEN = os.getenv("HF_TOKEN")
 
-# 🔱 Client එක සකස් කිරීම
-client = InferenceClient(token=HF_TOKEN)
+# 🔱 Provider කෙනෙක්ව තෝරා ගැනීම (උදා: Together AI හෝ Novita)
+# Hugging Face එකේ Model URL එක අවසානයට Provider danna puluwan.
+# Format: "model_id", provider="provider_name"
+client = InferenceClient(
+    model="mistralai/Mistral-7B-Instruct-v0.3", 
+    token=HF_TOKEN,
+    # මෙතනට ඔයා කැමති Provider කෙනෙක් දාන්න පුළුවන් (e.g., "novita", "together")
+    # හැබැයි Serverless API එකේදී Hugging Face විසින්ම මේක පාලනය කරන නිසා 
+    # පහත ක්‍රමය වඩාත් ස්ථාවරයි.
+)
 
 def web_search(query):
     try:
@@ -23,31 +31,22 @@ def web_search(query):
         return "Web search unavailable."
 
 def inachi_ai_response(user_input, history):
-    # 1. Web Search කිරීම
     context = web_search(user_input)
     
-    # 2. පණිවිඩ මාලාව සකස් කිරීම (Conversational Task එකට ගැලපෙන ලෙස)
+    # 🔱 Inachi-Style System Instructions (ඔයාගේ VOID-X එකේ වගේ)
     messages = [
-        {
-            "role": "system", 
-            "content": "You are INACHI-AI, a professional specialist assistant. Use the provided web context to answer precisely."
-        },
-        {
-            "role": "user", 
-            "content": f"Web Context: {context}\n\nQuestion: {user_input}"
-        }
+        {"role": "system", "content": "You are INACHI-AI, a professional assistant. Use web context to help the user."},
+        {"role": "user", "content": f"Context: {context}\n\nQuestion: {user_input}"}
     ]
     
-    # 3. Chat Completion පාවිච්චි කිරීම (Providers ලා බලාපොරොත්තු වන ක්‍රමය)
     response = ""
     try:
-        # මෙහිදී අපි ඉතාමත් ස්ථාවර Mistral මාදිලිය භාවිතා කරමු
+        # Chat Completion එකේදී සෘජුවම Model එකට අදාළ Provider router එක ක්‍රියාත්මක වේ
         for message in client.chat_completion(
-            model="mistralai/Mistral-7B-Instruct-v0.3",
             messages=messages,
             max_tokens=1024,
             stream=True
-        ):
+        ) :
             token = message.choices[0].delta.content
             if token:
                 response += token
@@ -55,11 +54,10 @@ def inachi_ai_response(user_input, history):
     except Exception as e:
         yield f"Error Specialist: {str(e)}"
 
-# 🔱 Gradio ChatInterface
 demo = gr.ChatInterface(
     fn=inachi_ai_response,
     title="INACHI-CORE (Specialist Engine)",
-    description="Specialist, මම සජීවී අන්තර්ජාල සෙවුම් බලයෙන් ක්‍රියාත්මක වන AI සහායකයෙක්මි."
+    description="Provider-Aware Specialist Assistant"
 )
 
 if __name__ == "__main__":