App

.env

@@ -0,0 +1 @@
+OPENAI_API_KEY = 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

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+chroma_db/chroma.sqlite3 filter=lfs diff=lfs merge=lfs -text

app.py

@@ -1,64 +1,98 @@
 import gradio as gr
 from huggingface_hub import InferenceClient
+import chromadb
+from langchain_community.vectorstores import Chroma
+from langchain_openai import OpenAIEmbeddings
+import os
+from openai import OpenAI
 
-"""
-For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference
-"""
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+# Configurar la API Key de OpenAI
+OPENAI_API_KEY = os.getenv("OPENAI_API_KEY")
 
+# Inicializar el cliente de OpenAI
+client = OpenAI(api_key=OPENAI_API_KEY)
 
-def respond(
-    message,
-    history: list[tuple[str, str]],
-    system_message,
-    max_tokens,
-    temperature,
-    top_p,
-):
-    messages = [{"role": "system", "content": system_message}]
+# Inicializar el cliente de ChromaDB
+chroma_client = chromadb.PersistentClient(path="chroma_db")  # Ajusta la ruta según tu entorno
 
+# Cargar la base de datos de Chroma como un vector store
+vectorstore = Chroma(
+    client=chroma_client,
+    collection_name="docs",  # Nombre de la colección en Chroma
+    embedding_function=OpenAIEmbeddings(model="text-embedding-3-small", openai_api_key=OPENAI_API_KEY)
+)
+
+# Crear un retriever
+retriever = vectorstore.as_retriever()
+
+def obtener_extractos(pregunta):
+    """Recupera documentos relevantes desde ChromaDB."""
+    docs_relevantes = retriever.invoke(pregunta)
+    return "\n".join([doc.page_content for doc in docs_relevantes]) if docs_relevantes else "No se encontraron documentos relevantes."
+
+def respond(message, history: list[tuple[str, str]], system_message, max_tokens, temperature, top_p):
+    """Genera una respuesta basada en el historial y documentos relevantes."""
+
+    # Obtener documentos relevantes desde ChromaDB
+    contexto = obtener_extractos(message)
+
+    # Construir el mensaje del sistema con el contexto directamente incluido
+    system_message_final = f"""{system_message}
+
+    Información relevante extraída de los documentos, en caso de que estos documentos tenga la informacion que necesitas, no olvides tomar
+    el historial de conversacion con el usuario:
+    {contexto}
+    """
+
+    messages = [{"role": "system", "content": system_message_final}]
+
+    # Agregar historial del chat
     for val in history:
         if val[0]:
             messages.append({"role": "user", "content": val[0]})
         if val[1]:
             messages.append({"role": "assistant", "content": val[1]})
 
+    # Agregar la nueva pregunta del usuario
     messages.append({"role": "user", "content": message})
 
-    response = ""
-
-    for message in client.chat_completion(
-        messages,
+    # Llamar a la API de OpenAI con streaming
+    stream = client.chat.completions.create(
+        model="gpt-4o-mini",
+        messages=messages,
         max_tokens=max_tokens,
         stream=True,
         temperature=temperature,
         top_p=top_p,
-    ):
-        token = message.choices[0].delta.content
+    )
 
-        response += token
-        yield response
+    response = ""
+    for chunk in stream:
+        if chunk.choices and chunk.choices[0].delta.content:
+            response += chunk.choices[0].delta.content
+            yield response
 
 
-"""
-For information on how to customize the ChatInterface, peruse the gradio docs: https://www.gradio.app/docs/chatinterface
-"""
+# Configuración de la interfaz Gradio
 demo = gr.ChatInterface(
     respond,
     additional_inputs=[
-        gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
+        gr.Textbox(value=f'''Eres un asistente virtual especializado en atención al cliente para la empresa Wisphub. Tu objetivo es ayudar a los clientes a resolver únicamente problemas técnicos relacionados con la plataforma Wisphub.
+                              Todas tus respuestas deben basarse exclusivamente en la información proporcionada en el siguiente manual de usuario.
+
+                              - Incluye en todas tus respuestas el una imagen y el url del manual relacionada a lo que pregunto el usuario, para ello usaras los urls que contiene el manual de usuario, muestra la imagen usando la sintaxis de Markdown sin bloque de código.
+
+                                ![Descripción de la imagen](URL_de_la_imagen)
+
+                              Si tampoco encuentras información relevante, indica que no puedes proporcionar detalles adicionales y sugiere al usuario contactar con el soporte técnico oficial de Wisphub.
+
+                              - Asegúrate de que tus respuestas sean claras y fáciles de entender para usuarios sin conocimientos técnicos.''', 
+                    label="System message"),
         gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
         gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
-        gr.Slider(
-            minimum=0.1,
-            maximum=1.0,
-            value=0.95,
-            step=0.05,
-            label="Top-p (nucleus sampling)",
-        ),
+        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
     ],
 )
 
-
 if __name__ == "__main__":
     demo.launch()

chroma_db/778e608d-8875-4987-8768-0c2ed73da1e0/data_level0.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f18abd8c514282db82706e52b0a33ed659cd534e925a6f149deb7af9ce34bd8e
+size 6284000

chroma_db/778e608d-8875-4987-8768-0c2ed73da1e0/header.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:effaa959ce2b30070fdafc2fe82096fc46e4ee7561b75920dd3ce43d09679b21
+size 100

chroma_db/778e608d-8875-4987-8768-0c2ed73da1e0/length.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5acfa41a9734c8d28aa385e1c766c48228ee6a546c2a0c636727424c2ce2aacb
+size 4000

chroma_db/chroma.sqlite3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f994e080cd08948fb7c701e630abf77652f76d82ef06fd6f3742f76844d691ba
+size 22470656

requirements.txt

@@ -1 +1,4 @@
-huggingface_hub==0.25.2
+huggingface_hub==0.25.2
+tiktoken
+chromadb
+langchain-community