Create app.py

app.py

@@ -0,0 +1,52 @@
+import gradio as gr
+import torch
+from transformers import pipeline
+
+# 1. Configurar el pipeline para CPU
+model_id = "Fifthoply/AyudaAlab-0.1" # modelo :3
+
+print("Cargando modelo Ayuda Alan en CPU...")
+pipe = pipeline(
+    "text-generation",
+    model=model_id,
+    torch_dtype=torch.float32,
+    device_map="cpu"
+)
+
+def chat_responder(message, history):
+    # Formato ChatML: System + Historial (opcional) + Nueva pregunta
+    prompt = f"<|im_start|>system\nEres un asistente breve.<|im_end|>\n"
+    
+    # Añadimos historial si quieres que "recuerde", aunque para este modelo literal no es vital
+    for user_msg, assistant_msg in history:
+        prompt += f"<|im_start|>user\n{user_msg}<|im_end|>\n<|im_start|>assistant\n{assistant_msg}<|im_end|>\n"
+    
+    prompt += f"<|im_start|>user\n{message}<|im_end|>\n<|im_start|>assistant\n"
+    
+    # Generación
+    outputs = pipe(
+        prompt, 
+        max_new_tokens=25, 
+        do_sample=True, 
+        temperature=0.1, # Muy baja para que no invente cosas raras
+        pad_token_id=pipe.tokenizer.pad_token_id,
+        eos_token_id=pipe.tokenizer.eos_token_id
+    )
+    
+    # Extraer solo la última respuesta
+    raw_text = outputs[0]['generated_text']
+    respuesta = raw_text.split("assistant\n")[-1].strip().split("<|im_end|>")[0]
+    return respuesta
+
+# 2. Interfaz tipo Chat
+demo = gr.ChatInterface(
+    fn=chat_responder,
+    title="Ayuda Alan 🦥",
+    description="Hazme una pregunta y te diré cómo se hace (literalmente).",
+    examples=["¿Cómo se toma agua?", "¿Cómo se cruza la calle?", "¿Cómo se duerme?"],
+    type="messages", # Formato moderno de Gradio
+    theme="glass"
+)
+
+if __name__ == "__main__":
+    demo.launch()