Upload app.py

app.py

@@ -0,0 +1,45 @@
+import gradio as gr
+from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
+import torch
+import os
+
+model_name = "google/gemma-4-E2B-it" 
+
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+
+model = AutoModelForCausalLM.from_pretrained(model_name, 
+                                             torch_dtype=torch.float16, 
+                                             device_map="auto")
+
+pipe = pipeline("text-generation", 
+                model=model_name, 
+                tokenizer=tokenizer, 
+                max_new_tokens=150, 
+                temperature=0.7)
+
+def generate_response(message, history):
+    messages = [
+    [
+        {
+            "role": "system",
+            "content": [{"type": "text", 
+                         "text": "Você é ELIZA, uma terapeuta que responde com empatia e faz perguntas para entender melhor o paciente."},]
+        },
+        {
+            "role": "user",
+            "content": [{"type": "text", 
+                         "text": message},]
+        },
+    ],
+    ]
+
+    response = pipe(messages)
+    return response[0][0]['generated_text'][2]['content']
+
+demo = gr.ChatInterface(
+    generate_response,
+    title="ELIZA (com LLM)",
+    description="Compartilhe seus pensamentos e ELIZA irá ajudar você a refletir sobre eles."
+)
+
+demo.launch()