Model Card for Model (h2o-danube-1.8b-chat-sft-merge_fourier-v1)

models merge fourier :
  - h2oai/h2o-danube-1.8b-chat
  - h2oai/h2o-danube-1.8b-sft

from transformers import AutoModelForCausalLM, AutoTokenizer,pipeline
import torch

model_id="NickyNicky/h2o-danube-1.8b-chat-sft-merge_fourier-v1"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, 
                                             device_map="auto", 
                                             trust_remote_code=True,
                                            #  load_in_4bit=True,
                                             ).eval() #

pipe = pipeline(
    "text-generation",
    model=model,
    tokenizer=tokenizer

)

txt= "dame un ejemplo del lenguaje de programacion Python"

messages = [
    {"role": "user", "content":txt},
]
prompt = pipe.tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
)
res = pipe(
    prompt,
    max_new_tokens=2056,
    do_sample=True,
    temperature=0.31, # 0.31 # 0.41
)
print(res[0]["generated_text"])

###### OUTPUT:
# <|prompt|>dame un ejemplo del lenguaje de programacion Python</s><|answer|> ¡Dame un ejemplo del lenguaje de programación Python!

# Python es una linguita de programación que se utiliza para crear aplicaciones y programas en la computadora. Es muy fácil de usar y tiene una estructura de programación simple, lo que lo hace ideal para principiantes.

# A continuación, te proporciono un ejemplo simple de una función en Python:

# ```python
# def suma_integers(num1, num2):
#     return num1 + num2

# num1 = 5
# num2 = 2
# result = suma_integers(num1, num2)
# print(result)
# ```

# Esta función calcula el sumo de los números 5 y 2, lo que es 7.

# En este ejemplo, la función suma_integers(num1, num2) recibe dos números como parámetros y calcula el sumo de ellos. La función devuelve el resultado, que es 7.

# Es importante mencionar que Python tiene una gran variedad de funciones y métodos, y es posible crear funciones para hacer todo tipo de cosas. Además, Python tiene una gran comunidad de usuarios y desarrolladores, lo que te permite encontrar soluciones a tus problemas de programación.