SOLID_ALIA / app.py
joackoEsp's picture
Update app.py
0e3cbce verified
raw
history blame
2.7 kB
import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
# Cargar el modelo estable
model_name = "BSC-LT/salamandra-2b"
if "tokenizer" not in globals():
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
tokenizer.pad_token = tokenizer.eos_token
if "model" not in globals():
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16)
model.eval()
# 🔹 Función optimizada para forzar un tono más natural
def humanize_text(input_text):
system_prompt = (
"Reescribe el siguiente texto de manera más natural y conversacional, como si estuvieras explicándoselo a un amigo. "
"Evita palabras complejas innecesarias y haz que fluya mejor, sin cambiar su significado. "
"Hazlo más atractivo y fácil de leer.\n\n"
"**Ejemplo de reescritura:**\n"
"**Texto original:** 'La organización ha optimizado sus procesos para maximizar la eficiencia.'\n"
"**Texto humanizado:** 'Ahora la organización trabaja de manera más eficiente gracias a procesos optimizados.'\n\n"
"**Texto original:** 'Se requiere el acceso al sistema antes de la fecha límite establecida.'\n"
"**Texto humanizado:** 'Asegúrate de ingresar al sistema antes de la fecha límite para evitar problemas.'\n\n"
"Ahora reescribe el siguiente texto:"
)
prompt = f"{system_prompt}\n\nTexto original: {input_text}\n\nTexto humanizado:"
inputs = tokenizer(prompt, return_tensors="pt", padding=True, truncation=True)
outputs = model.generate(
inputs.input_ids,
attention_mask=inputs.attention_mask,
max_new_tokens=140, # 🔹 Balance entre reformulación y velocidad
min_length=50, # 🔹 Evita respuestas cortas
do_sample=True, # 🔹 Mantiene variabilidad en respuestas
temperature=0.9, # 🔹 Aumentamos creatividad para forzar reformulación
top_p=0.95, # 🔹 Permite opciones más variadas
repetition_penalty=1.02, # 🔹 Evita que repita estructuras del texto original
num_return_sequences=1, # 🔹 Solo una respuesta bien formulada
)
return tokenizer.decode(outputs[0], skip_special_tokens=True)
# Interfaz en Gradio
with gr.Blocks() as demo:
gr.Markdown("# ✍️ Humanización de Texto con ALIA (Tono más natural)")
input_text = gr.Textbox(label="Pega aquí el texto generado por IA para humanizar")
output_text = gr.Textbox(label="Texto humanizado por ALIA", interactive=False)
submit_button = gr.Button("Humanizar Texto")
submit_button.click(humanize_text, inputs=input_text, outputs=output_text)
demo.launch()