Spaces:
Runtime error
Runtime error
File size: 2,425 Bytes
66326b3 8f933c1 66326b3 8f933c1 66326b3 8f933c1 66326b3 8f933c1 66326b3 8f933c1 66326b3 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 |
import gradio as gr
from transformers import GPT2LMHeadModel, GPT2Tokenizer
import torch
from PIL import Image
# মডেল এবং টোকেনাইজার লোড করুন
model_name = "mistralai/Pixtral-12B-Base-2409"
model = GPT2LMHeadModel.from_pretrained(model_name)
tokenizer = GPT2Tokenizer.from_pretrained(model_name)
# BTroy চ্যাটবটের ফাংশন
def btroy_chat(input_text, temperature=1.0, top_p=1.0, frequency_penalty=0.0, input_image=None):
# টেক্সট প্রসেসিং
inputs = tokenizer.encode(input_text, return_tensors='pt')
# ইমেজ প্রসেসিং যদি থাকে
if input_image:
image = Image.open(input_image)
# এখানে আপনি ইমেজ প্রসেসিং কোড যোগ করতে পারেন (যেমন, ইমেজ থেকে ক্যাপশন জেনারেট করা)
# মডেল আউটপুট
outputs = model.generate(
inputs,
max_length=200,
temperature=temperature,
top_p=top_p,
frequency_penalty=frequency_penalty
)
# আউটপুট টেক্সট ডিকোড করুন
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
return response
# Gradio ইন্টারফেস তৈরি
iface = gr.Interface(
fn=btroy_chat,
inputs=[
gr.Textbox(label="আপনার প্রশ্ন দিন", placeholder="আপনার প্রশ্ন এখানে টাইপ করুন..."),
gr.Slider(minimum=0, maximum=2, default=1.0, label="Temperature"),
gr.Slider(minimum=0, maximum=1, default=1.0, label="Top-p"),
gr.Slider(minimum=0, maximum=2, default=0.0, label="Frequency Penalty"),
gr.Image(label="আপনার ইমেজ দিন", type="pil", optional=True)
],
outputs="text",
title="BTroy AI চ্যাটবট",
description="BTroy চ্যাটবট ব্যবহার করুন আপনার যেকোনো প্রশ্নের উত্তর পেতে। এটি মাল্টি-মোডাল ইনপুট সমর্থন করে (যেমন ইমেজ)।",
theme="huggingface",
allow_flagging="never"
)
# ইন্টারফেস রান করুন
iface.launch()
|