app.py

import gradio as gr
from src.retriever import CustomRetriever
from src.generator import CustomGenerator
from src.model import MyRagModel

retriever = CustomRetriever(r'data/chunks.json', r'data/embeddings.index', r'data/metadata.json')
generator = CustomGenerator()
rag = MyRagModel(retriever, generator)


def generate_response(query):
    return rag.get_answer(query)


interface = gr.Interface(
    fn=generate_response,
    inputs=gr.Textbox(label='Введите ваш вопрос: '),
    outputs=gr.Textbox(label='Ответ модели: '),
    title='Rag Model Demo',
    description='QA ассистент по вопросам законов Кыргызской Республики. Может отвечать на вопросы по типу: '
                '"Сколько лет дают за убийство человека?"',
    allow_flagging='never',
)


if __name__ == '__main__':
    interface.launch(share=True)