| import gradio as gr | |
| from src.retriever import CustomRetriever | |
| from src.generator import CustomGenerator | |
| from src.model import MyRagModel | |
| retriever = CustomRetriever(r'data/chunks.json', r'data/embeddings.index', r'data/metadata.json') | |
| generator = CustomGenerator() | |
| rag = MyRagModel(retriever, generator) | |
| def generate_response(query): | |
| return rag.get_answer(query) | |
| interface = gr.Interface( | |
| fn=generate_response, | |
| inputs=gr.Textbox(label='Введите ваш вопрос: '), | |
| outputs=gr.Textbox(label='Ответ модели: '), | |
| title='Rag Model Demo', | |
| description='QA ассистент по вопросам законов Кыргызской Республики. Может отвечать на вопросы по типу: ' | |
| '"Сколько лет дают за убийство человека?"', | |
| allow_flagging='never', | |
| ) | |
| if __name__ == '__main__': | |
| interface.launch(share=True) | |