Create app.py

app.py

@@ -0,0 +1,113 @@
+import os
+import gradio as gr
+from sentence_transformers import SentenceTransformer
+import openai
+
+
+MISTRAL_KEY=os.getenv('MISTRAL_API_KEY')
+MISTRAL_URL="https://api.mistral.ai/v1"
+MISTRAL_MODEL="mistral-small-latest"
+
+
+# Инициализация модели для эмбеддингов
+# embedding_model = SentenceTransformer('BAAI/bge-m3')
+
+client = openai.OpenAI(api_key=MISTRAL_KEY, base_url=MISTRAL_URL)
+
+# # Функция для вычисления эмбеддингов текста
+# def get_embeddings(text):
+#     return embedding_model.encode(text)
+
+user_message = "Прикладываю информацию для анализа"
+
+# Функция для обработки запроса к LLM
+def process_query(file1, file2, system_prompt):
+    # Чтение содержимого файлов
+    if file1 is not None:
+        with open(file1.name, 'r', encoding='utf-8') as f:
+            file1_content = f.read()
+    else:
+        file1_content = ""
+
+    if file2 is not None:
+        with open(file2.name, 'r', encoding='utf-8') as f:
+            file2_content = f.read()
+    else:
+        file2_content = ""
+
+    # Создание контекста из файлов
+    context = f"Информация по нашему опыту:\n{file1_content}\n\nЗапрос потенциального проекта:\n{file2_content}"
+
+    # Вычисление эмбеддингов для контекста
+    # context_embedding = get_embeddings(context)
+
+    # Формирование сообщения для LLM
+    messages = [
+        {"role": "system", "content": system_prompt},
+        {"role": "user", "content": f"{user_message}\n\nКонтекст: {context}"}
+    ]
+
+
+    response = client.chat.completions.create(
+            messages=messages,
+            model=MISTRAL_MODEL,
+        )
+
+    # Получение ответа от LLM
+    llm_response = response.choices[0].message.content
+    return llm_response
+
+
+
+
+# Высота столбцов (в пикселях)
+COLUMN_HEIGHT = 280
+
+NUM_LINES = 12
+
+# Интерфейс Gradio
+with gr.Blocks() as demo:
+    gr.Markdown("# Интерфейс для анализа пресейла")
+    
+    # Создаем два столбца: левый для загрузки файлов, правый для системного промпта
+    with gr.Row():
+        with gr.Column(scale=1):  # Левый столбец
+            file1_input = gr.File(
+                label="Прикрепите информацию о вашем опыте",
+                height=COLUMN_HEIGHT/2,
+            )
+            file2_input = gr.File(
+                label="Прикрепите рассматриваемый запрос",
+                height=COLUMN_HEIGHT/2,
+            )
+        
+        with gr.Column(scale=2):  # Правый столбец
+            system_prompt_input = gr.Textbox(
+                label="Системный промпт",
+                placeholder="Введите системный промпт...",
+                lines=NUM_LINES,  # Количество строк зависит от доступной высоты
+                max_lines=NUM_LINES,
+                interactive=True,
+            )
+    
+
+    # Кнопка "Отправить"
+    send_button = gr.Button("Отправить")
+
+    # Текстовое поле для отображения результата
+    result_output = gr.Textbox(label="Результат", lines=5, interactive=False)
+    
+    def respond(file1, file2, system_prompt):
+        # Обработка запроса (заглушка)
+        llm_response = process_query(file1, file2, system_prompt)
+        return llm_response
+    
+    # Привязываем кнопку к функции обработки
+    send_button.click(
+        respond,
+        inputs=[file1_input, file2_input, system_prompt_input],
+        outputs=result_output
+    )
+
+# Запуск приложения
+demo.launch()