import os import time import streamlit as st from langchain.chat_models import ChatOpenAI from langchain.document_loaders import PyPDFLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain.schema import Document from langchain.chains import RetrievalQA from langchain_core.retrievers import BaseRetriever from langchain_core.prompts import PromptTemplate from typing import List from pydantic import Field import numpy as np from sentence_transformers import SentenceTransformer import faiss from langchain.indexes import VectorstoreIndexCreator from langchain.vectorstores import FAISS # ----------------- تنظیمات صفحه ----------------- st.set_page_config(page_title="چت‌ بات توانا", page_icon="🪖", layout="wide") st.markdown(""" """, unsafe_allow_html=True) col1, col2, col3 = st.columns([1, 0.2, 1]) with col2: st.image("army.png", width=240) st.markdown("""

چت‌ بات توانا

دستیار هوشمند برای تصمیم‌گیری در میدان نبرد
""", unsafe_allow_html=True) # ----------------- لود PDF و ساخت ایندکس ----------------- @st.cache_resource def get_pdf_index(): with st.spinner('📄 در حال پردازش فایل PDF...'): loader = PyPDFLoader('test1.pdf') documents = loader.load() splitter = RecursiveCharacterTextSplitter(chunk_size=2000, chunk_overlap=128) texts = [] for doc in documents: texts.extend(splitter.split_text(doc.page_content)) embedding_function = SentenceTransformer("togethercomputer/m2-bert-80M-8k-retrieval", trust_remote_code=True) vectorstore_index_creator = VectorstoreIndexCreator( vectorstore_cls=FAISS, embedding_function=embedding_function ) index = vectorstore_index_creator.from_documents([Document(page_content=text) for text in texts]) return index # ----------------- بارگذاری دیتا ----------------- documents, embeddings, index, model = get_pdf_index() retriever = SimpleRetriever( documents=documents, embeddings=embeddings, index=index, model=model ) # ----------------- تعریف LLM ----------------- llm = ChatOpenAI( base_url="https://api.together.xyz/v1", api_key='0291f33aee03412a47fa5d8e562e515182dcc5d9aac5a7fb5eefdd1759005979', model="meta-llama/Llama-3.3-70B-Instruct-Turbo-Free" ) # ----------------- ساخت Chain ----------------- qa_chain = RetrievalQA.from_chain_type( llm=llm, retriever=retriever, chain_type="stuff", chain_type_kwargs={"prompt": custom_prompt} ) # ----------------- چت استیت ----------------- if 'messages' not in st.session_state: st.session_state.messages = [] if 'pending_prompt' not in st.session_state: st.session_state.pending_prompt = None # ----------------- نمایش پیام‌های قبلی ----------------- for msg in st.session_state.messages: with st.chat_message(msg['role']): st.markdown(f"🗨️ {msg['content']}", unsafe_allow_html=True) # ----------------- ورودی کاربر ----------------- prompt = st.chat_input("سوالی در مورد فایل بپرس...") if prompt: st.session_state.messages.append({'role': 'user', 'content': prompt}) st.session_state.pending_prompt = prompt st.rerun() # ----------------- پاسخ‌دهی مدل ----------------- if st.session_state.pending_prompt: with st.chat_message('ai'): thinking = st.empty() thinking.markdown("🤖 در حال فکر کردن...") try: # اگر مدل نتواند پاسخ دقیقی پیدا کند response = qa_chain.run(st.session_state.pending_prompt) if not response.strip(): # اگر پاسخ خالی یا بی‌فایده بود response = "متاسفانه اطلاعات دقیقی برای پاسخ به این سوال موجود نیست." else: response = response.strip() except Exception as e: response = "متاسفانه اطلاعات لازم برای پاسخ به این سوال موجود نیست." thinking.empty() full_response = "" placeholder = st.empty() for word in response.split(): full_response += word + " " placeholder.markdown(full_response + "▌") time.sleep(0.03) placeholder.markdown(full_response) st.session_state.messages.append({'role': 'ai', 'content': full_response}) st.session_state.pending_prompt = None