import os
import time
import streamlit as st
from langchain.chat_models import ChatOpenAI
from langchain.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.schema import Document
from langchain.chains import RetrievalQA
from langchain_core.retrievers import BaseRetriever
from langchain_core.prompts import PromptTemplate
from typing import List
from pydantic import Field
import numpy as np
from sentence_transformers import SentenceTransformer
import faiss
from langchain.indexes import VectorstoreIndexCreator
from langchain.vectorstores import FAISS
# ----------------- تنظیمات صفحه -----------------
st.set_page_config(page_title="چت بات توانا", page_icon="🪖", layout="wide")
st.markdown("""
""", unsafe_allow_html=True)
col1, col2, col3 = st.columns([1, 0.2, 1])
with col2:
st.image("army.png", width=240)
st.markdown("""
""", unsafe_allow_html=True)
# ----------------- لود PDF و ساخت ایندکس -----------------
@st.cache_resource
def get_pdf_index():
with st.spinner('📄 در حال پردازش فایل PDF...'):
loader = PyPDFLoader('test1.pdf')
documents = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=2000, chunk_overlap=128)
texts = []
for doc in documents:
texts.extend(splitter.split_text(doc.page_content))
embedding_function = SentenceTransformer("togethercomputer/m2-bert-80M-8k-retrieval", trust_remote_code=True)
vectorstore_index_creator = VectorstoreIndexCreator(
vectorstore_cls=FAISS,
embedding_function=embedding_function
)
index = vectorstore_index_creator.from_documents([Document(page_content=text) for text in texts])
return index
# ----------------- بارگذاری دیتا -----------------
documents, embeddings, index, model = get_pdf_index()
retriever = SimpleRetriever(
documents=documents,
embeddings=embeddings,
index=index,
model=model
)
# ----------------- تعریف LLM -----------------
llm = ChatOpenAI(
base_url="https://api.together.xyz/v1",
api_key='0291f33aee03412a47fa5d8e562e515182dcc5d9aac5a7fb5eefdd1759005979',
model="meta-llama/Llama-3.3-70B-Instruct-Turbo-Free"
)
# ----------------- ساخت Chain -----------------
qa_chain = RetrievalQA.from_chain_type(
llm=llm,
retriever=retriever,
chain_type="stuff",
chain_type_kwargs={"prompt": custom_prompt}
)
# ----------------- چت استیت -----------------
if 'messages' not in st.session_state:
st.session_state.messages = []
if 'pending_prompt' not in st.session_state:
st.session_state.pending_prompt = None
# ----------------- نمایش پیامهای قبلی -----------------
for msg in st.session_state.messages:
with st.chat_message(msg['role']):
st.markdown(f"🗨️ {msg['content']}", unsafe_allow_html=True)
# ----------------- ورودی کاربر -----------------
prompt = st.chat_input("سوالی در مورد فایل بپرس...")
if prompt:
st.session_state.messages.append({'role': 'user', 'content': prompt})
st.session_state.pending_prompt = prompt
st.rerun()
# ----------------- پاسخدهی مدل -----------------
if st.session_state.pending_prompt:
with st.chat_message('ai'):
thinking = st.empty()
thinking.markdown("🤖 در حال فکر کردن...")
try:
# اگر مدل نتواند پاسخ دقیقی پیدا کند
response = qa_chain.run(st.session_state.pending_prompt)
if not response.strip(): # اگر پاسخ خالی یا بیفایده بود
response = "متاسفانه اطلاعات دقیقی برای پاسخ به این سوال موجود نیست."
else:
response = response.strip()
except Exception as e:
response = "متاسفانه اطلاعات لازم برای پاسخ به این سوال موجود نیست."
thinking.empty()
full_response = ""
placeholder = st.empty()
for word in response.split():
full_response += word + " "
placeholder.markdown(full_response + "▌")
time.sleep(0.03)
placeholder.markdown(full_response)
st.session_state.messages.append({'role': 'ai', 'content': full_response})
st.session_state.pending_prompt = None