Nerva5678 commited on
Commit
4291d1a
·
verified ·
1 Parent(s): 0dac2aa

Upload app.py

Browse files
Files changed (1) hide show
  1. app.py +418 -318
app.py CHANGED
@@ -1,318 +1,418 @@
1
- import streamlit as st
2
- import pandas as pd
3
- import torch
4
- import os
5
- import time
6
- import logging
7
- import subprocess
8
- import sys
9
-
10
- # 檢查並安裝必要套件
11
- def install_missing_packages():
12
- required_packages = ["sentencepiece", "protobuf"]
13
- for package in required_packages:
14
- try:
15
- __import__(package)
16
- except ImportError:
17
- st.write(f"安裝缺失的套件: {package}")
18
- subprocess.check_call([sys.executable, "-m", "pip", "install", package])
19
- st.write(f"{package} 已安裝成功")
20
-
21
- # 安裝缺失的套件
22
- install_missing_packages()
23
-
24
- # 現在導入其他依賴
25
- from langchain_community.embeddings.huggingface import HuggingFaceEmbeddings
26
- from langchain.llms import HuggingFacePipeline
27
- from langchain.chains import RetrievalQA, LLMChain
28
- from langchain.prompts import PromptTemplate
29
- from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
30
- from langchain_community.vectorstores import FAISS
31
-
32
-
33
- # 其餘代碼保持不變...
34
-
35
- # 設定logging
36
- logging.basicConfig(level=logging.INFO)
37
- logger = logging.getLogger(__name__)
38
-
39
- # 頁面配置
40
- st.set_page_config(
41
- page_title="Excel 問答 AI(ChatGLM 驅動)",
42
- page_icon="🤖",
43
- layout="wide"
44
- )
45
-
46
- # 應用標題與說明
47
- st.title("🤖 Excel 問答 AI(ChatGLM 驅動)")
48
- st.markdown("""
49
- ### 使用說明
50
- 1. 可直接提問一般知識,AI 將使用內建能力回答
51
- 2. 上傳 Excel 檔案(包含「問題」和「答案」欄位)以添加專業知識
52
- 3. 系統會優先使用您上傳的知識庫進行回答
53
- """)
54
-
55
- # 側邊欄設定
56
- with st.sidebar:
57
- st.header("參數設定")
58
-
59
- model_option = st.selectbox(
60
- "選擇模型",
61
- ["THUDM/chatglm3-6b", "THUDM/chatglm2-6b", "THUDM/chatglm-6b"],
62
- index=0
63
- )
64
-
65
- embedding_option = st.selectbox(
66
- "選擇嵌入模型",
67
- ["shibing624/text2vec-base-chinese", "GanymedeNil/text2vec-large-chinese"],
68
- index=0
69
- )
70
-
71
- mode = st.radio(
72
- "回答模式",
73
- ["混合模式(優先使用上傳資料)", "僅使用上傳資料", "僅使用模型知識"]
74
- )
75
-
76
- max_tokens = st.slider("最大回應長度", 128, 2048, 512)
77
- temperature = st.slider("溫度(創造性)", 0.0, 1.0, 0.7, 0.1)
78
- top_k = st.slider("檢索相關文檔數", 1, 5, 3)
79
-
80
- st.markdown("---")
81
- st.markdown("### 關於")
82
- st.markdown("此應用使用 ChatGLM 模型結合 LangChain 框架,將您的 Excel 數據轉化為智能問答系統。同時支持一般知識問答。")
83
- st.markdown("📱 [GitHub 專案連結](https://github.com/yourusername/excel-qa-chatglm)")
84
-
85
- # 全局變量
86
- @st.cache_resource
87
- def load_embeddings(model_name):
88
- try:
89
- logger.info(f"加載嵌入模型: {model_name}")
90
- return HuggingFaceEmbeddings(model_name=model_name)
91
- except Exception as e:
92
- logger.error(f"嵌入模型加載失敗: {str(e)}")
93
- st.error(f"嵌入模型加載失敗: {str(e)}")
94
- return None
95
-
96
- @st.cache_resource
97
- def load_llm(_model_name, _max_tokens, _temperature):
98
- try:
99
- logger.info(f"加載語言模型: {_model_name}")
100
-
101
- # 檢查是否有GPU可用
102
- device = "cuda" if torch.cuda.is_available() else "cpu"
103
- logger.info(f"使用設備: {device}")
104
-
105
- # 加載模型和tokenizer
106
- tokenizer = AutoTokenizer.from_pretrained(_model_name, trust_remote_code=True)
107
- model = AutoModelForCausalLM.from_pretrained(
108
- _model_name,
109
- trust_remote_code=True,
110
- device_map=device,
111
- torch_dtype=torch.float16 if device == "cuda" else torch.float32
112
- )
113
-
114
- # 創建pipeline
115
- pipe = pipeline(
116
- "text-generation",
117
- model=model,
118
- tokenizer=tokenizer,
119
- max_new_tokens=_max_tokens,
120
- temperature=_temperature,
121
- top_p=0.9,
122
- repetition_penalty=1.1
123
- )
124
-
125
- return HuggingFacePipeline(pipeline=pipe)
126
- except Exception as e:
127
- logger.error(f"語言模型加載失敗: {str(e)}")
128
- st.error(f"語言模型加載失敗: {str(e)}")
129
- return None
130
-
131
- # 創建向量資料庫
132
- def create_vectorstore(texts, embeddings):
133
- try:
134
- return FAISS.from_texts(texts, embedding=embeddings)
135
- except Exception as e:
136
- logger.error(f"向量資料庫創建失敗: {str(e)}")
137
- st.error(f"向量資料庫創建失敗: {str(e)}")
138
- return None
139
-
140
- # 創建直接問答的LLM鏈
141
- def create_general_qa_chain(llm):
142
- prompt_template = """請回答以下問題:
143
-
144
- 問題: {question}
145
-
146
- 請提供詳細且有幫助的回答:"""
147
-
148
- prompt = PromptTemplate(
149
- template=prompt_template,
150
- input_variables=["question"]
151
- )
152
-
153
- return LLMChain(llm=llm, prompt=prompt)
154
-
155
- # 混合模式問答處理
156
- def hybrid_qa(query, qa_chain, general_chain, confidence_threshold=0.7):
157
- # 先嘗試使用知識庫回答
158
- try:
159
- kb_result = qa_chain({"query": query})
160
- # 檢查向量存儲的相似度分數,判斷是否有足夠相關的內容
161
- #if hasattr(kb_result, 'source_documents') and len(kb_result["source_documents"]) > 0:
162
- if hasattr(kb_result, 'source_documents') and kb_result.get("source_documents") and len(kb_result["source_documents"]) > 0:
163
- # 這裡假設我們能獲取到相似度分數,實際上可能需要根據您使用的向量存儲方法調整
164
- relevance = True # 在實際應用中,這裡應根據相似度分數確定
165
-
166
- if relevance:
167
- return kb_result, "knowledge_base", kb_result["source_documents"]
168
- except Exception as e:
169
- logger.warning(f"知識庫查詢失敗: {str(e)}")
170
-
171
- # 如果知識庫沒有足夠相關的答案,使用一般知識模式
172
- try:
173
- general_result = general_chain.run(question=query)
174
- return {"result": general_result}, "general", []
175
- except Exception as e:
176
- logger.error(f"一般知識查詢失敗: {str(e)}")
177
- return {"result": "很抱歉,無法處理您的問題,請稍後再試。"}, "error", []
178
-
179
- # 主應用邏輯
180
- # 加載語言模型(不管是否上傳文件都需要)
181
- with st.spinner("正在加載AI模型..."):
182
- llm = load_llm(model_option, max_tokens, temperature)
183
- if llm is None:
184
- st.error("語言模型加載失敗,請刷新頁面重試")
185
- st.stop()
186
-
187
- # 創建一般問答鏈
188
- general_qa_chain = create_general_qa_chain(llm)
189
-
190
- # 變數初始化
191
- kb_qa_chain = None
192
- has_knowledge_base = False
193
- vectorstore = None
194
-
195
- # 上傳Excel文件
196
- uploaded_file = st.file_uploader("上傳你的問答 Excel(可選)", type=["xlsx"])
197
-
198
- if uploaded_file:
199
- # 讀取Excel文件
200
- try:
201
- df = pd.read_excel(uploaded_file)
202
-
203
- # 檢查必要欄位
204
- if not {'問題', '答案'}.issubset(df.columns):
205
- st.error("Excel 檔案需包含 '問題' 和 '答案' 欄位")
206
- else:
207
- # 顯示資料預覽
208
- with st.expander("Excel 資料預覽"):
209
- st.dataframe(df.head())
210
-
211
- st.info(f"成功讀取 {len(df)} 筆問答對")
212
-
213
- # 建立文本列表
214
- texts = [f"問題:{q}\n答案:{a}" for q, a in zip(df['問題'], df['答案'])]
215
-
216
- # 進度條
217
- progress_text = "正在處理中..."
218
- my_bar = st.progress(0, text=progress_text)
219
-
220
- # 加載嵌入模型
221
- my_bar.progress(25, text="正在加載嵌入模型...")
222
- embeddings = load_embeddings(embedding_option)
223
- if embeddings is None:
224
- st.stop()
225
-
226
- # 建立向量資料庫
227
- my_bar.progress(50, text="正在建立向量資料庫...")
228
- vectorstore = create_vectorstore(texts, embeddings)
229
- if vectorstore is None:
230
- st.stop()
231
-
232
- # 創建問答鏈
233
- my_bar.progress(75, text="正在建立知識庫問答系統...")
234
- kb_qa_chain = RetrievalQA.from_chain_type(
235
- llm=llm,
236
- retriever=vectorstore.as_retriever(search_kwargs={"k": top_k}),
237
- chain_type="stuff",
238
- return_source_documents=True
239
- )
240
-
241
- has_knowledge_base = True
242
-
243
- my_bar.progress(100, text="準備完成!")
244
- time.sleep(1)
245
- my_bar.empty()
246
-
247
- st.success("知識庫已準備就緒,請輸入您的問題")
248
-
249
- except Exception as e:
250
- logger.error(f"Excel 檔案處理失敗: {str(e)}")
251
- st.error(f"Excel 檔案處理失敗: {str(e)}")
252
-
253
- # 查詢部分
254
- st.markdown("## 開始對話")
255
- query = st.text_input("請輸入你的問題:")
256
-
257
- if query:
258
- with st.spinner("AI 思考中..."):
259
- try:
260
- start_time = time.time()
261
-
262
- # 根據模式選擇問答方式
263
- if mode == "僅使用上傳資料":
264
- if has_knowledge_base:
265
- result = kb_qa_chain({"query": query})
266
- source = "knowledge_base"
267
- source_docs = result["source_documents"]
268
- else:
269
- st.warning("您選擇了僅使用上傳資料模式,但尚未上傳Excel檔案。請上傳檔案或變更模式。")
270
- st.stop()
271
-
272
- elif mode == "僅使用模型知識":
273
- result = {"result": general_qa_chain.run(question=query)}
274
- source = "general"
275
- source_docs = []
276
-
277
- else: # 混合模式
278
- if has_knowledge_base:
279
- result, source, source_docs = hybrid_qa(query, kb_qa_chain, general_qa_chain)
280
- else:
281
- result = {"result": general_qa_chain.run(question=query)}
282
- source = "general"
283
- source_docs = []
284
-
285
- end_time = time.time()
286
-
287
- # 顯示回答
288
- st.markdown("### AI 回答:")
289
- st.markdown(result["result"])
290
-
291
- # 根據來源顯示不同信息
292
- if source == "knowledge_base":
293
- st.success(" 回答來自您的知識庫")
294
- # 顯示參考資料
295
- with st.expander("參考資料"):
296
- for i, doc in enumerate(source_docs):
297
- st.markdown(f"**參考 {i+1}**")
298
- st.markdown(doc.page_content)
299
- st.markdown("---")
300
- elif source == "general":
301
- if has_knowledge_base:
302
- st.info("ℹ️ 回答來自模型的一般知識(知識庫中未找到相關內容)")
303
- else:
304
- st.info("ℹ️ 回答來自模型的一般知識")
305
-
306
- st.text(f"回答生成時間: {(end_time - start_time):.2f} 秒")
307
-
308
- except Exception as e:
309
- logger.error(f"查詢處理失敗: {str(e)}")
310
- st.error(f"查詢處理失敗,請重試: {str(e)}")
311
-
312
- # 添加會話歷史功能
313
- if "chat_history" not in st.session_state:
314
- st.session_state.chat_history = []
315
-
316
- # 底部資訊
317
- st.markdown("---")
318
- st.markdown("Made with ❤️ | 若需支援,請聯繫 [[email protected]](mailto:[email protected])")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import streamlit as st
2
+ import pandas as pd
3
+ import torch
4
+ import os
5
+ import time
6
+ import logging
7
+ import subprocess
8
+ import sys
9
+
10
+ # 設定logging
11
+ logging.basicConfig(level=logging.INFO)
12
+ logger = logging.getLogger(__name__)
13
+
14
+ # 頁面配置
15
+ st.set_page_config(
16
+ page_title="Excel 問答 AI(ChatGLM 驅動)",
17
+ page_icon="🤖",
18
+ layout="wide"
19
+ )
20
+
21
+ # 應用標題與說明
22
+ st.title("🤖 Excel 問答 AI(ChatGLM 驅動)")
23
+ st.markdown("""
24
+ ### 使用說明
25
+ 1. 可直接提問一般知識,AI 將使用內建能力回答
26
+ 2. 上傳 Excel 檔案(包含「問題」和「答案」欄位)以添加專業知識
27
+ 3. 系統會優先使用您上傳的知識庫進行回答
28
+ """)
29
+
30
+ # 檢查並安裝必要套件
31
+ def install_missing_packages():
32
+ required_packages = ["sentencepiece", "protobuf"]
33
+ for package in required_packages:
34
+ try:
35
+ __import__(package)
36
+ st.write(f"{package} 已安裝")
37
+ except ImportError:
38
+ st.write(f"安裝缺失的套件: {package}")
39
+ try:
40
+ subprocess.check_call([sys.executable, "-m", "pip", "install", package])
41
+ st.write(f"{package} 已安裝成功")
42
+ except Exception as e:
43
+ st.error(f"安裝 {package} 失敗: {str(e)}")
44
+ return False
45
+ return True
46
+
47
+ # 安裝缺失的套件
48
+ if not install_missing_packages():
49
+ st.error("必要套件安裝失敗,請刷新頁面重試")
50
+ st.stop()
51
+
52
+ st.write("正在導入依賴項...")
53
+
54
+ # 依次導入並檢查每個依賴
55
+ try:
56
+ from langchain_community.embeddings.huggingface import HuggingFaceEmbeddings
57
+ st.write("成功導入 HuggingFaceEmbeddings")
58
+ except Exception as e:
59
+ st.error(f"導入 HuggingFaceEmbeddings 失敗: {str(e)}")
60
+ st.stop()
61
+
62
+ try:
63
+ from langchain_community.vectorstores import FAISS
64
+ st.write("成功導入 FAISS")
65
+ except Exception as e:
66
+ st.error(f"導入 FAISS 失敗: {str(e)}")
67
+ st.stop()
68
+
69
+ try:
70
+ from langchain_community.llms import HuggingFacePipeline
71
+ st.write("成功導入 HuggingFacePipeline")
72
+ except Exception as e:
73
+ st.error(f"導入 HuggingFacePipeline 失敗: {str(e)}")
74
+ st.stop()
75
+
76
+ try:
77
+ from langchain.chains import RetrievalQA, LLMChain
78
+ st.write("成功導入 RetrievalQA, LLMChain")
79
+ except Exception as e:
80
+ st.error(f"導入 RetrievalQA, LLMChain 失敗: {str(e)}")
81
+ st.stop()
82
+
83
+ try:
84
+ from langchain.prompts import PromptTemplate
85
+ st.write("成功導入 PromptTemplate")
86
+ except Exception as e:
87
+ st.error(f"導入 PromptTemplate 失敗: {str(e)}")
88
+ st.stop()
89
+
90
+ try:
91
+ from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
92
+ st.write("成功導入 transformers 組件")
93
+ except Exception as e:
94
+ st.error(f"導入 transformers 組件失敗: {str(e)}")
95
+ st.stop()
96
+
97
+ st.write("所有依賴項導入成功!")
98
+
99
+ # 側邊欄設定
100
+ with st.sidebar:
101
+ st.header("參數設定")
102
+
103
+ model_option = st.selectbox(
104
+ "選擇模型",
105
+ ["THUDM/chatglm3-6b", "THUDM/chatglm2-6b", "THUDM/chatglm-6b"],
106
+ index=0
107
+ )
108
+
109
+ embedding_option = st.selectbox(
110
+ "選擇嵌入模型",
111
+ ["shibing624/text2vec-base-chinese", "GanymedeNil/text2vec-large-chinese"],
112
+ index=0
113
+ )
114
+
115
+ mode = st.radio(
116
+ "回答模式",
117
+ ["混合模式(優先使用上傳資料)", "僅使���上傳資料", "僅使用模型知識"]
118
+ )
119
+
120
+ max_tokens = st.slider("最大回應長度", 128, 2048, 512)
121
+ temperature = st.slider("溫度(創造性)", 0.0, 1.0, 0.7, 0.1)
122
+ top_k = st.slider("檢索相關文檔數", 1, 5, 3)
123
+
124
+ st.markdown("---")
125
+ st.markdown("### 關於")
126
+ st.markdown("此應用使用 ChatGLM 模型結合 LangChain 框架,將您的 Excel 數據轉化為智能問答系統。同時支持一般知識問答。")
127
+
128
+ # 全局變量
129
+ @st.cache_resource
130
+ def load_embeddings(model_name):
131
+ try:
132
+ logger.info(f"加載嵌入模型: {model_name}")
133
+ st.write(f"開始加載嵌入模型: {model_name}...")
134
+ embeddings = HuggingFaceEmbeddings(model_name=model_name)
135
+ st.write(f"嵌入模型加載成功!")
136
+ return embeddings
137
+ except Exception as e:
138
+ logger.error(f"嵌入模型加載失敗: {str(e)}")
139
+ st.error(f"嵌入模型加載失敗: {str(e)}")
140
+ return None
141
+
142
+ @st.cache_resource
143
+ def load_llm(_model_name, _max_tokens, _temperature):
144
+ try:
145
+ logger.info(f"加載語言模型: {_model_name}")
146
+ st.write(f"開始加載語言模型: {_model_name}...")
147
+
148
+ # 檢查可用資源
149
+ free_memory = torch.cuda.get_device_properties(0).total_memory - torch.cuda.memory_allocated() if torch.cuda.is_available() else 0
150
+ st.write(f"可用GPU記憶體: {free_memory / (1024**3):.2f} GB" if torch.cuda.is_available() else "無GPU可用,將使用CPU")
151
+
152
+ # 檢查是否有GPU可用,但添加更多選項和提示
153
+ if torch.cuda.is_available() and free_memory > 8 * (1024**3): # 如果有超過8GB可用
154
+ device = "cuda"
155
+ dtype = torch.float16
156
+ st.write("使用GPU (CUDA) 加載模型,使用半精度 (float16)")
157
+ else:
158
+ device = "cpu"
159
+ dtype = torch.float32
160
+ st.write("使用CPU加載模型,這可能會很慢且需要大量記憶體")
161
+
162
+ # 使用超時保護
163
+ with st.spinner(f"正在加載 {_model_name} 模型,這可能需要幾分鐘..."):
164
+ # 加載tokenizer
165
+ st.write("加載tokenizer...")
166
+ tokenizer = AutoTokenizer.from_pretrained(_model_name, trust_remote_code=True)
167
+ st.write("Tokenizer加載成功")
168
+
169
+ # 加載模型
170
+ st.write(f"開始加載模型到{device}...")
171
+ model = AutoModelForCausalLM.from_pretrained(
172
+ _model_name,
173
+ trust_remote_code=True,
174
+ device_map=device,
175
+ torch_dtype=dtype
176
+ )
177
+ st.write("模型加載成功!")
178
+
179
+ # 創建pipeline
180
+ st.write("創建文本生成pipeline...")
181
+ pipe = pipeline(
182
+ "text-generation",
183
+ model=model,
184
+ tokenizer=tokenizer,
185
+ max_new_tokens=_max_tokens,
186
+ temperature=_temperature,
187
+ top_p=0.9,
188
+ repetition_penalty=1.1
189
+ )
190
+ st.write("Pipeline創建成功!")
191
+
192
+ return HuggingFacePipeline(pipeline=pipe)
193
+ except Exception as e:
194
+ logger.error(f"語言模型加載失敗: {str(e)}")
195
+ st.error(f"語言模型加載失敗: {str(e)}")
196
+ st.error("如果是因為記憶體不足,請考慮使用較小的模型或增加系統記憶體")
197
+ return None
198
+
199
+ # 創建向量資料庫
200
+ def create_vectorstore(texts, embeddings):
201
+ try:
202
+ st.write("開始創建向量資料庫...")
203
+ vectorstore = FAISS.from_texts(texts, embedding=embeddings)
204
+ st.write("向量資料庫創建成功!")
205
+ return vectorstore
206
+ except Exception as e:
207
+ logger.error(f"向量資料庫創建失敗: {str(e)}")
208
+ st.error(f"向量資料庫創建失敗: {str(e)}")
209
+ return None
210
+
211
+ # 創建直接問答的LLM鏈
212
+ def create_general_qa_chain(llm):
213
+ prompt_template = """請回答以下問題:
214
+
215
+ 問題: {question}
216
+
217
+ 請提供詳細且有幫助的回答:"""
218
+
219
+ prompt = PromptTemplate(
220
+ template=prompt_template,
221
+ input_variables=["question"]
222
+ )
223
+
224
+ return LLMChain(llm=llm, prompt=prompt)
225
+
226
+ # 混合模式問答處理
227
+ def hybrid_qa(query, qa_chain, general_chain, confidence_threshold=0.7):
228
+ # 先嘗試使用知識庫回答
229
+ try:
230
+ st.write("嘗試從知識庫查詢答案...")
231
+ kb_result = qa_chain({"query": query})
232
+ # 檢查向量存儲的相似度分數,判斷是否有足夠相關的內容
233
+ if (hasattr(kb_result, 'source_documents') and
234
+ kb_result.get("source_documents") and
235
+ len(kb_result["source_documents"]) > 0):
236
+ # 這裡假設我們能獲取到相似度分數,實際上可能需要根據您使用的向量存儲方法調整
237
+ relevance = True # 在實��應用中,這裡應根據相似度分數確定
238
+
239
+ if relevance:
240
+ st.write("找到相關知識庫內容")
241
+ return kb_result, "knowledge_base", kb_result["source_documents"]
242
+ st.write("知識庫中未找到足夠相關的內容")
243
+ except Exception as e:
244
+ logger.warning(f"知識庫查詢失敗: {str(e)}")
245
+ st.warning(f"知識庫查詢失敗: {str(e)}")
246
+
247
+ # 如果知識庫沒有足夠相關的答案,使用一般知識模式
248
+ try:
249
+ st.write("使用模型一般知識回答...")
250
+ general_result = general_chain.run(question=query)
251
+ return {"result": general_result}, "general", []
252
+ except Exception as e:
253
+ logger.error(f"一般知識查詢失敗: {str(e)}")
254
+ st.error(f"一般知識查詢失敗: {str(e)}")
255
+ return {"result": "很抱歉,無法處理您的問題,請稍後再試。"}, "error", []
256
+
257
+ # 主應用邏輯
258
+ # 加載嵌入模型(先加載嵌入模型,因為這通常較小較快)
259
+ embeddings = None
260
+ if "embeddings" not in st.session_state:
261
+ with st.spinner("正在加載嵌入模型..."):
262
+ embeddings = load_embeddings(embedding_option)
263
+ if embeddings is not None:
264
+ st.session_state.embeddings = embeddings
265
+ else:
266
+ st.error("嵌入模型加載失敗,請刷新頁面重試")
267
+ st.stop()
268
+ else:
269
+ embeddings = st.session_state.embeddings
270
+
271
+ # 加載語言模型(不管是否上傳文件都需要)
272
+ llm = None
273
+ if "llm" not in st.session_state:
274
+ llm = load_llm(model_option, max_tokens, temperature)
275
+ if llm is not None:
276
+ st.session_state.llm = llm
277
+ else:
278
+ st.error("語言模型加載失敗,請刷新頁面重試")
279
+ st.stop()
280
+ else:
281
+ llm = st.session_state.llm
282
+
283
+ # 創建一般問答鏈
284
+ general_qa_chain = create_general_qa_chain(llm)
285
+ st.write("一般問答鏈創建成功!")
286
+
287
+ # 變數初始化
288
+ kb_qa_chain = None
289
+ has_knowledge_base = False
290
+ vectorstore = None
291
+
292
+ # 上傳Excel文件
293
+ uploaded_file = st.file_uploader("上傳你的問答 Excel(可選)", type=["xlsx"])
294
+
295
+ if uploaded_file:
296
+ # 讀取Excel文件
297
+ try:
298
+ st.write("開始讀取Excel文件...")
299
+ df = pd.read_excel(uploaded_file)
300
+
301
+ # 檢查必要欄位
302
+ if not {'問題', '答案'}.issubset(df.columns):
303
+ st.error("Excel 檔案需包含 '問題' 和 '答案' 欄位")
304
+ else:
305
+ # 顯示資料預覽
306
+ with st.expander("Excel 資料預覽"):
307
+ st.dataframe(df.head())
308
+
309
+ st.info(f"成功讀取 {len(df)} 筆問答對")
310
+
311
+ # 建立文本列表
312
+ texts = [f"問題:{q}\n答案:{a}" for q, a in zip(df['問題'], df['答案'])]
313
+
314
+ # 進度條
315
+ progress_text = "正在處理中..."
316
+ my_bar = st.progress(0, text=progress_text)
317
+
318
+ # 使用之前加載的嵌入模型
319
+ my_bar.progress(25, text="準備嵌入模型...")
320
+
321
+ # 建立向量資料庫
322
+ my_bar.progress(50, text="正在建立向量資料庫...")
323
+ vectorstore = create_vectorstore(texts, embeddings)
324
+ if vectorstore is None:
325
+ st.stop()
326
+
327
+ # 創建問答鏈
328
+ my_bar.progress(75, text="正在建立知識庫問答系統...")
329
+ kb_qa_chain = RetrievalQA.from_chain_type(
330
+ llm=llm,
331
+ retriever=vectorstore.as_retriever(search_kwargs={"k": top_k}),
332
+ chain_type="stuff",
333
+ return_source_documents=True
334
+ )
335
+
336
+ has_knowledge_base = True
337
+
338
+ my_bar.progress(100, text="準備完成!")
339
+ time.sleep(1)
340
+ my_bar.empty()
341
+
342
+ st.success("知識庫已準備就緒,請輸入您的問題")
343
+
344
+ except Exception as e:
345
+ logger.error(f"Excel 檔案處理失敗: {str(e)}")
346
+ st.error(f"Excel 檔案處理失敗: {str(e)}")
347
+
348
+ # 查詢部分
349
+ st.markdown("## 開始對話")
350
+ query = st.text_input("請輸入你的問題:")
351
+
352
+ if query:
353
+ with st.spinner("AI 思考中..."):
354
+ try:
355
+ start_time = time.time()
356
+
357
+ # 根據模式選擇問答方式
358
+ if mode == "僅使用上傳資料":
359
+ if has_knowledge_base:
360
+ st.write("使用知識庫模式回答...")
361
+ result = kb_qa_chain({"query": query})
362
+ source = "knowledge_base"
363
+ source_docs = result["source_documents"]
364
+ else:
365
+ st.warning("您選擇了僅使用上傳資料模式,但尚未上傳Excel檔案。請上傳檔案或變更模式。")
366
+ st.stop()
367
+
368
+ elif mode == "僅使用模型知識":
369
+ st.write("使用模型一般知識模式回答...")
370
+ result = {"result": general_qa_chain.run(question=query)}
371
+ source = "general"
372
+ source_docs = []
373
+
374
+ else: # 混合模式
375
+ if has_knowledge_base:
376
+ st.write("使用混合模式回答...")
377
+ result, source, source_docs = hybrid_qa(query, kb_qa_chain, general_qa_chain)
378
+ else:
379
+ st.write("未檢測到知識庫,使用模型一般知識回答...")
380
+ result = {"result": general_qa_chain.run(question=query)}
381
+ source = "general"
382
+ source_docs = []
383
+
384
+ end_time = time.time()
385
+
386
+ # 顯示回答
387
+ st.markdown("### AI 回答:")
388
+ st.markdown(result["result"])
389
+
390
+ # 根據來源顯示不同信息
391
+ if source == "knowledge_base":
392
+ st.success("✅ 回答來自您的知識庫")
393
+ # 顯示參考資料
394
+ with st.expander("參考資料"):
395
+ for i, doc in enumerate(source_docs):
396
+ st.markdown(f"**參考 {i+1}**")
397
+ st.markdown(doc.page_content)
398
+ st.markdown("---")
399
+ elif source == "general":
400
+ if has_knowledge_base:
401
+ st.info("ℹ️ 回答來自模型的一般知識(知識庫中未找到相關內容)")
402
+ else:
403
+ st.info("ℹ️ 回答來自模型的一般知識")
404
+
405
+ st.text(f"回答生成時間: {(end_time - start_time):.2f} 秒")
406
+
407
+ except Exception as e:
408
+ logger.error(f"查詢處理失敗: {str(e)}")
409
+ st.error(f"查詢處理失敗,請重試: {str(e)}")
410
+ st.error(f"錯誤詳情: {str(e)}")
411
+
412
+ # 添加會話歷史功能
413
+ if "chat_history" not in st.session_state:
414
+ st.session_state.chat_history = []
415
+
416
+ # 底部資訊
417
+ st.markdown("---")
418
+ st.markdown("Made with ❤️ | Excel 問答 AI")