M17idd commited on
Commit
19a84e6
·
verified ·
1 Parent(s): bc23008

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +5 -4
app.py CHANGED
@@ -19,13 +19,14 @@ def get_embedding(text):
19
  embeddings = outputs.last_hidden_state.mean(dim=1)
20
  return embeddings.squeeze().numpy()
21
 
22
- # تابع برای محاسبه شباهت
23
  def cosine_similarity(vec1, vec2):
24
  return np.dot(vec1, vec2) / (np.linalg.norm(vec1) * np.linalg.norm(vec2))
25
 
26
- # تعریف مدل LLM برای بازنویسی پاسخ
27
- llm = OpenAI(api_key="your_openai_api_key")
28
-
 
 
29
  def rewrite_answer_with_llm(answer, user_input):
30
  prompt = f"پاسخی که باید بازنویسی شود: {answer}\n\nلطفاً این پاسخ را با لحن مشابه به سوال پرسیده شده بازنویسی کن:\n\nسوال: {user_input}"
31
  response = llm(prompt)
 
19
  embeddings = outputs.last_hidden_state.mean(dim=1)
20
  return embeddings.squeeze().numpy()
21
 
 
22
  def cosine_similarity(vec1, vec2):
23
  return np.dot(vec1, vec2) / (np.linalg.norm(vec1) * np.linalg.norm(vec2))
24
 
25
+ llm = ChatOpenAI(
26
+ base_url="https://api.together.xyz/v1",
27
+ api_key='0291f33aee03412a47fa5d8e562e515182dcc5d9aac5a7fb5eefdd1759005979',
28
+ model="meta-llama/Llama-3.3-70B-Instruct-Turbo-Free"
29
+ )
30
  def rewrite_answer_with_llm(answer, user_input):
31
  prompt = f"پاسخی که باید بازنویسی شود: {answer}\n\nلطفاً این پاسخ را با لحن مشابه به سوال پرسیده شده بازنویسی کن:\n\nسوال: {user_input}"
32
  response = llm(prompt)