Update models.py

models.py

@@ -63,23 +63,23 @@ def evaluate_with_gpt(pdf_file, job_description):
     except Exception as e:
         return f"Error during resume evaluation: {e}"
 
-def evaluate_with_gemma(pdf_file, job_description):
-    resume_text = extract_text_from_pdf(pdf_file)
+# def evaluate_with_gemma(pdf_file, job_description):
+#     resume_text = extract_text_from_pdf(pdf_file)
 
-    keywords = "وضعیت خدمت سربازی، سن، محل سکونت، محدوده حقوق پرداختی، میزان سابقه کار مدیریتی، میزان سابقه کار مرتبط با گروه شغلی مشابه، میزان سابقه کار در صنعت، میزان تحصیلات، مهارت زبان، مهارت های نرم افزاری"
+#     keywords = "وضعیت خدمت سربازی، سن، محل سکونت، محدوده حقوق پرداختی، میزان سابقه کار مدیریتی، میزان سابقه کار مرتبط با گروه شغلی مشابه، میزان سابقه کار در صنعت، میزان تحصیلات، مهارت زبان، مهارت های نرم افزاری"
    
-    prompt = f"""
+#     prompt = f"""
    
-    به عنوان یک تحلیلگر با تجربه سیستم ردیابی متقاضی (ATS)، اطلاعات کلیدی رزومه و  شرح شغل را به صورت جداگانه استخراج کن. این اطلاعات شامل مواردی است که در {keywords} آمده است.
+#     به عنوان یک تحلیلگر با تجربه سیستم ردیابی متقاضی (ATS)، اطلاعات کلیدی رزومه و  شرح شغل را به صورت جداگانه استخراج کن. این اطلاعات شامل مواردی است که در {keywords} آمده است.
    
-    شرح شغل: {job_description}
-     رزومه: {resume_text}
+#     شرح شغل: {job_description}
+#      رزومه: {resume_text}
    
-     من پاسخ را در یک فایل json می‌خواهم
-     """
+#      من پاسخ را در یک فایل json می‌خواهم
+#      """
    
-    outputs = gemma_pipe(prompt, max_new_tokens=256)
-    return outputs[0]["generated_text"].strip()
+#     outputs = gemma_pipe(prompt, max_new_tokens=256)
+#     return outputs[0]["generated_text"].strip()
 
 def evaluate_with_bloom(pdf_file, job_description):
     resume_text = extract_text_from_pdf(pdf_file)
@@ -127,22 +127,22 @@ def evaluate_with_jabir(pdf_file, job_description):
         return f"Error: {response.status_code}, {response.text}"
 
 
-hf_api_key = os.getenv("HF_API_KEY1")
-login(token=hf_api_key)
+# hf_api_key = os.getenv("HF_API_KEY1")
+# login(token=hf_api_key)
 
 
 
 
-model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
-model_config = transformers.LlamaConfig.from_pretrained(model_id)
-model_config.rope_scaling = {"type": "llama3", "factor": 8.0}
-model = transformers.AutoModelForCausalLM.from_pretrained(model_id, config=model_config)
+# model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
+# model_config = transformers.LlamaConfig.from_pretrained(model_id)
+# model_config.rope_scaling = {"type": "llama3", "factor": 8.0}
+# model = transformers.AutoModelForCausalLM.from_pretrained(model_id, config=model_config)
 
-pipeline = transformers.pipeline(
-    "text-generation",
-    model=model,
-    model_kwargs={"torch_dtype": torch.bfloat16},
-    device_map="auto",
+# pipeline = transformers.pipeline(
+#     "text-generation",
+#     model=model,
+#     model_kwargs={"torch_dtype": torch.bfloat16},
+#     device_map="auto",
 )
 
 # def evaluate_with_llama(resume_text, job_description):