Update models.py

models.py

@@ -127,41 +127,41 @@ def evaluate_with_jabir(pdf_file, job_description):
         return f"Error: {response.status_code}, {response.text}"
 
 
-# hf_api_key = os.getenv("HF_API_KEY1")
-# login(token=hf_api_key)
+hf_api_key = os.getenv("HF_API_KEY1")
+login(token=hf_api_key)
 
 
 
 
-# model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
-# model_config = transformers.LlamaConfig.from_pretrained(model_id)
-# model_config.rope_scaling = {"type": "llama3", "factor": 8.0}
-# model = transformers.AutoModelForCausalLM.from_pretrained(model_id, config=model_config)
+model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
+model_config = transformers.LlamaConfig.from_pretrained(model_id)
+model_config.rope_scaling = {"type": "llama3", "factor": 8.0}
+model = transformers.AutoModelForCausalLM.from_pretrained(model_id, config=model_config)
 
-# pipeline = transformers.pipeline(
-#     "text-generation",
-#     model=model,
-#     model_kwargs={"torch_dtype": torch.bfloat16},
-#     device_map="auto",
-# )
+pipeline = transformers.pipeline(
+    "text-generation",
+    model=model,
+    model_kwargs={"torch_dtype": torch.bfloat16},
+    device_map="auto",
+)
 
-# def evaluate_with_llama(resume_text, job_description):
-#     keywords = "وضعیت خدمت سربازی، سن، محل سکونت، محدوده حقوق پرداختی، میزان سابقه کار مدیریتی، میزان سابقه کار مرتبط با گروه شغلی مشابه، میزان سابقه کار در صنعت، میزان تحصیلات، مهارت زبان، مهارت های نرم افزاری"
+def evaluate_with_llama(resume_text, job_description):
+    keywords = "وضعیت خدمت سربازی، سن، محل سکونت، محدوده حقوق پرداختی، میزان سابقه کار مدیریتی، میزان سابقه کار مرتبط با گروه شغلی مشابه، میزان سابقه کار در صنعت، میزان تحصیلات، مهارت زبان، مهارت های نرم افزاری"
    
-#     prompt = f"""
-#     به عنوان یک تحلیلگر با تجربه سیستم ردیابی متقاضی (ATS)، نقش شما شامل ارزیابی رزومه نسبت به شرح شغل و کلمات کلیدی مشخصی است.
-#     لطفاً رزومه فرد را با در نظر گرفتن کلمات کلیدی تعیین شده مطابقت دهید و درصد تطابق را بر اساس معیارهای کلیدی و همچنین تعداد کلمات کلیدی گمشده و منطبق محاسبه کنید.
+    prompt = f"""
+    به عنوان یک تحلیلگر با تجربه سیستم ردیابی متقاضی (ATS)، نقش شما شامل ارزیابی رزومه نسبت به شرح شغل و کلمات کلیدی مشخصی است.
+    لطفاً رزومه فرد را با در نظر گرفتن کلمات کلیدی تعیین شده مطابقت دهید و درصد تطابق را بر اساس معیارهای کلیدی و همچنین تعداد کلمات کلیدی گمشده و منطبق محاسبه کنید.
    
-#     ارزیابی را بر اساس دقیقا این کلمات کلیدی {keywords} محاسبه کن.
-#     شرح شغل: {job_description}
-#     رزومه: {resume_text}
+    ارزیابی را بر اساس دقیقا این کلمات کلیدی {keywords} محاسبه کن.
+    شرح شغل: {job_description}
+    رزومه: {resume_text}
    
-#     من پاسخ را در یک رشته با ساختار زیر می‌خواهم:
-#     {{"تطابق شرح شغل با رزومه فرد ":"%", "تعداد کلمات کلیدی غیر منطبق  ":"", "تعداد کلمات کلیدی منطبق   ":""}}
-#     """
+    من پاسخ را در یک رشته با ساختار زیر می‌خواهم:
+    {{"تطابق شرح شغل با رزومه فرد ":"%", "تعداد کلمات کلیدی غیر منطبق  ":"", "تعداد کلمات کلیدی منطبق   ":""}}
+    """
     
-#     outputs = pipeline(
-#         prompt,
-#         max_new_tokens=256,
-#     )
-#     return outputs[0]["generated_text"]        
+    outputs = pipeline(
+        prompt,
+        max_new_tokens=256,
+    )
+    return outputs[0]["generated_text"]