Update app.py

app.py

@@ -125,22 +125,20 @@ def do_web_search(query: str) -> str:
             summary_lines.append(
                 f"### Result {idx}: {title}\n\n"
                 f"{snippet}\n\n"
-                f"**출처**: [{displayed_link}]({link})\n\n"
+                f"**Source**: [{displayed_link}]({link})\n\n"
                 f"---\n"
             )
         
         # 모델에게 명확한 지침 추가
         instructions = """
-# 웹 검색 결과
-아래는 검색 결과입니다. 질문에 답변할 때 이 정보를 활용하세요:
-1. 각 결과의 제목, 내용, 출처 링크를 참고하세요
-2. 답변에 관련 정보의 출처를 명시적으로 인용하세요 (예: "X 출처에 따르면...")
-3. 응답에 실제 출처 링크를 포함하세요
-4. 여러 출처의 정보를 종합하여 답변하세요
+# Web Search Results
+Below are the search results. Please refer to the title, snippet, and source link of each result when answering:
+1. Cite the sources explicitly in your answer (e.g., "According to [Source Title](link)...").
+2. Incorporate information from multiple sources.
 """
         
         search_results = instructions + "\n".join(summary_lines)
-        logger.info(f"검색 결과 {len(limited_organic)}개 처리 완료")
+        logger.info(f"Processed {len(limited_organic)} search results")
         return search_results
     
     except Exception as e:
@@ -500,13 +498,12 @@ def run(
                 ws_result = do_web_search(ws_query)
                 combined_system_msg += f"[Search top-20 Full Items Based on user prompt]\n{ws_result}\n\n"
                 # >>> 추가된 안내 문구 (검색 결과의 link 등 출처를 활용)
-                combined_system_msg += "[참고: 위 검색결과 내용과 link를 출처로 인용하여 답변해 주세요.]\n\n"
+                combined_system_msg += "[Note: Use the above search results and their links as sources when answering.]\n\n"
                 combined_system_msg += """
-[중요 지시사항]
-1. 답변에 검색 결과에서 찾은 정보의 출처를 반드시 인용하세요.
-2. 출처 인용 시 "[출처 제목](링크)" 형식의 마크다운 링크를 사용하세요.
-3. 여러 출처의 정보를 종합하여 답변하세요.
-4. 답변 마지막에 "참고 자료:" 섹션을 추가하고 사용한 주요 출처 링크를 나열하세요.
+[Important Instructions]
+1. Cite the sources found in the search results using markdown links, e.g., "[Source Title](link)".
+2. Combine information from multiple sources in your answer.
+3. At the end of your answer, add a "References:" section listing the key source links.
 """
             else:
                 combined_system_msg += "[No valid keywords found, skipping WebSearch]\n\n"
@@ -544,7 +541,7 @@ def run(
         
         streamer = TextIteratorStreamer(processor, timeout=30.0, skip_prompt=True, skip_special_tokens=True)
         gen_kwargs = dict(
-            inputs,
+            inputs=inputs,
             streamer=streamer,
             max_new_tokens=max_new_tokens,
         )
@@ -559,7 +556,7 @@ def run(
 
     except Exception as e:
         logger.error(f"Error in run: {str(e)}")
-        yield f"죄송합니다. 오류가 발생했습니다: {str(e)}"
+        yield f"Sorry, an error occurred: {str(e)}"
     
     finally:
         # 임시 파일 삭제
@@ -581,12 +578,12 @@ def run(
 
 
 ##############################################################################
-# 예시들 (한글화)
+# 예시들 (모두 영어로)
 ##############################################################################
 examples = [
     [
         {
-            "text": "두 PDF 파일 내용을 비교하라.",
+            "text": "Compare the contents of the two PDF files.",
             "files": [
                 "assets/additional-examples/before.pdf",
                 "assets/additional-examples/after.pdf",
@@ -595,43 +592,43 @@ examples = [
     ],
     [
         {
-            "text": "CSV 파일 내용을 요약, 분석하라",
+            "text": "Summarize and analyze the contents of the CSV file.",
             "files": ["assets/additional-examples/sample-csv.csv"],
         }
     ],
     [
         {
-            "text": "너는 친근하고 다정한 이해심 많은 여자친구 역할이다. 이 비디오에 대해 설명해줘줘",
+            "text": "Assume the role of a friendly and understanding girlfriend. Describe this video.",
             "files": ["assets/additional-examples/tmp.mp4"],
         }
     ],
     [
         {
-            "text": "표지 내용을 설명하고 글자를 읽어주세요.",
+            "text": "Describe the cover and read the text on it.",
             "files": ["assets/additional-examples/maz.jpg"],
         }
     ],
     [
         {
-            "text": "이미 이 영양제를 <image> 가지고 있고, 이 제품 <image>을 새로 사려 합니다. 함께 섭취할 때 주의해야 할 점이 있을까요?",
+            "text": "I already have this supplement <image> and I plan to buy this product <image>. Are there any precautions when taking them together?",
             "files": ["assets/additional-examples/pill1.png", "assets/additional-examples/pill2.png"],
         }
     ],
     [
         {
-            "text": "이 적분을 풀어주세요.",
+            "text": "Solve this integral.",
             "files": ["assets/additional-examples/4.png"],
         }
     ],
     [
         {
-            "text": "이 티켓은 언제 발급된 것이고, 가격은 얼마인가요?",
+            "text": "When was this ticket issued, and what is its price?",
             "files": ["assets/additional-examples/2.png"],
         }
     ],
     [
         {
-            "text": "이미지들의 순서를 바탕으로 짧은 이야기를 만들어 주세요.",
+            "text": "Based on the sequence of these images, create a short story.",
             "files": [
                 "assets/sample-images/09-1.png",
                 "assets/sample-images/09-2.png",
@@ -641,32 +638,30 @@ examples = [
             ],
         }
     ],
-
     [
         {
-            "text": "동일한 막대 그래프를 그리는 matplotlib 코드를 작성해주세요.",
+            "text": "Write Python code using matplotlib to plot a bar chart that matches this image.",
             "files": ["assets/additional-examples/barchart.png"],
         }
     ],
     [
         {
-            "text": "이미지에 있는 텍스트를 그대로 읽어서 마크다운 형태로 적어주세요.",
+            "text": "Read the text in the image and write it out in Markdown format.",
             "files": ["assets/additional-examples/3.png"],
         }
     ],
     [
         {
-            "text": "이 표지판에는 무슨 문구가 적혀 있나요?",
+            "text": "What does this sign say?",
             "files": ["assets/sample-images/02.png"],
         }
     ],
     [
         {
-            "text": "두 이미지를 비교해서 공통점과 차이점을 말해주세요.",
+            "text": "Compare the two images and describe their similarities and differences.",
             "files": ["assets/sample-images/03.png"],
         }
     ], 
-    
 ]
 
 ##############################################################################
@@ -772,80 +767,73 @@ title_html = """
 <h1 align="center" style="margin-bottom: 0.2em; font-size: 1.6em;"> 🤗 Gemma3-R1984-27B </h1>
 <p align="center" style="font-size:1.1em; color:#555;">
     ✅Agentic AI Platform ✅Reasoning & Uncensored ✅Multimodal & VLM ✅Deep-Research & RAG <br>
-    Operates on an ✅'NVIDIA A100 GPU' as an independent local server, enhancing security and preventing information leakage.<br>
+    Operates on an NVIDIA A100 GPU as an independent local server, enhancing security and preventing information leakage.<br>
     @Based by 'MS Gemma-3-27b' / @Powered by 'MOUSE-II'(VIDRAFT)
 </p>
 """
 
+# 수정된 시스템 프롬프트: 입력 언어에 맞춰 응답하도록 지시
+system_prompt_box = gr.Textbox(
+    lines=3,
+    value="You are a deep thinking AI. Please respond in the same language as the input prompt. If the input is in English, answer in English. If it is in another language (e.g., Korean, Japanese), answer in that language using your full reasoning capabilities.",
+    visible=False  # 화면에서 감춤
+)
 
+max_tokens_slider = gr.Slider(
+    label="Max New Tokens",
+    minimum=100,
+    maximum=8000,
+    step=50,
+    value=1000,
+    visible=False  # 화면에서 감춤
+)
 
-with gr.Blocks(css=css, title="Gemma3-R1984-27B") as demo:
-    gr.Markdown(title_html)
+web_search_checkbox = gr.Checkbox(
+    label="Deep Research",
+    value=False
+)
 
-    # 웹서치 옵션은 화면에 표시 (하지만 시스템 프롬프트, 토큰 슬라이더 등은 감춤)
-    web_search_checkbox = gr.Checkbox(
-        label="Deep Research",
-        value=False
-    )
+web_search_text = gr.Textbox(
+    lines=1,
+    label="(Unused) Web Search Query",
+    placeholder="No direct input needed",
+    visible=False  # 화면에서 감춤
+)
 
-    # 내부적으로 쓰이지만 화면에는 노출되지 않도록 설정
-    system_prompt_box = gr.Textbox(
-        lines=3,
-        value="반드시 한글로 답변하라. You are a deep thinking AI, you may use extremely long chains of thought to deeply consider the problem and deliberate with yourself via systematic reasoning processes to help come to a correct solution prior to answering. Please answer in Korean.You have the ability to read English sources, but you **must always speak in Korean**.Even if the search results are in English, answer in Korean.",
-        visible=False  # 화면에서 감춤
-    )
-    
-    max_tokens_slider = gr.Slider(
-        label="Max New Tokens",
-        minimum=100,
-        maximum=8000,
-        step=50,
-        value=1000,
-        visible=False  # 화면에서 감춤
-    )
-    
-    web_search_text = gr.Textbox(
-        lines=1,
-        label="(Unused) Web Search Query",
-        placeholder="No direct input needed",
-        visible=False  # 화면에서 감춤
-    )
-    
-    # 채팅 인터페이스 구성
-    chat = gr.ChatInterface(
-        fn=run,
-        type="messages",
-        chatbot=gr.Chatbot(type="messages", scale=1, allow_tags=["image"]),
-        textbox=gr.MultimodalTextbox(
-            file_types=[
-                ".webp", ".png", ".jpg", ".jpeg", ".gif",
-                ".mp4", ".csv", ".txt", ".pdf"
-            ],
-            file_count="multiple",
-            autofocus=True
-        ),
-        multimodal=True,
-        additional_inputs=[
-            system_prompt_box,
-            max_tokens_slider,
-            web_search_checkbox,
-            web_search_text,
+# 채팅 인터페이스 구성
+chat = gr.ChatInterface(
+    fn=run,
+    type="messages",
+    chatbot=gr.Chatbot(type="messages", scale=1, allow_tags=["image"]),
+    textbox=gr.MultimodalTextbox(
+        file_types=[
+            ".webp", ".png", ".jpg", ".jpeg", ".gif",
+            ".mp4", ".csv", ".txt", ".pdf"
         ],
-        stop_btn=False,
-        title='<a href="https://discord.gg/openfreeai" target="_blank">https://discord.gg/openfreeai</a>',
-        examples=examples,
-        run_examples_on_click=False,
-        cache_examples=False,
-        css_paths=None,
-        delete_cache=(1800, 1800),
-    )
-
-    # 예제 섹션 - 이미 ChatInterface에 examples가 설정되어 있으므로 여기서는 설명만 표시
-    with gr.Row(elem_id="examples_row"):
-        with gr.Column(scale=12, elem_id="examples_container"):
-            gr.Markdown("### Example Inputs (click to load)")
+        file_count="multiple",
+        autofocus=True
+    ),
+    multimodal=True,
+    additional_inputs=[
+        system_prompt_box,
+        max_tokens_slider,
+        web_search_checkbox,
+        web_search_text,
+    ],
+    stop_btn=False,
+    title='<a href="https://discord.gg/openfreeai" target="_blank">https://discord.gg/openfreeai</a>',
+    examples=examples,
+    run_examples_on_click=False,
+    cache_examples=False,
+    css_paths=None,
+    delete_cache=(1800, 1800),
+)
 
+# 예제 섹션 - 이미 ChatInterface에 examples가 설정되어 있으므로 여기서는 설명만 표시
+with gr.Row(elem_id="examples_row"):
+    with gr.Column(scale=12, elem_id="examples_container"):
+        gr.Markdown("### Example Inputs (click to load)")
 
 if __name__ == "__main__":
-    # 로컬에서만 실행 시
-    demo.launch()
+    # Run locally
+    chat.launch()