Update app.py

app.py

@@ -143,14 +143,7 @@ def bot(
 with gr.Blocks(fill_height=True, title="모든 LLM 모델에 추론 능력 부여하기") as demo:
     with gr.Row(scale=1):
         with gr.Column(scale=5):
-            gr.Markdown(f"""
-            # 모든 LLM에 추론 능력 강제하기
-            
-            이것은 모든 LLM(대규모 언어 모델)이 응답 전에 추론할 수 있도록 하는 간단한 개념 증명입니다.
-            이 인터페이스는 *{model_name}* 모델을 사용하는데, **이는 추론 모델이 아닙니다**. 사용된 방법은
-            단지 접두사를 사용하여 모델이 답변을 향상시키는 데 도움이 되는 "추론" 단계를 강제하는 것입니다.
-            관련 기사는 다음에서 확인하세요: [모든 모델에 추론 능력 부여하기](https://huggingface.co/blog/Metal3d/making-any-model-reasoning)
-            """)
+
             chatbot = gr.Chatbot(
                 scale=1,
                 type="messages",
@@ -167,39 +160,23 @@ with gr.Blocks(fill_height=True, title="모든 LLM 모델에 추론 능력 부
             gr.Markdown("""## 매개변수 조정""")
             num_tokens = gr.Slider(
                 50,
-                1024,
-                100,
+                4000,
+                2000,
                 step=1,
                 label="추론 단계당 최대 토큰 수",
                 interactive=True,
             )
             final_num_tokens = gr.Slider(
                 50,
-                1024,
-                512,
+                4000,
+                2000,
                 step=1,
                 label="최종 답변의 최대 토큰 수",
                 interactive=True,
             )
             do_sample = gr.Checkbox(True, label="샘플링 사용")
             temperature = gr.Slider(0.1, 1.0, 0.7, step=0.1, label="온도")
-            gr.Markdown("""
-            추론 단계에서 더 적은 수의 토큰을 사용하면 모델이
-            더 빨리 답변할 수 있지만, 충분히 깊게 추론하지 못할 수 있습니다.
-            적절한 값은 100에서 512입니다.
-            최종 답변에 더 적은 수의 토큰을 사용하면 모델의
-            응답이 덜 장황해지지만, 완전한 답변을 제공하지 못할 수 있습니다.
-            적절한 값은 512에서 1024입니다.
-            **샘플링 사용**은 답변을 완성하기 위해 다음 토큰을 선택하는 다른 전략을 사용합니다.
-            일반적으로 이 옵션을 체크해 두는 것이 좋습니다.
-            **온도**는 모델이 얼마나 "창의적"일 수 있는지를 나타냅니다. 0.7이 일반적인 값입니다.
-            너무 높은 값(예: 1.0)을 설정하면 모델이 일관성이 없을 수 있습니다. 낮은 값(예: 0.3)으로
-            설정하면 모델은 매우 예측 가능한 답변을 생성합니다.
-            """)
-            gr.Markdown("""
-            이 인터페이스는 6GB VRAM을 가진 개인 컴퓨터에서 작동할 수 있습니다(예: 노트북의 NVidia 3050/3060).
-            자유롭게 애플리케이션을 포크하여 다른 instruct 모델을 시도해 보세요.
-            """)
+
 
     # 사용자가 메시지를 제출하면 봇이 응답합니다
     msg.submit(