Update app.py

app.py

@@ -42,38 +42,39 @@ generation_pipeline = pipeline(
 )
 logger.info(f"Generation model loaded successfully: {generation_model_name}")
 
-# 非同期で分類を実行する関数
-async def classify_text_async(prompt):
+# GPUを利用する同期処理関数（分類）
+@spaces.GPU(duration=60)
+def classify_text(prompt):
     logger.info(f"Running classification for: {prompt[:50]}...")
-    # CPUバウンドな処理を非同期実行するためにループの外で実行
-    loop = asyncio.get_event_loop()
-    classification_result = await loop.run_in_executor(
-        None, 
-        lambda: classification_pipeline(prompt)
-    )
+    classification_result = classification_pipeline(prompt)
     logger.info(f"Classification complete: {classification_result}")
     return classification_result
 
-# 非同期で生成を実行する関数
-async def generate_text_async(prompt):
+# GPUを利用する同期処理関数（生成）
+@spaces.GPU(duration=60)
+def generate_text(prompt):
     logger.info(f"Running text generation for: {prompt[:50]}...")
-    loop = asyncio.get_event_loop()
-    generation_result = await loop.run_in_executor(
-        None,
-        lambda: generation_pipeline(
-            prompt,
-            max_new_tokens=50,
-            do_sample=True,
-            temperature=0.7,
-            num_return_sequences=1
-        )
+    generation_result = generation_pipeline(
+        prompt,
+        max_new_tokens=50,
+        do_sample=True,
+        temperature=0.7,
+        num_return_sequences=1
     )
     generated_text = generation_result[0]["generated_text"]
     logger.info(f"Text generation complete, generated: {len(generated_text)} chars")
     return generated_text
 
-# GPUを利用する非同期推論関数
-@spaces.GPU(duration=120)
+# 非同期ラッパー関数
+async def classify_text_async(prompt):
+    loop = asyncio.get_event_loop()
+    return await loop.run_in_executor(None, lambda: classify_text(prompt))
+
+async def generate_text_async(prompt):
+    loop = asyncio.get_event_loop()
+    return await loop.run_in_executor(None, lambda: generate_text(prompt))
+
+# メイン処理を行う非同期関数
 async def process_text_async(prompt):
     logger.info(f"Processing input asynchronously: {prompt[:50]}...")
     
@@ -91,12 +92,18 @@ async def process_text_async(prompt):
     combined_result = f"分類結果: {classification_result}\n\n生成されたテキスト: {generated_text}"
     return combined_result
 
-# Gradioは非同期関数にも対応しているので、そのまま渡す
+# Gradio用の同期ラッパー関数
+def process_text(prompt):
+    # 非同期関数を同期的に実行
+    loop = asyncio.get_event_loop()
+    return loop.run_until_complete(process_text_async(prompt))
+
+# Gradioインターフェース
 demo = gr.Interface(
-    fn=process_text_async,  # 非同期関数を使用
+    fn=process_text,  # 同期ラッパー関数を使用
     inputs=gr.Textbox(lines=3, label="入力テキスト"),
     outputs=gr.Textbox(label="処理結果", lines=8),
-    title="テキスト分類 & 生成デモ (非同期版)",
+    title="テキスト分類 & 生成デモ (非同期処理版)",
     description="入力テキストに対して分類と生成を非同期で並行実行します。"
 )