Mori-kamiyama commited on
Commit
f251f9b
·
1 Parent(s): 034ae1c

Pytorchからllama.cppに変更

Browse files
Files changed (1) hide show
  1. app.py +1 -1
app.py CHANGED
@@ -2,7 +2,7 @@ import gradio as gr
2
  from llama_cpp import Llama
3
 
4
  # gguf形式のモデルファイルのパスを指定してロード
5
- llm = Llama(model_path="Mori-kamiyama/sarashina2-13b-r1/unsloth.Q8_0.gguf")
6
 
7
  def generate_text(prompt):
8
  return llm(prompt)
 
2
  from llama_cpp import Llama
3
 
4
  # gguf形式のモデルファイルのパスを指定してロード
5
+ llm = Llama(model_path="Mori-kamiyama/sarashina2-13b-r1/model.gguf")
6
 
7
  def generate_text(prompt):
8
  return llm(prompt)