malt666 commited on
Commit
709885d
·
verified ·
1 Parent(s): e424645

Upload 4 files

Browse files
Files changed (1) hide show
  1. app.py +5 -2
app.py CHANGED
@@ -1013,10 +1013,13 @@ def num_tokens_from_string(string, model="gpt-3.5-turbo"):
1013
  try:
1014
  encoding = tiktoken.encoding_for_model(model)
1015
  num_tokens = len(encoding.encode(string))
 
1016
  return num_tokens
1017
- except:
1018
  # 如果tiktoken不支持模型或者出错,使用简单的估算
1019
- return len(string) // 4 # 粗略估计每个token约4个字符
 
 
1020
 
1021
  # 更新模型使用统计
1022
  def update_model_stats(model, prompt_tokens, completion_tokens):
 
1013
  try:
1014
  encoding = tiktoken.encoding_for_model(model)
1015
  num_tokens = len(encoding.encode(string))
1016
+ print(f"使用tiktoken计算token数: {num_tokens}")
1017
  return num_tokens
1018
+ except Exception as e:
1019
  # 如果tiktoken不支持模型或者出错,使用简单的估算
1020
+ estimated_tokens = len(string) // 4 # 粗略估计每个token约4个字符
1021
+ print(f"使用估算方法计算token数: {estimated_tokens} (原因: {str(e)})")
1022
+ return estimated_tokens
1023
 
1024
  # 更新模型使用统计
1025
  def update_model_stats(model, prompt_tokens, completion_tokens):