Spaces:
Sleeping
Sleeping
Upload 4 files
Browse files
app.py
CHANGED
@@ -1013,10 +1013,13 @@ def num_tokens_from_string(string, model="gpt-3.5-turbo"):
|
|
1013 |
try:
|
1014 |
encoding = tiktoken.encoding_for_model(model)
|
1015 |
num_tokens = len(encoding.encode(string))
|
|
|
1016 |
return num_tokens
|
1017 |
-
except:
|
1018 |
# 如果tiktoken不支持模型或者出错,使用简单的估算
|
1019 |
-
|
|
|
|
|
1020 |
|
1021 |
# 更新模型使用统计
|
1022 |
def update_model_stats(model, prompt_tokens, completion_tokens):
|
|
|
1013 |
try:
|
1014 |
encoding = tiktoken.encoding_for_model(model)
|
1015 |
num_tokens = len(encoding.encode(string))
|
1016 |
+
print(f"使用tiktoken计算token数: {num_tokens}")
|
1017 |
return num_tokens
|
1018 |
+
except Exception as e:
|
1019 |
# 如果tiktoken不支持模型或者出错,使用简单的估算
|
1020 |
+
estimated_tokens = len(string) // 4 # 粗略估计每个token约4个字符
|
1021 |
+
print(f"使用估算方法计算token数: {estimated_tokens} (原因: {str(e)})")
|
1022 |
+
return estimated_tokens
|
1023 |
|
1024 |
# 更新模型使用统计
|
1025 |
def update_model_stats(model, prompt_tokens, completion_tokens):
|