Основні зміни:

use_fast=False: У функції load_model при завантаженні токенізатора додано параметр use_fast=False. Це вказує transformers використовувати повільний токенізатор, що може обійти проблему з tiktoken.
on_submit: У st.text_input замість окремої обробки натискання Enter, використано параметр on_submit=send_message. Тепер функція send_message буде викликатися при натисканні Enter у текстовому полі. Кнопка "Надіслати" також залишилася для тих, хто не використовує Enter.
Тепер чат-бот повинен завантажуватися без помилок, і ви зможете відправляти повідомлення як натисканням кнопки "Надіслати", так і клавішею Enter. Хоча якість відповідей може бути не ідеальною, оскільки mt5-small є відносно невеликою моделлю.

app.py

@@ -4,7 +4,7 @@ import torch
 
 @st.cache_resource
 def load_model():
-    tokenizer = AutoTokenizer.from_pretrained("google/mt5-small", padding_side="left")
+    tokenizer = AutoTokenizer.from_pretrained("google/mt5-small", padding_side="left", use_fast=False)
     model = AutoModelForSeq2SeqLM.from_pretrained("google/mt5-small")
     return tokenizer, model
 
@@ -28,9 +28,9 @@ def send_message():
         st.session_state.user_input = "" # clear the input field after sending
 
 def update_user_input():
-    st.session_state.user_input = st.session_state.temp_user_input # update the user input on change
+    st.session_state.user_input = st.session_state.temp_user_input
 
-st.text_input("Ви:", key="temp_user_input", on_change=update_user_input)
+st.text_input("Ви:", key="temp_user_input", on_change=update_user_input, on_submit=send_message)
 
 if st.button("Надіслати"):
     send_message()