File size: 6,485 Bytes
23bfddb 1990858 23bfddb |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 |
import os
import time
import pandas as pd
from sqlalchemy import create_engine
from langchain_openai import ChatOpenAI
from langchain_community.agent_toolkits import create_sql_agent
from langchain_community.utilities import SQLDatabase
from huggingface_hub import InferenceClient
import gradio as gr
from dotenv import load_dotenv
import logging
load_dotenv()
CSV_FILE_PATH = "anomalia_vendas.csv"
SQL_DB_PATH = "data.db"
HUGGINGFACE_API_KEY = os.getenv("HUGGINGFACE_API_KEY")
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY")
LLAMA_MODEL = "meta-llama/Llama-3.3-70B-Instruct"
hf_client = InferenceClient(api_key=HUGGINGFACE_API_KEY)
os.environ["OPENAI_API_KEY"] = OPENAI_API_KEY
query_cache = {}
history_log = []
recent_history = []
show_history_flag = False
logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')
def create_or_load_sql_database(csv_path, sql_db_path):
if os.path.exists(sql_db_path):
print("Banco de dados SQL já existe. Carregando...")
return create_engine(f"sqlite:///{sql_db_path}")
else:
print("Banco de dados SQL não encontrado. Criando...")
engine = create_engine(f"sqlite:///{sql_db_path}")
df = pd.read_csv(csv_path, sep=";", on_bad_lines="skip")
print(f"CSV carregado: {len(df)} linhas, {len(df.columns)} colunas")
df.to_sql("anomalia_vendas", engine, index=False, if_exists="replace")
print("Banco de dados SQL criado com sucesso!")
return engine
engine = create_or_load_sql_database(CSV_FILE_PATH, SQL_DB_PATH)
db = SQLDatabase(engine=engine)
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
sql_agent = create_sql_agent(llm, db=db, agent_type="openai-tools", verbose=True, max_iterations=40, return_intermediate_steps=True)
def generate_initial_context(db_sample):
return (
f"Você é um assistente que gera queries SQL objetivas e eficientes. Sempre inclua LIMIT 15 nas queries. Aqui está o banco de dados:\n\n"
###f"Colunas: {', '.join(db_sample.columns)}\n"
f"Exemplos do banco de dados:\n{db_sample.head().to_string(index=False)}\n\n"
"\n***IMPORTANTE***: Detecte automaticamente o idioma da pergunta do usuário e responda sempre no mesmo idioma.\n"
"\nRetorne apenas a pergunta e a query SQL mais eficiente para entregar ao agent SQL do LangChain para gerar uma resposta para a pergunta. O formato deve ser:\n"
"\nPergunta: <pergunta do usuário>\n"
"\nOpção de Query SQL:\n<query SQL>"
"\nIdioma: <idioma>"
)
def is_greeting(user_query):
greetings = ["olá", "oi", "bom dia", "boa tarde", "boa noite", "oi, tudo bem?"]
return user_query.lower().strip() in greetings
def query_with_llama(user_query, db_sample):
initial_context = generate_initial_context(db_sample)
formatted_history = "\n".join(
[f"{msg['role'].capitalize()}: {msg['content']}" for msg in recent_history[-2:]]
)
full_prompt = f"{initial_context}\n\nHistórico recente:\n{formatted_history}\n\nPergunta do usuário:\n{user_query}"
logging.info(f"[DEBUG] Contexto enviado ao Llama:\n{full_prompt}\n")
start_time = time.time()
try:
response = hf_client.chat.completions.create(
model=LLAMA_MODEL,
messages=[{"role": "system", "content": full_prompt}],
max_tokens=500,
stream=False
)
llama_response = response["choices"][0]["message"]["content"]
end_time = time.time()
logging.info(f"[DEBUG] Resposta do Llama para o Agent SQL:\n{llama_response.strip()}\n[Tempo de execução: {end_time - start_time:.2f}s]\n")
return llama_response.strip()
except Exception as e:
logging.error(f"[ERRO] Falha ao interagir com o Llama: {e}")
return None
def query_sql_agent(user_query):
try:
if user_query in query_cache:
print(f"[CACHE] Retornando resposta do cache para a consulta: {user_query}")
return query_cache[user_query]
if is_greeting(user_query):
greeting_response = "Olá! Estou aqui para ajudar com suas consultas. Pergunte algo relacionado aos dados carregados no agente!"
query_cache[user_query] = greeting_response # Armazena saudação no cache
return greeting_response
column_data = pd.read_sql_query("SELECT * FROM anomalia_vendas LIMIT 10", engine)
llama_instruction = query_with_llama(user_query, column_data)
if not llama_instruction:
return "Erro: O modelo Llama não conseguiu gerar uma instrução válida."
print("------- Agent SQL: Executando query -------")
response = sql_agent.invoke({"input": llama_instruction})
sql_response = response.get("output", "Erro ao obter a resposta do agente...")
query_cache[user_query] = sql_response
return sql_response
except Exception as e:
return f"Erro ao consultar o agente SQL: {e}"
def chatbot_response(user_input):
start_time = time.time()
response = query_sql_agent(user_input)
end_time = time.time()
history_log.append({"Pergunta": user_input, "Resposta": response, "Tempo de Resposta (s)": round(end_time - start_time, 2)})
recent_history.append({"role": "user", "content": user_input})
recent_history.append({"role": "assistant", "content": response})
if len(recent_history) > 4:
recent_history.pop(0)
recent_history.pop(0)
return response
def toggle_history():
global show_history_flag
show_history_flag = not show_history_flag
return history_log if show_history_flag else {}
with gr.Blocks(theme=gr.themes.Soft()) as demo:
gr.Markdown("# Anomalia Agent")
chatbot = gr.Chatbot(height=600)
msg = gr.Textbox(placeholder="Digite sua pergunta aqui...", label=" ", lines=1)
def respond(message, chat_history):
response = chatbot_response(message)
chat_history.append((message, response))
return "", chat_history
with gr.Row():
btn = gr.Button("Enviar", variant="primary")
history_btn = gr.Button("Histórico", variant="secondary")
msg.submit(respond, [msg, chatbot], [msg, chatbot])
btn.click(respond, [msg, chatbot], [msg, chatbot])
history_output = gr.JSON()
history_btn.click(toggle_history, inputs=[], outputs=history_output)
if __name__ == "__main__":
demo.launch(share=False) |