O mercado está inundado de "IA para edifícios" e "IA para sustainability". A maioria é uma camada fina por cima de um LLM genérico, com o teu logótipo no canto. Pede-lhe o teu Scope 3 e ela dá-te um número confiante, plausível, e errado.
Numa apresentação de marketing, uma alucinação é embaraçosa. Aqui, vai parar a um relatório auditado ou a um slide para o board. Em operações e em compliance, o pior modo de falha não é "não sei". É "sei", dito com confiança, sobre uma coisa inventada. Porque alguém assina por baixo.
Como pensamos nisto, e como partimos a cara a aprender: a Sofia cita a fonte em cada resposta, a tabela, a métrica, o documento de onde tirou o número. Se não consegue ancorar a resposta num dado real, diz que não consegue, em vez de adivinhar. Guardrails por papel definem o que cada agente pode e não pode fazer. Há aprovação humana em cada escrita. E um audit log imutável de cada interação: input, contexto, output, modelo, custo.
A parte difícil, e a parte aborrecida onde mora quase toda a engenharia, é ensinar um modelo a dizer "não sei". Retrieval, grounding, recusa, logging: nada disto dá um vídeo bonito. A Sofia v1 era um wrapper sobre o GPT-4. A v2 não é, e reescrevê-la para deixar de ser foi metade do trabalho dos últimos meses.
Por isso fica com um teste para qualquer IA que te queiram vender. Pede-lhe um número. Depois pergunta: "de onde é que isso veio?". Se ela não te mostrar a linha de origem, está a adivinhar.
A pergunta certa nunca é "o que é que esta IA sabe fazer?". É "o que é que ela faz quando não sabe?". Se a resposta for "inventa", foge.