Quando um agente de IA falha, o modelo raramente é o culpado

Agentes de IA estão por toda parte, mas poucos funcionam bem em produção. A causa quase nunca é o modelo escolhido. É o contexto que ele recebe, o loop em que opera e a ausência de medição sistemática. Esse diagnóstico resume o aprendizado de um roteiro que reúne sete das palestras mais citadas da engenharia de IA nos últimos anos, de nomes como Andrew Ng, Dex Horthy e Lakshya Agrawal.

O material organiza um plano de sete semanas, com uma palestra por semana, exercício prático, perguntas de entrevista e listas de leitura. Há também uma trilha de 30 dias com ações concretas e um projeto final que combina os sete temas em um único agente com loop de avaliação.

Como Andrew Ng ensina a consertar agentes de IA

A primeira palestra, de Andrew Ng, trata de análise de erros. O método: revise falhas reais do sistema, agrupe-as por causa e conserte o maior grupo primeiro. Sem esse passo, a maioria dos times continua otimizando o que já funciona bem e ignorando o que de fato quebra o agente.

Para quem usa agentes de IA para automatizar tarefas no negócio, isso significa criar um registro de erros desde o primeiro dia, antes de qualquer ajuste de modelo ou de prompt.

O erro de medir só a precisão

A segunda palestra, de Sayash Kapoor, aborda avaliação de agentes. O argumento central: agentes falham porque são avaliados de forma ruim. Medir só se a resposta está correta não basta. É preciso medir confiabilidade (o sistema entrega resultados consistentes em condições variadas?) e custo operacional por tarefa completada.

Esses dois indicadores raramente aparecem nos dashboards de quem adota IA às pressas. O resultado típico é uma solução que parece funcionar na demonstração, mas quebra quando o volume aumenta ou as condições mudam.

Agentes de IA autônomos que lidam com tarefas de negócios já têm esse perfil conhecido: funcionam bem em condições controladas e precisam de monitoramento contínuo para produção.

Design simples antes de design sofisticado

Barry Zhang defende uma regra direta na terceira palestra: use o design mais simples que resolve o problema. Um workflow estruturado, com passos definidos e previsíveis, é suficiente na maioria dos casos. Um agente aberto e autônomo só se justifica quando o problema é genuinamente imprevisível, com caminhos que não podem ser antecipados.

Essa distinção é importante para empresários que constroem sua primeira solução com IA. A tendência natural é criar algo complexo. A recomendação dos engenheiros é o contrário: comece pelo fluxo mais direto, meça o resultado e adicione complexidade só quando a evidência pedir.

A ideia de empacotar domínio como habilidades reutilizáveis, apresentada por Zhang e Murag na quarta palestra, vai na mesma direção: em vez de construir um agente monolítico que tenta fazer tudo, crie pastas de habilidades especializadas que um agente geral carrega conforme a necessidade.

Por que isso importa para o seu negócio

O padrão que atravessa as sete palestras é direto: a qualidade do que o agente de IA produz depende de três coisas: o contexto que o modelo recebe, o loop em que opera e o quanto você mede e melhora o sistema ao longo do tempo.

Para pequenas empresas e empreendedores, a implicação é prática. Não é preciso construir o agente mais sofisticado. É preciso construir o agente que você consegue avaliar e melhorar. Um sistema simples com métricas claras supera um sistema complexo sem medição.

Dex Horthy desenvolveu os "12 fatores para agentes" depois de mais de 100 entrevistas com engenheiros de IA e fundadores de startups. A quinta palestra apresenta o resultado: trate o agente como software de produção. Controle seus prompts, seu contexto e seu fluxo de controle. Mantenha o sistema reproduzível e registre o que acontece em cada execução. Na sexta palestra, Horthy aplica esse princípio a bases de código grandes: pesquise, planeje, implemente, com revisão humana nos documentos gerados.

Melhorar prompts com dados, não com intuição

A sétima palestra, de Lakshya Agrawal, apresenta o GEPA: um método para melhorar prompts automaticamente. O modelo analisa rastros de falhas em linguagem natural e propõe ajustes. O requisito para funcionar é ter uma métrica confiável de sucesso antes de começar.

Sem métrica, a melhoria de prompt é cega. Com métrica, você vê claramente o antes e o depois de cada ajuste, e o sistema aprende com os próprios erros.


Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fonte: docs.google.com