A confusão entre intuição e raciocínio real

Em março de 2016, numa tarde em Seul, Thore Graepel assistiu ao AlphaGo jogar o lance 37 na segunda partida do confronto de cinco jogos contra o campeão Lee Sedol. O movimento pareceu tão absurdo que comentaristas chegaram a pensar que era um erro. Não era: o que fez o AlphaGo escolher aquela pedra foi o mecanismo de busca do programa, uma maquinária de deliberação que olhava além da plausibilidade imediata.

Graepel, um dos pesquisadores por trás do AlphaGo, usa essa cena para questionar algo que registrou alta de 257% nas buscas nesta semana: LLMs raciocinam de verdade, ou apenas simulam o processo?

A resposta, publicada no MIT Technology Review, é que não. Modelos de linguagem grandes operam por previsão de tokens rápida e associativa, o que psicólogos chamam de Sistema 1. O AlphaGo combinava dois componentes distintos: uma rede de política para intuição e uma maquinária de busca para deliberação. Os LLMs atuais têm só o primeiro.

Por que isso importa para o seu negócio

Entender se LLMs raciocinam de verdade muda como você confia nas respostas e quando pedir confirmação independente. Graepel aponta três limitações que se somam.

Sem estados epistêmicos explícitos: um raciocínio verificável precisa de registros que separem hipóteses abertas, certezas assentadas e possibilidades descartadas. Os modelos atuais não mantêm essa estrutura, e a resposta chega sem o rastro de como foi construída.

Conhecimento e raciocínio inseparáveis: tudo está nos mesmos pesos do modelo. Não dá para isolar o que ele sabe do como chegou à conclusão, o que dificulta localizar onde a lógica falhou.

Confabulação de rastros: modelos frequentemente geram a explicação do raciocínio depois de já terem chegado à resposta. O texto parece fundamentado, mas a lógica foi construída às avessas.

Para quem usa IA no negócio hoje, a técnica de chain-of-thought, que faz o modelo gerar passos intermediários, melhora a aparência mas não resolve o problema: os passos ainda saem do mesmo processo associativo, sem estados que se possam verificar. Em medicina, jurídico e análise de dados críticos, a regra prática é tratar a resposta do modelo como ponto de partida para verificação, não como conclusão final.

O que muda quando LLMs raciocinam de verdade

Graepel propõe que sistemas futuros mantenham estados epistêmicos explícitos: o que está assentado como fato, o que ainda é dúvida, o que já foi descartado. O raciocínio se tornaria uma sequência de passos auditáveis que avança esse estado e reduz incerteza, como o AlphaGo fazia no tabuleiro de Go.

Os modelos de uso geral ainda não comprovam que LLMs raciocinam de verdade no sentido proposto. Enquanto isso, quanto mais a decisão depender de saber como se chegou à conclusão, mais necessária é a verificação independente dos outputs do modelo.

Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fontes: