A resposta nunca foi a parte valiosa

Vinte e sete medalhistas Fields assinaram uma declaração neste mês sobre IA na matemática.

A objeção deles não é sobre capacidade. É que existe um desalinhamento grave entre o que os laboratórios de IA otimizam e o que a matemática realmente precisa, e a perda acontece tanto antes quanto depois de a prova ficar pronta.

Antes dela, trabalhar no problema é o treinamento, e formar matemáticos é essencial para que o campo avance e até sobreviva. A declaração chama estudantes e ideias de “os recursos mais preciosos da nossa profissão”. Anos de formação serviram “não apenas para produzir uma resposta ou produto final, mas também para desenvolver compreensão e a capacidade de formular novas perguntas e ideias”, e orientadores atribuem problemas justamente para construir isso. Entregue o problema a um modelo e a resposta chega, mas ninguém foi formado ao chegar nela. Um campo que para de produzir pessoas capazes de fazer a próxima pergunta não sobrevive à sua geração atual, não importa o que seja provado pelo caminho.

Depois dela, uma prova é discutida, simplificada, generalizada em um método, ensinada e absorvida até que todo matemático do campo possa assumi-la como certa. A declaração chama isso de cadeia de transmissão humana, e observa que soluções anunciadas às pressas não deixam tempo para uma redação adequada ou para isolar os novos métodos. Terence Tao, um dos signatários, descreveu separadamente problemas em aberto sendo minerados de forma não renovável.

Não sou matemático. Já trabalhei com problemas de gestão de conhecimento várias vezes na minha carreira e vejo paralelos.

Uma empresa não tem nada equivalente

Alguém pergunta se um cliente ainda está no preço antigo. Um agente lê o e-mail, o contrato e a conversa, e volta com uma resposta. A resposta está correta. Três semanas depois alguém mais faz a mesma pergunta, e tudo roda de novo do zero sobre um corpus que mudou nesse meio-tempo. Dessa vez pode recuperar material diferente e chegar a uma resposta diferente. Ninguém registrou a primeira, então não há nada contra o que comparar.

E ninguém fez nada errado. Cada interação parece um sucesso vista de dentro. É aí que está o problema: a segunda pode ter dado a alguém uma resposta desatualizada. A empresa sabe exatamente a mesma quantidade depois da segunda pergunta que sabia antes da primeira. O que foi produzido foi uma resposta, e uma resposta é consumida e desaparece.

O argumento dos matemáticos é que um campo avança quando um resultado é absorvido, e que velocidade de produção é uma grandeza diferente de crescimento no que o campo sabe. O mesmo vale para uma empresa, exceto que a matemática tem instituições construídas para transmitir um resultado e uma empresa não tem nenhuma. Sem seminários, sem revisores, sem estudantes de pós-graduação trabalhando o resultado até conseguir ensiná-lo. Numa empresa, transmissão é alguém escrever a conclusão em algum lugar onde a próxima pessoa vai encontrá-la.

Onde a analogia falha

A declaração está argumentando sobre matemática de pesquisa, e duas partes dela não se transferem.

Boa parte da preocupação deles é sobre pessoas. Mentoria, crédito, o modo como um jovem matemático ganha reputação fazendo o trabalho que a IA agora faria instantaneamente. Quando falam em transmissão de conhecimento, querem dizer uma tradição humana, passada entre pessoas ao longo de carreiras, e eu estou falando de algo bem mais mundano: se um fato sobre um cliente está em algum lugar que um colega consiga alcançar no mês seguinte.

A matemática também tem maquinaria que uma empresa não tem: periódicos, citações, revisão por pares, um cânone. Transmitir um resultado para que outros o absorvam é trabalho de alguém ali, mal financiado e lento, mas existe. Numa empresa de cinquenta pessoas não é trabalho de ninguém. Nada revisa ou faz circular o fato de que um cliente adiou a renovação para março.

É por isso que acho que a perda de conhecimento é pior numa empresa do que na matemática. Os matemáticos estão preocupados com um sistema que funciona sendo ultrapassado. A maioria das empresas nunca teve o sistema.

A medição se transfere

A parte do argumento deles que se transfere exatamente é a medição. Se você avalia uma implantação de IA pelo número de perguntas respondidas e pela velocidade, vai obter um número que sobe independentemente de a sua empresa saber mais do que sabia no trimestre passado. São duas grandezas diferentes e só uma delas se acumula.

Eles estão certos de que a absorção é crítica e de que a IA não está otimizando para ela. A matemática aceitou métodos de transmitir e absorver conhecimento. A maioria das empresas está tentando construir os seus do zero, enquanto as ferramentas ficam muito boas em produzir respostas que ninguém registra.

Construímos um produto que dá a uma empresa um brain, um conjunto de páginas com o que ela sabe, preenchido a partir das mensagens que ela já tem, com workflows que escrevem de volta nele enquanto rodam e uma pessoa aprovando o que é escrito. Quando um agente resolve algo, a conclusão cai em algum lugar duradouro em vez de evaporar. É essa a ideia toda.