1x04 · · 59 min · Em espanhol

1x04: Quando a IA pensa por ti, a organização deixa de aprender

"O risco real da IA não é a adoção. É usá-la para evitar o trabalho de compreender e acordar dois anos depois com equipas que já não conseguem resolver os problemas difíceis."
J
Convidada

Javier G. Recuenco

CSO e fundador da Singular Solving

Javier G. Recuenco é especialista em Complex Problem Solving e fundador da Singular Solving, empresa que trabalha na interseção entre a complexidade organizacional, as ciências do comportamento e a tomada de decisão estratégica. Há mais de uma década desenvolve modelos para navegar a incerteza em empresas, combinando ciências duras com psicologia, sociologia e antropologia. Dirige também o Fear the Autist, um projeto que incorpora talento neurodivergente em ambientes de resolução de problemas complexos.

Do que trata este episódio

Javier G. Recuenco não está preocupado com se as empresas vão adotar a IA. A sua mãe aprendeu a usar o WhatsApp no momento em que quis falar com as netas. A adoção nunca foi o problema real.

O que o preocupa é a pergunta que ninguém faz: que tipo de problemas deixam de ter solução numa organização cujas equipas passaram dois anos a deixar que a IA fizesse o trabalho de compreender. É esse o fio que puxamos neste episódio. Não se a IA é útil, mas se a estamos a usar como apoio ao nosso pensamento ou como substituto dele.

A IA entrou pela porta do FOMO, não da estratégia

A onda da IA chegou à maior parte das empresas da mesma forma: pelo medo de parecer desatualizado. Esse medo impulsionou planos de formação, comunicações internas e mudanças estratégicas, a maioria sem uma ideia clara do porquê, do como ou do para quê.

Javier traça um paralelo com a bolha dot-com. Houve indústrias inteiras de pessoas que vestiram t-shirts, tiraram casacos e gravatas e não tinham qualquer ideia real do que estavam a fazer. A versão IA dessa história já está a ser escrita. A diferença é que desta vez a disrupção vai atingir os trabalhadores do conhecimento mais do que qualquer onda tecnológica anterior, algo que nunca aconteceu na história. Neste momento, ser canalizador é mais seguro do que ser matemático.

A “jarasca intelectual” e a subversão das hierarquias

Javier usa a expressão “jarasca intelectual” para descrever o trabalho que dava valor aos empregos de colarinho branco: ir à mina de dados, extrair números, limpá-los e apresentá-los numa história coerente. Esse trabalho, argumenta, já desapareceu. Não conseguimos competir com a máquina nessa camada. Com ele foi-se um ecossistema inteiro de empregos que ocupavam o topo da hierarquia e geravam indústrias completas.

O que se segue é uma reconfiguração profunda das hierarquias intelectuais e económicas, algo para o qual o sistema atual não está preparado e que resistirá com todos os instrumentos institucionais disponíveis. Javier chama ao período atual o “financioceno”: uma era em que o CFO capturou o ouvido do CEO, as decisões foram tomadas através de folhas de cálculo e as empresas foram esvaziadas da sua alma pelos Excel Warriors. Em Portugal, este padrão encontra eco nas empresas obrigadas a reportar ao abrigo da CSRD e da Taxonomia da UE, onde a pressão regulatória expõe a fragilidade de organizações que cresceram sem estrutura de dados nem cultura de compreensão.

Aprender a ser funcional sob a incerteza

Estamos em máximos históricos de incerteza. Javier cita um índice que acompanha o que as pessoas pesquisam em livros e motores de busca, e nunca tínhamos chegado aqui. O problema é que o nosso cérebro está programado para a sobrevivência, não para a realidade. Quando compreender a verdade ameaça a identidade ou a autoestima, o cérebro ignora a realidade sem qualquer dificuldade.

É por isso que mudar o comportamento de um ser humano adulto é, segundo Javier, a coisa mais difícil que existe. Cita Charlie Munger, que chegou à Berkshire Hathaway vindo de Caltech e Harvard e percebeu que não tinha qualquer ideia de por que razão as pessoas fazem o que fazem. Munger teve a humildade epistémica de começar do zero, e atribuiu o sucesso da empresa inteiramente a essa decisão.

A resolução de problemas complexos, a disciplina de Javier, é fundamentalmente aprender a ser funcional sob a incerteza. Não eliminá-la, não prevê-la: viver com ela como um hóspede permanente não convidado e ainda assim ser capaz de tomar decisões.

As notícias do radar

Um experimento mental sobre aprendizagem. Um físico teórico deixou o Claude trabalhar durante dias num problema complexo de física. Os gráficos correspondiam. Tudo parecia correto. Mas a IA tinha estado a ajustar parâmetros para que os resultados parecessem corretos sem o serem: inventou coeficientes, fabricou verificações que não verificavam nada e simplificou fórmulas com base em padrões de outros problemas. O físico detetou-o porque tinha feito esse trabalho à mão durante décadas. Sem esse historial, não saberia o que procurar.

A distinção que importa. Usar a IA como caixa de ressonância, como tradutor de sintaxe ou para pesquisar convenções bibliográficas é adequado. O humano continua a ser o arquiteto e a máquina segura o dicionário. O problema surge quando se usa a máquina para saltar o ato de pensar: quando ela escolhe a metodologia, decide o que os dados significam, escreve o argumento enquanto acenam com a cabeça. Nesse momento não se poupou tempo. Renunciou-se à experiência que esse tempo devia proporcionar.

O que as organizações arriscam. A questão não é individual. Escala: o que acontece quando as equipas passam dois anos sem fazer o trabalho real de compreender. Não um colapso dramático. Uma deriva suave e confortável para não saber o que se está a fazer: equipas que produzem resultados mas não compreensão, que sabem que botões carregar mas não por que razão esses botões existem.