MaumauNo Vaticano, nesta segunda-feira (25), Chris Olah, cofundador da Anthropic — empresa por trás do Claude — defendeu que o desenvolvimento da inteligência artificial não pode ficar exclusivamente nas mãos das gigantes de tecnologia. Ao lado do Papa Leão XIV, durante a apresentação da primeira encíclica do pontífice sobre IA, Olah pediu mais supervisão por parte de líderes religiosos, governos e sociedade civil. Alerta feito, com direito a citação direta ao nervo exposto do debate: há uma “possibilidade real” de que a IA substitua trabalho humano “em escala muito ampla”, e “apoiar os trabalhadores substituídos será um imperativo moral de proporções históricas”.
No Vaticano, um recado às big techs
Olah foi claro ao apontar o conflito de incentivos que move os laboratórios de fronteira: “Todo laboratório de IA de fronteira opera dentro de um conjunto de incentivos e restrições que às vezes podem conflitar com fazer a coisa certa”. Em bom português: quando a pressão é comercial, geopolítica e pessoal, o piloto automático do mercado não basta — é preciso torre de controle externa. Como jornalista que acompanha essa corrida há anos, assino embaixo: pedir fiscalização enquanto se está no palco, ao lado do Papa, é a versão tech de “me deem limites, por favor”. E é um bom sinal.
Por que a Igreja entrou nessa conversa
Encíclicas são documentos papais que orientam bispos do mundo (e, por tabela, os fiéis) sobre a posição da Igreja em temas relevantes. Historicamente, ajudam a enquadrar debates sociais — vide Rerum Novarum (1891), sobre a questão operária. A encíclica apresentada por Leão XIV busca ocupar espaço moral num terreno onde a curva de aprendizado é mais íngreme do que a cúpula de São Pedro: o da IA. Entre as diretrizes, ecoou um princípio vital para tempos de armas autônomas e softwares ansiosos por apertar botões: não é aceitável delegar a sistemas artificiais decisões letais ou irreversíveis. Amém — e com razão.
Três frentes urgentes, segundo Olah
- Empregos: o risco de perdas generalizadas existe. Se vier, não basta nota de pesar; será preciso política pública séria de transição, requalificação e renda — com dinheiro novo e escala, não só hackathons bem-intencionados.
- Distribuição dos benefícios: IA não pode ser monopólio de CEP nobre. O ganho de produtividade precisa alcançar o Sul Global e pequenas economias, senão a tecnologia vira concentradora de riqueza turbo.
- Interpretabilidade: entender o comportamento de sistemas cada vez mais complexos (e opacos) segue sendo pedra no sapato. Vale lembrar: Olah é referência em interpretabilidade de redes neurais, área que tenta abrir a “caixa-preta” dos modelos para que possamos auditá-los de verdade — não por fé, mas por evidência.
Quem é a Anthropic e por que isso importa
Fundada em 2021 por ex-integrantes da OpenAI, a Anthropic ganhou nome por enfatizar segurança e por desenvolver a linha de modelos Claude. Nesse contexto, ouvir de um cofundador — e pesquisador conhecido por trabalhos em interpretabilidade — que a “fiscalização externa é essencial” importa. Não é só discurso de palco: é a admissão de que a governança da IA precisa de pesos e contrapesos fora da bolha corporativa.
Opinião do Maumau
A fala de Olah acerta o diagnóstico: deixar a régua ética exclusivamente na mão de quem corre a maratona comercial é receita para tropeço. E a encíclica cumpre um papel útil ao traçar linhas morais simples (não terceirizar letalidade; proteger trabalhadores), lembrando que nem todo bug é de engenharia — alguns são de valores. O risco aqui é a “fiscalização simbólica”: comitês, fotos e zero dente. O caminho prático? Auditorias independentes com acesso a modelos e dados de teste, métricas públicas de risco, mecanismos de pausa quando limiares forem ultrapassados, fundos robustos de transição para emprego e requalificação e, no front técnico, avanço em interpretabilidade que permita explicar, reproduzir e corrigir comportamentos. “Cartilha ética” sem enforcement é manual de instruções que ninguém lê.
O que fica
A convergência entre Vaticano e big techs é improvável no figurino, mas necessária no enredo. Se a IA tem potencial de reorganizar trabalho, riqueza e poder, então tirá-la do monopólio decisório das empresas não é ideologia: é engenharia de sociedade. O palco foi solene; agora vem a parte chata — transformar bom senso em regra, recursos e padrões. Que a conversa siga menos dogma e mais dados, e que o “não delegar decisões letais” vire cláusula pétrea. No mais, que a próxima versão dessas diretrizes venha com changelog claro. Afinal, até a ética precisa de versionamento.
