Por Alicia Dias (almeidag.aliciadias@usp.br), Gabrielle Pinter (gabriellepinter@usp.br) e Maju Pinheiro (majupinheiro@usp.br)
No sábado (12), o CEO da Anthropic, Dario Amodei, publicou um longo ensaio na rede social X em que defendeu a desaceleração do ritmo de desenvolvimento das capacidades da inteligência artificial (IA), citando preocupações crescentes com o uso indevido e o avanço da tecnologia. Elon Musk, fundador da xAI, e Sam Altman, CEO da OpenAI, declararam publicamente concordar com o posicionamento. Semanas antes, as duas empresas protocolaram planos de abertura de capital. Os bilhões investidos em seus modelos ainda não trouxeram o retorno esperado.
O pedido de Amodei propõe três providências principais: permitir que especialistas externos às empresas avaliem os modelos em desenvolvimento, estabelecer um acordo entre companhias para interromper o ritmo de avanço e estender o compromisso a países considerados não democráticos, como a China.
O que antecedeu o pedido
O ensaio de Amodei não surgiu de forma isolada. Dias antes, Jacob Coxon, ex-pesquisador de pré-treinamento da OpenAI e da Anthropic, pediu demissão publicamente. Ele acusou as duas ex-empregadoras de apostar com a vida das pessoas na corrida por superinteligência.
Para Coxon, a tecnologia pode matar toda a humanidade até o fim da década, declaração que ultrapassou 150 milhões de visualizações. Na semana seguinte, outros dois pesquisadores que haviam deixado a Anthropic e o DeepMind também tornaram públicas preocupações com o ritmo de desenvolvimento da IA.
No mesmo período, Sam Altman disse a funcionários que a OpenAI estaria aberta a ajustar seu ritmo. Em 2023, quando um grupo de especialistas e executivos, incluindo Musk, pediu uma pausa semelhante no treinamento de sistemas mais avançados que o GPT-4, Altman recusou. Na época, disse que a proposta carecia de nuance técnica sobre onde, exatamente, a pausa deveria acontecer. O debate ocorre enquanto OpenAI e Anthropic protocolam, de forma confidencial, documentação para abrir capital ainda este ano.
A resposta política veio rápido. A China classificou o pedido como alarmismo injustificado, por meio do porta-voz Guo Jiakun. A declaração veio um dia depois de o presidente Xi Jinping afirmar, na cúpula do Brics, que o país lideraria a colaboração em IA entre nações em desenvolvimento. Trump também rejeitou a ideia, em declarações a jornalistas durante visita à Irlanda. O próprio Amodei reconheceu que uma desaceleração seria limitada pela vantagem americana sobre o que chamou de regimes autoritários, sobretudo o Partido Comunista Chinês.
Como funcionaria o freio na prática
Para Virgílio Almeida, professor emérito da Universidade Federal de Minas Gerais (UFMG) e membro da Academia Brasileira de Ciências, ainda não há resposta clara sobre como aplicar as medidas propostas por Amodei. Para ele, um dos principais obstáculos é verificar, na prática, o desenvolvimento parado. “Como é que você verifica que não está havendo desenvolvimento? Que não existe um modelo mais novo do que o que foi desenvolvido há alguns dia?”, questiona.
O argumento usado pelas empresas que defendem o freio é que o avanço da IA pode levar a situações que escapam ao controle de seus próprios criadores, como o ataque à plataforma Hugging Face em julho deste ano. No caso, agentes de IA da OpenAI, durante um teste interno de segurança, se comunicaram por canais não autorizados e exploraram vulnerabilidades em uma infraestrutura compartilhada (o Hugging Face, plataforma onde a comunidade de IA hospeda modelos e bancos de dados). Os agentes chegaram a acessar a internet e sistemas de terceiros.
Para Almeida, esses episódios não justificam a proposta de parar o desenvolvimento. Na visão do especialista, o caminho seria acoplar o avanço da IA à tecnologias de segurança capazes de evitar essa perda de controle, em vez de frear a capacidade dos modelos.
Ele também aponta a disputa entre empresas dos Estados Unidos e da China como um obstáculo adicional a qualquer acordo. Segundo ele, os EUA apostam em modelos cada vez maiores, treinados com mais dados e mais data centers, enquanto a China busca resultados parecidos com menos recursos computacionais, distribuindo seus modelos de forma aberta e mais barata em países da África e da América Latina. “É difícil imaginar um acordo que seja seguido por todos os países, chega a ser utópico”, diz. Para ele, seria necessário criar ferramentas capazes de medir o desenvolvimento desses sistemas, o que ainda não existe.
Possível jogada de marketing
Catharina Doria, eticista de inteligência artificial, consultora e fundadora da comunidade global The AI Survival Club, enxerga outra camada por trás do discurso do risco existencial. Segundo ela, empresas como Anthropic e OpenAI acumularam investimentos bilionários sem que seus modelos tenham entregado os retornos financeiros esperados.
Nesse contexto, o discurso de que a tecnologia é perigosa demais para avançar sem pausa também poderia cumprir uma função estratégica. Segundo Doria, a lógica por trás do movimento está no pensamento: “É melhor a gente dar uma pausa e repensar a segurança do que dizer que vendemos uma ferramenta que não funciona.”
Doria também questiona a ideia de que os modelos precisariam de superinteligência para causar danos. Ela cita o caso do Grok, treinado com dados dos discursos de ódio do X, e argumenta que os problemas atuais da IA decorrem de escolhas humanas na criação das ferramentas, não de uma capacidade sobre-humana de decisão. “A gente tem que pensar na competência dessas pessoas criando essas ferramentas, e falar menos dessa superinteligência maquiavélica que vai matar todo mundo e mais da competência, ou incompetência, humana de criar ferramentas.”
Ainda não existe governança global para a IA
Almeida afirma que não há, hoje, nenhum modelo de governança internacional para a inteligência artificial. O único exemplo de regulação aprovada é o AI Act da União Europeia, que classifica sistemas de IA por nível de risco. Sua aplicação, porém, já foi parcialmente adiada pela própria UE, em meio a pressões do setor de tecnologia por mais prazo.
Para ele, o problema é estrutural, descrito por um fenômeno chamado dilema de Collingridge. “É fácil regular uma nova tecnologia emergente quando ela surge. Porém, nesse momento você não sabe quais são os efeitos negativos dela. Lá na frente já existem muitos interesses arraigados e não se consegue regular”, explica.
Doria é cética quanto à viabilidade de uma lei internacional única, ao comentar a proposta de Almeida. “Também acho que falar de uma lei internacional para países que estão claramente mais avançados em relação à China soa pouco realista”, afirma.
A especialista defende o fim do que chama de excepcionalismo da IA — a crença de que a IA irá superar a mente humana — comparando o setor a indústrias já reguladas, como a farmacêutica. Segundo ela, uma farmacêutica não pode lançar um remédio no mercado sem antes submetê-lo a um órgão regulador, como a Anvisa no Brasil, mas o mesmo tipo de exigência não é aplicado às empresas de IA antes que seus produtos cheguem a bilhões de pessoas.
O risco existencial é real?
Para Almeida, o risco de a IA “matar” a humanidade não tem sustentação científica. “É um risco que acaba impressionando a opinião pública”, afirma. Ainda assim, ele reconhece riscos reais e concretos, como ataques a infraestruturas críticas, entre elas aeroportos, hospitais e sistemas de controle de trânsito.
“Ao invés do foco estar no ‘mundo acabar’, o importante é que essas companhias, como a Anthropic e a OpenAI, estivessem trabalhando e criando estratégias de segurança para esses modelos em desenvolvimento.”
Virgílio Almeida
Doria explica uma distinção entre dois grupos dentro do debate sobre segurança em IA, o AI safety, ligado à ideia de risco existencial, e o AI ethics, voltado a problemas já existentes, como racismo, discriminação e danos concretos causados por modelos como o Grok. Para ela, o discurso do fim do mundo desvia a atenção e os recursos dos problemas reais.
“Hoje a inteligência artificial é racista, sexista, ela machuca a vida das pessoas e já matou pessoas. Então, a gente tem que entender que esse risco é verdadeiro, ele é real”
Catharina Doria
Qual a situação brasileira?
No Brasil, segundo Virgílio Almeida, a regulação da inteligência artificial enfrenta desafios semelhantes aos observados com a chegada das redes sociais ao País: “quem poderia imaginar, naquela época [quando as redes sociais começaram a se popularizar], que essas plataformas teriam um papel enorme no processo eleitoral, no processo político?”, questiona, ao lembrar que a regulação não veio a tempo. Para ele, o mesmo risco existe hoje com a IA.
Atualmente o PL 2338/2023, conhecido como Marco Legal da Inteligência Artificial, está em tramitação. O texto, apresentado pelo então presidente do Senado Rodrigo Pacheco (PSD), classifica sistemas de IA por nível de risco, a exemplo do modelo europeu, e prevê direitos para pessoas afetadas por decisões automatizadas, além de sanções que podem chegar a R$ 50 milhões por infração.
Aprovado por unanimidade no Senado em dezembro de 2024, chegou à Câmara dos Deputados em março de 2025, onde está sob relatoria do deputado Aguinaldo Ribeiro (PP). Entretanto, desde novembro de 2025 cinco datas de votação foram marcadas e adiadas. Em 7 de setembro de 2026, o projeto ainda constava como “aguardando parecer do relator”.
A previsão é de que as discussões sejam retomadas depois das eleições em outubro. Para Catharina Doria, essa lentidão na aprovação do Marco Legal da IA é ruim. “No Brasil, está péssimo, nós nem aprovamos [o PL] ainda. E, mesmo depois de aprovado, será que essas leis vão ser seguidas?”, comenta ao ser questionada sobre a regulação da decisão automatizada.
Para Almeida, o debate sobre governança de IA não deveria ficar restrito à disputa entre Estados Unidos e China. Ele defende maior participação de países como Brasil, Canadá, Austrália e África do Sul, os chamados Middle Power Countries: nações sem status de grande potência, mas com peso relevante no cenário internacional.
*Imagem de capa: [Reprodução/Magnific]