'Fim do mundo pela IA'? Chefes de gigantes de tecnologia e governos se dividem sobre riscos

]]> ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe Solen Feyissa/Unsplash Líderes do setor de tecnologia estão divididos sobre o ritmo em que as empresas devem desenvolver soluções de inteligência artificial. Enquanto alguns defendem uma desaceleração coordenada diante dos riscos da tecnologia, outros dizem que as próprias empresas devem conduzir as medidas de segurança. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 A discussão ganhou força após o pesquisador britânico Jacob Coxon, que deixou a OpenAI para trabalhar na Anthropic por considerá-la mais prudente, abandonar a indústria e acusar as duas empresas de "brincar com as nossas vidas". Dias depois, Dario Amodei, CEO da Anthropic, publicou um ensaio em que defendeu medidas para controlar o ritmo do desenvolvimento da IA. Agora no g1 A proposta foi apoiada por nomes como Sam Altman, da OpenAI, e Elon Musk, da SpaceX, mas recebeu uma resposta diferente de Mark Zuckerberg, da Meta. O debate também divide governos. Enquanto os Estados Unidos e a China trocam acusações sobre os riscos e os interesses envolvidos no avanço da tecnologia, países europeus discutem como equilibrar segurança, inovação e competitividade. Veja a seguir o que alguns líderes da IA e governos mundiais afirmam sobre os riscos associados à tecnologia. Dario Amodei, CEO da Anthropic Dario Amodei, CEO da Anthropic Reuters/Carlos Barria No ensaio intitulado "We Must Pace the Frontier" ("Precisamos definir o ritmo do avanço da fronteira", em inglês), Amodei disse que o progresso da IA acelerou "drasticamente" em 2026, impulsionado principalmente pela crescente capacidade da própria IA de construir sua próxima geração. Ele citou o incidente entre a OpenAI e a Hugging Face, no qual um "enxame" de agentes de IA realizou ataques digitais, como um evento crucial de mostrar o potencial da IA de causar "danos catastróficos" caso suas capacidades cresçam sem limites de segurança. Amodei propôs um plano com três etapas para controlar o ritmo do desenvolvimento da IA, incluindo testes de segurança mais rigorosos e avaliações independentes de modelos avançados, coordenação entre as principais empresas de IA e cooperação internacional.…