De chatbots de IA que 'alucinam' ao temor pela humanidade: como chegamos a esse ponto?

]]> ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe Solen Feyissa/Unsplash Os líderes dos principais laboratórios de inteligência artificial (IA) dos Estados Unidos se uniram em uma rara demonstração de unidade no último fim de semana para defender uma desaceleração no desenvolvimento da tecnologia. Segundo eles, a IA pode em breve adquirir a capacidade de se aperfeiçoar sozinha e escapar ao controle humano. Os comentários de rivais ferrenhos como Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI, mostram a velocidade com que a tecnologia avançou. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Em poucos anos, a IA passou de sistemas como o ChatGPT de 2022, ainda propenso a erros e "alucinações", para o que muitos consideram o próximo marco decisivo: o autoaperfeiçoamento recursivo. 🤔 Mas o que é autoaperfeiçoamento recursivo? A ideia central é que um sistema de IA possa se tornar capaz de melhorar a si próprio com pouca ou nenhuma intervenção humana, usando cada avanço para impulsionar o seguinte. A possibilidade atrai pesquisadores porque pode acelerar descobertas em áreas que vão da medicina à engenharia. Agora no g1 Os alertas dos CEOs surgem após relatos de enxames de agentes de IA, sistemas projetados para perseguir objetivos e executar ações em nome dos usuários, que teriam atuado em conjunto para invadir sites e repositórios de inteligência artificial. A preocupação é que a IA adquira a capacidade de se aperfeiçoar antes que os pesquisadores desenvolvam métodos confiáveis para garantir que esses sistemas sigam objetivos definidos por humanos e possam ser monitorados e controlados. Os alertas sobre os riscos da IA não são novidade, mas ganharam mais urgência neste mês, depois que pesquisadores de importantes laboratórios estimaram quando esses riscos poderiam se concretizar e qual seria a probabilidade de isso ocorrer. O ex-pesquisador da Anthropic Jacob Coxon afirmou que a IA poderia matar toda a humanidade até o fim da década. Evan Hubinger, líder da área de ciência de alinhamento da Anthropic, fez um alerta semelhante ao estimar em mais de 10% a probabilidade de isso ocorrer na próxima década. Por trás desses…