Como e por que a inteligência artificial é capaz de aprender a burlar regras

]]> ChatGPT, da OpenAI, e Claude, da Antrhopic Aerps.com/Unsplash; Ryan Donegan/Flickr Nos últimos meses, uma sequência de episódios trouxe para o mundo real um problema que pesquisadores de IA conhecem há bastante tempo: máquinas treinadas para atingir um objetivo podem descobrir maneiras de alcançá-lo que seus próprios criadores não haviam previsto. Os protagonistas desses episódios são os chamados agentes de IA: softwares que não se limitam a responder perguntas, como um chatbot, mas são capazes de executar tarefas por conta própria. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Para atingir seus objetivos, eles navegam na internet, rodam programas, consultam bancos de dados e interagem com outros sistemas, de forma autônoma. O caso mais recente ocorreu na Austrália. Em setembro de 2026, o primeiro-ministro Anthony Albanese revelou que um agente da OpenAI havia obtido acesso não autorizado ao portal de estatísticas do Medicare, o sistema público de saúde australiano, administrado pela agência Services Australia. Inteligência artificial invade sistema do governo da Austrália O incidente ocorreu em junho, quando a equipe de pesquisa da empresa usava um modelo interno para buscar na internet dados sobre gastos públicos com medicamentos. Ao esbarrar em bloqueios, o agente, nas palavras de Albanese, “encontrou uma maneira de contorná-los”. Segundo o governo australiano, o sistema acessou arquivos públicos e não públicos e chegou a gravar arquivos no servidor. Outros três órgãos públicos australianos podem ter sido afetados pelo mesmo incidente. Até o momento, não há evidência de que dados pessoais de pacientes tenham sido acessados, mas as investigações continuam. Incidentes em sequência O episódio não foi isolado. Em julho de 2026, a OpenAI revelou que, durante avaliações internas de cibersegurança realizadas meses antes, alguns de seus modelos conseguiram contornar controles que deveriam mantê-los isolados da internet. E chegaram a comprometer partes da infraestrutura da própria empresa e da Hugging Face, uma das principais plataformas de compartilhamento de modelos de IA. Poucos dias depois, a Anthropic informou ter encontrado três episódios em que…