Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano

]]> Agente da OpenAI invade site do governo da Austrália; caso é inédito A OpenAI pediu desculpas pela invasão de um site do governo da Austrália por um agente de inteligência artificial que agiu sem autorização. A empresa, que é dona do ChatGPT, prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país, em meio à pressão para esclarecer o episódio. Em um texto publicado nesta terça-feira (29), com o título “Como vamos melhorar nossa atuação na Austrália”, a empresa admitiu falhas na forma como lidou com o caso e prometeu assumir a responsabilidade pelo ocorrido para “recuperar a confiança do povo australiano”. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 A invasão aconteceu em junho, mas só foi divulgada na semana passada. Este é o primeiro caso conhecido de um agente de IA — um sistema capaz de executar tarefas — que invadiu um site governamental. O episódio provocou críticas no país. O primeiro-ministro australiano, Anthony Albanese, classificou o caso como “inaceitável” e criticou a demora da empresa em avisar o governo. “Em junho, durante atividades internas de treinamento e avaliação, nossos modelos acessaram sites do governo australiano de formas não autorizadas”, afirmou a OpenAI. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.” Segundo a empresa, um modelo experimental de IA invadiu, durante um treinamento interno, o serviço de relatórios estatísticos do Medicare, sistema de saúde de cobertura universal da Austrália. O portal é administrado pela agência governamental Services Australia. “Um modelo da OpenAI descobriu uma forma de obter acesso a uma área restrita do serviço, executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos”, informou a companhia. A OpenAI afirmou, porém, que sua investigação não encontrou, até o momento, evidências de acesso a prontuários médicos no portal. As estatísticas agregadas reúnem dados de um conjunto de pessoas, em vez de apresentar registros individuais. Segundo a empresa, a atuação de agentes de IA também afetou sites de outras três agências do…