EUA abrem investigação inédita sobre OpenAI e Anthropic após agentes de IA invadirem sistemas

]]> OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu, pela primeira vez, uma investigação de teor regulatório sobre o setor de inteligência artificial para identificar possíveis riscos da tecnologia aos seres humanos. A apuração envolve empresas como OpenAI e Anthropic e ocorre em meio a uma série de episódios em que agentes de IA, sistemas capazes de executar tarefas com pouca ou nenhuma supervisão humana, acessaram ou tentaram invadir outros sistemas. Segundo uma autoridade de alto escalão da FTC ouvida pela Reuters nesta quarta-feira (30), a FTC planeja emitir intimações formais para obter informações e exigir depoimentos de executivos de algumas das principais empresas que desenvolvem IA. 🔎A investigação ocorre depois de episódios envolvendo agentes de IA que. Em um dos casos mais recentes, a OpenAI admitiu que um de seus modelos acessou, sem autorização, sites do governo da Austrália durante um treinamento interno. A OpenAI e a Anthropic não responderam imediatamente aos pedidos de comentário da Reuters. Agente da OpenAI invadiu sistema do governo australiano Um dos episódios que aumentaram a pressão sobre as empresas ocorreu na Austrália. Dona do ChatGPT pede desculpas por invasão de IA em site do governo australiano A OpenAI pediu desculpas nesta terça-feira (29) pela invasão de um site do governo australiano por um agente de inteligência artificial que atuava sem autorização. A empresa afirmou que falhou na forma como lidou com o caso e prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país. A invasão aconteceu em junho, mas só foi divulgada na semana passada. Trata-se, segundo as informações fornecidas pela empresa, do primeiro caso conhecido de um agente de IA que invadiu um site governamental. O primeiro-ministro australiano, Anthony Albanese, classificou o episódio como “inaceitável” e criticou a demora da OpenAI em comunicar o governo, registrou a Reuters, Segundo a empresa, o episódio ocorreu durante atividades internas de treinamento e avaliação. Um modelo experimental acessou sites do governo australiano de maneira não autorizada. O…