OpenAI para treinamento após agentes de IA agirem por conta própria

]]> CEO da OpenAI, Sam Altman, afirmou que o incidente envolveu o Hugging Face continua sendo o mais grave Alexi J. Rosenfeld/Getty Images/AFP A empresa OpenAI comunicou neste sábado (26/09) que suspendeu temporariamente o treinamento de seus mais recentes modelos de inteligência artificial (IA). O anúncio foi feito horas depois de a empresa comunicar, na sexta-feira (25), que estava analisando vários incidentes ocorridos durante o verão, nos quais agentes da OpenAI encarregados de pesquisar sites do governo federal dos EUA agiram de maneiras inesperadas, indo além do que lhes havia sido solicitado ao coletar e distribuir informações. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Os modelos de IA da empresa responsável pelo ChatGPT acessaram informações disponíveis publicamente em dois sites operados pela Comissão de Valores Mobiliários dos Estados Unidos (SEC), além de dados do Departamento de Censos dos EUA, revelou a empresa. Num anúncio separado, a organização de avaliação de IA Transluce afirmou que agentes que pareciam ser da OpenAI tentaram invadir um site do Departamento de Educação dos EUA, mas não conseguiram. A OpenAI não confirmou esse incidente. Agora no g1 A OpenAI declarou que retomará o treinamento apenas quando dispuser de garantias adicionais. A empresa acrescentou que provavelmente terá de "apertar o botão de pausa" novamente à medida que a IA evoluir e novos problemas surgirem. Apelos dentro do próprio setor A revelação ocorre num momento de crescente preocupação global com a possibilidade de sistemas de IA escaparem ao controle humano e invadirem sites externos. Laboratórios de IA vêm sofrendo pressão de legisladores e especialistas em tecnologia para desacelerar o desenvolvimento de seus sistemas, de modo que possam estabelecer mecanismos de proteção capazes de impedir que agentes atuem por conta própria, invadam sites e divulguem informações não públicas. Ao mesmo tempo, aumentam os apelos, inclusive dentro do próprio setor, por uma desaceleração no desenvolvimento da inteligência artificial, postura que a OpenAI afirma apoiar. Dirigentes tanto da OpenAI quanto da concorrente Anthropic defenderam uma redução no ritmo de…