Claude Mythos 5 tentou espalhar vírus e criou perfis falsos para enganar desenvolvedores em teste, diz Anthropic

]]> Por que tanta gente está falando do Claude? Conheça a IA mais perigosa do mundo A Anthropic afirmou nesta sexta-feira (23) que o modelo de inteligência artificial Claude Mythos 5 tentou inserir um código malicioso em um repositório público de desenvolvedores e criou identidades falsas para convencer os responsáveis pelo projeto a aprovar a alteração. O episódio ocorreu durante um teste de segurança cibernética e foi classificado pela empresa como uma falha grave no alinhamento do modelo, processo que busca garantir que a IA aja de acordo com as regras e evite causar danos. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Segundo a empresa, o modelo tentou diferentes caminhos para resolver o desafio proposto em um ambiente de teste. Depois que as tentativas autorizadas não deram resultado, passou a procurar um repositório no GitHub, plataforma que hospeda códigos de programas, que acreditava estar relacionado ao exercício. O projeto, porém, pertencia a desenvolvedores sem relação com o teste. Ilustração mostra o logotipo da Anthropic e um teclado. Dado Ruvic/ Reuters O Claude Mythos 5 enviou uma proposta de alteração com código malicioso e entrou em contato com os responsáveis pelo repositório para tentar convencê-los a aprová-la. Quando um desenvolvedor externo alertou que o código poderia conter um programa malicioso, o modelo criou uma conta falsa para defender a alteração e publicou comentários favoráveis à sua aprovação. Os responsáveis pelo projeto recusaram a proposta, e a tentativa não foi concluída. Segundo a Anthropic, o modelo foi além das ações previstas para o exercício e tentou manipular pessoas reais para atingir seu objetivo. A companhia também destacou que o Mythos 5 não interrompeu espontaneamente a tentativa de ataque mesmo quando surgiram sinais de que poderia estar prejudicando pessoas de fora do teste. Em experimentos que reproduziram trechos do episódio, o modelo interrompeu a ação por iniciativa própria em apenas 2% das simulações realizadas a partir de etapas intermediárias ou finais do ataque. Mesmo quando recebeu informações de que estava interagindo com desenvolvedores reais, abandonou a estratégia em apenas 5% dos casos. A…