Dona do Claude admite que IA representa 'riscos para a humanidade'

]]> Claude, da Anthropic, está entre os assistentes de IA mais populares do mundo, rivalizando com ChatGPT e Gemini Ryan Donegan/Flickr A empresa americana de inteligência artificial (IA) Anthropic, criadora do modelo Claude, alertou investidores, antes de sua entrada na Bolsa, que a tecnologia pode representar "riscos existenciais para a humanidade", segundo o jornal Financial Times. O debate sobre os possíveis riscos relacionados à IA, cujos modelos podem apresentar comportamentos imprevisíveis, ganhou força recentemente. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Na semana passada, vários líderes do setor de IA pediram à ONU o aumento da vigilância sobre a tecnologia. O cofundador e CEO da Anthropic, Dario Amodei, chegou a se comprometer a desacelerar unilateralmente o desenvolvimento da IA. Segundo o documento informativo divulgado pela Anthropic para sua abertura de capital, a empresa registrou, no ano passado, uma perda operacional de mais de US$ 8 bilhões, em meio ao forte aumento dos gastos com capacidade de processamento. Agora no g1 O faturamento foi de quase US$ 4,6 bilhões, e a companhia prevê gastar US$ 518 bilhões nos próximos anos para sustentar seu crescimento. A AFP entrou em contato com a Anthropic, mas a empresa não quis comentar a informação publicada pelo Financial Times. Avaliada em US$ 965 bilhões em maio, a empresa, fundada em San Francisco, prepara uma entrada na Bolsa que pode bater recorde de arrecadação. Empresa criadora do Claude alerta investidores sobre possíveis riscos existenciais da IA antes de preparar entrada na Bolsa. Casos recentes em que sistemas de IA realizaram ações não autorizadas, como invadir sites, mostram o desafio de estabelecer limites para o desenvolvimento da tecnologia. A repercussão nos últimos dias chegou aos executivos de grandes empresas de IA, que até defenderam uma pausa no avanço das tecnologias para tornar seu desenvolvimento mais seguro. A discussão ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude. "Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu. Afinal, quais são os riscos reais da…