Por que há o temor sobre IA acabar com a humanidade — e existe mesmo o risco?

]]> Cresce a pressão por regras para a IA, à medida que pesquisadores e executivos fazem alertas preocupantes sobre os possíveis riscos da tecnologia. Getty Images via BBC Os alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão nas últimas semanas por uma ação coordenada para desacelerar o desenvolvimento dessa tecnologia. Declarações de pesquisadores que atuam ou atuaram na área de que a IA pode representar uma ameaça à humanidade acentuaram o sinal de alerta. Um deles, inclusive, chegou a dizer que existe mais de 10% de chance de a IA "matar todos os humanos". 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Empresas gigantes deste setor nos Estados Unidos, como a OpenAI (responsável pelo ChatGPT) e Anthropic (responsável pelo Claude), têm pressionado congressistas americanos a criar regras para o setor. Por outro lado, alguns críticos sugerem que esse movimento por regulamentação das empresas líderes de mercado possa servir para consolidar a vantagem dessas empresas sobre concorrentes atuais e futuros. De qualquer forma, as declarações de grande repercussão aumentaram a preocupação em torno do impacto dessa tecnologia. A seguir, o que se sabe até agora. Por que alguns acham que a IA pode ser uma ameaça à humanidade? Alguns pesquisadores de IA afirmam que há sinais preocupantes de que esses sistemas estejam avançando rápido demais em capacidade e poder. Evan Hubinger, cientista da Anthropic, chamou a atenção ao afirmar que há mais de 10% de chance de a IA "matar todos os humanos" na próxima década. Hubinger trabalha com alinhamento de IA, área voltada a incorporar princípios e valores éticos humanos aos sistemas de IA. Em outras palavras, a ideia é manter a tecnologia em sintonia com aquilo que as pessoas consideram importante. Embora Hubinger tenha dito que o risco representado pelos sistemas atuais é "baixo", suas declarações vieram no momento em que outro pesquisador deixou a Anthropic por discordâncias acerca do rumo do desenvolvimento dessa tecnologia. Esse pesquisador, Jacob Coxon, alertou que as pessoas responsáveis por desenvolver a tecnologia estavam perdendo o controle sobre ela. Coxon disse à BBC que ele e…