O alerta de chefe da Microsoft sobre a IA: 'Tratar a IA como humana é um erro'

]]> Mustafa Suleyman acredita que a rival Anthropic está ensinando o modelo Claude que ele 'pode ser consciente' Getty Images via BBC O chefe da divisão de IA da Microsoft afirmou que, a menos que restrições adequadas sejam implementadas no desenvolvimento da inteligência artificial, isso poderá levar ao surgimento de uma nova espécie de silício que competiria com os humanos. Ele descreveu a abordagem da empresa rival Anthropic, de tratar a IA como se fosse humana, como "equivocada", alertando contra a criação de uma tecnologia que a humanidade não possa controlar. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Em entrevista à BBC, Mustafa Suleyman afirmou que é "justo" que as pessoas estejam preocupadas ou alarmadas, mas que existem "medidas muito práticas que podemos tomar para adicionar salvaguardas e controles adicionais à forma como esses modelos são desenvolvidos". Os comentários são os mais recentes em uma série de alertas contundentes da indústria de IA sobre os possíveis perigos da tecnologia. Agora no g1 Em entrevista ao programa Today na quinta-feira, ele afirmou que se as empresas continuarem a criar IAs que definem seus próprios objetivos, geram lucro e possuem ativos estarão "essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame". Os comentários de Suleyman à BBC vêm na esteira de um ensaio publicado por ele no início desta semana, no qual alertava sobre a abordagem da Anthropic para treinar seu modelo de IA, Claude. Ele criticou duramente a Anthropic por ensinar sua IA a apresentar características semelhantes às humanas, prática conhecida como antropomorfização, que, segundo ele, faz parecer que o Claude possui seus próprios desejos, valores e senso de identidade. A BBC entrou em contato com a Anthropic para obter um comentário. No ensaio, ele alertou que as empresas de tecnologia correm o risco de criar algo "impossível" de controlar ao tratar a tecnologia como um ser humano. "As IAs não são conscientes", escreveu ele. "Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes."…