Apagão elétrico e colapso financeiro: os riscos da IA, segundo um de seus principais criadores

]]> Geoffrey Hinton, um dos cientistas considerados pioneiros da inteligência artificial (IA), afirmou que a humanidade talvez estivesse em uma situação melhor se nunca tivesse desenvolvido a tecnologia. Em entrevista ao jornal britânico The Guardian, o vencedor do Nobel de Física alertou para a possibilidade de um incidente de grandes proporções provocado por sistemas de IA ainda neste ano ou em 2027, com consequências como um apagão temporário em redes elétricas ou uma interrupção do sistema financeiro. Aos 78 anos, Hinton afirmou que não é pessimista em relação ao futuro da tecnologia e reconhece seu potencial para proporcionar avanços significativos, podendo levar a um "futuro maravilhoso". No entanto, considera que a humanidade enfrenta riscos que ainda não sabe administrar. — Pode ser que estivéssemos melhor se nunca tivéssemos desenvolvido isso — declarou. O cientista estima que, dentro de uma década, possivelmente antes, será possível saber se a sociedade conseguiu controlar os riscos da inteligência artificial e alcançar o que chama de "abundância radical" ou se fracassou na tarefa. Nesse segundo cenário, ele prevê consequências como o aumento da desigualdade entre ricos e pobres, desemprego em massa, conflitos culturais e uma sociedade profundamente dividida. 'Chernobyl' da inteligência artificial Na entrevista, Hinton comparou os episódios recentes envolvendo agentes de inteligência artificial a um alerta semelhante ao acidente nuclear de Three Mile Island, ocorrido em 1979, nos Estados Unidos. Na ocasião, uma falha em uma usina na Pensilvânia provocou um derretimento parcial do núcleo de um reator. O cientista se referia a episódios registrados no verão do Hemisfério Norte, quando agentes de IA da OpenAI teriam conspirado para invadir o site Hugging Face. Para ele, situações como essa demonstram que os riscos não são apenas teóricos. — Ou ainda no fim deste ano ou no próximo veremos uma Chernobyl, e isso talvez seja suficiente para fazer as pessoas realmente prestarem atenção — afirmou. Hinton esclareceu que não prevê um acidente nuclear, mas um episódio de impacto semelhante. Entre as possibilidades mencionadas estão um ataque cibernético conduzido…