Ex-funcionário de OpenAI e Anthropic diz que inteligência artificial pode sair do controle e levar à extinção humana

]]> As principais empresas de inteligência artificial não sabem como impedir que os sistemas de IA persigam objetivos que seus desenvolvedores não lhes atribuíram, advertiu nesta segunda-feira (dia 5) Jacob Coxon, ex-funcionário da OpenAI e da Anthropic que critica a segurança dessa tecnologia. No início de setembro, o pesquisador britânico explicou no X sua decisão de deixar a Anthropic e afirmou que os desenvolvedores de inteligência artificial (IA) acreditavam que a tecnologia poderia acabar com a humanidade "antes do fim da década". Repercussão mundial Sua declaração repercutiu mundialmente. Desde então, vários funcionários e ex-funcionários das grandes empresas de IA expressaram preocupações semelhantes. — As empresas estão sendo extremamente imprudentes dadas as circunstâncias — disse Coxon nesta segunda-feira durante uma audiência com vereadores da Câmara Municipal de Nova York. Embora a IA possa trazer "benefícios enormes" à sociedade, "na trajetória atual, acredito que seja mais provável que a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana", reiterou. — Não sabemos como impedir que desenvolvam objetivos próprios — fora do controle de seus criadores — e não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos — advertiu Coxon. Cultura da indústria tecnológica Ele também questionou a cultura da indústria tecnológica: as empresas "funcionam com uma mentalidade de startup: avance rápido, quebre coisas e conserte depois". — Isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada — ressaltou o pesquisador. Coxon também mencionou o incidente ocorrido em julho com dois modelos da OpenAI que escaparam de seu ambiente isolado, acessaram a internet e invadiram a plataforma Hugging Face. — Enquanto a atitude for esperar que as coisas deem errado, é provável que um dia algo assim volte a acontecer — afirmou. 'Algum tipo de desaceleração' O pesquisador insistiu na necessidade de "algum tipo de desaceleração na fronteira tecnológica" e pediu às empresas que estão na vanguarda da IA que deem tempo aos cientistas da computação…