ChatGPT aconselha mulher com epilepsia a mudar dosagem de medicamento, e ela morre

]]> Quando Bowen Wan parou repentinamente de falar quando conversava com o pai ao telefone ele acreditou que se tratava de uma crise convulsiva, algo com o qual a filha, que sofria de epilepsia lidava há anos. Porém, aquele episódio pareceu durar mais do que o habitual. Ao recuperar a consciência, a moradora de Seattle (EUA) disse que conversariam mais tarde, depois que tivesse descansado. Dias depois, ela parou de responder às ligações. Preocupados, os seus pais, que moram na China, pediram que alguém verificasse como ela estava. Qun Wan e a sua esposa relataram ter acompanhado, por meio de uma chamada de vídeo, o momento em que um amigo encontrou a engenheira de software, que tinha 31 anos. Os pais não conseguiam entender o que havia acontecido. A causa oficial da morte de Wan, ocorrida em fevereiro, foi uma complicação decorrente da epilepsia — uma condição que ela vinha controlando com sucesso há mais de uma década. A epilepsia não é rara, afetando 1 em cada 26 pessoas. A complicação mais grave é a morte súbita e inesperada na epilepsia (conhecida pela sigla SUDEP, em inglês), que foi o que vitimou Wan. E ela não é comum. Uma em cada mil pessoas adultas com epilepsia morre em decorrência da SUDEP. O fenômeno ocorre frequentemente à noite ou durante o sono, e a pessoa costuma ser encontrada de bruços — exatamente como Wan foi achada. A melhor forma de prevenir a SUDEP é controlar e reduzir as crises convulsivas, algo que Qun acreditava que Bowen estivesse fazendo por meio de medicação. Mas havia exatamente algo errado com a medicação. Qun descobriu que, nos dias e horas que antecederam a sua morte, a sua filha consultou o ChatGPT em busca de orientações sobre como contornar o acompanhamento médico e reduzir, por conta própria, a medicação essencial para sua vida. Embora ela tenha expressado preocupações sobre a deterioração de sua energia e de suas capacidades cognitivas, o chatbot teria incentivado Bowen, repetidamente, a "perseverar", elogiando-a até por contornar a orientação de profissionais de saúde. "Bowen Wan pagou com a própria vida pelas escolhas [da OpenAI]", escreveram os advogados da família em um processo judicial, aberto na terça-feira (27/10),…