Grosseria tem limite até para a IA: Anthropic quer barrar abusos e autoriza Claude a encerrar conversas

]]> Claude, rival do ChatGPT, vai revelar quem criou texto com IA; veja como vai funcionar Tem gente que agradece ao chatbot pelas respostas e não dispensa um “por favor”. Outros preferem ir direto ao ponto. Já alguns perdem a paciência quando a inteligência artificial erra e não fazem questão de esconder a irritação. Afinal, é só um robô, não é? Ou será que ele tem sentimentos? (entenda mais abaixo). 😡 A Anthropic, empresa responsável pelo Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA). 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Segundo a empresa, a capacidade de o Claude encerrar conversas desse tipo continuará sendo o principal mecanismo para aplicar a regra. A política, porém, não proíbe qualquer crítica ou manifestação de insatisfação com as respostas do chatbot: a restrição se refere a interações abusivas ou cruéis persistentes e desnecessárias. ➡️ Nova política de uso entra em vigor em 12 de novembro e proíbe comportamentos abusivos ou cruéis persistentes e desnecessários contra os modelos da empresa A mudança ocorre em meio a um debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem algum tipo de consciência e sobre como essas ferramentas devem ser tratadas. O que diz a Anthropic A política atualizada não menciona explicitamente o chamado bem-estar dos modelos, conceito que discute se sistemas de inteligência artificial poderiam merecer algum tipo de proteção moral. A Anthropic e seus executivos, no entanto, já abordaram publicamente essa possibilidade. No ano passado, a empresa informou que daria ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentes ou abusivas com usuários. Em fevereiro, o presidente-executivo da companhia, Dario Amodei, disse ao jornal The New York Times que não tinha certeza se modelos de IA poderiam ser conscientes, mas que estava aberto a essa possibilidade. “Não sabemos se os modelos estão conscientes... Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei. Debate sobre consciência artificial A possibilidade de…