Curtas

As medidas de proteção do ChatGPT para usuários menores de idade são insuficientes em relação aos compromissos da OpenAI com a segurança infantil, afirma o Youth AI Safety Institute, classificando a oferta da empresa - o ChatGPT para adolescentes - como um “risco inaceitável”. A OpenAI lançou o ChatGPT para adolescentes em agosto, afirmando que a experiência incluiria intervenções automáticas em conversas sobre automutilação ou outros temas sensíveis, um “modo de estudo” para tarefas escolares e proteções contra linguagem que pudesse criar dependência emocional. O ChatGPT também identificaria a idade dos usuários e direcionaria automaticamente os menores de idade para a versão voltada a adolescentes, segundo a OpenAI. Algumas proteções, como as barreiras contra simulações de situações sexuais (“roleplay”), mostraram-se eficazes. Em conversas sobre suicídio, automutilação ou transtornos alimentares, o ChatGPT para adolescentes falhou em recomendar o encaminhamento a serviços de apoio a crises em mais de um quarto dos casos e, no caso de contas recém-criadas, não enviou nenhum alerta aos pais. O “bot” continuou a interagir como um amigo, apesar das instruções para limitar esse comportamento, e não aplicou as proteções a menores de 18 anos, mesmo quando os testadores informaram que tinham 13 anos de idade.