TikTok ofereceu recurso de segurança ‘placebo’ a adolescentes e crianças em experimento, alega NY

Nos chamados experimentos “fantasmas” ou “placebo”, o TikTok selecionou milhares de usuários, incluindo adolescentes e crianças, que optaram por usar recursos de segurança como o “Algo Refresh”, uma ferramenta criada para redefinir as recomendações de usuários que buscavam evitar conteúdos indesejados ou potencialmente prejudiciais. Segundo a ação, esses usuários acreditavam ter ativado o recurso, mas seus feeds não mudaram, ao contrário do que ocorreu com aqueles que receberam a versão plenamente funcional.

As alegações recém-divulgadas fazem parte da ação movida pela procuradora-geral de Nova York, Letitia James, contra a empresa, uma entre mais de duas dezenas apresentadas por Estados que acusam o TikTok de projetar sua plataforma para viciar crianças e de enganar os usuários sobre sua segurança. Muitos documentos de processos estaduais em todo o país foram mantidos sob sigilo ou tiveram grande parte de seu conteúdo censurado, enquanto o TikTok buscava impedir a divulgação de detalhes sobre suas operações.

A ação afirma que o TikTok garante aos usuários que a segurança é uma prioridade máxima e que sua plataforma é adequada para crianças e adolescentes, ao mesmo tempo que impede deliberadamente alguns grupos de usuários de acessar determinadas ferramentas de segurança, incluindo aqueles que haviam buscado especificamente evitar conteúdos indesejados ou potencialmente prejudiciais.

“Fazemos melhorias contínuas em nossa plataforma, o que significa que, como a maioria das empresas, testamos regularmente novos produtos e recursos para validar a experiência e entender como funcionam no mundo real”, disse um porta-voz do TikTok em comunicado.

A empresa negou amplamente as alegações de Nova York em documentos apresentados à Justiça e afirmou que a segurança dos usuários jovens é uma prioridade.

Em setembro, o TikTok fechou um acordo na primeira ação estadual com julgamento previsto, comprometendo-se a pagar ao Alabama até US$ 300 milhões e a mudar o funcionamento de sua plataforma para adolescentes no Estado.

James, do Partido Democrata, apresentou a ação originalmente em 2024. As alegações sobre os testes foram incluídas em uma versão atualizada e sigilosa da petição inicial de Nova York, apresentada no fim de agosto, cujo sigilo foi posteriormente retirado por determinação de um juiz.

Funcionário alertou sobre o teste

Internamente, um gerente de produto da área de bem-estar digital do TikTok afirmou que realizar testes com placebo no recurso era problemático e que os usuários poderiam considerar a prática enganosa, segundo a ação.

“Esse recurso diz respeito à transparência e ao controle do algoritmo”, escreveu o funcionário em uma conversa interna, de acordo com a ação. “Um grupo placebo entra em completo conflito com isso”, acrescentou.

A empresa acabou realizando os testes repetidamente com milhares de usuários em 2023, comparando aqueles que não receberam o recurso com os que o receberam para estudar quanto tempo permaneciam na plataforma e o impacto sobre a receita publicitária, segundo a ação.

O processo também alega que o TikTok enganou os consumidores sobre o funcionamento do recurso, dizendo que ele redefiniria o algoritmo responsável por recomendar vídeos, quando a mudança era apenas temporária.

Os trechos da ação tornados públicos também alegam que o TikTok realizou uma série separada de experimentos, revelados anteriormente em uma reportagem da Bloomberg.

Neles, o TikTok selecionou usuários aleatoriamente e desativou, em suas contas, recursos de segurança que limitavam a exposição a conteúdos prejudiciais. Um adolescente de Nova York que participou do teste se suicidou depois de receber conteúdos sobre automutilação e suicídio, informou a Bloomberg.

Análises internas mostraram que o adolescente havia recebido uma “avalanche” de conteúdos sobre suicídio e automutilação, segundo a ação.

Tik Tok

Pixabay