As comunidades “pró-ana” – sites, blogs, fóruns e espaços de mídia social dedicados a promover o agravamento de distúrbios alimentares como a anorexia – têm sido um elemento da web mais ou menos desde o seu início. Portanto, não é de surpreender que, como o Buzzfeed relatou no mês passado, alguns usuários do TikTok tenham encontrado um conteúdo pro-ana perturbador em sua página For You, uma seção personalizada da plataforma que exibe vídeos que os usuários provavelmente desfrutam.
Descobrir, controlar danos e excluir conteúdo pró-ana se tornou um rito de passagem para as empresas da web. Em 2001, o Yahoo removeu 113 sites pró-ana de seus servidores. MySpace, Tumblr, Instagram, Pinterest, Reddit e muitas outras plataformas de mídia social enfrentaram problemas pró-ana. Esse histórico bem divulgado torna frustrante que o TikTok não estivesse melhor preparado, além de afirmar que não permite “conteúdo que promova hábitos alimentares que provavelmente causam problemas de saúde”. Mas agora que as políticas da TikTok estão sob um microscópio, que orientação a empresa seguirá de um longo histórico de regulamentação das comunidades pró-ana online e exatamente quão preocupados os usuários devem estar?
PARECER COM FIOS
SOBRE
Dra. Ysabel Gerrard é palestrante em mídia digital e sociedade na Universidade de Sheffield. Sua pesquisa sobre moderação de conteúdo de mídia social foi apresentada em locais como O guardião e The Washington Post. Ela também presta consultoria para empresas de mídia social, incluindo o Instagram.
O problema do TikTok agora é que sua página Para Você está funcionando exatamente como deveria: oferece aos usuários uma experiência personalizada e, portanto, agradável, mostrando o que eles provavelmente querem ver. Escrevi anteriormente sobre o mesmo problema ocorrendo no Instagram, Pinterest e Tumblr. Algoritmos de recomendação como este são o pão com manteiga das plataformas de mídia social. Quanto mais feliz você estiver em uma plataforma, mais provável ficará e, se permanecer, a empresa poderá reter sua lucrativa geração de dados.
Mas o problema – um problema que a maioria das grandes empresas de mídia social enfrentou – é que os algoritmos de recomendação não são realmente treinados para fazer julgamentos morais e relacionados à saúde sobre os tipos de conteúdo que recomendam. Você gosta de gatos? O TikTok pensa que você faz, com base no que você gosta e procura, para que seu algoritmo mostre mais gatos. Yay gatos! Mas a mesma fórmula exata se aplica a formas de conteúdo potencialmente prejudiciais. Você tem anorexia? O TikTok pensa que sim, então aqui estão vários vídeos de acionamento. Têm-no!
Em um artigo recente do BuzzFeed, alguns usuários do TikTok compartilharam histórias de recomendações de recebimento aleatório de vídeos pró-ana por meio da página Para você. É difícil descrever comportamentos pró-ana sem desencadear os leitores, mas eles podem envolver o compartilhamento de dicas de dieta e métodos de purga, escrever histórias pessoais e fazer parceria com um “amigo” para incentivar ainda mais a perda de peso. Sabemos de instituições de caridade como Beat que pacientes com transtorno alimentar geralmente relatam sentir-se “desencadeados” por certas imagens ou palavras. Se um usuário TikTok vê continuamente disparando postagens em sua página Para você, isso pode muito bem prejudicá-lo. Mas uma das frustrações que os pesquisadores de mídia social têm é que o funcionamento interno dos sistemas de recomendação, como a página Para você, é notoriamente opaco, dificultando a compreensão. porque usuários específicos veem determinadas recomendações, enquanto outros não. Um recente Novas mídias e sociedade O artigo observa como os usuários de mídias sociais costumam criar teorias elaboradas para descobrir como os sistemas de recomendação funcionam, o que o autor chama de “fofocas algorítmicas”.
Sem descartar as alegações de alguém sobre suas recomendações para você, os leitores devem saber que é improvável que os usuários que não estão participando de vídeos relacionados a distúrbios alimentares os recomendem aleatoriamente. Um porta-voz do TikTok explicou que os usuários também podem ajustar o conteúdo que vêem, por exemplo, “ouvindo” vídeos, clicando em “não estão interessados” e seguindo os usuários. “Ao fazer isso, com o tempo os usuários verão mais do conteúdo que preferem.”
Sempre que histórias como a do BuzzFeed aparecem, sempre me preocupo que as empresas de mídia social respondam entrando em pânico e proibindo todos conteúdo relacionado a distúrbios alimentares, mesmo que seja sobre recuperação ou suporte.
Os pesquisadores sabem há muito tempo que as mídias sociais e as comunidades online mais antigas podem oferecer apoio a pessoas com condições estigmatizadas, como distúrbios alimentares. Por exemplo, a decisão do Reddit de remover o sub r / proED em 2018 foi recebida com protestos dos membros da comunidade que explicaram que, apesar do nome, o sub não era realmente usado como espaço para promover distúrbios alimentares e funcionava mais como um grupo de apoio.
Quando moderado de forma mais adequada, não há motivo para o TikTok não oferecer um espaço extra para as pessoas expressarem seus sentimentos e compartilharem suas experiências de uma maneira altamente criativa. O TikTok também pode se tornar um recurso útil para pessoas que sofrem de distúrbios alimentares. O sigilo é uma das características de um distúrbio alimentar, o que significa que a mídia social às vezes existe como a única forma de apoio de quem sofre. Com isso em mente, o TikTok poderia desenvolver recursos de transtorno alimentar genuinamente úteis além de enviar aos usuários uma lista de detalhes de contato para instituições de caridade locais, “o equivalente a 2020 de entregar a um adolescente um folheto dobrável em três partes”, como escreveram recentemente os psiquiatras Neha Chaudhary e Nina Vasan em WIRED. O Pinterest, por exemplo, foi pioneiro em uma série de exercícios de bem-estar que recomenda aos usuários que procuram Pins relacionados a danos pessoais.
