TikTok tem um problema pró-anorexia

O problema do TikTok agora é que sua página Para Você está funcionando exatamente como deveria: oferece aos usuários uma experiência personalizada e, portanto, agradável, mostrando o que eles provavelmente querem ver. Escrevi anteriormente sobre o mesmo problema ocorrendo no Instagram, Pinterest e Tumblr. Algoritmos de recomendação como este são o pão com manteiga das plataformas de mídia social. Quanto mais feliz você estiver em uma plataforma, mais provável ficará e, se permanecer, a empresa poderá reter sua lucrativa geração de dados.

Mas o problema - um problema que a maioria das grandes empresas de mídia social enfrentou - é que os algoritmos de recomendação não são realmente treinados para fazer julgamentos morais e relacionados à saúde sobre os tipos de conteúdo que recomendam. Você gosta de gatos? O TikTok pensa que você faz, com base no que você gosta e procura, para que seu algoritmo mostre mais gatos. Yay gatos! Mas a mesma fórmula exata se aplica a formas de conteúdo potencialmente prejudiciais. Você tem anorexia? O TikTok pensa que sim, então aqui estão vários vídeos de acionamento. Têm-no!

Em um artigo recente do BuzzFeed, alguns usuários do TikTok compartilharam histórias de recomendações de recebimento aleatório de vídeos pró-ana por meio da página Para você. É difícil descrever comportamentos pró-ana sem desencadear os leitores, mas eles podem envolver o compartilhamento de dicas de dieta e métodos de purga, escrever histórias pessoais e fazer parceria com um "amigo" para incentivar ainda mais a perda de peso. Sabemos de instituições de caridade como Beat que pacientes com transtorno alimentar geralmente relatam sentir-se "desencadeados" por certas imagens ou palavras. Se um usuário TikTok vê continuamente disparando postagens em sua página Para você, isso pode muito bem prejudicá-lo. Mas uma das frustrações que os pesquisadores de mídia social têm é que o funcionamento interno dos sistemas de recomendação, como a página Para você, é notoriamente opaco, dificultando a compreensão. porque usuários específicos veem determinadas recomendações, enquanto outros não. Um recente Novas mídias e sociedade O artigo observa como os usuários de mídias sociais costumam criar teorias elaboradas para descobrir como os sistemas de recomendação funcionam, o que o autor chama de "fofocas algorítmicas".

Sem descartar as alegações de alguém sobre suas recomendações para você, os leitores devem saber que é improvável que os usuários que não estão participando de vídeos relacionados a distúrbios alimentares os recomendem aleatoriamente. Um porta-voz do TikTok explicou que os usuários também podem ajustar o conteúdo que vêem, por exemplo, "ouvindo" vídeos, clicando em "não estão interessados" e seguindo os usuários. "Ao fazer isso, com o tempo os usuários verão mais do conteúdo que preferem."

Sempre que histórias como a do BuzzFeed aparecem, sempre me preocupo que as empresas de mídia social respondam entrando em pânico e proibindo todos conteúdo relacionado a distúrbios alimentares, mesmo que seja sobre recuperação ou suporte.

Os pesquisadores sabem há muito tempo que as mídias sociais e as comunidades online mais antigas podem oferecer apoio a pessoas com condições estigmatizadas, como distúrbios alimentares. Por exemplo, a decisão do Reddit de remover o sub r / proED em 2018 foi recebida com protestos dos membros da comunidade que explicaram que, apesar do nome, o sub não era realmente usado como espaço para promover distúrbios alimentares e funcionava mais como um grupo de apoio.

Quando moderado de forma mais adequada, não há motivo para o TikTok não oferecer um espaço extra para as pessoas expressarem seus sentimentos e compartilharem suas experiências de uma maneira altamente criativa. O TikTok também pode se tornar um recurso útil para pessoas que sofrem de distúrbios alimentares. O sigilo é uma das características de um distúrbio alimentar, o que significa que a mídia social às vezes existe como a única forma de apoio de quem sofre. Com isso em mente, o TikTok poderia desenvolver recursos de transtorno alimentar genuinamente úteis além de enviar aos usuários uma lista de detalhes de contato para instituições de caridade locais, "o equivalente a 2020 de entregar a um adolescente um folheto dobrável em três partes", como escreveram recentemente os psiquiatras Neha Chaudhary e Nina Vasan em WIRED. O Pinterest, por exemplo, foi pioneiro em uma série de exercícios de bem-estar que recomenda aos usuários que procuram Pins relacionados a danos pessoais.