Razão doentia que a morte de Ronnie McNutt se tornou viral

Analistas de mídia social dizem que há um motivo pelo qual a morte de um veterano dos EUA se espalhou tão longe e rápido esta semana: os resultados financeiros dos negócios.

A transmissão ao vivo do Facebook do veterano americano de 33 anos Ronnie McNutt em 31 de agosto foi inicialmente considerada como não violando os padrões da corporação global.

Um dia depois, a megacorporação global mudou de ideia.

Mas, mais de uma semana depois, ele ainda está lá. Usuários involuntários do Facebook, Instagram, Twitter e TikTok estão inserindo imagens gráficas em seus feeds.

RELACIONADO: Aviso para manter as crianças longe do TikTok hoje

Por quê?

É tudo um jogo de números, diz o pesquisador da Flinders University, Dr. Zac Rogers.

Algoritmos de mídia social adoram essas coisas, diz ele. Eles são programados para chamar a atenção dos telespectadores. Eles querem engajamento. Eles querem cliques. E sua inteligência artificial não se importa com o que é impulsionado ou o que contém.

“O usuário é, na verdade, um recurso do qual o valor é extraído por meios de exploração”, diz o Dr. Rogers. “A maioria dos usuários de plataformas de internet não tem ideia de que pode estar sujeita ao micro-direcionamento, mas também é um tipo de matéria-prima cognitiva na qual a internet funciona. E a versão de alta octanagem desse combustível é o extremismo e o ódio. ”

A moderação pode ser difícil. Mas isto pode ser feito.

Sabemos que mesmo o relance de uma mãe amamentando será removido rapidamente. Então, por que não suicídios trágicos como os de Ronnie McNutt?

UMA CRISE ALGORÍMICA

O amigo de McNutt, Josh Steen, disse à mídia norte-americana que não sabia como a crise foi tratada.

“Se uma mulher postar uma foto de topless, o software deles detectará, removerá e proibirá sua conta”, disse Steen. “Isso é mais ofensivo do que meu amigo se matando?”

O Sr. Steen disse que ele e outros tentaram obter ajuda para seu amigo angustiado. Eles chamaram de família. Eles chamaram a polícia. Eles também apelaram repetidamente ao Facebook para intervir e encerrar a transmissão ao vivo.

O fluxo continuou por duas horas. Uma hora e meia após sua morte, alguém (ou algo) do Facebook finalmente respondeu. A transmissão não violou as diretrizes da comunidade, disse o comunicado.

Portanto, a filmagem permaneceu online.

“O vídeo de Ronnie ficou no ar por oito horas e já havia sido compartilhado até um nível viral antes de ser retirado”, disse Steen à Forbes. “Se o Facebook tivesse feito o seu trabalho, este vídeo não seria público.”

RELACIONADO: PM condena vídeo gráfico de suicídio TikTok

Então, os pais começaram a notar a extraordinária filmagem que aparecia nos feeds de recomendações baseadas em algoritmo TikTok “For You” de seus adolescentes. A família de McNutt enfrentou uma enxurrada de assédio.

Seu perfil no Facebook foi inundado com instruções sobre como encontrar a filmagem. Arrecadadores de fundos falsos têm buscado o apoio de seus pais para as campanhas.

“Sua família inteira o viu cometer suicídio”, disse Steen. “Agora eles estão sendo forçados a assistir repetidamente.”

O Facebook, o Twitter e o TikTok ainda não detalham como a filmagem pôde ser inserida em feeds de recomendação automática e por que foi permitida a persistência por tanto tempo.

Não é a primeira vez que eles enfrentam tal escrutínio.

ESTA NÃO É A PRIMEIRA VEZ

No início deste ano, o TikTok levou três horas para responder ao suicídio transmitido ao vivo por um jovem de 19 anos.

Em 2017, uma menina de 12 anos da Geórgia se suicidou no Facebook após ser abusada sexualmente. Permaneceu online por até duas semanas.

Dias depois, um aspirante a ator se matou durante uma transmissão ao vivo de um carro em uma rua de Los Angeles. Então, um jovem de 14 anos da Flórida fez o mesmo.

Em 2019, Brenton Tarrant transmitiu ao vivo seu massacre na Nova Zelândia. Gravações e clipes se espalham rapidamente.

“Não permitimos que nenhuma organização ou indivíduo que proclame uma missão violenta ou esteja envolvido na violência tenha presença no Facebook”, disse a corporação em um comunicado na época.

Ainda assim, a incitação do presidente dos Estados Unidos, Donald Trump, “quando começa o saque, começa o tiroteio”, a resposta aos protestos em Minneapolis em maio continua online.

RELACIONADO: Fórmula sinistra por trás de seu feed do Facebook

O Facebook tem sido repetidamente acusado de promover ativamente esse tipo de conteúdo. Supostamente, os sistemas de inteligência artificial o identificaram como o meio mais eficiente de atrair a atenção e interação do espectador.

E aqueles que desejam promover mensagens específicas – sejam eles trolls, propagandistas ou marqueteiros – sabem como “manipular” os sistemas, diz Rogers. Perfis falsos. Muitas contas de ‘bot’. ‘Influenciadores’ de alto perfil cuidadosamente elaborados. Todos são participantes ativos na corrida para fazer com que mensagens específicas se tornem ‘virais’.

“Seus algoritmos estão falhando, quem está revisando essas coisas está falhando”, disse Steen sobre a morte de seu amigo se tornando viral. “Vai continuar acontecendo, vai piorar se algo não for feito. Este deve ser o ponto de ruptura. ”

ALGORITMOS SECRETOS

Google. Facebook. Twitter. TikTok. Quase todas as mídias sociais são obsessivas em manter seus algoritmos de classificação em segredo.

Mas trolls, lobistas, influências e serviços de propaganda os entenderam bem o suficiente para curvá-los a seus propósitos.

“Muitos observadores concordam que já passou da hora de implementar mais regulamentação e supervisão no setor de tecnologia”, escreve o pesquisador do Brookings Institution, Alex Engler.

“Ainda assim, as práticas dessas empresas são obscurecidas para repórteres, pesquisadores e reguladores.”

Trata-se de lucros, não de usuários, diz ele.

“Muito disso alimenta uma indústria de tecnologia de publicidade que permite a discriminação racial e de gênero na publicidade de habitação e emprego, avalia as interações do Airbnb e do Grubhub para atribuir pontuações secretas do consumidor para clientes individuais e alimenta a desinformação perigosa.”

A economia da atenção, diz o Dr. Rogers, é a extração via exploração.

Os usuários pensam que estão obtendo conteúdo gratuito adaptado às suas preferências e necessidades. Mas essas corporações não são altruístas.

Rogers afirma que os usuários são a mão-de-obra gratuita responsável pela publicidade na Internet.

“Você está constantemente sendo cutucado, dirigido e manipulado para aquiescer ainda mais. Quanto mais atenção cada um de nós dá à internet, mais nossa capacidade de refletir sobre as nuances se esgota. À medida que começamos a pensar em termos mais binários, somos ainda mais socializados em um sistema projetado para eficiência da máquina e extração econômica por um punhado de corporações. ”

Esqueça as máquinas de combate de metal brilhante. A IA está dominando o mundo por meio da mídia social.

“Se isso soa como se estivéssemos sendo estimulados a nos tornarmos mais como máquinas, é porque somos”, diz Rogers. “As máquinas veem os humanos como ruído. O ruído é ineficiente. Quando os humanos aquiescem, as máquinas parecem mais inteligentes, mas não são nada disso. São os humanos que foram diminuídos. ”

DOMINANDO O OESTE SELVAGEM

Campanhas cada vez mais organizadas têm conseguido convencer grandes nomes como Coca Cola, Adidas e Unilever a puxar sua publicidade do Facebook sobre tal comportamento.

Mas o CEO Mark Zuckerburg acha que é tudo uma tempestade em uma xícara de chá: “Meu palpite é que todos esses anunciantes estarão de volta à plataforma em breve”, ele teria dito à equipe em um memorando interno.

A empresa nega enfaticamente as reivindicações.

“Não nos beneficiamos do ódio”, diz uma resposta do Facebook à mídia americana.

“Investimos bilhões de dólares a cada ano para manter nossa comunidade segura e estamos em profunda parceria com especialistas externos para revisar e atualizar nossas políticas.”

Mas a IA do Facebook concorda?

“Nada disso é ficção científica”, diz Rogers.

“A interface homem-computador tem sido uma zona em que a cognição humana foi submetida a engenharia reversa por quarenta anos. Cada peculiaridade, bug e vulnerabilidade foram estudados e reaplicados para fazer os computadores parecerem mais inteligentes, mais completos. Mas é inteiramente baseado em engano. A internet ampliou esse fenômeno. A mídia social o sobrecarregou. Em escala, é uma tentativa de construir uma economia inteiramente protética. Uma economia terraformada baseada na exploração da mente humana. ”

É uma economia onde a IA está no controle.

“O pior da tecnologia é conhecido apenas por um boato de cientistas de dados internos”, escreve Engler. “Eles conhecem os resultados das consultas ao banco de dados que nunca chegaram a um memorando e as perguntas que não devem ser feitas aos seus próprios dados.”

Agora, uma dessas fontes internas se manifestou.

O engenheiro de software Ashok Chandwaney acabou de sair do Facebook após cinco anos. Em sua carta de demissão, ele declarou “Estou saindo porque não tenho mais estômago para contribuir para uma organização que está lucrando com o ódio nos Estados Unidos e no mundo”.

Jamie Seidel é um escritor freelance | @JamieSeidel