Para o lançamento do Modern Warfare III, a Activision introduziu um novo programa de moderação de voz anti-toxicidade, capaz de identificar automaticamente discurso prejudicial e tomar medidas correspondentes. A Activision destaca o sucesso do programa, revelando que mais de 2 milhões de contas foram penalizadas devido a comportamentos disruptivos no chat de voz.

Inicialmente lançado apenas em inglês na América do Norte, o programa expandiu sua cobertura global, excluindo a Ásia, e incluiu suporte para moderação em espanhol e português. A funcionalidade de moderação de voz foi estendida para incluir Modern Warfare II e Warzone.

Detecção de discursos de ódio deve banir jogadores

A Activision compartilhou algumas observações significativas do programa até o momento. A empresa lamentou que apenas um em cada cinco usuários tenha relatado discurso tóxico quando o sistema o identificou internamente. Embora a Activision possa tomar medidas sem depender exclusivamente dos relatórios dos jogadores, a participação direta dos jogadores ainda é considerada “crítica” para otimizar o desempenho do sistema.

Como parte de seus esforços para incentivar mais denúncias, a Activision implementou mensagens de agradecimento aos jogadores que relatam, e planeja fornecer feedback adicional no futuro quando ações forem tomadas com base em denúncias.

Desde a implementação do sistema de moderação de chat de voz, os jogos da franquia Call of Duty que o utilizam experimentaram uma redução de 8% nos casos de recorrência de comportamentos inadequados. Houve ainda uma significativa diminuição de aproximadamente 50% nos casos graves de chat tóxico desde o lançamento de Modern Warfare III em novembro de 2023.

Aqueles detectados usando linguagem ofensiva podem ter seu chat de voz silenciado, além de outras penalidades, como restrição de recursos sociais e incapacidade de usar chat por texto.

A Activision expressou seu compromisso contínuo em fortalecer o sistema anti-toxicidade, melhorando constantemente as ferramentas e expandindo o suporte para mais idiomas. A empresa atualizou o código de conduta do Call of Duty para enfatizar a importância do respeito mútuo, destacando que não tolera bullying, assédio, discurso de ódio ou qualquer forma de discriminação.

A empresa destaca que esse esforço contínuo visa garantir que a experiência do Call of Duty seja justa e agradável para todos. A Activision não está sozinha nesse esforço, pois outras empresas de jogos, como a Microsoft para usuários do Xbox, também implementam medidas de moderação de voz para combater a toxicidade.