Para o lançamento do Modern Warfare III, a Activision introduziu um novo programa de moderação de voz anti-toxicidade, capaz de identificar automaticamente discurso prejudicial e tomar medidas correspondentes. A Activision destaca o sucesso do programa, revelando que mais de 2 milhões de contas foram penalizadas devido a comportamentos disruptivos no chat de voz.
Inicialmente lançado apenas em inglês na América do Norte, o programa expandiu sua cobertura global, excluindo a Ásia, e incluiu suporte para moderação em espanhol e português. A funcionalidade de moderação de voz foi estendida para incluir Modern Warfare II e Warzone.
Detecção de discursos de ódio deve banir jogadores
A Activision compartilhou algumas observações significativas do programa até o momento. A empresa lamentou que apenas um em cada cinco usuários tenha relatado discurso tóxico quando o sistema o identificou internamente. Embora a Activision possa tomar medidas sem depender exclusivamente dos relatórios dos jogadores, a participação direta dos jogadores ainda é considerada “crítica” para otimizar o desempenho do sistema.
Como parte de seus esforços para incentivar mais denúncias, a Activision implementou mensagens de agradecimento aos jogadores que relatam, e planeja fornecer feedback adicional no futuro quando ações forem tomadas com base em denúncias.
Desde a implementação do sistema de moderação de chat de voz, os jogos da franquia Call of Duty que o utilizam experimentaram uma redução de 8% nos casos de recorrência de comportamentos inadequados. Houve ainda uma significativa diminuição de aproximadamente 50% nos casos graves de chat tóxico desde o lançamento de Modern Warfare III em novembro de 2023.
Aqueles detectados usando linguagem ofensiva podem ter seu chat de voz silenciado, além de outras penalidades, como restrição de recursos sociais e incapacidade de usar chat por texto.
A Activision expressou seu compromisso contínuo em fortalecer o sistema anti-toxicidade, melhorando constantemente as ferramentas e expandindo o suporte para mais idiomas. A empresa atualizou o código de conduta do Call of Duty para enfatizar a importância do respeito mútuo, destacando que não tolera bullying, assédio, discurso de ódio ou qualquer forma de discriminação.
A empresa destaca que esse esforço contínuo visa garantir que a experiência do Call of Duty seja justa e agradável para todos. A Activision não está sozinha nesse esforço, pois outras empresas de jogos, como a Microsoft para usuários do Xbox, também implementam medidas de moderação de voz para combater a toxicidade.