O coronavírus está forçando gigantes da tecnologia a fazer uma aposta arriscada na IA

Hoje, vamos falar sobre alguns dos funcionários da linha de frente do Facebook e do Google que trabalham na pandemia: os moderadores de conteúdo que mantêm o site funcionando dia após dia. Como a maioria das histórias sobre moderadores de conteúdo, é um conto sobre trocas difíceis. E as ações tomadas nos últimos dias pelo Facebook e pelo YouTube terão implicações significativas para o futuro dos negócios.

Primeiro, porém, um pouco de história.

A princípio, a moderação de conteúdo nas redes sociais era um problema de negócios: deixar a nudez e os nazistas e a comunidade entrar em colapso. Mais tarde, foi um problema legal e regulatório: apesar das proteções oferecidas pela Seção 230, as empresas têm uma obrigação legal de remover propaganda terrorista, imagens de abuso infantil e outras formas de conteúdo. À medida que serviços como o YouTube e o Facebook aumentavam a base de usuários em bilhões, a moderação do conteúdo se tornava mais um problema de escala: como você analisa os milhões de postagens por dia que são denunciadas por violar suas políticas?

A solução, como explorei no ano passado em uma série de peças para The Cibersistemas, era terceirizar o trabalho para grandes empresas de consultoria. Após as eleições de 2016, que revelaram um déficit de moderadores de conteúdo em todas as grandes redes sociais, as empresas de tecnologia contrataram dezenas de milhares de moderadores em todo o mundo através de empresas como Accenture, Cognizant e Genpact. Isso, no entanto, criou um privacidade problema. Quando seus moderadores trabalham em casa, você pode aplicar controles rígidos aos computadores deles para monitorar o acesso que eles têm aos dados do usuário. Quando eles trabalham para terceiros, esses dados do usuário correm um risco muito maior de vazar para o mundo exterior.

As questões de privacidade que envolvem a contratação de moderadores geralmente não recebem muita atenção de jornalistas como eu. (Em vez disso, temos prestado atenção às condições de trabalho geralmente terríveis e ao fato de um subconjunto de trabalhadores estar desenvolvendo um transtorno de estresse pós-traumático a partir do trabalho.) Para o Facebook, em particular, a reação das eleições pós-2016 surgiu em parte devido a preocupações com a privacidade – depois que o mundo soube como a Cambridge Analytica pretendia usar as informações obtidas do uso de pessoas no Facebook, a confiança na empresa caiu vertiginosamente.

É por isso que sites de moderação de conteúdo terceirizados para o Facebook e o YouTube foram projetados como salas seguras. Os funcionários podem trabalhar apenas em “pisos de produção” designados que devem receber e retirar. Eles não podem trazer dispositivos pessoais, para que não tirem fotos clandestinas ou tentem contrabandear dados de outra maneira. Isso pode criar confusão para os trabalhadores – eles geralmente são demitidos por trazer inadvertidamente telefones para a área de produção, e muitos deles se queixaram de como a divisão os separa de suas redes de suporte durante o dia. Mas nenhuma empresa está disposta a relaxar essas restrições por medo da crise das relações públicas, o que pode acarretar uma perda de dados de alto nível.

Avanço rápido de hoje, quando uma pandemia está se espalhando pelo mundo a uma velocidade assustadora. Ainda precisamos de tantos moderadores trabalhando para policiar as redes sociais, se não mais – o uso está claramente aumentando. Se você os trouxer para a área de produção para continuar trabalhando normalmente, você certamente contribuirá para a disseminação da doença. E, no entanto, se você deixá-los trabalhar em casa, você convida um desastre de privacidade em um momento em que as pessoas (especialmente as doentes) serão hiper-sensíveis ao uso indevido de seus dados pessoais.

Diga que você é o Facebook. O que você faz?

Até segunda-feira, a resposta parecia muito com negócios, como de costume. Sam Biddle contou a história em A interceptação Semana Anterior. (Aliás, a publicação que A interface é frequentemente confundido.)

As discussões do fórum interno de funcionários do Facebook, analisado pelo The Intercept, revelam um estado de confusão, medo e ressentimento, com muitos trabalhadores contratados por hora precariamente empregados, declarando que, ao contrário das declarações do Facebook, eles são impedidos por seus empregadores reais de trabalhar em casa , apesar da viabilidade técnica e dos benefícios claros para a saúde pública de fazê-lo.

As discussões se concentram nos contratados do Facebook empregados pela Accenture e WiPro em instalações em Austin, Texas, e Mountain View, Califórnia, incluindo pelo menos dois escritórios no Facebook. (Em Mountain View, um estado local de emergência já foi declarado por causa do coronavírus.) O Intercept viu posts de pelo menos seis contratados reclamando por não poderem trabalhar em casa e se comunicando com mais dois contratados diretamente sobre o assunto. Um funcionário da Accenture disse ao The Intercept que toda a equipe de mais de 20 contratados havia sido informada de que não era permitido trabalhar em casa para evitar infecções.

Para ser justo, o Facebook estava longe de ser o único a não ter implantado um plano completo para seus contratados na última quinta-feira. Algumas empresas americanas ainda estão debatendo o que fazer com suas forças de trabalho em tempo integral esta semana. Mas, como observa Biddle, o Facebook não era um deles: já encorajava os funcionários a trabalhar em casa. Isso levou a críticas justificadas de trabalhadores contratados – alguns dos quais pediram que o Facebook aja, Noah Kulwin relatou em O contorno. (Os googlers estão divulgando uma petição semelhante em nome de seus próprios colegas de trabalho, relatou Rob Price em Negócios dentror.)

Na segunda-feira à noite, o Facebook agiu. A partir de terça-feira, começou a informar todos os moderadores de contratos que eles não deveriam entrar no escritório. Louvável, o Facebook continuará a pagá-los durante a interrupção. Aqui está o anúncio:

Tanto para os funcionários em tempo integral quanto para a força de trabalho contratada, há algum trabalho que não pode ser feito em casa devido a razões de segurança, privacidade e legais. Tomamos precauções para proteger nossos funcionários, reduzindo o número de pessoas em qualquer escritório, implementando o trabalho recomendado em casa globalmente, espalhando fisicamente as pessoas em qualquer escritório e fazendo uma limpeza adicional. Dadas as preocupações de saúde pública em rápida evolução, estamos tomando medidas adicionais para proteger nossas equipes e trabalharemos com nossos parceiros ao longo desta semana para enviar todos os contratados que realizam a revisão de conteúdo para casa, até novo aviso. Garantimos que todos os trabalhadores sejam pagos durante esse período.

A notícia seguiu um anúncio semelhante do Google no domingo. Foi seguido por um anúncio conjunto do Facebook, Google, LinkedIn, Microsoft, Reddit, Twitter e YouTube de que eles “estão trabalhando juntos nos esforços de resposta ao COVID-19”, incluindo um compromisso de remover fraudes e informações incorretas relacionadas ao vírus e promover “conteúdo autoritário”. Disseram que o anúncio não está relacionado à mudança nas estratégias de moderação de conteúdo, mas aponta para um futuro em que as empresas colaboram mais na remoção de postagens prejudiciais.

OK, então os moderadores de conteúdo foram enviados principalmente para casa. Como as coisas ficam … moderadas? O Facebook permitiu que alguns moderadores que trabalham com conteúdo menos sensível – ajudando a treinar sistemas de aprendizado de máquina para rotular conteúdo, por exemplo – trabalhem em casa. Um trabalho mais sensível está sendo transferido para funcionários em período integral. Mas a empresa também começará a se apoiar mais nesses sistemas de aprendizado de máquina, em um esforço para automatizar a moderação de conteúdo.

O objetivo a longo prazo de todas as redes sociais é colocar a inteligência artificial no comando. Mas em dezembro, o Google estava me dizendo que o dia em que isso seria possível ainda estava muito longe. E, no entanto, na segunda-feira, a empresa – por necessidade – mudou de tom. Aqui está Jake Kastrenakes em The Cibersistemas:

O YouTube dependerá mais da IA ​​para moderar vídeos durante a pandemia de coronavírus, já que muitos de seus revisores humanos estão sendo enviados para casa para limitar a propagação do vírus. Isso significa que os vídeos podem ser retirados do site apenas porque são sinalizados pela AI como potencialmente violadores de uma política, enquanto os vídeos normalmente podem ser encaminhados para um revisor humano para confirmar que devem ser retirados. […]

Devido à maior dependência da IA, o YouTube basicamente diz que devemos esperar que alguns erros sejam cometidos. Mais vídeos podem acabar sendo removidos, “incluindo alguns que não violam as políticas”, escreve a empresa em uma postagem no blog. Outro conteúdo não será promovido ou será exibido na pesquisa e nas recomendações até que seja revisado por humanos.

O YouTube diz que em grande parte não emitirá greves – o que pode levar a uma proibição – de conteúdo retirado pela IA (com exceção dos vídeos que possui uma “alta confiança”, são contrários às suas políticas). Como sempre, os criadores ainda podem apelar de um vídeo retirado, mas o YouTube alerta que esse processo também será adiado devido à redução da moderação humana.

Tudo isso representa uma grande aposta na IA em um momento em que, como a própria empresa observa, ela ainda é propensa a erros. E na segunda-feira à noite, o Facebook e o Twitter seguiram o exemplo. Aqui está Paresh Dave na Reuters:

O Facebook também disse que a decisão de confiar mais em ferramentas automatizadas, que aprendem a identificar material ofensivo, analisando pistas digitais para aspectos comuns a quedas anteriores, tem limitações.

“Podemos ter um tempo de resposta mais longo e cometer mais erros como resultado”, afirmou.

O Twitter disse que também intensificaria o uso de automação semelhante, mas não proibiria os usuários com base apenas na aplicação automatizada, devido a preocupações com a precisão.

Muitos problemas das plataformas tecnológicas com reguladores e autoridades eleitas nos últimos dois anos se resumiram à moderação de conteúdo. Quais postagens eles permitiram permanecer acordados? Quais eles erroneamente derrubaram? Quais posts eles ampliaram e quais suprimiram?

Em escala global, as empresas estavam cometendo muitos erros, mesmo com o benefício do julgamento humano. A partir de terça-feira, eles confiarão significativamente mais às máquinas. O primeiro dia não foi ótimo. Aqui está Josh Constine em TechCruch:

O Facebook parece ter um bug no filtro de spam do Feed de notícias, causando URLs para sites legítimos, incluindo Médio, BuzzFeede EUA hoje para ser impedido de ser compartilhado como postagens ou comentários. O problema está bloqueando compartilhamentos de algum conteúdo relacionado ao coronavírus, enquanto alguns links não relacionados são permitidos, embora não esteja claro o que exatamente é ou não está desativando o filtro. O Facebook tem tentado combater as informações erradas relacionadas ao surto, mas pode ter ficado zeloso demais ou ter experimentado um erro técnico.

Tenho certeza de que o bug será corrigido em pouco tempo. (O Facebook diz que é não está relacionado a alterações na moderação do conteúdo.) Enquanto isso, meus pensamentos estão com os moderadores que continuavam aparecendo para trabalhar todos os dias durante a semana passada, mesmo sabendo que isso os colocava em perigo físico. Um moderador do Facebook que trabalha para a Accenture lembrou como a empresa começou a lançar mais desinfetante para as mãos em fevereiro, à medida que a ameaça piorava, mas esperou até terça-feira para pedir para ele ficar em casa. Isso ocorreu depois de dias, se não semanas, de funcionários dizendo à Accenture que seus parceiros e colegas de quarto haviam sido expostos à doença.

“Estávamos trabalhando com pessoas que foram expostas, definitivamente”, o moderador me disse. “Acho que eles se mudaram tarde demais e as ações inicialmente tomadas foram claramente insuficientes.”

A relação

Hoje em notícias que podem afetar a percepção pública das grandes plataformas de tecnologia.

Tendência: Facebook planeja conceder US $ 100 milhões em doações em dinheiro e créditos de anúncios para até 30.000 pequenas empresas em 30 países ao redor do mundo. O dinheiro visa ajudá-los a lidar com o impacto econômico do surto de coronavírus.

Tendência: Facebook fez parceria com a Rede Internacional de Verificação de Fatos para doar US $ 50.000 a organizações que trabalham com informações errôneas relacionadas à COVID-19. O orçamento total da parceria é de US $ 1 milhão. (Poynter)

Tendência: Um grupo das maiores empresas de tecnologia dos EUA se uniu para combater fraudes e desinformação relacionadas ao coronavírus. O grupo inclui Facebook, Google, LinkedIn, Microsoft, Reddit, Twittere Youtube.

Pandemia

Aqui está o mais recente nos Estados Unidos:

Aqui está um mapa de onde os casos de coronavírus foram confirmados até agora nos Estados Unidos. (Sara G. Miller e Jiachuan Wu / NBC News)

Por que a implementação do teste COVID-19 foi tão lenta nos Estados Unidos? Os testes que temos geralmente precisam ser enviados para um laboratório, e o processo é lento. Nicole Westman / The Cibersistemas)

A Organização Mundial da Saúde está transmitindo ao vivo TikTok para dar às pessoas dicas de como permanecer seguro e dissipar mitos sobre o COVID-19. (TikTok)

Preocupado, você pode ter COVID-19? O Vox.com reuniu um bom guia para as perguntas mais comuns sobre o assunto, incluindo como ele se espalha e quais são os sintomas. (Lois Parshley / Vox)

Aqui está o que está acontecendo com as grandes empresas:

Alfabeto empresa de assistência médica Verily realizou testes para cerca de 20 pessoas em seu primeiro dia de triagem para o coronavírus. A empresa disse que está trabalhando com o estado da Califórnia para expandir o programa. (Gerrit De Vynck / Bloomberg)

Facebook está adicionando US $ 1.000 aos próximos salários de seus funcionários para lidar com as consequências do coronavírus. Também está dando a todos todo o seu bônus no trimestre, independentemente do desempenho.

Google está adiando o lançamento de seu site informativo de coronavírus para “no final desta semana”. O site estava no centro da controvérsia sobre a qual conversamos ontem. (Dieter Bohn / The Cibersistemas)

maçã mantém suas lojas de varejo fora da China continental fechadas indefinidamente, à medida que a disseminação global do coronavírus continua. O fabricante do iPhone tinha como alvo 27 de março a reabertura de locais nos EUA e em outras partes do mundo. (Nick Statt / The Cibersistemas)

Demanda por Amazonas a entrega está aumentando à medida que mais pessoas são forçadas a ficar em casa. Alguns trabalhadores da Amazon temem que a situação esteja criando uma potencial crise de saúde e dizem que a empresa não está fazendo o suficiente para protegê-los. (Caroline O’Donovan e Ken Bensinger / BuzzFeed)

Amazonas está priorizando o envio de “artigos básicos, suprimentos médicos e outros produtos de alta demanda” devido à pandemia de coronavírus. A empresa também está suspendendo parte de seu programa “Cumprimento pela Amazon”, que normalmente fornece serviços de armazenamento e remessa para produtos de vendedores terceirizados. (Darrell Etherington / TechCrunch)

Pelo menos cinco trabalhadores em Amazonas armazéns na Europa contrataram o coronavírus. É um desenvolvimento preocupante para uma empresa que já luta para contratar pessoas suficientes para lidar com o aumento nos pedidos. (Matt Day, Daniele Lepido, Helene Fouquet e Macarena Munoz Montijano / Bloomberg)

CVSO Chief Medical Officer da empresa enviou aos funcionários um e-mail com dicas sobre como permanecer seguro durante a pandemia de coronavírus. Incluía desinformação surpreendentemente semelhante das dicas falsas de Stanford que desmembramos aqui. Não é uma boa olhada para uma farmácia!

Uber expandiu sua política anunciada anteriormente sobre subsídios por doença para motoristas durante a pandemia de coronavírus. Agora, os motoristas que obtiverem resultados positivos para o COVID-19 ou tiverem as suas contas Uber suspensas como resultado de conselhos de saúde pública terão direito a até 14 dias de licença médica paga. (Andrew J. Hawkins / The Cibersistemas)

Uber e Lyft suspendeu o Uber Pool e compartilhou passeios devido ao agravamento do surto de COVID-19. O UberX e o Uber Eats ainda estão em execução. (Ryan Broderick / BuzzFeed)

Em outro lugar:

O coronavírus provocou uma onda de doações diretas para indivíduos e empresas mais atingidos pela crise. As campanhas de doação são frequentemente organizadas nas mídias sociais. (Nicholas Kulish / O jornal New York Times)

Com milhões de pessoas trabalhando e aprendendo em casa durante a pandemia, as redes da Internet estão sendo levadas ao limite. Muitos provedores estão lançando novas políticas para ajudar as pessoas que não podem pagar suas contas e se preparando para aumentar a capacidade nas redes, se necessário. (Davey Alba e Cecilia Kang / O jornal New York Times)

O teste de coronavírus não deve ser tão difícil, mas o investimento limitado na tecnologia necessária significa que os EUA estão atrasados ​​em relação a outros países em termos de testes rápidos e confiáveis. (Nicole Wetsman / The Cibersistemas)

Coronavírus está fazendo Instagram mais íntimo. Sem um fluxo constante de fotos de brunch e selfies de férias na praia, a plataforma se transformou em álbuns de close-up dos dias passados ​​enfiados no interior. (Kaitlyn Tiffany / O Atlantico)

Governando

DepartmentO Departamento de Justiça retirou a acusação de dois anos de uma empresa russa acusada na investigação por interferência nas eleições de Mueller. A empresa era uma das três empresas indiciadas por supostamente realizar um esquema de longo prazo para interferir criminalmente nas eleições de 2016. Isso parece um desastre. Aqui está Spencer S. Hsu em The Washington Post:

Os assistentes do procurador dos EUA Timothy Shea, de Washington, e o procurador-geral adjunto de Segurança Nacional, John C. Demers, citaram uma “mudança no balanço da prova do governo devido a uma determinação de classificação”, de acordo com um documento de nove páginas acompanhado de fatos sob selo. .

Os promotores também citaram o fracasso da empresa, Concord Management and Consulting, em cumprir as intimações do julgamento e a apresentação de uma declaração “enganosa, na melhor das hipóteses” por Yevgeniy Prigozhin, co-réu e fundador da empresa. Prigozhin é um magnata da restauração e contratado militar conhecido como “chef de Putin” por causa de seus laços com o presidente russo Vladimir Putin.

Do Facebook O problema de desinformação está enraizado em seu modelo de negócios: anúncios segmentados por dados e conteúdo otimizado por algoritmos. Em um novo relatório, os pesquisadores da Ranking Digital Rights definem uma receita para consertar a empresa. Aqui está uma boa entrevista com um dos co-autores do relatório. (Russell Brandom / The Cibersistemas)

Indústria

⭐Ampliação tornou-se o local em que trabalhamos, estudamos e fazemos festas hoje em dia. E enquanto a empresa estava preparada para crescer quando o coronavírus começou a se espalhar, nada poderia prepará-la para se tornar um fenômeno cultural. Aqui está Taylor Lorenz em O jornal New York Times:

Um grupo do Facebook para jovens presos em casa chamado Zoom Memes for Self Quaranteens, fundado há menos de uma semana, já cresceu para mais de 150.000 membros.

Estudantes universitários de todo o país participam de encontros com zoom oculto. Pais de alunos da sexta série do Rosenbaum Yeshiva de North Jersey organizaram um “recesso” de zoom para seus filhos. O Ethel’s Club, uma plataforma de bem-estar, está realizando leituras de tarô do Zoom, trabalho respiratório e hangouts de cannabis.

É um momento de alto risco para o Zoom, que foi fundado em 2011 por Eric Yuan, ex-executivo da Cisco Systems. Seu súbito cachê cultural também traz novas preocupações sobre privacidade, segurança, moderação de conteúdo, segurança para jovens e sensibilidade à seriedade da pandemia. Há também a pequena questão de manter o serviço em funcionamento.

Um dia na vida de um mensageiro de bicicleta que anda de bicicleta DoorDash, Uber Eatse Postmates, na época do coronavírus. “Eu pensei que estaria recebendo dicas idiotas. Não estou recebendo gorjetas “, disse ele. Gente – a hora de dar dicas de bunda grande é agora. (Matt DeCaro / Vice)

Aparelhos para dormir – como o anel Oura usado por Jack Dorsey – estão em todo lugar. Meu principal argumento aqui é que Dorsey ainda está dormindo muito bem. (Ruth Reader / Fast Company)

Os serviços online da Nintendo caíram temporariamente. Pode ser um reflexo da alta demanda durante a pandemia. (Michael McWhertor / Polígono)

Oculus Quest do Facebook está recebendo uma grande reforma na interface do usuário que, segundo a empresa, representa “um passo em direção à realidade virtual, tornando-se a próxima plataforma de computação”. (Sam Byford / The Cibersistemas)

Camafeu transformou as celebridades da lista D em uma máquina de monetização viciante, permitindo-lhes cobrar pelos gritos. Agora, as pessoas pagam entre US $ 5 e US $ 2.500 para enviar vídeos curtos, entregues por texto ou e-mail. E você pode fazer isso em casa. O negócio perfeito da pandemia! (Patrick J. Sauer / Marcador)

Coisas para fazer

Coisas para ocupar você online durante a quarentena.

Navegue nesta lista de projetos que podem ajudar com a resposta COVID-19. É voltado para engenheiros de software, mas qualquer pessoa pode fazer uma contribuição. Designers e gerentes de produto provavelmente também seriam úteis aqui. Assim como qualquer pessoa que possa doar.

Dê local. Apoie uma empresa local comprando um cartão-presente online. Muito por onde escolher em São Francisco, Austin, Chicago, Nova York e muito mais.

Save Our Faves é uma idéia semelhante focada em San Francisco, de Mike e Kaitlyn Krieger. (Você pode se lembrar de Mike de projetos anteriores como o Instagram.)

Aqui estão 450 cursos gratuitos da Ivy League que você pode fazer em casa. Seja inteligente enquanto passa o tempo!

Faça um desses brindes. Uma lista de classificação definitiva de um ex Beira funcionário.

Toque Kingdom Rush Frontiers (iOS e Android) e Origens do Rush do Reino (iOS e Android), dois dos melhores jogos de estratégia de defesa de torre já feitos. Passei dias da minha vida jogando esse jogo e agora eles ficam livres por uma semana.

Inscrever-se para Shudder, um serviço de streaming de filmes de terror. É grátis pelos próximos 30 dias. Distraia-se do terror com uma forma mais divertida de terror!

E finalmente…

Fale Conosco

Envie dicas, comentários, perguntas e maneiras de passar o tempo em ambientes fechados: [email protected] e [email protected].