A inteligência artificial (IA) do gigante da tecnologia Google teria sinalizado as contas dos pais por possíveis abusos por fotos nuas de seus filhos doentes.
O pai disse que, depois de usar seu smartphone Android para tirar fotos de uma infecção na virilha de seu filho, a gigante da tecnologia sinalizou as imagens como material de abuso sexual infantil (CSAM), citando o NYT, informou o The Cibersistemas.
A empresa encerrou suas contas e apresentou um relatório ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e estimulou uma investigação policial.
Ele destaca as complicações de tentar diferenciar um abuso em potencial de uma foto inocente, uma vez que se torna parte da biblioteca digital de um usuário, seja em seu dispositivo pessoal ou no armazenamento em nuvem.
O incidente ocorreu em fevereiro de 2021, quando alguns consultórios médicos ainda estavam fechados devido à pandemia de Covid-19.
De acordo com a reportagem, Mark (cujo sobrenome não foi revelado) notou inchaço na região genital do filho e, a pedido de uma enfermeira, enviou imagens do problema antes de uma videoconsulta. O médico acabou prescrevendo antibióticos que curaram a infecção.
Mark recebeu uma notificação do Google dois dias depois de tirar as fotos, afirmando que suas contas foram bloqueadas devido a “conteúdo prejudicial” que era “uma violação grave das políticas do Google e pode ser ilegal”.
Como muitas empresas de internet, incluindo Facebook, Twitter e Reddit, o Google usou a correspondência de hash com o PhotoDNA da Microsoft para escanear imagens carregadas para detectar correspondências com CSAM conhecido.
Em 2012, levou à prisão de um homem que era um criminoso sexual registrado e usou o Gmail para enviar imagens de uma jovem.
(Exceto o título e a imagem da capa, o restante deste artigo do IANS não foi editado)
Para mais notícias sobre tecnologia, análises de produtos, recursos e atualizações de tecnologia científica, continue lendo Digit.in.
Com informações de Digit Magazine.