A cruzada intensificada do Google contra a exploração sexual infantil em suas plataformas corre o risco de destruir a vida das próprias crianças que pretende salvar – assim como de pais inocentes – deixando suas reputações, sua liberdade e talvez até a sobrevivência de sua unidade familiar nas mãos de um algoritmo excessivamente zeloso, revelou uma investigação do New York Times publicada no domingo.

Dois pais de crianças pequenas completamente desconectados experimentaram pesadelos kafkianos quase idênticos, rotulados como molestadores de crianças por nada mais sinistro do que tentar obter ajuda médica para seus bebês. O pai de San Francisco, Mark, e o pai de Houston, Cassio, não pensaram em enviar fotos dos genitais inchados de seus filhos a pedido de seus pediatras, uma prática que se tornou totalmente normal no paradigma pós-pandemia.

Não pensando mais nisso quando seu filho se recuperou, Mark foi rudemente acordado por seu telefone Google Fi informando-o de que “conteúdo prejudicial” – potencialmente ilegal – havia sido descoberto. A tentativa de apelar da decisão gerou uma rejeição e nenhuma outra comunicação do Google. Mark perdeu o acesso a seu telefone, e-mail, contatos e tudo mais que o Google assumiu como uma das maiores corporações do mundo. Todos os seus dados, incluindo fotos e vídeos, estavam trancados na nuvem.

O Google encontrou outro vídeo que disparou seus alarmes durante a varredura desses arquivos. Enquanto a tecnologia para detectar fotos de crianças abusadas e exploradas inicialmente dependia de um banco de dados de imagens conhecidas de exploração sexual, a contribuição relativamente recente do Google para a cruzada é uma ferramenta de IA que afirma ser capaz de reconhecer imagens nunca vistas de exploração infantil com base em sua semelhança com imagens existentes.

Em vez de trazer um moderador humano para verificar se a foto é realmente abusiva antes de prosseguir, o processo do Google, uma vez que acha que detecta tal imagem, é bloquear a conta, escanear todas as outras imagens que eles têm e ligar para o Centro Nacional de Desaparecidos e Crianças Exploradas, que prioriza o que acredita serem novas vítimas. Enquanto isso, as imagens sinalizadas incorretamente são adicionadas ao banco de dados de crianças exploradas, de modo que imagens ainda mais inócuas de crianças como as de Mark e Cássio correm o risco de desencadear bandeiras vermelhas.

A polícia de São Francisco, que abriu uma investigação após o Google sinalizar o vídeo de Mark, garantiu uma cópia de literalmente tudo em suas contas do Google, desde suas pesquisas na Internet e histórico de localização, mensagens e documentos que ele enviou e recebeu e fotos e vídeos armazenados na nuvem. Equipados com os mesmos dados que o Google usou para declará-lo molestador de crianças, eles determinaram que nenhum crime havia sido cometido e encerraram o caso.

O Google não foi tão compreensivo. Mesmo quando Mark pediu ao detetive principal em seu caso para interceder em seu nome, o oficial disse que não havia nada que ele pudesse fazer. Ele ainda não pode acessar sua conta.

O caso de Cassio se desenrolou quase exatamente da mesma maneira, com a polícia de Houston abandonando o caso assim que ele apresentou comunicações do pediatra. O Google não devolverá seus dados.

Apesar da polícia exonerar os pais, o Google manteve sua decisão de ainda sinalizar os pais como molestadores de crianças e bloquear todos os seus dados. “O material de abuso sexual infantil é abominável e estamos comprometidos em impedir a disseminação em nossas plataformas,”, disse a empresa em comunicado, segundo o New York Times. Não se sabe quantos casos de Serviços de Proteção à Criança foram abertos com base em tal “erros”, nem quantos correram o risco de terminar com uma criança removida de casa ou um pai preso, já que mesmo os acusados ​​injustamente de abuso infantil geralmente se calam sobre isso.

Você pode compartilhar esta história nas redes sociais:

Siga RT em