Google lança nova API de aprendizado de máquina para encontrar imagens de abuso sexual infantil online

O gigante da tecnologia Google confirmou mais uma vez seu compromisso de combater abusos na Internet e, em particular, contra a disseminação de imagens de abuso sexual infantil na Internet, lançando uma nova ferramenta de aprendizado de máquina. Essa nova API baseada em Inteligência Artificial avançada facilitará a difícil tarefa de revisores manuais e está disponível gratuitamente para provedores de serviços, ONGs, empresas de tecnologia e outras instituições envolvidas na luta.

Aprendizado de máquina contra abuso sexual infantil

Em um post publicado há poucos dias e assinado por Nikola Todorovic, diretor de engenharia do Google, e Abhi Chaudhuri, gerente de produtos do Google, a empresa confirmou seu compromisso, por quase duas décadas, de combater a disseminação de imagens. de abuso sexual infantil ", um dos piores abusos imagináveis".

Para isso, o Google lançou uma nova API de aprendizado de máquina, disponível de forma totalmente gratuita mediante solicitação explícita às organizações envolvidas nessa luta. Apoiada por novos avanços na inteligência artificial avançada, essa ferramenta melhorará significativamente a detecção de imagens de abuso sexual de menores na Internet, pois não apenas acelera a detecção de conteúdo já conhecido, mas também permite a detecção de “conteúdo que não é foi confirmado anteriormente como CSAM ".

Outra das maiores conquistas dessa nova API é que ela permite " ajudar os revisores a classificar muitas imagens, priorizando o conteúdo CSAM mais provável para revisão". Você pode imaginar como isso deve afetar as pessoas a trabalhar dia após dia visualizando e verificando esse tipo de imagem? No entanto, apesar desse grande esforço, a própria empresa reconhece no final de sua publicação que "a tecnologia sozinha não é uma panacéia para esse desafio social" , portanto, infelizmente, a intervenção humana continuará sendo necessária para reduzir esse tipo de abuso.

Abaixo, traduzi totalmente a nota publicada sobre o assunto pelo Google:

As organizações interessadas em usar o serviço API de segurança de conteúdo do Google e, assim, ajudar na luta contra a propagação de imagens de abuso sexual de menores na rede, podem solicitar sua participação gratuita à empresa preenchendo este formulário.