La pornografía infantil es uno de los grandes flagelos que afecta a los más vulnerables de la sociedad y que por desgracia se sigue compartiendo día a día en Internet.
Por tal motivo, las compañías que ofrecen servicios en la web como redes sociales o buscadores, se dan a la tarea de hacer frente a esta realidad y centran sus esfuerzos en eliminar todo rastro de material inapropiado.
Para ello, lo normal es que estas grandes compañías tengan todo un equipo de moderadores cuya labor es comprobar y analizar todo el contenido gráfico subido a las distintas webs y servicios.
Este trabajo se vuelve titánico teniendo en cuenta que son millones de personas quienes se mantienen constantemente subiendo, compartiendo y descargando todo tipo de material digital de Internet, mediante diversos medios.
Es por eso que Google ha presentado una herramienta que, mediante inteligencia artificial (IA), ayudará a detectar este tipo de contenido restringido facilitar de esta forma el trabajo de los moderadores humanos, informa Hipertextual.
Esta herramienta ha permitido ayudar en los pasos previos, marcando el material potencialmente controvertido y destacando, de entre todas esas fotos y vídeos, el material con más posibilidades de considerarse pornografía infantil o CSAM (Children sexual abuse material por sus siglas en inglés).
Pese a que siempre se requerirá del trabajo de un moderador humano, el trabajo de este se ve reducido considerablemente. Uno de estos moderadores de Google afirmó que esta IA le ha permitido "clasificar un 700% más de material con abusos sexuales a niños un mismo periodo".
"Es muy posible que estemos a uno o dos años de poder crear herramientas 100% automatizadas", asegura Fred Langford, delegado de la Internet Watch Foundation.
Sin embargo, Langford también ha declarado que únicamente se debería confiar en estas herramientas en casos del todo evidentes con tal de no dejar escapar material inapropiado. Pese a que, es evidente, el trabajo humano sigue siendo necesario en las labores de detección y filtrado.