El lado oscuro de la Inteligencia Artificial: la manipulación de voz e imágenes

El 6 de junio, en su cuenta de Twitter, la modelo Milett Figueroa publicó un mensaje perturbante. “Le dijeron que habían secuestrado a mi hermana. ¡Casi le da un infarto!”, aseguró. La persona que realizó la llamada tenía la voz idéntica a la de la supuesta víctima. “¿Cómo es posible que exista gente así?”, se cuestionó la actriz.

MIRA TAMBIÉN: Escolares manipulan las fotografías de sus compañeras y las venden

La mañana del lunes de 28 de agosto, un grupo de indignados padres de familia hizo un plantón frente al local de la institución educativa St. George’s College para exigir la expulsión de unos alumnos que habían manipulado las imágenes que sus compañeras de aulas habían publicado en sus redes sociales para venderlas como material sexual explícito.

¿Cómo se conectan estos dos casos aparentemente distintos? Pues que en ambos se habrían empleado programas de inteligencia artificial (IA) para falsear la verdad; es decir, para generar un contenido nuevo, totalmente al original, de acuerdo con sus intereses o con sus ilícitos objetivos.

MODELOS Y DATOS

“La inteligencia es crear algoritmos en la computadora o modelos matemáticos que simulen la forma en la que una persona resuelve problemas”, afirmó a Perú21 Willy Ugarte, docente de la maestría en Data Science de la Escuela de Postgrado Universidad de Ciencias Aplicadas (UPC). “Viene de hace 60 años. En ese momento, era más que todo operativa, para resolver problemas para juegos o problemas matemáticos”, acotó.

Ugarte indicó que desde hace 15 o 20 años se ha puesto de moda la denominada inteligencia artificial generativa. “Es decir, que agarro un montón de datos, con los que entreno a mi modelo. Es ese entrenamiento el que produce el aprendizaje. Luego, este modelo comienza a generar (nuevos) datos”, señaló. En síntesis, generar contenido original a partir de datos existentes. Esto se puede hacer con textos, con fotos, audios o con videos.

Con el crecimiento de la IA generativa, se ha vuelto fácil de acceder a esta herramienta. “Está chatGPT, Llama de Facebook o Bard de Google, que se han vuelto populares. Pero también hay otras versiones que son libres. Yo puedo entrar a cualquier repositorio y descargarme unos cuantos archivos, entrenarlos en mi casa o localmente y más o menos probar”, dijo Willy Ugarte.

Sobre el tema, Miguel Guerra León, especialista en ciberseguridad, ciberinteligencia y nuevas tecnologías de la información, explicó que hay software de IA gratuitos que pueden generar deepfake —alteración de imágenes, audios, fotos o videos— o deepnude —genera desnudos a partir de personas vestidas—. “Y aquellos softwares que no son gratuitos, son muy baratos. Cuestan 40 o 50 dólares. También hay algunos que dan pruebas gratuitas”, enfatizó.

Obtener registros de voz, video, fotos y más es, asimismo, relativamente sencillo. Para eso se emplean las redes sociales u otras estrategias. “Te pueden hacer una videollamada y ya tienen una grabación tuya. Del mismo modo, te pueden contactar por teléfono o por audios de WhatsApp. Ni que decir de las fotos. Todo eso es empleado por los manipuladores”, refirió Guerra León.

LA MALDAD

Para Miguel Guerra León, el empleo de la IA para este tipo de situaciones se va a desbordar. “Las cosas negativas, de alguna manera, se van a maximizar. Lo lamentable es que siempre el ser humano tiende a la maldad. Mientras que los profesionales estamos tratando de adaptarnos, viendo cómo funciona, cómo lo podemos usar, la gente mala, o sea los que tienen pensamientos malvados, está viendo cómo lo emplean para para dañar a personas”, apuntó. Argumentó que cada vez va a ser más difícil diferencia lo real de lo falso.

En tanto, Willy Ugarte precisó que la IA es una herramienta y que como cualquier herramienta puede ser empleada para fines buenos o para fines malos. Eso dependerá de la persona.

“Hace poco han sacado un reporte que indicaba que había alrededor de 800 casos reportados de ataque en redes sociales. De esos 800 casos, 55 correspondían al uso indirecto de IA. La IA va a seguir ahí. No es una moda. Va a quedar como una herramienta más. Y las personas tenemos que estar más alertas”, puntualizó.

Lo recomendable es hacer un mejor uso de nuestras redes sociales y no publicar contenido tan personal que pueda comprometer nuestra seguridad o que pueda servir para crear contenido falso.

TENGA EN CUENTA:

·Tener cuidado con los datos personales, pues con ellos pueden acceder a tu información bancaria, financiera o personal.

·Eliminar cualquier correo sospechoso y evitar ingresar a links o descargar aplicaciones sospechosas que puedan extraer información bancaria.

·Tomar precauciones antes de hacer clic en enlaces recibidos por correo electrónico, mensajes de SMS y redes sociales debe ser un comportamiento instintivo para los usuarios, al igual que mirar a ambos lados antes de cruzar la calle.

·Ingresar solo a páginas seguras.

CIFRAS:

·59% fraude informático

·12% suplantación de identidad

·4% acceso ilícito

·4% estafa agravada para sustraer o acceder a datos de tarjetas de ahorros o de créditos

·21% otros delitos informáticos

[ENTREVISTA] Erick Iriarte - experto en derecho digital: “Lo que se debería regular son las conductas, no la tecnología”

El debate sobre el uso de la IA sigue causando polémica. Perú21TV dialogó al respecto con el abogado Erick Iriarte.

¿Cómo funciona la IA y cómo explicar lo ocurrido en un colegio donde los alumnos manipularon las imágenes de sus compañeras de aula para luego venderlas como material sexual?

Lo primero que hay que entender es que la inteligencia artificial es un software, una línea de programación que tienen la habilidad de utilizar información que tiene en una amplia base de datos. En el caso en concreto que tenemos (colegio), lo que piden los menores al instrumento digital es que retire capas y las muestre, en este caso desnudas. Probablemente lo que encontremos no sea el cuerpo de las menores, sino una extrapolación creada a través de la inteligencia artificial, pero mantiene el rostro de las menores. Aquí se incurriría en lo que el Código Penal establece como pornografía infantil, que en el caso de los menores termina siendo una infracción y no un delito.

¿Cómo afrontar ello?

Un elemento importante a tener en consideración es que lo que se debería regular son las conductas, no las tecnologías. La tecnología no es buena ni mala, pero tiene la carga del usuario y en este caso estamos viendo un mal uso de dicha herramienta.

¿Podemos decir que estamos a merced de los manipuladores?

Quisiera creer que no, porque significaría que no tenemos capacidad en utilizar bien la tecnología. Lo que estamos viendo es parte del proceso humano y en el cual mucha gente, me atrevo a decir el 99%, usa bien la tecnología, la utiliza para cosas buenas y hay gente que la utiliza para mal, pero son los menos.

TENGA EN CUENTA:

·Iriarte recomendó a los padres de familia saber qué tipo de herramientas utilizan sus hijos o dónde están colocando sus imágenes.

·Planteó que las escuelas formen a niños y adolescentes en temas de protección de datos personales y una cultura de ciberseguridad.

·Recordó que el Perú firmó un acuerdo de la OSD para el uso ético de la inteligencia artificial, es decir, no usarla para el daño, la violencia, ni las guerras.

VIDEO RECOMENDADO: