Perú21 se une a CAI para combatir la desinformación y las “fake news”

“Mira la foto que me acaba de llegar, la comparto ahorita”, suelen ser las palabras previas a una tormenta perfecta de desinformación contemporánea.

En tiempos de la democratización del photoshop y la irrupción exponencial del contenido creado mediante Inteligencia Artificial, el riesgo de la proliferación de fake news digitales es más elevado que nunca. Pasa todos los días.

Así como en algún momento se cayó en cuenta que los vehículos motorizados urgían de un cinturón de seguridad, ahora queda claro que los contenidos digitales requieren de trazabilidad y transparencia para evitar que generen un desastre de amplio espectro. Una informaciòn falsa puede destruir una reputación, hacer caer un mercado, hasta descandenar un conflicto armado.

Santiago Lyon, jefe de promoción y educación del Content Authenticity Initiative (CAI), ex VP de fotografía de The Associated Press,, responde acerca de detalles de este consorcio al que Perú 21 se ha adherido.

Adobe lleva mucho tiempo creando herramientas creativas muy potentes, pero a veces estas herramientas son utilizadas por malos actores para fomentar la desinformación/malversación. Como resultado, decidió asumir un papel de liderazgo formando la Iniciativa de Autenticidad de Contenidos (CAI) a finales de 2019 como una solución técnica de código abierto para ayudar a abordar el problema.

Tras analizar el panorama de la desinformación, decidimos centrarnos en la procedencia; los datos básicos fiables sobre los orígenes de una pieza de contenido digital (imagen, vídeo, grabación de audio, documento) y los cambios que podría haber sufrido ese archivo a lo largo de su viaje desde la creación, pasando por la edición y hasta la publicación. A continuación, podemos compartir parte o toda la información de procedencia con el espectador para ayudarle a entender mejor lo que está viendo. El periodismo es uno de los principales objetivos de nuestro trabajo para reforzar los modelos de confianza existentes.

El CAI no es un software de detección propiamente dicho, sino que pretende demostrar lo que es real en lugar de detectar lo que es falso. (Los programas informáticos de detección no son escalables ni especialmente precisos, pero pueden ser útiles ad hoc, sobre todo cuando se combinan con la comprobación periodística de hechos).

Conscientes de que no existe una solución definitiva al problema de la desinformación, también nos dedicamos a la alfabetización mediática (y hemos creado material curricular gratuito para estudiantes de secundaria, bachillerato y universidad). Además, interactuamos con los responsables políticos de todo el mundo a través del equipo de Relaciones Gubernamentales de Adobe para asegurarnos de que están bien informados sobre las tecnologías existentes para fundamentar mejor sus decisiones.

El equipo CAI está financiado por Adobe para crear e implantar herramientas de procedencia de código abierto (basadas en el estándar abierto desarrollado por la Coalition for Content Provenance and Authenticity (C2PA), que fue fundada por Adobe y Microsoft y se encuentra dentro de la Linux Foundation).

La afiliación al CAI es gratuita y en la actualidad contamos con más de 1.300 miembros, entre los que se incluyen muchas de las principales empresas tecnológicas y de medios de comunicación.

Estamos en conversaciones con las principales redes sociales, que están estudiando los próximos pasos por su parte. Además, en algunas zonas geográficas se están presentando propuestas legislativas para abordar la cuestión de los contenidos generativos de IA tal y su uso dentro de las redes sociales. Microsoft, miembro fundador de la C2PA, utilizará herramientas basadas en la C2PA para firmar imágenes generadas con IA en Bing Image Creator y Microsoft Designer. Google se ha asociado recientemente con Adobe para integrar Adobe Firefly (el motor de IA generativa de Adobe) en Google Bard (el motor de búsqueda de IA generativa de Google).

Aspiramos a ver una adopción inicial a finales de 2023 y más adelante. La proliferación de la IA generativa ha dado mayor urgencia a la cuestión y nuestra base de miembros está creciendo rápidamente. A principios de año alcanzamos los 1.000 miembros, pero en mayo ya superábamos los 1.300.

Peru 21 es el primer medio peruano en sumarse a esta iniciativa contra las fake news. El ver para creer de Santo Tomás ya no basta.