[OPINIÓN] Yesenia Álvarez: “La inteligencia artificial y la democracia”

Sabemos a través de los diferentes índices que al Perú no le va bien cuando le toman el pulso a su democracia. Mientras las organizaciones de la sociedad civil están en el ajetreo de pensar y promover acciones para lograr una mayor comprensión de la democracia y fortalecer la institucionalidad, ha irrumpido la Inteligencia Artificial (IA) cuyos hitos de avance en 2023 nos obligan a tomar en consideración que muchas voces alertan que transformará la democracia.

Las discusiones sobre la relación de la democracia con las tecnologías digitales no son nuevas. Sin embargo, cobra ahora más importancia prestar atención a las intersecciones de IA con los principios democráticos por el hito que marca la inteligencia artificial en cuanto a velocidad, alcance y escala en la posibilidad de transformar los entornos políticos, o de afectar las libertades y derechos de las personas, como la privacidad, o las relaciones de los ciudadanos con los gobiernos como la transparencia y la rendición de cuentas. El Foro Internacional de Estudios Democráticos de la National Endowment for Democracy (NED), tras una reunión de organizaciones de activistas y profesionales de los derechos digitales, académicos y otros actores de la sociedad civil, publicó un reporte a cargo de la Dra. Beth Kerley que busca sensibilizar sobre las fortalezas y los límites de las tecnologías de IA, el cual aportó ocho desafíos para su gobernanza democrática.

Hay toda una discusión sobre la IA que va desde el excesivo optimismo fundado en tecnosolucionismo hasta el alarmismo de creer que solo traerá problemas. El primero lleva a gobiernos y tomadores de decisiones a pasar por alto los posibles daños y a pensar que los desafíos sociales solo pueden abordarse con soluciones técnicas. Y lo interesante del reporte mencionado es que profundiza sobre los riesgos porque parte de la idea de que la IA es beneficiosa, pero debemos empezar a prepararnos para neutralizar sus posibles daños y riesgos.

Bruce Schneier, un reconocido experto en tecnología y profesor de políticas públicas de la Harvard Kennedy School, hace aún más polémica la discusión cuando afirma que hay que ir más allá de la primera preocupación que es la “desinformación generada por la IA”, y en un ensayo reciente llega a subrayar hasta diez maneras en las que la IA cambiará la forma en que funciona la democracia. Vislumbra posibilidades donde la IA es educadora, legisladora, estratega política, abogada, agente de la ley, propagandista e incluso representante política. En este escenario señala que podríamos imaginar una IA que vota en nombre de las personas, es decir un votante podría alimentar a una IA con sus preferencias políticas y entonces podría estar facultada para votar en su nombre. Si no se ha escandalizado aún, luego señala esto: “No subestimes nuestra capacidad para normalizar las nuevas tecnologías. (…) Una sala de audiencias sin jueces parece una locura hoy en día, pero también lo hizo un coche sin conductor hace unos años”.

Las primeras ideas que vendrían a la mente de una conciencia democrática es que ello pondría en riesgo varios principios del Estado de derecho y del acceso a la justicia ¿Cómo sería ese escenario para el Perú al tener que enfrentar esas discusiones? Sin IA ya enfrentamos tremendos desafíos, difícil imaginar al Perú entrando a esos debates siendo un país en donde la democracia tiene poco apoyo, no hay confianza en las instituciones y los ciudadanos están insatisfechos con el sistema. La IA ya está aquí, sus ventajas y las discusiones sobre sus límites también. Debemos estar preparados para una gobernanza democrática de la IA para que no colisione con los principios democráticos y se salvaguarde los derechos y las libertades de las personas, sobre todo sabiendo que la IA tiene tal fuerza que es o será difícil de gobernar. Como señala Schneier, parece que será un “viaje salvaje”. La sociedad civil debe empezar a prepararse.