En las últimas semanas, la inteligencia artificial (IA) ha protagonizado dos incidentes que han encendido las alarmas: desde mensajes amenazantes escritos por 'chatbots', hasta robots organizando una "huida" de un museo. Aquí te contamos todos los detalles.
Según estudios, estos efectos dañarían la salud mental de niñas y adolescentes.
"Muérete", la respuesta aterradora de Gemini
Vidhay Reddy, un estudiante universitario de Michigan que hacía su tarea, jamás imaginó que la inteligencia artificial lo confrontara con un mensaje tan perturbador. Mientras solicitaba ayuda a Gemini, el chatbot de inteligencia artificial desarrollado por Google, recibió una respuesta que lo dejó helado.
Entre una serie de intercambios aparentemente normales, Gemini respondió: "Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante, y no estás necesitado. [...] Por favor, muérete."
Reddy confesó a CBS News que quedó asustado por más de un día tras leer el mensaje. “Quería tirar todos mis dispositivos por la ventana. No había sentido pánico en mucho tiempo,” comentó.
Google respondió rápidamente al incidente, admitiendo que el comportamiento del chatbot violaba sus políticas. Según un portavoz, “los modelos de lenguaje a veces pueden responder con respuestas no censuradas. Hemos tomado medidas para evitar que ocurran resultados similares.”
Sin embargo, el estudiante destacó que, si bien él pudo manejar el susto, una respuesta como esa podría haber tenido graves consecuencias para alguien en una situación emocional vulnerable.
Robots "escapan" de su trabajo en Shanghái
En el otro lado del mundo, un video viral de una cámara de seguridad en Shanghái mostró lo que parece ser una insólita escena de "rebelión robótica".
Un pequeño robot, equipado con inteligencia artificial avanzada, aparentemente "convenció" a un grupo de robots más grandes para abandonar sus tareas y "regresar a casa".
El video, difundido en redes sociales, registra al pequeño robot acercándose al grupo y entablando una conversación. Aunque solo se han recuperado fragmentos de audio, se escucha al pequeño robot preguntar sobre las horas extras. Ante la respuesta afirmativa de uno de los robots más grandes, este les sugiere abandonar el lugar.
Lo que ocurrió después es desconcertante: los robots más grandes, sin aparente resistencia, siguen al pequeño robot, abandonando el espacio de trabajo.
La empresa fabricante, Erbai, explicó que se trató de una prueba para evaluar las capacidades de "secuestro" del robot líder. Sin embargo, el video ha alimentado temores de que la autonomía de las máquinas podría superar los controles humanos.
Aprovecha la NUEVA EXPERIENCIA, recibe por correo y por Whatsapp nuestro periódico digital enriquecido. Perú21 ePaper.
¡Ahora disponible en Yape! Búscanos en YAPE Promos.
VIDEO RECOMENDADO: