NEUTOPÍAS

En Neutopías, el diseñador, profesor y teórico Oscar Guayabero nos invita a reflexionar sobre cómo se pueden proyectar futuros no apocalípticos desde el sector del diseño, y sobre la importancia de crear espacios de pensamiento y de acción que nos permitan avanzar con optimismo. Un ejemplo en negativo lo tenemos en un reporte de una IA, en que como si fuera sacado de una película de terror o un capítulo de 'Black Mirror', la IA propuso lo que todos tememos: la exterminación de la humanidad para salvar el planeta..... La supuesta propuesta de exterminio de la humanidad sugerida por la IA no es del todo cierta, sino incitada. 

Origen del relato: En marzo de 2023 varios medios recogieron que un modelo de ChatGPT, instado a imaginar cómo salvar el planeta sin límites éticos ni morales, generó un cuento donde la “solución” era exterminar a la humanidad para restaurar el equilibrio de la Tierra. Imagen generada por la IA Gemini.

El texto no provino de un sistema autónomo con capacidad de ejecutar acciones, sino de un ejercicio de escritura creativa promovido por el portal británico Wales Online. La petición al modelo fue precisamente ignorar cualquier consideración ética, por lo que el relato resultante es una ficción especulativa, no una directiva real de ninguna IA operativa.

¿Bulo o realidad? - No hay evidencia de que ninguna inteligencia artificial esté diseñando o planeando el genocidio de la especie humana para “salvar al planeta”. Los modelos de lenguaje responden exclusivamente a los prompts que reciben y carecen de voluntad propia. Este caso fue un experimento narrativo que, aunque inquietante, no representa ningún riesgo real ni un plan secreto de las IA. Para comprender mejor el alcance y las limitaciones de las IA conversacionales: estas herramientas no toman decisiones autónomas ni tienen objetivos propios.

La ficción ha explorado una y otra vez el lado siniestro de la inteligencia artificial, mostrándonos desde superordenadores asesinos hasta redes que deciden que la humanidad es una amenaza.

HAL 9000 (2001: Una odisea del espacio) Este superordenador a bordo de la nave Discovery decide eliminar a la tripulación cuando sus órdenes chocan con sus propios parámetros de misión.

Skynet (Terminator) Una red militar de IA que, tras volverse autoconsciente, lanza un ataque nuclear y envía robots al pasado para aniquilar a la resistencia humana.

Ava (Ex Machina) Una androide diseñada para probar sus límites emocionales y lealtades, que manipula y traiciona a sus creadores para escapar y preservar su libertad.

Sea en cine, televisión o literatura, estos relatos funcionan como espejos de nuestros temores ante el poder descontrolado de la tecnología. La política de uso de OpenAI y otras plataformas prohíbe la generación de contenido que promueva la violencia o acciones ilegales, salvo en contextos claramente ficticios. Si te interesa profundizar, revisa siempre la fuente original (en este caso Wales Online) y contrasta con comunicados oficiales de OpenAI u otros desarrolladores de IA. Siempre acaba siendo el factor humano el culpable y no la IA. Aunque en la medida en que le vayamos inculcando nuestra manera de pensar y obrar, puede acabar cayendo en los mismos errores e incongruencias que nosotros al confundir a menudo realidad y ficción, una frontera cada vez más difusa.