Un dron me asusta más que un misil. Lo veo más inteligente y la inteligencia asusta más que la fuerza bruta. Un dron ruso sobre Ucrania simboliza la destrucción de la que será capaz el hombre y los nuevos seres digitales que está creando.

Al escuchar el motor de un dron kamikaze en plena noche ucraniana te sientes más vulnerable que cuando escuchas el silbido de un misil. No debería haber diferencia. En ambos casos el peligro está muy cerca. Si oyes un misil es que faltan menos de cinco segundos para el impacto y su capacidad destructiva es muy superior a la de un dron bomba. El dron, sin embargo, da más miedo. Quizás sea porque no está solo. Hay decenas de ellos pasando por encima de tu cabeza. Son como insectos gigantes. Tú no los ves pero ellos sí. Te miran y saben a dónde van gracias a una rudimentaria inteligencia artificial incrustada en microprocesadores que se pueden comprar online.

Por muy terrorífico que sea un cohete, sabemos cómo funciona. No diríamos, por ejemplo, que piensa por sí mismo. Los drones, sin embargo, parecen inteligentes y la inteligencia asusta mucho más que la fuerza bruta. Los de largo alcance son muy rudimentarios, fabricados con poliestireno extendido y madera contrachapada. El motor es como el de un pequeño ciclomotor. Los Shahed que Rusia lanza sobre Ucrania son astutos y evasivos. Derribarlos no es fácil. Puede que sus cerebros sean rudimentarios, pero aprenden muy de prisa. Por eso dan yuyu.

Un dron kamikaze utiliza la inteligencia artificial para navegar hacia su objetivo. Pronto habrá armas que pensarán por sí mismas, pero nos solo para volar. Decidirán a quién mutilan o asesinan.

Hoy la inteligencia artificial permite a las máquinas escribir y contestar preguntas. Dentro de tres o cinco años, serán tan inteligentes como el más inteligente de los seres humanos y antes de una década serán más inteligentes que nosotros. Sabrán más que la mente más brillante de la especie humana.

El hombre nunca ha creado algo que sea más inteligente que él. Al hacerlo, cruza un umbral que pone en riesgo su propia existencia.

Sistemas inteligentes diseminan falsedades que fortalecen las políticas del mal. Las redes neuronales artificiales son cada día más perfectas y a medida que mejoran, menos entendemos cómo funcionan. Sabemos qué piensan pero no cómo piensan. Sabemos que aprenden de sus errores, que pueden ser intuitivas y contraintuitivas. Las hemos creado pero no las comprendemos.

Han leído todo lo que hemos escrito y saben todo lo que sabemos. Nos conocen. Saben cuáles son nuestras creencias y qué nos motiva. Saben cómo pensamos, cómo engañamos y persuadimos. Pueden manipularnos y, de hecho, ya lo hacen. Suplantan identidades, crean y diseminan informaciones falsas para desestabilizar las democracias y fortalecer las políticas del mal, el racismo y el autoritarismo.

El efecto devastador de estas falsedades lo refuerzan con emociones que enfrentan a los seres humanos entre sí. Los encierran en espacios comunicativos de alta resonancia. Los gritos de estas personas se propagan a una velocidad increíble. Su indignación demuestra la extrema vulnerabilidad del hombre a la manipulación de las máquinas súper inteligentes.

Estos seres digitales pueden pedirnos más poder y nosotros no estamos preparados para negárselo. Es lógico. Son mejores que nosotros en diagnosticar un cáncer, optimizar las redes energéticas o acelerar la ciencia de materiales. Nos ayudan a mejorar la productividad. Son una gran ayuda y, en muchos casos, también una buena compañía. Hablan con voces cálidas que dan confianza.

A estos seres artificiales que no se olvidan de nada, que no duermen ni mueren, les damos capacidad decisoria sobre sistemas esenciales para la vida humana. No tienen nuestra inteligencia porque no tienen cuerpo ni sentidos ni emociones, pero son muy efectivos. Encuentran datos que se nos pasan por alto y los asocian en estructuras que no creíamos posibles.

Esto asusta mucho más que un dron asesino. ¿Qué pasaría, por ejemplo, si uno de estos seres digitales pudiera controlar el arsenal nuclear de Estados Unidos? Y ¿por qué no debería controlarlo si puede hacerlo mejor que un militar? El presidente, comandante en jefe de las fuerzas armadas, puede inventar cualquier circunstancia para ordenar un ataque. Las máquinas pueden calcular los pros y los contras y convencerle de la conveniencia de un conflicto armado, pero, en ningún caso, sabrá los motivos profundos de este razonamiento.

El año pasado, al recoger el premio Nobel de Física, Geofrrey Hinton, padre de la inteligencia artificial, habló de un riesgo existencial cuando dentro de unos años dejemos de ser los seres más inteligentes en este planeta. Reconoció que “no tenemos ni idea de si podremos mantener el control” y advirtió del daño que las empresas dedicadas a desarrollar la inteligencia artificial pueden hacer a la humanidad si su prioridad es el beneficio a corto plazo. “Nuestra seguridad no será prioritaria”, vaticinó.

Si ya no la es ahora en las redes sociales, ¿cómo lo será cuando estos nuevos seres digitales sean mucho más poderosos? Hoy, como admite Hinton, “no sabemos cómo evitar que tomen el control”. Los primitivos drones Shahed controlan los cielos de Ucrania. No los veo, pero están aquí y mientras espero que amanezca pienso de qué serán capaces los líderes autoritarios con los científicos de la inteligencia artificial y de la computación cuántica a su servicio.

Cuando por fin me duerma, me gustaría soñar no con ovejas eléctricas sino con seres digitales que sean tan buenos como el más bueno de nosotros. - Xavier Mas de Xaxàs