En NEXUS, Yuval Noah Harari da un grito de alarma sobre nuestro futuro con la inteligencia artificial. "Cuando los gigantes tecnológicos se proponen diseñar mejores algoritmos, suelen conseguirlo", escribe. Pero, ¿lo harán? Philip Cheung para The New York Times.

"En verano del 2022, un ingeniero de software llamado Blake Lemoine fue despedido por Google tras una entrevista en The Washington Post, en la que afirmaba que LaMDA, el chatbot en el que había estado trabajando, había alcanzado la sintiencia. Unos meses más tarde, en marzo del 2023, una carta abierta del Future of Life Institute, firmada por cientos de líderes tecnológicos, entre ellos Steve Wozniak y Elon Musk, pedía a los laboratorios de inteligencia artificial que detuvieran sus investigaciones. Ligencia artificial, señalaba, planteaba "profundos riesgos para la sociedad y la humanidad". Al mes siguiente, Geoffrey Hinton, el "padrino de la inteligencia artificial", renunció a su sitio en Google, declarando a este diario que lamentaba el trabajo de su vida. “Es difícil evitar que los malos la utilicen para cosas malas”, advirtió. Apocalípticos. Y, sin embargo, acciones reales en la forma de una regulación severa han sido escasas. La orden ejecutiva del año pasado sobre inteligencia artificial fue, como dijo un comentarista, "direccional y aspiracional", un elogio astutamente condenatorio".

Mientras, los precios de las acciones del sector tecnológico siguen subiendo mientras la industria susurra tópicos familiares: los beneficios superan los riesgos; el genio ya ha salido de la botella; si no lo hacemos nosotros, lo harán nuestros enemigos. Yuval Noah Harari no tiene tiempo para estas excusas. En 2011 publicó Sapiens, una elegante y en ocasiones profunda historia de nuestra especie. Fue un fenómeno, vendiendo más de 25 millones de ejemplares en todo el mundo. Harari le hizo seguimiento lanzando la mirada hacia delante con Homo Deus, en la que consideraba nuestro futuro. Llegados a este punto, Harari, historiador académico, pasó a tener una nueva identidad profesional y un nuevo círculo de influencia: experto en inteligencia artificial, invitado a los enrarecidos escalafones de “científicos, empresarios y líderes mundiales”. Nexus, en esencia, es el reporte de Harari desde ese mundo. En primer lugar, cabe decir que el subtítulo -Una breve historia de las redes de información desde la Edad de Piedra al IA- es engañoso. En realidad, lo que tenemos son dos libros separados, ninguno de los dos es breve. Los primeras 200 páginas son, en efecto, históricas a su modo. Desgraciadamente, se trata de una versión vertiginosa de la historia que va de las mesitas de arcilla asirias a un brote de cólera en el siglo XIX, pasando por una adaptación del Ramayana a la televisión india, la revuelta de los campesinos en la Inglaterra medieval , el Holocausto en Rumanía, etcétera. No parece controlado, ni siquiera particularmente experto, y el efecto es un poco el de un vuelo donde la persona que se sienta a tu lado es muy culta, ha tomado demasiado café y está decidida a contarte su teoría por completo. La tesis de Harari, en pocas palabras, es que la diferencia entre democracias y dictaduras radica en cómo gestionan la información. Las dictaduras se preocupan más por controlar los datos que por comprobar su verdadero valor; las democracias, en cambio, son redes de información transparentes en las que los ciudadanos pueden evaluar y, si es necesario, corregir los datos erróneos. Todo esto es en cierto modo interesante por obvio, a la vez que demasiado vago —demasiado abierto para reparos y contraejemplos— para constituir una teoría útil de la información. Después de mucho tiempo, hemos llegado a una prueba suelta de lo que esperábamos haber intuido ya: los sistemas que se autocorrigen -porque promueven la conversación y la mutualidad- son preferibles a los que sólo ofrecen un servilismo ciego y sin derechos. Pero al final esto no importa realmente, porque la segunda mitad del libro es donde está la acción. El muelle de Nexus es esencialmente un extenso informe político sobre la inteligencia artificial: ¿cuáles son sus riesgos y qué puede hacerse? (No oímos hablar demasiado de los beneficios potenciales porque, como señala Harari, “los empresarios que lideran la revolución de la inteligencia artificial ya bombardean al público con suficientes predicciones halagüeñas sobre ellos”). Hemos tardado demasiado en llegar hasta aquí, pero una vez llegamos Harari nos ofrece un manual útil y bien informado. Las amenazas que plantea la inteligencia artificial no son las que visualizan los cineastas: el HAL de Kubrick atrapándonos a la esclusa o un RoboCop fascista marchando por la acera. Son más insidiosas, más difíciles de ver, pero potencialmente existenciales. Incluyen la polarización catastrófica del discurso cuando los algoritmos de las redes sociales diseñados para monopolizar nuestra atención nos alimentan con material extremo y odioso. O la externalización del juicio humano —la toma de decisiones legales, financieras o militares— a una inteligencia artificial cuya complejidad resulta impenetrable para nuestra propia comprensión.

                                                              Oblea de silicio òptico
Haciendose eco de Churchill, Harari advierte de un “telón de silicio” que desciende entre nosotros y los algoritmos que hemos creado, dejándonos fuera de nuestras conversaciones: cómo queremos actuar, interactuar o gobernarnos.
Sin embargo, ninguno de estos escenarios es un hecho. Harari señala el problema del correo no deseado, que solía atascar nuestras bandejas de entrada y desperdiciar millones de horas de productividad cada día. Y de repente, dejó de hacerlo. En 2015, Google pudo afirmar que su algoritmo de Gmail tenía una tasa de éxito del 99,9% en el bloqueo del correo no deseado auténtico. "Cuando los gigantes tecnológicos se proponen diseñar mejores algoritmos", escribe Harari, "normalmente pueden hacerlo". Incluso en su segunda mitad, no todo Nexus parece original. Si prestas atención a las noticias, reconocerás algunas de las historias que cuenta Harari. Sin embargo, en los mejores momentos, el libro resume el estado actual de las cosas con una claridad memorable. Algunas partes de Nexus son sabias y audaces. Nos recuerdan que las sociedades democráticas todavía tienen medios para evitar los excesos más peligrosos de la inteligencia artificial, y que no debemos dejar que las empresas tecnológicas y sus multimillonarios propietarios se autorregulen. Esto puede parecer de sentido común, pero es valioso cuando lo dice un intelectual global con el alcance de Harari. Sólo es frustrante que no haya podido hacerlo de forma más concisa.
Descorriendo el telón de silicio: reseña de 'Nexus' de Yuval Noah Harari en el digital The New York Times, que concluye y recomienda: El estudio de Harari sobre la comunicación humana podrá ser todo menos breve, pero si consigues llegar a la segunda mitad , te entretendrá y asustará al mismo tiempo...

Nexus. Una historia 'presunto' breve de las redes de información desde la Edad de Piedra hasta la IA.