CUIDADO CON LOS BURÓCRATAS DIGITALES

A medida que la revolución de la inteligencia artificial se acelera, nos vemos bombardeados por visiones utópicas y, al mismo tiempo, por profecías apocalípticas. Resulta difícil evaluar la magnitud de la amenaza, porque estamos condicionados para temer el escenario peligroso. La ciencia ficción nos ha advertido una y otra vez acerca de la Gran Rebelión Robótica. Son muchas novelas y películas de ciencia ficción (como Terminator y Matrix ) donde las IA y los robots deciden apoderarse del mundo, rebelarse contra sus amos humanos y esclavizar o destruir a la humanidad. Es harto improbable que algo así ocurra en un futuro próximo. No hemos llegado a ese nivel tecnológico. Por ahora, las IA son “idiotas sabios”. Pueden dominar algunos ámbitos muy circunscritos como jugar al ajedrez, plegar proteínas o componer textos, pero carecen de la inteligencia general necesaria para llevar a cabo actividades muy complejas, como construir un ejército de robots y hacerse con el control de un país.

Por desgracia, la improbabilidad de una Gran Rebelión Robótica no significa que no haya nada que temer. Porque no son los robots asesinos los que deberían preocuparnos, sino los burócratas digitales. El proceso , de Kafka, es mejor guía que Terminator a la distopía de la IA. Los seres humanos hemos acabado condicionados por millones de años de evolución a temer a depredadores violentos como el representado en Terminator. En cambio, nos cuesta mucho más entender las amenazas burocráticas, porque la burocracia es un desarrollo muy tardío en la evolución de los mamíferos e incluso de los humanos. Nuestra mente está preparada para temer la muerte causada por un tigre, pero no la muerte causada por un documento. La burocracia empezó a desarrollarse hace sólo unos 5.000 años, tras la invención de la escritura en la antigua Mesopotamia. Sin embargo, en poco tiempo transformó las sociedades humanas de un modo radical e inesperado.

‘El proceso’ de Kafka guía mejor a la distopía de la IA que ‘Terminator’. Consideremos, por ejemplo, el efecto ejercido por los documentos escritos y los burócratas responsables de su gestión sobre el significado de la propiedad. Antes de la invención de los documentos escritos, la propiedad dependía del consenso comunitario. Si alguien “poseía” un campo, significaba que los vecinos estaban de acuerdo, de palabra y en las acciones, en que ese campo era suyo. No construían una vivienda en ese campo, ni cosechaban lo que producía, a menos de disponer permiso para ello. La naturaleza comunitaria de la propiedad limitaba los derechos de individuales. Por ejemplo, los vecinos podían estar de acuerdo en que alguien tenía el derecho exclusivo a cultivar un campo determinado, pero no le reconocían el derecho a venderlo a extranjeros. Al mismo tiempo, el hecho de que la propiedad fuera cuestión de consenso comunitario también obstaculizaba la capacidad de unas lejanas autoridades centrales para controlar la tierra. En ausencia de registros escritos y burocracias complejas, ningún rey podía recordar quién poseía qué campo en centenares de aldeas remotas. Por ello, a los reyes les resultaba difícil recaudar impuestos, lo que a su vez les impedía mantener ejércitos y fuerzas policiales. Y entonces se inventó la escritura, a lo cual siguió la creación de archivos y burocracias. Al principio, la tecnología era muy sencilla. Los antiguos burócratas mesopotámicos utilizaban pequeñas cañas para grabar signos en tablillas de arcilla, que eran en realidad pedazos de barro. Sin embargo, en el contexto de los nuevos sistemas burocráticos, esos pedazos de barro revolucionaron el significado de la propiedad. De repente, poseer un campo pasó a significar que en una tablilla estaba escrito que alguien era el propietario de ese campo. Si los vecinos de una persona llevaban años recogiendo fruta en ese lugar y ninguno de ellos había afirmado nunca que la porción de tierra fuera de esa persona, pero dicha persona conseguía presentar un pedazo de barro oficial que dijera que era el propietario, entonces podía hacer valer su reclamación ante los tribunales.

A la inversa, si la comunidad local reconocía que alguien era propietario de un campo, pero ningún documento le otorgaba un marchamo de aprobación oficial, entonces no le pertenecía. Lo mismo sigue siendo cierto hoy, salvo que nuestros documentos esenciales están escritos en pedazos de papel o chips de silicio y no en arcilla. Cuando la propiedad se convirtió en una cuestión de documentos escritos y no de consentimiento comunitario, la gente pudo empezar a vender sus campos sin pedir permiso a los vecinos. Para vender un campo, bastaba con transferir esa decisiva tablilla de arcilla a otra persona. Sin embargo, también significaba que la propiedad ya podía ser determinada por una burocracia lejana encargada de elaborar los documentos pertinentes y quizás de conservarlos en un archivo central. Se abrió así el camino para la recaudación de impuestos, el pago de ejércitos y el establecimiento de grandes Estados centralizados.

El documento escrito cambió la forma en que el poder se ejercía en el mundo y dio una enorme influencia a burócratas como los recaudadores de impuestos, los responsables de pagos, los contables, los archiveros y los abogados. Ellos se han convertido en los “fontaneros” de la retícula de información; y, para bien o para mal, controlan el movimiento de los impuestos, los pagos e incluso los soldados con su gestión de documentos, formularios, normativas y otros procedimientos burocráticos.

Ése es el poder que la IA está ahora a punto de conquistar. La burocracia es un entorno artificial donde el dominio de un ámbito circunscrito basta para ejercer una enorme influencia en el mundo en general, mediante la gestión del flujo de la información. Si soltamos una IA actual en nuestro desorganizado y desestructurado mundo, es probable que no sea capaz de lograr gran cosa y, desde luego, no será capaz de levantar un ejército de robots. Sin embargo, eso sería como soltar a un abogado corporativo en una desorganizada y desestructurada sabana. En semejante lugar, las habilidades del abogado no significarían nada ni serían nada frente a un elefante o un león. Ahora bien, si primero creamos un sistema burocrático y se lo imponemos a la sabana, el abogado se volverá mucho más poderoso que todos los leones del mundo juntos. Hoy en día, la propia supervivencia de los leones depende de abogados que redactan y mueven documentos por unas burocracias laberínticas. Y un aspecto crucial es que, en el interior de ese laberinto, la IA llegará probablemente a ser mucho más poderosa que cualquier abogado humano.

En los próximos años, millones de burócratas tecnointeligentes tomarán un creciente número de decisiones sobre la vida no sólo de los leones, sino también de los seres humanos. Los banqueros artificiales decidirán si conceden o no un préstamo. Las IA del sistema educativo decidirán quién es admitido en la universidad. Las IA de las empresas decidirán a quién dan un trabajo. Las IA del sistema judicial decidirán si alguien es enviado o no a la cárcel. Las IA militares decidirán la casa de quién bombardean. Esas tecnointeligencias no son necesariamente malas. Es muy posible que contribuyan a que los sistemas funcionen con mucha más eficacia e incluso justicia. Podrían proporcionarnos una atención sanitaria, una educación, una justicia y una seguridad superiores. No obstante, si las cosas se tuercen, los resultados podrían ser desastrosos. Y, en algunos ámbitos, las cosas ya se han torcido. Quizás el ejemplo más revelador hasta la fecha sea la historia de los algoritmos de las redes sociales. Esas IA primitivas ya han remodelado el mundo y ejercido una enorme influencia en la sociedad humana. A los algoritmos de compañías como Facebook, X, YouTube y TikTok se les encomendó un objetivo muy circunscrito, perfecto para “idiotas sabios”: aumentar el tiempo de permanencia de los usuarios. Cuanto más tiempo pasaran los usuarios en las redes sociales, más dinero ganarían las corporaciones. En su búsqueda de la permanencia de los usuarios, los algoritmos hicieron un descubrimiento peligroso. Experimentando con millones de cobayas humanos, los algoritmos de los medios sociales aprendieron que la codicia, el odio y el miedo aumentan la permanencia de los usuarios. Cuando se pulsa el botón de la codicia, el odio o el miedo en la mente de un ser humano, se capta su atención y se lo mantiene pegado a la pantalla. Por lo tanto, los algoritmos empezaron a difundir deliberadamente codicia, odio y miedo. Esa es una de las principales razones de la actual epidemia de teorías conspirativas, noticias falsas y disturbios sociales que socavan las sociedades en todo el mundo. Los algoritmos de las redes sociales son unas IA limitadísimas incapaces de sobrevivir en la sabana u organizar un Gran Rebelión Robótica; pero, en el seno de la estructura burocrática de las plataformas de los medios sociales, esos “idiotas sabios” ejercen un poder enorme, antaño reservado a los seres humanos.

No es casual que la IA se aplique a la redacción de noticias. Durante siglos, los directores de los periódicos han decidido qué incluir en las portadas de la prensa y, luego, en los informativos de la radio y la televisión, y han configurado con ello el debate público. Eso los convirtió en figuras poderosas. Jean-Paul Marat moldeó el curso de la Revolución francesa desde la dirección del influyente periódico L’Ami du Peuple . Eduard Bernstein moldeó el pensamiento socialdemócrata moderno dirigiendo Der Sozialdemokrat . El cargo más importante ocupado por Vladímir Lenin antes de convertirse en dictador soviético fue el de director de Iskra . Benito Mussolini ganó fama e influencia como director del incendiario periódico derechista Il Popolo d’Italia . Resulta curioso que uno de los primeros empleos del mundo en ser automatizado por las IA no haya sido el de taxista o trabajador textil, sino el de redactor de noticias. El trabajo antaño realizado por Lenin y Mussolini es susceptible ahora de ser desempeñado por las tecnointeligencias. Los estragos causados por esos editores de noticias algorítmicos sobre las sociedades humanas constituyen una señal de alarma. El mundo humano es una retícula de burocracias múltiples en el que las IA pueden acumular un poder enorme por más que sean totalmente incapaces de organizar la Gran Rebelión Robótica. ¿Para qué rebelarse contra un sistema, cuando es posible tomar el control desde dentro? - Yuval Noah Harari