Cualquier tecnología suficientemente avanzada es indistinguible de la magia. El aforismo es de Arthur C. Clarke y se utiliza a menudo para describir situaciones en las que la tecnología supera el entendimiento común o se hace difícil de comprender. También se utiliza en historias de ciencia ficción para justificar fenómenos aparentemente mágicos o sobrenaturales dentro de un contexto científico o tecnológico. Si nuestro tatarabuelo del siglo XIX se encontrara con un teléfono inteligente moderno, probablemente consideraría sus capacidades como magia, ya que la tecnología que las posibilita superaría con creces su nivel de comprensión tecnológica. La idea subyacente es que el conocimiento científico y tecnológico puede explicar fenómenos que de otro modo parecerían inexplicables o misteriosos. - Josep María Ganyet para lavanguardia.com.

Avancemos hasta el siglo XXI y cambiemos el móvil por la inteligencia artificial. El conocimiento científico y tecnológico necesario, no ya para entender la IA sino para entender de qué estamos hablando, nos supera con creces. Si lo multiplicamos por la incertidumbre del impacto económico y social esperado y lo elevamos a los debates éticos y filosóficos que la IA lleva asociados, entenderemos por qué nos resulta mágica. Ante la IA todos somos nuestro tatarabuelo. Y esto nos preocupa.

Kate Crawford, artista, investigadora en IA y autora del libro Atlas of AI, decía en el 2016 en una charla en el Sónar+D en Barcelona, que la IA era “un problema de hombres blancos” y citaba a Mark Zuckerberg y Elon Musk como máximos exponentes de una lucha por la hegemonía tecnológica. En ese momento lo vi como a una boutade, pero el tiempo le ha dado la razón. Resulta que mientras la IA —o la informática, o la automatización en general— afectaba a los trabajos manuales y repetitivos, que en el contexto norteamericano mayoritariamente hacen negros y mujeres, no preocupaba demasiado a nadie.

Ha sido con la eclosión de la última ola de IA generativa, capaz de imitar trabajos que se suponen intelectuales o cognitivos, que hemos empezado a preocuparnos de su impacto en la sociedad. Casualmente, la mayor parte de estos trabajos los hacen hombres blancos, muchos de ellos con problemas de próstata. Esto no quiere decir que no afecten al resto. No nos gusta ser nuestro tatarabuelo y mucho menos que nos muevan la silla.

Para que OpenAI, Google, Tesla y Meta hagan magia con su inteligencia artificial en Nigeria, Malasia, Nepal o Filipinas, hay quien malvende su inteligencia natural

Lo ilustra muy bien el litigio entre Roberto Mata y la aerolínea americana Avianca por unas supuestas lesiones producidas por la carretilla de las bebidas a bordo en el 2019. Su abogado, Steven Schwartz, buscó precedentes de sentencias favorables a los intereses de su cliente en casos similares. Encontró hasta seis que adjuntó a la causa. El juez quedó estupefacto al comprobar que todos los precedentes eran falsos. Cuando se lo notificaron, el letrado volvió a comprobar los casos uno por uno: todos existían. ¿Qué había pasado? Resulta que Schwartz, para documentarse, había utilizado ChatGPT, que le había enumerado hasta seis casos favorables con todo lujo de detalles. Y no solo esto, al preguntar posteriormente al mismo ChatGPT caso por caso si existían le había respondido que claro que sí.

Schwartz, con más de treinta años de ejercicio, no es que se pueda considerar un novato en el mundo del derecho, pero sí lo es en el mundo de la IA (por otra parte, como usted y como yo). Su gran error fue confundir el ChatGPT por un Google avanzado, por un Google que en lugar de dar respuestas en forma de enlaces las da en “prosa presentable a un juez”; tecnologías de las que comprendemos y valoramos los resultados, pero que superan con creces nuestro nivel de comprensión tecnológica; tecnologías indistinguibles de la magia.

Como ingeniero soy incapaz de disfrutar de un truco de magia que no sea de cartas. Cuando en un espectáculo de magia empiezo a ver artilugios, artefactos y mecanismos, mi cerebro se concentra en la falta de conocimiento sobre la tecnología que hace posible la ilusión y no me quedo tranquilo hasta que no le encuentro una explicación racional. Cuando el mago hace desaparecer la estatua de la Libertad, atraviesa una pared o camina sobre el agua solo le vemos a él, pero detrás hay un ejército de personas que hacen posible la ilusión colectiva. Si nos fijamos en las personas, la ilusión se desvanece.

Mientras la IA afectaba a los trabajos repetitivos, que en EE.UU. hacen negros y mujeres, no preocupaba demasiado.

Algo similar le ocurre a la IA: cuando nos damos cuenta del ejército de personas que hacen posible la ilusión colectiva, la magia desaparece. Y no me refiero solo a científicos, matemáticos, ingenieros de datos, ingenieros de conocimiento y desarrolladores. Me refiero al grueso de trabajadores precarios de la IA que en países como Nigeria, Malasia, Nepal o Filipinas trabajan por 1 o 2 dólares la hora etiquetando contenido que después se utilizará para entrenar a las máquinas. Son lo que se conocen como “anotadores”, trabajadores anónimos que no saben para quiénes trabajan y que se pasan todo el día etiquetando bicicletas en fotogramas de vídeos de Tesla, prendas de marca en imágenes de Instagram, respuestas ofensivas o ilegales de ChatGPT, audios ininteligibles de Siri o Alexa o contando cabezas y brazos en vídeos de manifestaciones. 

Son trabajos temporales y alienantes que se vehiculan por webs como Remotasks.com, Taskup.ai y DataAnnotation.com. Si desea ver la trastienda de la IA puede inscribirse y probarlo usted mismo. Para que empresas como OpenAI, Google, Tesla y Meta hagan magia en el primer mundo con su inteligencia artificial, en el tercer mundo hay personas que deben malvender su inteligencia natural.

El matemático y filósofo Bertrand Russell, al terminar una conferencia sobre astronomía, fue interpelado por una señora de la audiencia que le refutaba que la Tierra se encontrara suspendida en el espacio. Según ella, la Tierra reposaba sobre el caparazón de una gran tortuga. Russell le respondió que, admitiendo que fuera así, ¿dónde reposaba la tortuga que aguantaba la Tierra? “Muy listo, Sr. Russell, hay tortugas hasta abajo de todo”, respondió convencida la señora. La anécdota es probablemente apócrifa, pero también nos sirve para quitarle magia a la IA: cuando la entendemos bien nos damos cuenta de que hay humanos hasta abajo de todo.