Zuhair Lakhani es un joven estadounidense de 21 años. Asegura que maneja una granja con unos 4.200 móviles: en un dúplex en Los Ángeles alberga unos 1.200 dispositivos y el resto, unos 3.000, se encuentran repartidos en otros puntos de la ciudad californiana.
Lakhani explica que todo este ejército de teléfonos los gobierna un agente de inteligencia artificial (IA), que es capaz de crear en cada uno de ellos un perfil en redes sociales, principalmente TikTok. Esa IA consigue engañar al algoritmo de la plataforma navegando durante un par de semanas como si fuera un humano. Lo hace sin llamar la atención: scrollea sin parar, se detiene, da likes, comenta, comparte, se aburre…
Lakhani asegura que puede crear cualquier perfil que se proponga. Podría dar vida a un ama de casa de 58 años de Barcelona, a un runner de 37 años de Riudellots de la Selva o a una joven migrante marroquí que ha llegado con éxito a España tras cruzar por Ceuta.
Más de 6.000 empresas han llegado a solicitar sus servicios, según relata él mismo en un extenso reportaje en Intelligencer, la sección de tecnología y negocios de New York Magazine. Sus clientes le pagan 450 dólares al mes para que obre su magia. Su objetivo no es otro que el de vender un producto. El propio Lakhani lo detalla de este modo: “Si nos dices: ‘Quiero que vendas mis raquetas de tenis’; crearemos cuentas nuevas para ti en TikTok y las aclimataremos al nicho del tenis. Haremos que esas cuentas vean contenido de tenis, comenten cosas de tenis e interactúen con temas de tenis para que los algoritmos reconozcan a un espectador más de tenis”, explica.
Así, cuando la cuenta creada por la IA de Lakhani empiece a publicar sobre raquetas, TikTok considerará esos vídeos auténticos y los mostrará a otros tenistas, estos sí, reales, algunos de los cuales querrán comprar el producto que ha aparecido en su pantalla por arte de (supuesto) birlibirloque. Dicho en otros términos, influencers sintéticos simulan una tendencia para que usuarios reales terminen comprando un producto. Lo artificial se mezcla con lo auténtico hasta hacerse difícil de distinguir.
Joe Lim también sabe de manipulación en redes sociales. Y también ha utilizado inteligencia artificial para fabricar influencers. Estima que el 90% de lo que uno ve en TikTok, Instagram o X es publicidad encubierta. Si los ojos de millones de personas están en la pantalla de un móvil, es allí donde hay que ir a buscar a los clientes.
Estadounidense de 29 años, Lim dirigió una empresa llamada Floodify (un juego de palabras con inundar, flood, en inglés), que en su momento álgido llegó a gestionar 65.000 cuentas falsas en redes sociales con el objetivo de promover lo que sus clientes desearan. En un solo día, asegura Lim en un artículo en Vulture, podía publicar 50.000 vídeos en TikTok, Instagram, YouTube y X, todos diseñados para que parecieran usuarios normales que espontáneamente decidían comentar sobre algo en concreto.
Esto son solo dos ejemplos de cómo actores invisibles pueden fabricar artificialmente la apariencia de una tendencia o de un consenso, sobre cómo el marketing más turbio y también la propaganda han invadido silenciosamente las conversaciones de usuarios reales en estas plataformas para tratar de influir en su opinión en un sentido u otro.
El pasado 2 de agosto entró en vigor el artículo 50 del Reglamento de IA de la Unión Europea, que establece obligaciones de transparencia para los proveedores y responsables del despliegue de determinados sistemas de IA. Entre otras medidas, exige que los sistemas generativos incorporen mecanismos que permitan detectar el contenido generado o manipulado artificialmente y establece obligaciones específicas de información para determinados contenidos, entre ellos los deepfakes y determinados textos creados por IA sobre asuntos de interés público. Sin embargo, hay algo que la norma no resuelve tan fácilmente: ¿cómo se etiqueta a un usuario que no existe?
La verdad, que ya venía muy tocada, murió en Twitter hace años y lo auténtico ahora ha pasado a mejor vida entre los reels de TikTok e Instagram. ¿Habremos vivido ya algún tipo de revolución, disturbio o agitación social provocado al menos en parte por actores sintéticos y no nos habremos dado ni cuenta?
Marius Fort Armegol, a la vanguardia
