LA VIGILANCIA GLOBAL DE LA IA

 

Desde la publicación del documento de trabajo del Fondo Carnegie The Global Expansion of AI Surveillance, en septiembre del 2019, su ámbito ha seguido cambiando rápidamente. En el plano mundial, continúa en constante aumento el despliegue y la utilización por parte gubernamental de sistemas de vigilancia mediante inteligencia artificial (IA) y datos masivos (big data). Según mis cuentas, al menos 77 países están ya desplegando activamente sistemas públicos de reconocimiento facial, ciudades seguras o técnicas de vigilancia policial inteligente. Quizá resulte difícil determinar con exactitud qué es lo que lleva a ese aumento. Una explicación metodológica es que a medida que crece el número de periodistas y grupos de la sociedad civil familiarizados con esa tecnología, su escrutinio se amplía y se dan a conocer nuevos ejemplos de su uso. En otras palabras, quizá no sea que los gobiernos se hayan lanzado a adoptarla, sino que ha aumentado de modo significativo la conciencia mundial sobre ella. Otra explicación se refiere a la difusión de las normas. Los investigadores han documentado el modo en que “las tendencias mundiales tienden a arrastrar a los países; en particular, cuando los países grandes e influyentes se mueven en la misma dirección”. En este terreno, es verosímil que los países que marcan el paso, encabezados por China y Estados Unidos, sean los responsables de influir en otros a la hora de adoptar dichas técnicas.

Con la aparición de la pandemia del coronavirus, quizá estemos presenciando un nuevo impulso mundial en este ámbito a medida que una serie de países (China, Israel, Taiwán, Rusia, Corea del Sur y Singapur) incorporan herramientas de vigilancia avanzada para seguir la propagación de la epidemia y mantener una atenta vigilancia sobre sus ciudadanos. Si bien los individuos pueden acceder a que el Gobierno utilice semejantes métodos por razones de salud pública, no está claro que los estados vayan a renunciar voluntariamente a esas herramientas una vez pasada la pandemia. Sobre todo en los países autoritarios que obtienen desmesuradas ventajas del despliegue de sistemas de vigilancia masiva, resulta difícil imaginar que sus dirigentes vayan a abandonarlos fácilmente. Por lo tanto, quizá nos estemos acercando a una nueva normalidad en lo que se refiere al uso de la tecnología de vigilancia mediante IA y datos masivos. Como dejó claro mi anterior documento de trabajo citado más arriba (y como confirman las investigaciones posteriores), el uso de esos sistemas no se limita a las autocracias. También las democracias y los regímenes híbridos recurren a ellos de modo abundante. No preveo que esa tecnología retroceda. Más bien, incumbirá a la opinión pública establecer unos límites responsables y transparentes a su forma de utilización; por ejemplo, a la forma en que los gobiernos almacenan, utilizan y comparten datos personales. La lucha por encontrar un equilibrio entre los intereses de la vigilancia estatal y la protección de las libertades políticas no ha hecho más que empezar.

La tecnología de la IA estuvo antaño relegada al mundo de la ciencia ficción, pero hoy nos rodea. Hace funcionar nuestros teléfonos inteligentes, se ocupa de nuestras preferencias musicales y guía los contenidos de nuestras redes sociales. Tal vez el rasgo más notable de la IA sea su repentina ubicuidad. En términos generales, el objetivo de la inteligencia artificial es “hacer que las máquinas sean inteligentes” automatizando o replicando el comportamiento que “permite a una entidad funcionar de forma adecuada y con previsión en su entorno”, según el científico informático Nils Nilsson. La IA no es una tecnología específica. Más bien, es más exacto pensar en ella como un sistema integrado que incorpora objetivos de adquisición de información, principios de razonamiento lógico y capacidades de autocorrección. Un subcampo importante de la IA es el aprendizaje automático, un proceso estadístico que analiza una gran cantidad de información con objeto de detectar un patrón para explicar los datos actuales y predecir usos futuros. Varios avances están haciendo posible nuevos logros en este campo: la madurez del aprendizaje automático y la aparición del aprendizaje profundo; la computación en la nube y la recopilación de datos en línea; una nueva generación de microchips y equipos informáticos avanzados; un mejor rendimiento de los algoritmos complejos; y unos incentivos surgidos del mercado para nuevos usos de la tecnología de la IA.

Sin que constituya sorpresa alguna, las consecuencias de la IA se extienden mucho más allá de las elecciones de los consumidores individuales. Está empezando a transformar las pautas básicas de la gobernanza, y no sólo porque proporciona a los gobiernos unas capacidades sin precedentes para vigilar a sus ciudadanos y moldear sus elecciones, sino también porque les proporciona una nueva capacidad para alterar elecciones, difundir información falsa y deslegitimar el discurso democrático más allá de las fronteras.

Los hallazgos y tres ideas - Los hallazgos del estudio indican que al menos 75 de un conjunto de 176 países del mundo utilizan de modo activo las tecnologías de IA con propósitos de vigilancia. Eso incluye: plataformas de ciudades inteligentes/ciudades seguras (56 países), sistemas de reconocimiento facial (74 países) y vigilancia policial inteligente (52 países). Tres ideas se desprenden de los hallazgos del índice de VGIA.

A raíz del coronavirus, países como China, Israel, Taiwán, Rusia, Corea del Sur y Singapur han incorporado herramientas para seguir su propagación y mantener una atenta vigilancia sobre sus ciudadanos. En primer lugar, la adopción global de la vigilancia mediante IA aumenta a un ritmo rápido en todo el mundo. Ya sea de forma legal como ilícita, la están desplegando 75 países, un 43% del total evaluado. El conjunto de países es heterogéneo: proceden de todas las regiones y los sistemas políticos y van desde las autocracias cerradas hasta las democracias avanzadas. El informe Freedom on the Net 2018 provocó alzamientos de cejas cuando reveló que 18 de los 75 países evaluados utilizaban tecnología de vigilancia mediante IA procedentes de empresas chinas. El período de estudio de dicho informe se extendió desde el 1 de junio del 2017 hasta el 31 de mayo del 2018. Un año más tarde, el índice de VGIA constata que son 47 los países de ese mismo grupo los que están desplegando ahora tecnología china de vigilancia mediante IA.

No es de extrañar que los países con sistemas autoritarios y bajos niveles de derechos políticos estén realizando grandes inversiones en técnicas de vigilancia mediante IA. Muchos gobiernos del Golfo, Asia oriental y Asia central y meridional están adquiriendo sistemas analíticos avanzados, cámaras de reconocimiento facial y sofisticadas capacidades de vigilancia. Por su parte, las democracias liberales de Europa también se han lanzado a instalar controles fronterizos automatizados, vigilancia policial predictiva, ciudades seguras y sistemas de reconocimiento facial. De hecho, resulta sorprendente la cantidad de estudios de casos de vigilancia de ciudades seguras publicados en el sitio web de Huawei y relacionados con municipios de Alemania, Italia, Países Bajos y España.

En términos regionales, hay claras disparidades. Las regiones de Asia oriental-Pacífico y Oriente Medio-África del norte han adoptado decididamente esas herramientas. Asia meridional y central y América también ponen de manifiesto una considerable utilización de los instrumentos de vigilancia mediante IA. El África subsahariana está rezagada: menos de una cuarta parte de sus países invierten en la vigilancia mediante IA. La causa más probable es el subdesarrollo tecnológico (los países africanos se esfuerzan por ampliar el acceso de banda ancha a sus poblaciones; la región posee 18 de los 20 países con los niveles más bajos de penetración de internet). Dada la agresividad de las empresas chinas para penetrar en los mercados africanos por medio de la Iniciativa de la Franja y la Ruta (BRI, Belt and Road Initiative), es probable que esas cifras aumenten en los próximos años.

En segundo lugar, China es un importante proveedor de vigilancia mediante IA. Encontramos tecnología vinculada a empresas chinas en, como mínimo, 63 países de todo el mundo. Sólo Huawei es responsable de proporcionarla al menos a 50 países. También hay un considerable solapamiento entre la BRI y la vigilancia mediante IA: 36 de los 86 países de la BRI cuentan también con una importante tecnología de vigilancia mediante IA. Sin embargo, China no es el único país que suministra tecnología de vigilancia avanzada. Alemania, Francia, Japón y Estados Unidos son también importantes agentes en ese ámbito. Las empresas estadounidenses, por ejemplo, tienen una presencia activa en 32 países.

En tercer lugar, las democracias liberales son importantes usuarias de vigilancia mediante IA. Según el índice, un 51% de las democracias avanzadas la despliega. En cambio, lo hacen un 37% de los estados autocráticos cerrados, un 41% de los estados autocráticos electorales/competitivos y un 41% de las democracias electorales/democracias iliberales. Los gobiernos democráticos liberales están utilizando agresivamente las herramientas de la IA para vigilar fronteras, detener a potenciales delincuentes, vigilar el mal comportamiento de ciudadanos e identificar a sospechosos de terrorismo entre las multitudes. Eso no significa necesariamente que las democracias estén usando la tecnología de modo ilícito. El factor más importante que determina si los gobiernos aprovecharán esa tecnología con fines represivos es la calidad de su gobernanza: ¿existe ya un patrón de violaciones de los derechos humanos?, ¿existe una fuerte tradición del Estado de derecho e instituciones independientes de rendición de cuentas? Eso es lo que debe proporcionar cierto grado de tranquilidad a los ciudadanos que residen en los estados democráticos.

Ahora bien, las democracias avanzadas se esfuerzan por equilibrar los intereses de seguridad y la protección de las libertades civiles. En Estados Unidos, un número cada vez mayor de ciudades han adoptado sistemas avanzados de vigilancia. Por ejemplo, una investigación realizada en el 2016 por Kim Hart, de Axios, reveló que la policía de Baltimore había desplegado en secreto drones aéreos para realizar la vigilancia diaria de los residentes de la ciudad: “Desde un dron que sobrevuela las calles, potentes cámaras captan imágenes aéreas de toda la ciudad. Las fotos se toman cada segundo, y el dron puede estar dando vueltas en el aire hasta diez horas al día”. La policía de Baltimore también desplegó cámaras de reconocimiento facial para vigilar y detener a los manifestantes; en particular, durante los disturbios del 2018. La Unión Americana para las Libertades Civiles (ACLU) condenó esas técnicas como el “equivalente tecnológico de poner un GPS en el tobillo en todos los habitantes de Baltimore”.

Países con sistemas autoritarios y bajos niveles de derechos políticos están realizando grandes inversiones en técnicas IA de vigilancia. Sin embargo, también las democracias liberales las están implementando. Asimismo, en la frontera entre México y Estados Unidos, una serie de empresas de alta tecnología suministra equipos de vigilancia avanzados. El contratista de defensa israelí Elbit Systems ha construido “decenas de torres en Arizona para detectar personas desde una distancia que puede llegar hasta los 12 kilómetros”, según Olivia Solon, periodista de The Guardian. Se trata de una tecnología perfeccionada en Israel a partir de un contrato para construir una “valla inteligente” entre Jerusalén y Cisjordania. Otra compañía, Anduril Industries, “ha desarrollado torres equipadas con una cámara mejorada con láser, un radar y un sistema de comunicaciones” que escanea un radio de tres kilómetros para detectar movimientos. Las imágenes captadas “se analizan utilizando inteligencia artificial para distinguir a las personas de la fauna y de posibles objetos en movimiento”. No está claro hasta qué punto estos despliegues de vigilancia están cubiertos por la legislación estadounidense, y mucho menos si esas acciones cumplen con el criterio de necesidad y proporcionalidad.

Estados Unidos no es la única democracia que adopta la vigilancia mediante IA. En Francia, la ciudad portuaria de Marsella inició en el 2016 una asociación con ZTE para establecer el proyecto Big Data of Public Tranquility. El objetivo del programa es reducir la delincuencia creando una amplia red de vigilancia pública con un centro de operaciones de inteligencia y cerca de mil cámaras inteligentes de circuito cerrado de televisión (CCTV) (el número se duplicará a lo largo del 2020). Las autoridades locales proclaman que dicho sistema hará de Marsella “la primera ciudad segura de Francia y Europa”. Asimismo, en el 2017, Huawei regaló un sistema de vigilancia de escaparates a la ciudad francesa de Valenciennes para demostrar su modelo de ciudad segura. El paquete incluía vigilancia mejorada CCTV de alta definición y un centro de mando inteligente basado en algoritmos capaces de detectar movimientos inusuales y formación de multitudes.

El hecho de que tantas democracias, no sólo las autocracias, adopten esa tecnología significa que el tipo de régimen no es un buen indicador para determinar qué países adoptarán la vigilancia mediante IA. - STEVEN FELDSTEIN - LAVANGUARDIA.COM