Si las actuales herramientas de IA prosperan, nadie podrá robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Más que el triunfo de la ley, será la sustitución de la justicia por una tiranía ciega - Samuel Witteveen Gómez - ctxt.com

Existen supermercados donde las cámaras de seguridad señalan por sí solas a quienes cometen un hurto. Mediante inteligencia artificial estas cámaras son capaces de identificar los gestos y las actitudes que suelen acompañar a la sustracción de algún producto. Sucede en países como Estados Unidos y Japón. También hay estaciones de tren y metro, en Cataluña por ejemplo, donde las cámaras alertan si algún pasajero accede sin billete. Además, se espera que cada vez más vehículos incluyan sistemas que reducen la velocidad automáticamente cuando el conductor supera el límite permitido. Son algoritmos, asimismo, los que a menudo se ocupan de detectar y penalizar el fraude fiscal. Y un juez en Colombia ha materializado un horizonte con el que algunos juristas sueñan al recurrir a ChatGPT para escribir una sentencia. Estos ejemplos, por dispares que parezcan, señalan una misma tendencia: la automatización de la ley. Ante las posibilidades que nos ofrece la tecnología, resulta tentador invertir en sistemas que ayuden a garantizar el cumplimiento de las normas. Y si estas herramientas realmente prosperan podría llegar un día donde nadie, independientemente de su situación, pueda robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Pero esto, más que el triunfo de la ley, puede suponer el fin del derecho como práctica de una comunidad moral y su sustitución por algo más bien parecido a un molde, a un túnel, a una tiranía ciega. El filósofo Maxim Februari explica en su último libro que las máquinas, a diferencia de nosotros, no son sujetos morales que actúan desde la responsabilidad. Por ello tampoco son capaces de ver y entender que nosotros, sobre quienes ellas deciden, sí somos seres morales. “Las máquinas” escribe Februari “no están en lo más mínimo preocupadas por la verdad de nosotros como personas, ni se preocupan por entender, lo único que persiguen es funcionar: realizar operaciones”.  Así, por severo que pueda llegar a ser un revisor de metro, este siempre será infinitamente más compasivo que un sistema automatizado. El revisor, a diferencia de la máquina, tiene la capacidad de comprender que hay razones para colarse en el metro, que cada pasajero representa un caso particular. La máquina, en cambio, no ve personas, no ve historias ni necesidades, tan solo es capaz de detectar aquellos indicadores que posibilitan su idéntica operación.  Y es que el mundo funciona en gran medida gracias a procesos informales, experiencias y gestos que no son cuantificables. Incluso la persona más bruta conoce una inmensidad de sentires completamente ajenos a la máquina, sentires que en todo momento informan sus actos. La empatía, la indignación, la duda, el conflicto, la flexibilidad, el temor, la paciencia, la justicia. Quienes, ignorando todo ello, equiparan la máquina con el humano, toman las capacidades de la máquina como criterio y desprecian aquello que distingue a lo vivo de lo inerte. La historia nos muestra, además, que ignorar la importancia de los procesos informales conduce una y otra vez al desastre. La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho. Lo que diferencia un Estado de derecho de cualquier modelo autoritario es que el poder está sujeto a garantías. Las decisiones no reposan simplemente en la autoridad, sino que deben ser legítimas y justificables. La primacía del derecho sobre el poder implica, por tanto, la existencia de una comunidad inmersa en una práctica constante de apelar, interpelar, decidir y justificar. Renunciar a ello en pos de un orden cerrado conlleva disolver la comunidad y suspender el derecho. Cuando hablamos de automatización no hablamos en consecuencia de una mera sofisticación, sino de un modo radicalmente diferente de gobernanza. La ley es incompatible con lo mecánico. No existe ley aplicable a todos los casos, pues la norma necesariamente requiere, una y otra vez, interpretación y ejecución. Más que el triunfo de la ley, será la sustitución de la justicia por una tiranía ciega.