ORWELL EN EL SUPERMERCADO

 Dicen que cuando uno tiene un martillo ve clavos en todas partes. Es la tendencia –tan humana– a resolver los problemas con la herramienta más a mano. Pero, ¿qué ocurre cuando el que ve clavos y se precipita a clavarlos, venga o no venga a cuento, no es la persona que tiene el martillo, sino el martillo, por su cuenta? - Carles Casajuana en la vanguardia.

No hace mucho, Warren Rajah, ciudadano británico, fue obligado a irse de un supermercado de la cadena Sainsbury donde compraba habitualmente, en Londres, porque el programa de vigilancia a través del reconocimiento facial contratado por la empresa le confundió con otra persona. Los empleados del supermercado invitaron a Rajah a abandonar el local, pero no acertaron a explicarle por qué debía irse. No lo sabían. La presunción de todos era que le habían pillado en algún establecimiento de la cadena intentando robar, pero Rajah insistió en que nunca había causado ningún problema.

Le dijeron que se pusiera en contacto con la empresa de reconocimiento facial, Facewatch, y los responsables de Facewatch le pidieron que enviara una fotografía suya y una copia de su pasaporte para verificar si coincidían con las imágenes que tenían en su base de datos. Como es lógico, Warren Rajah dijo que no le correspondía a él demostrar que no era ningún delincuente, que quien debía demostrarlo, para prohibirle la entrada en los supermercados, era Sains­bury. Pero sus protestas fueron inútiles.

Warren Rajah debe de ser un santo, o está tan acostumbrado a los productos de Sainsbury que no le apetecía cambiar de supermercado, porque se armó de paciencia e hizo todo lo que le pidieron. Gracias a ello, después de varias idas y venidas, el asunto se aclaró. Los empleados del supermercado habían interpretado mal la información que habían recibido de Facewatch. Le habían confundido con otra persona. Sainsbury no tenía nada contra él. Podía entrar en todos los locales de la cadena. Sorry. Un malentendido.

¿Quién manda aquí, los algoritmos y los que se están haciendo­ de oro con la adicción que crean o nosotros?

El caso en sí no tiene ninguna importancia, pero ilustra bien un nuevo peligro. Los ordenadores y programas informáticos no han oído hablar de la presunción de inocencia. No entienden de estos refinamientos. Para ellos, todos somo culpables hasta que demostremos que somos inocentes.

Son las primeras escaramuzas de una guerra que no ha hecho más que empezar y que sin duda será una de las conflagraciones del siglo. ¿Quién manda aquí, los algoritmos y los que se están haciendo­ de oro con la adicción que crean o nosotros? El progreso siempre nos quita con una mano una parte de lo que nos da con la otra. Como dijo –más o menos– la humorista estado­unidense Alice Kahn: “Si quiere una lista de los inconvenientes del progreso tecnología digital, marque tres”.