Cámaras con IA en el metro de Londres captan el estado emocional de los viajeros

Miles de pasajeros del metro londinense han sido observados y analizados sin su consentimiento al menos durante un año a través de sistemas de inteligencia artificial (IA) alimentados por las cámaras de vigilancia. El reconocimiento facial desplegado permite detectar el género, la edad o las emociones potenciales del usuario, con el propósito sugerido de utilizar toda esta información para diseñar un tipo de publicidad personalizada. La tecnología ha sido desarrollada por la empresa Amazon.

La noticia ha sido publicada por la página de información tecnológica Wired, que ha tenido acceso a los documentos obtenidos por la organización de defensa de los derechos y libertades civiles Big Brother Watch (La Vigilancia del Gran Hermano). A través de una petición realizada bajo el amparo de la Ley de Libertad de Información, la ONG ha logrado toda la documentación referida a los ensayos realizados —al menos desde abril de 2023― en ocho estaciones de la red suburbana de la capital británica. Las más importantes son Euston, Waterloo o Manchester Picadilly. Las pruebas han sido realizadas bajo la aparente supervisión de Network Rail, la empresa pública gestora y propietaria de la mayor parte de la red ferroviaria del Reino Unido.

El propósito inicial del proyecto es elaborar un sistema de detección de posibles accidentes, riesgos en la seguridad o actos criminales o de vandalismo. La tecnología desplegada en las estaciones utiliza un reconocimiento de objetos detectados en las cámaras, a través del aprendizaje automático o machine learning, para poder avisar, por ejemplo, de usuarios saltando a las vías, de un exceso de viajeros en los andenes o de actitudes que alteren el orden de la red, como personas corriendo, gritando o fumando. A través de unos sensores inalámbricos, el sistema detecta también suelos resbaladizos o posibles inundaciones.

Pero lo más alarmante para la organización que ha obtenido la información es que algunos elementos de los ensayos desplegados se centran en los “rasgos demográficos” de los pasajeros. Las imágenes obtenidas por las cámaras, según los documentos hechos públicos, pueden producir “un análisis estadístico del rango de edad y de género” de los usuarios, así como “analizar algunas emociones” para detectar si están tristes, contentos o irritados.

“El despliegue y normalización de vigilancia a través de IA en espacios públicos, sin ningún tipo de consulta o debate previos, es un paso bastante preocupante”, ha dicho a Wired Jake Hurfurt, el director de investigación de la ONG.

Todas las imágenes, según la información, son captadas cuando los pasajeros atraviesan una línea virtual situada justo delante de las barreras de entrada a las estaciones. Los datos son enviados al sistema Rekogntion de Amazon, capacitado para realizar análisis facial y de objetos. Permite medir el grado de “satisfacción” de los usuarios y, asegura la documentación revelada, “los datos podrían ser utilizados para potenciar al máximo la publicidad y las ventas minoristas”.

“Nos tomamos extremadamente en serio la seguridad de la red ferroviaria y usamos toda una variedad de avances tecnológicos, desplegados por todas nuestras estaciones, para proteger a los pasajeros, a los empleados y a la propia infraestructura antes posibles amenazas o actos delictivos”, ha asegurado un portavoz de Network Rail, que no ha querido comentar el uso concreto de la IA en el suburbano.”Cuando desplegamos nueva tecnología, lo hacemos conjuntamente con la policía y los servicios de seguridad, para que las medidas sean proporcionadas y conformes a la legalidad”, ha añadido.

El sistema desplegado en el metro londinense no utiliza la tecnología de reconocimiento facial más cuestionada en la actualidad, aquella que vincula a los usuarios detectados con las identidades ya clasificadas en un almacenamiento de datos.