Los peligros del sistema de reconocimiento facial de China: una mujer acusada por error

?M¨¦todo de vigilancia o instrumento de control? En China, pa¨ªs en el que sus dirigentes est¨¢n obsesionados con controlar hasta el m¨¢s m¨ªnimo detalle de la poblaci¨®n -Internet est¨¢ censurado, las redes sociales est¨¢n censuradas-, las calles de sus ciudades ya cuentan con un sistema de vigilancia con miles de c¨¢maras urbanas, en el que los polic¨ªas usan gafas de Realidad Aumentada y todo. Un gran hermano absoluto en el que compa?¨ªas como Sensetime juegan un papel muy relevante.

Gran hermano chino

Sensetime, una de las compa?¨ªas chinas de Inteligencia Artificial de m¨¢s ¨¦xito, que ya tiene c¨¢maras inteligentes para el gobierno chino que sirven tanto para cazar criminales como para monitorizar a los ciudadanos. De hecho son tan avanzadas que ¡°pueden reconocer m¨¢s de 4.000 veh¨ªculos¡° entre bicicletas, coches y autobuses, e identificar a personas ¡°seg¨²n sean adultos, ni?os, masculino o femenino¡±. Esta tecnolog¨ªa permite incluso cosas como detectar a alguien que est¨¢ cruzando por donde no debe, enfocarlo y ponerlo en enormes pantallas por toda la calle para avergonzarlo delante de todo el mundo, algo que se conoce como ¡®Jaywalking¡¯.

Ampliar

Pero, ?y si se diera el caso de un falso positivo registrado por el sistema? Pues esto es exactamente lo que ha pasado: Dong Mingzhu, una conocida mujer de negocios del pa¨ªs, fue acusada en la ciudad de Ningbo de hacer cruzado mal por el paso de peatones. Lo curioso del tema es que Mingzhu no estaba cruzando esa carretera en ese momento. Lo estaba haciendo una imagen promocional suya pegada al lateral de un autob¨²s. O sea: el sistema de reconocimiento facial chino confundi¨® un anuncio de autob¨²s con una persona real, y emiti¨® una infracci¨®n bas¨¢ndose en el nombre y DNI de la afectada, la cual puso en pantalla grande en un sistema degradante para humillar al infractor delante de todo el mundo.

¡°Hemos mejorado el sistema¡±

Ante semejante error garrafal, sobre todo en un sistema de vigilancia del que las autoridades tanto presumen, la Polic¨ªa borr¨® r¨¢pido la err¨®nea infracci¨®n y anunci¨® que han actualizado la tecnolog¨ªa de reconocimiento facial para que no vuelva a suceder, ¡°reduciendo el falso ratio de reconocimiento¡°. Esto podr¨ªa no pasar de una simple an¨¦cdota, pero al contrario: revela los peligros que un sistema de vigilancia como este acarrea, ya que si en vez de a esta mujer, que es famosa y puede mostrar que era un anuncio de autob¨²s, le pasa a alguien an¨®nimo, ?qu¨¦ posibilidades tendr¨ªa de defenderse? Las mismas que las de la ejecutiva no, desde luego.