ACLU critica las afirmaciones de precisión de reconocimiento facial de Clearview

 the aclu ha denunciado las afirmaciones de clearview sobre la precisión de su tecnología de reconocimiento facial

La American Civil Liberties Union a principios de esta semana criticó al desarrollador de herramientas de reconocimiento facial Clearview por hacer afirmaciones engañosas sobre la precisión de su producto.

Clearview aparentemente le ha estado diciendo a las agencias policiales que su tecnología se sometió a pruebas de precisión modeladas en la prueba ACLU 2018 de la herramienta de reconocimiento facial Rekognition de Amazon.

Para esa prueba, la ACLU simuló la forma en que la ley Las fuerzas del orden utilizaron Rekognition en el campo, haciendo coincidir las fotos de los 535 miembros del Congreso de los Estados Unidos con una base de datos que construyó de 25,000 fotografías de arrestos disponibles públicamente.

Rekognition comparó incorrectamente a 28 legisladores con las fotos de los arrestados. Las coincidencias falsas presentaban desproporcionadamente a legisladores de color.

Examen de Clearview examinado

Según se informa, el examen de precisión de Clearview comparó los disparos a la cabeza de los 535 miembros del Congreso, los 119 miembros de la Legislatura del Estado de California y 180 miembros de la Legislatura del Estado de Texas contra su base de datos.

Clearview tiene una base de datos de unos 2.800 millones de caras extraídas de varias redes sociales y otros sitios web públicos de Internet.

La prueba de Clearview "no podría ser más diferente del trabajo de la ACLU, y deja preguntas crudas sin respuesta", escribió Jacob Snow, un abogado de tecnología y libertades civiles en la ACLU "En lugar de buscar a legisladores contra una base de datos de fotos de arrestos, Clearview aparentemente buscó en su propia base de datos de fotos".

El informe de prueba de precisión de la compañía, con fecha de octubre de 2019, fue firmado por tres personas: Jonathan Lippmann, juez principal de el Tribunal de Apelaciones de Nueva York de 2009-2015; Nicholas Cassimatis, ex jefe del Laboratorio de innovación de inteligencia de Samsung Research America; y Aaron Renn, un analista de políticas urbanas que anteriormente era socio de Accenture.

Los tres calificaron a Clearview con un 100% de precisión. Sin embargo, ninguno de ellos tiene experiencia en reconocimiento facial.

No hay indicios de que Clearview haya sometido su producto a pruebas rigurosas, sostuvo Snow de la ACLU. Es probable que la precisión de un algoritmo se reduzca en el mundo real debido a la calidad de la fotografía, la iluminación, el sesgo del usuario y otros factores.

"La imitación puede ser la forma más sincera de adulación, pero es una adulación de la que podemos prescindir", escribió Snow. "Si Clearview está tan desesperado por comenzar a salvar su reputación, debería dejar de fabricar endosos y comenzar a eliminar los miles de millones de fotos que componen su base de datos, apagar sus servidores y salir completamente del negocio de vigilancia".

Bad Buzz

Clearview ha generado una controversia considerable con sus campañas publicitarias y afirmaciones:

  • Afirma haber ayudado al Departamento de Policía de Nueva York a arrestar a sospechosos en al menos dos casos, lo que la policía de Nueva York niega;
  • Clearview's afirma tener aproximadamente mil fuerzas policiales que usan su aplicación no han sido justificadas;
  • Twitter, Google, Facebook, YouTube, Venmo y LinkedIn han escrito a la compañía exigiendo que deje de raspar fotos de sus plataformas;
  • Preocupaciones sobre Clearview la tecnología llevó a EPIC y otras organizaciones a escribir la Junta de Privacidad y Libertades Civiles exigiendo la suspensión de los sistemas de reconocimiento facial en espera de una revisión adicional;
  • La ​​ Electronic Frontier Foundation ha pedido una legislación federal de privacidad integral en torno a la recopilación de datos; [19659021] Sen. Ed Markey, D-Mass., Ha escrito Clearview exigiendo información sobre su comercialización a las agencias policiales considerando su tecnología; y
  • Se ha presentado una demanda que busca el estado de una acción de clase en un tribunal de Illinois alegando que el producto de Clearview infringe la información biométrica del estado. Ley de Privacidad (BISA).

Incumplir a BISA le costó a Facebook una multa de US $ 550 millones, un récord para cualquier demanda de privacidad.

Clearview "parece ser extremadamente deshonesto con sus reclamos y, como compañía, no son confiables". observó Rob Enderle, analista principal en Enderle Group .

"Dado eso, realmente no se puede confiar en lo buena que es la herramienta", dijo a TechNewsWorld. "Así que tomará mucho calor desplegándolo y luego, si no funciona, parecerá un idiota. Eso podría ser una carrera para los involucrados".

Uso apropiado de tecnología

La ​​Oficina Federal de Investigaciones de EE. UU. Dictaminó que su Sistema de Identificación de Próxima Generación (NGI) está exento de una o más disposiciones de la Ley de Privacidad de 1974.

Esa es una de las razones El reconocimiento facial plantea preocupaciones. Otra es que algunas escuelas han comenzado a usar sistemas de reconocimiento facial.

"A todos les preocupa que el uso irrestricto del reconocimiento facial pueda ser perjudicial para la libertad personal", dijo Mike Jude, director de investigación de IDC . [19659003] "Clearview actualmente no está regulado y, obviamente, tiene un poderoso incentivo para promover el uso del reconocimiento facial", dijo a TechNewsWorld.

Los falsos positivos siempre son un problema, señaló Jude. "El reconocimiento facial no es infalible". Es simplemente un caso de fotos de basura adentro, identificaciones de basura afuera ".

Sin embargo, la tecnología" puede ser una herramienta muy valiosa en varias áreas, incluido el comercio minorista ", dependiendo de cómo se use , dijo.

"Sería desafortunado que arrojáramos al bebé con el agua del baño", dijo Jude. "Probablemente habrá leyes que busquen controlar el uso del reconocimiento facial".

La Unión Europea , que inicialmente consideró una prohibición de cinco años para el reconocimiento facial en lugares públicos, decidió dejar que los estados miembros se ocuparan del problema.

Las autoridades de protección de datos francesas y suecas han descartado el uso de software de reconocimiento facial en las escuelas.

En En el Reino Unido, la policía utiliza la tecnología que han implementado en Londres.

En China, registrarse para un servicio de telefonía móvil requiere un escaneo facial. Mientras tanto, India se está preparando para instalar un sistema de reconocimiento facial a nivel nacional.

EE. UU., Oregón, Nueva Hampshire y California ha prohibido la tecnología, pero solo en cámaras de policía. Varias ciudades, incluidas San Francisco y Oakland, lo prohíben por completo.

"El reconocimiento facial está llegando, nos guste o no", predijo Enderle. "Esto significa que debe centrarse más en mejorar los conjuntos de capacitación y establecer reglas sobre dónde y cuándo se pueden usar estas herramientas".


Leave a Reply

Your email address will not be published. Required fields are marked *