Una total invasión a la privacidad. Dos estudiantes de la Universidad de Harvard revelaron recientemente que es posible combinar los lentes inteligentes de Meta con la tecnología de búsqueda de imágenes faciales para «revelar los datos personales de cualquiera», incluido su nombre, dirección y número de teléfono, «con solo mirarla«.
En un documento de Google, AnhPhu Nguyen y Caine Ardayfio explicaron cómo vincularon un par de Meta Ray Bans 2 a un motor de búsqueda facial llamado PimEyes para ayudar a identificar a extraños mediante la búsqueda cruzada de su información en varias bases de datos de búsqueda de personas.
Luego utilizaron un modelo de lenguaje grande (LLM) para combinar rápidamente todos esos datos, lo que hizo posible revelar información confidencial de alguien con solo un vistazo o sacar a la luz información para estafar a alguien en segundos, u otros usos nefastos.
Todo esto es posible gracias a los recientes avances en los LLM, dijeron los estudiantes.
«Esta sinergia entre los LLM y la búsqueda de rostros inversos permite una extracción de datos totalmente automática y completa que antes no era posible únicamente con los métodos tradicionales», se lee en el Google Doc.
“Cuando antes alguien podía pasar un tiempo considerable realizando su propia búsqueda en bases de datos públicas para encontrar información basándose únicamente en la imagen de alguien, sus gafas inteligentes distópicas hacen ese trabajo en unos pocos segundos”, afirma su vídeo de demostración.
Los co creadores dijeron que modificaron un par de Meta Ray Bans 2 para crear I-XRAY, con el objetivo de generar conciencia sobre las «importantes preocupaciones sobre la privacidad» en línea a medida que la tecnología avanza rápidamente.
La forma más “espeluznante” de probar tecnología
Los estudiantes dijeron que eligieron Meta Ray Bans 2 para su proyecto porque los lentes inteligentes «parecen casi indistinguibles de los normales».
Para evitar que otras personas hagan lo mismo que ellos, los co creadores no publicaron el código, dijo Nguyen en X (antes Twitter).
Sin embargo, sí describieron en la red social cómo funciona su inquietante tecnología y cuán sorprendidos estaban los extraños al azar utilizados como sujetos de prueba al descubrir lo fácilmente identificables que son simplemente al acceder con los lentes inteligentes de Meta a la información disponible en línea.
Nguyen y Ardayfio probaron su tecnología en una estación de metro «con personas inocentes en el mundo real». Para demostrar cómo se podía abusar de la tecnología para engañar a la gente, los estudiantes incluso afirmaron conocer a algunos de los sujetos de prueba, aparentemente usando información obtenida de los lentes para hacer referencias resonantes y fingir que eran conocidos.
Según los estudiantes, se identificaron decenas de sujetos de prueba, aunque se cuestionaron algunos resultados. Para que el escaneo de sus rostros no fuera detectado, los estudiantes cubrieron una luz que se enciende automáticamente cuando las Meta Ray Bans 2 están grabando, dijo Ardayfio en X.
Los estudiantes advierten que deben optar por no participar en PimEyes ahora
Para Nguyen y Ardayfio, el objetivo del proyecto era persuadir a la gente para que dejara de usar motores de búsqueda invasivos y así proteger su privacidad en línea. Un intento de usar I-XRAY para identificar a un periodista no funcionó porque había dejado de usar PimEyes.
Pero si bien la privacidad es claramente importante para los estudiantes y en su video de demostración se intentó eliminar la información que los identificaba, al menos se identificó a un sujeto de prueba «fácilmente».
Hasta el momento, ni Facebook ni Google han optado por lanzar tecnologías similares a las que desarrollaron para vincular los lentes inteligentes de Meta a motores de búsqueda facial, informó The New York Times.
Pero otros actores en el mundo de la IA están jugando con la tecnología, incluida Clearview AI, una empresa detrás de un motor de búsqueda facial para policías que «también ha explorado un par de anteojos inteligentes que ejecutarían su tecnología de reconocimiento facial».
¿Por qué es importante?
Este descubrimiento es preocupante por varias razones: debido a que el objetivo de Clearview es poner a casi todos los humanos en su base de datos de reconocimiento facial, los policías ya han utilizado la herramienta de manera poco ética sin autorización para realizar búsquedas personales, y Clearview ya fue multada con 33 millones de dólares por violaciones de privacidad.
En su documento de Google, Nguyen y Arday Fio ofrecen instrucciones para que las personas eliminen sus rostros de los motores de búsqueda de rostros inversos como PimEyes y Facecheck ID, así como de los motores de búsqueda de personas como Fast People Search, Check Theme Instant Checkmate. También proporcionaron un formulario para que las personas pudieran hacer preguntas.
En declaraciones al medio tecnológico 404 Media, tanto Meta como PimEyes parecieron restar importancia a los riesgos de privacidad: el primero señaló que existen los mismos riesgos con las fotos de individuos y el segundo afirmó que PimEyes no «identifica» a las personas (solo señala enlaces a sus fotos donde los usuarios a menudo pueden encontrar información de identificación).
En la Unión Europea, donde la recopilación de datos de reconocimiento facial generalmente requiere el consentimiento directo de la persona según el Reglamento General de Protección de Datos, los lentes inteligentes como I-XRAY pueden no ser una gran preocupación para las personas que prefieren permanecer anónimas en espacios públicos.
Pero en Estados Unidos y otras latitudes de América, I-XRAY podría proporcionar a los actores maliciosos una ventana para violar la privacidad de las personas.
No dejes de leer: Huang dijo que la computación cuántica no será rentable pronto, pero su empresa sigue invirtiendo en ella
