Un incidente reciente ha puesto de manifiesto los riesgos que pueden conllevar las tecnologías de inteligencia artificial (IA) y la recopilación de datos. Según informa MIT Technology Review, una mujer fue grabada por un aspirador Roomba J7 de iRobot mientras se encontraba sentada en el inodoro. El dispositivo, que estaba conectado a Internet, envió las imágenes a la nube y llegaron a Scale AI, empresa encargada de entrenar la IA.
El incidente ocurrió mientras el dispositivo estaba en desarrollo y se encargaba de recopilar datos para su mejora. Según MIT Technology, el aparato obtuvo 15 capturas de pantalla de imágenes privadas que se publicaron en grupos cerrados de redes sociales en 2020.
Los robots aspiradores, que cuentan con hardware y sensores potentes, pueden recopilar datos muy invasivos al poder moverse por la casa sin control. Estos datos son recopilados con el objetivo de mejorar la inteligencia artificial de los robots, pero para que la información sea útil, los usuarios deben ver, categorizar, etiquetar y añadir contexto a cada bit.
iRobot ha señalado que ha tomado todas las precauciones necesarias para garantizar que los datos personales se procesen de manera segura y de acuerdo con la ley aplicable, y que las imágenes compartidas en este caso fueron en violación de una orden escrita. La empresa ofrece a los consumidores la opción de contribuir con datos de capacitación para mejorar sus algoritmos, aunque elimina imágenes en las que un cliente aparezca en posiciones comprometidas como desnudez, desnudez parcial o interacción sexual. Sin embargo, la política de la empresa no considera rostros sensibles, por lo que en este caso se colocó un círculo negro sobre el rostro de la mujer para preservar su privacidad.
I spent months unraveling where these video stills came from, how they got online, and what their existence + sharing says about the state of privacy today.
— Eileen Guo (@eileenguo) December 19, 2022
2 of the creepiest images below (TR added the grey boxes to hide their faces.) Full story here: https://t.co/BbkCFzkJ79 pic.twitter.com/AtKwNKT6Sf
Envíanos tus vídeos, fotos, denuncias y noticias por WhatsApp (645 33 11 00)
