The Apps Behind the Safety Setting
Teen test accounts could download dozens of AI image-manipulation apps despite parental controls, the Tech Transparency Project reported on October 19. Researchers created four accounts registered as 13-year-old boys, comparing default settings with parent-supervised accounts on Apple and Google. The supervised accounts could access 24 apps on Apple and 51 on Google that TTP classified as nudification tools. Its definition includes generating images in underwear or swimwear. Apple disputes that classification for some mainstream editors and says it prohibits nudification apps. Google says it bans them too and suspended apps that violated its policies. These were controlled tests, not records of children using the services.
An age restriction depends on the accuracy of the label attached to each app. TTP says both stores rely on developers’ descriptions to assign those ratings. A parent asked to approve a download can therefore be making a decision with incomplete information about what the software allows. The store has already reviewed the product, placed it in a category and made it available. That chain should be checked against the app’s actual functions, including features added after approval. TTP also found that some apps removed from store listings still worked on its test phones. Taking down a listing closes one route to installation. Families also need clear notice about an installed app whose capabilities have made it unsafe.
Las apps que el control deja pasar
Cuentas de prueba de adolescentes pudieron descargar decenas de apps de manipulación de imágenes con IA pese a tener controles parentales, según una investigación de Tech Transparency Project publicada el 19 de octubre. El equipo creó cuatro cuentas registradas como chicos de 13 años y comparó la configuración habitual con cuentas supervisadas por adultos en Apple y Google. Las supervisadas accedieron a 24 apps en Apple y 51 en Google que el estudio clasificó como herramientas de desnudo digital. Esa definición incluye imágenes en ropa interior o de baño. Apple rechaza esa clasificación para algunos editores y afirma que prohíbe las apps de desnudo digital. Google también dice prohibirlas y suspendió aplicaciones que incumplían sus normas. Fueron pruebas controladas, no registros de menores usando esos servicios.
Una restricción de edad depende de que la etiqueta de cada app sea correcta. Según el estudio, ambas tiendas utilizan las descripciones de los desarrolladores para asignarla. Quien autoriza una descarga puede estar decidiendo sin conocer todo lo que permite el programa. La tienda ya lo revisó, lo clasificó y lo puso a disposición del público. Es necesario contrastar esa clasificación con las funciones reales, incluidas las que aparezcan después de la aprobación. El equipo también encontró apps retiradas de las tiendas que seguían funcionando en sus teléfonos de prueba. Retirar una ficha cierra una vía de instalación. Las familias necesitan además un aviso claro cuando una app instalada incorpora funciones que la vuelven insegura.
