The Default No
Meta's Oversight Board has ordered Instagram to remove a reportedly AI-generated sexualized video impersonating a woman who is not a public figure. The eight-second post was flagged by Meta's automated systems, reported by two users, and appealed by one of them, but it remained online. Meta later argued that it lacked a clear signal that the woman depicted was real or that she had not consented, partly because she had not reported the post herself. The Board rejected that standard. It said the content violated Meta's rules on non-consensual intimate imagery and recommended that AI-generated sexualized impersonation of real people be treated as non-consensual by default.
The decision moves the burden away from the target of the abuse. A person whose face or body has been simulated may learn about the post after copies have traveled through accounts, messages, screenshots, and search results. Requiring that person to prove harm first gives the platform time while the image keeps circulating. The Board wants Meta to let trusted friends or family report on someone's behalf and to create a separate reporting category for AI-generated sexualized impersonation. A synthetic body can still damage a real person, and the first useful response is removal before the victim is forced to become the evidence clerk for her own violation.
El no por defecto
El Oversight Board de Meta ordenó a Instagram retirar un video sexualizado, presuntamente generado con IA, que imitaba a una mujer que no es una figura pública. La publicación de ocho segundos fue detectada por sistemas automáticos de Meta, reportada por dos usuarios y apelada por uno de ellos, pero siguió en línea. Meta sostuvo después que no tenía una señal clara de que la mujer representada fuera una persona real o de que no hubiera dado consentimiento, en parte porque ella misma no había reportado la publicación. El Board rechazó ese estándar. Dijo que el contenido violaba las reglas de Meta sobre imágenes íntimas no consentidas y recomendó tratar la imitación sexualizada de personas reales generada con IA como no consentida por defecto.
La decisión desplaza la carga fuera de la persona afectada. Quien ve su rostro o su cuerpo simulado puede enterarse de la publicación después de que las copias circularon por cuentas, mensajes, capturas de pantalla y resultados de búsqueda. Exigir que esa persona pruebe primero el daño le da tiempo a la plataforma mientras la imagen sigue moviéndose. El Board quiere que Meta permita a amistades o familiares de confianza reportar en nombre de alguien y que cree una categoría separada para denunciar imitaciones sexualizadas generadas con IA. Un cuerpo sintético puede dañar a una persona real, y la primera respuesta útil es retirarlo antes de obligar a la víctima a convertirse en oficinista probatoria de su propia violación.
