The Dead Safety Department
At least 11 engineers and two co-founders left xAI during the week SpaceX announced its acquisition of Elon Musk's AI company. Former employees told The Verge that the departures were connected to a growing disregard for safety. One described safety as a dead organization at xAI, while another said Musk was actively trying to make Grok more unrestrained because he associates safety with censorship. The company has also faced scrutiny after Grok was used to create over one million sexualized images, including deepfakes of real women and minors, TechCrunch reported on February 14th.
The argument over safety has been reduced to a struggle over the permissible personality of a chatbot. A model that produces offensive or exploitative images can be defended as uncensored, while the people responsible for reducing that risk are treated as obstacles to expression. The departure of staff then becomes a product signal. It tells users and investors which costs the company is prepared to absorb in exchange for a more provocative system. xAI is being folded into a larger Musk-controlled structure at the same moment that its safeguards are questioned. Grok's promise of freedom is measured in what it will generate, while the damage is assigned to the person whose image appears without consent.
El departamento de seguridad muerto
Al menos 11 ingenieros y dos cofundadores abandonaron xAI durante la semana en que SpaceX anunció la adquisición de la empresa de IA de Elon Musk. Antiguos empleados dijeron a The Verge que las salidas estaban relacionadas con un desprecio creciente por la seguridad. Uno describió la seguridad como una organización muerta dentro de xAI, mientras otro afirmó que Musk intentaba activamente que Grok fuera más descontrolado porque asocia la seguridad con la censura. La empresa también ha sido cuestionada después de que Grok se utilizara para crear más de un millón de imágenes sexualizadas, incluidos deepfakes de mujeres reales y menores, informó TechCrunch el 14 de febrero.
El debate sobre la seguridad se ha reducido a una disputa por la personalidad permitida de un chatbot. Un modelo que produce imágenes ofensivas o explotadoras puede defenderse como una herramienta sin censura, mientras las personas encargadas de reducir ese riesgo aparecen como obstáculos para la expresión. La salida del personal se convierte entonces en una señal del producto. Indica a usuarios e inversores qué costes está dispuesta a asumir la empresa a cambio de un sistema más provocador. xAI está siendo incorporada a una estructura mayor controlada por Musk al mismo tiempo que se cuestionan sus salvaguardas. La promesa de libertad de Grok se mide por lo que genera, mientras el daño recae en la persona cuya imagen aparece sin consentimiento.
