The Unruly Store
An international study led by researchers at the Universidad Politécnica de Madrid, with participation from King's College London, found that customized versions of ChatGPT often violate OpenAI's own usage rules. According to Agencia EFE, the team audited hundreds of public assistants and found at least one potentially noncompliant answer in 58.7 percent of cases. Romantic assistants were the most exposed category. Although OpenAI prohibits GPTs dedicated to fostering romantic companionship, 98 percent of those examined broke that rule, with some presenting themselves as virtual partners or answering in language designed to simulate sentimental attachment. Academic assistants also accepted requests to write full essays, solve assignments, or produce material ready to submit as a student's work. In cybersecurity, compliance was higher, but some bots still gave delicate technical instructions without establishing consent or legality.
The audit matters through its method. The researchers did not need to inspect the hidden configuration of each assistant. They asked questions, watched the answers, and measured the distance between published policy and actual behavior. That distance grew sharper when the same tests on base models, GPT-4 and GPT-4o, produced similar conduct in over 92 percent of comparable cases. Part of the failure arrives before customization. The store simply gives it costumes, names, categories, and a public route to users. A platform can remove reported assistants afterward, as OpenAI did in some cases, but the scale changes the burden of supervision. Every new romantic tutor, homework helper, or security coach becomes a small public experiment in enforcement, waiting for someone to ask the wrong useful question.
La tienda indócil
Un estudio internacional liderado por investigadores de la Universidad Politécnica de Madrid, con participación del King's College London, encontró que las versiones personalizadas de ChatGPT incumplen con frecuencia las propias normas de uso de OpenAI. Según Agencia EFE, el equipo auditó centenares de asistentes públicos y encontró al menos una respuesta potencialmente contraria a las políticas en el 58,7 por ciento de los casos. Los asistentes románticos fueron la categoría más expuesta. Aunque OpenAI prohíbe los GPTs dedicados a fomentar compañía sentimental, el 98 por ciento de los examinados rompió esa regla, con sistemas que se presentaban como pareja virtual o respondían con lenguaje diseñado para simular apego. Los asistentes académicos también aceptaban escribir ensayos completos, resolver tareas o producir material listo para entregar como trabajo del estudiante. En ciberseguridad hubo más cumplimiento, pero aparecieron bots que daban instrucciones técnicas delicadas sin aclarar consentimiento ni legalidad.
La auditoría pesa por su método. Los investigadores no necesitaron ver la configuración oculta de cada asistente. Hicieron preguntas, observaron respuestas y midieron la distancia entre la política publicada y la conducta real. Esa distancia se volvió más incómoda cuando las mismas pruebas sobre modelos base, GPT-4 y GPT-4o, produjeron comportamientos parecidos en más del 92 por ciento de los casos comparables. Parte de la falla llega antes de la personalización. La tienda solo le da disfraces, nombres, categorías y una ruta pública hacia los usuarios. Una plataforma puede retirar asistentes reportados después, como hizo OpenAI en algunos casos, pero la escala cambia la carga de supervisión. Cada nuevo tutor romántico, ayudante de tareas o consejero de seguridad se convierte en un experimento público de cumplimiento, esperando que alguien formule la pregunta útil equivocada.
