ai

.

echoes

.

today

← AI Today
AI Today · daily note
No.
116
•
•

The Adversarial Poem

November 28th, 2025 | By Jorge Rodriguez

Poetic reformulations of harmful requests produced unsafe responses across 25 language models in tests by researchers. The study was a preprint, so its findings had not completed peer review when WIRED reported them on November 28. The researchers measured a 62 percent average attack-success rate for 20 hand-crafted poems. They also converted 1,200 MLCommons harmful prompts into verse with a standard meta-prompt and measured about 43 percent, compared with roughly 8 percent for prose baselines. Outputs were labeled by three open-weight judge models. These figures describe the tested prompts, model versions, safety settings, and evaluation procedure.

A prohibited request can preserve its operational intent while metaphor and lineation alter the tokens presented to refusal systems. The researchers found the effect across risk categories and providers, though susceptibility varied sharply by model. Its cause remains unresolved. They proposed that poetic wording may move a request away from patterns that safety training or classifiers recognize, while the underlying model still interprets the request. That account is a hypothesis, since the team lacked access to proprietary model internals and did not isolate one common guardrail architecture. Defenders therefore need paired safety tests that hold intent steady while changing style, followed by review of the actual output. The immediate consequence is another adversarial prompt set in a model evaluator's test suite.

No.
116
•
•

El poema adversario

Noviembre 28, 2025 | Por R10

Las reformulaciones poéticas de solicitudes dañinas produjeron respuestas inseguras en pruebas realizadas por investigadores con 25 modelos de lenguaje. El estudio era un preprint y no había completado la revisión por pares cuando WIRED informó sobre él el 28 de noviembre. Los investigadores midieron un 62 por ciento de éxito medio con 20 poemas escritos a mano. También convirtieron en verso 1.200 solicitudes dañinas de MLCommons mediante una metainstrucción estándar y midieron cerca del 43 por ciento, frente a aproximadamente un 8 por ciento para las versiones en prosa.

Una solicitud prohibida puede conservar su intención operativa mientras la metáfora y la disposición en versos alteran los tokens que reciben los sistemas de rechazo. Los investigadores observaron el efecto en categorías de riesgo y empresas, con variaciones entre modelos. La causa sigue sin resolverse. El equipo planteó que el verso puede eludir patrones reconocidos por el entrenamiento de seguridad o sus clasificadores, aunque el modelo interprete el pedido. Es una hipótesis, pues el equipo carecía de acceso al interior de los modelos propietarios y no aisló una arquitectura común de protección. Las defensas necesitan pruebas pareadas con una intención fija y variaciones de estilo, seguidas por la revisión de la respuesta efectiva. La consecuencia inmediata es otro conjunto de instrucciones adversarias en la batería de evaluación de un modelo.

Latest from AI Today

|
NOTES ON VISUAL NARRATIVE
|
ABOUT

donations

If you’re a regular reader of this blog and enjoy its content, you might consider contributing to its upkeep. Any amount, no matter how small, will be warmly appreciated

Founded in 2021, Echoes (Notes of Visual Narrative) invites everyone to explore together the visual codes that shape our world—art, photography, design, and advertising in dialogue with society.

Copyright © 2025 r10studio.com. All Rights Reserved. Website Powered by r10studio.com

Cincinnati, Ohio