Cuentas de prueba de adolescentes pudieron descargar decenas de apps de manipulación de imágenes con IA pese a tener controles parentales, según una investigación de Tech Transparency Project publicada el 19 de octubre. El equipo creó cuatro cuentas registradas como chicos de 13 años y comparó la configuración habitual con cuentas supervisadas por adultos en Apple y Google. Las supervisadas accedieron a 24 apps en Apple y 51 en Google que el estudio clasificó como herramientas de desnudo digital. Esa definición incluye imágenes en ropa interior o de baño. Apple rechaza esa clasificación para algunos editores y afirma que prohíbe las apps de desnudo digital. Google también dice prohibirlas y suspendió aplicaciones que incumplían sus normas. Fueron pruebas controladas, no registros de menores usando esos servicios.

Una restricción de edad depende de que la etiqueta de cada app sea correcta. Según el estudio, ambas tiendas utilizan las descripciones de los desarrolladores para asignarla. Quien autoriza una descarga puede estar decidiendo sin conocer todo lo que permite el programa. La tienda ya lo revisó, lo clasificó y lo puso a disposición del público. Es necesario contrastar esa clasificación con las funciones reales, incluidas las que aparezcan después de la aprobación. El equipo también encontró apps retiradas de las tiendas que seguían funcionando en sus teléfonos de prueba. Retirar una ficha cierra una vía de instalación. Las familias necesitan además un aviso claro cuando una app instalada incorpora funciones que la vuelven insegura.

Siemens y NVIDIA prueban herramientas de IA que proponen planes de producción en la fábrica de electrónica de Siemens en Erlangen, Alemania. El sistema, presentado el 19 de octubre, genera alternativas cuando llegan pedidos y muestra a los planificadores cómo cumple cada opción los indicadores elegidos. Antes de aplicarlas, las propuestas se comprueban en un gemelo digital, una representación virtual de la planta. Siemens afirma que esta planificación podría reducir los costes hasta un 20 %. Es una estimación de la empresa sobre el ahorro posible, no una garantía para cualquier fábrica. La planta fabrica electrónica de potencia y equipos de automatización y emplea a unas mil personas.

Los indicadores que elija la dirección determinarán qué plan parece mejor. Una secuencia más barata podría dejar poco tiempo para revisar una máquina o exigir que alguien repita una tarea difícil. Esos efectos también deben entrar en la comparación. Quienes conocen los equipos deberían poder señalar lo que la simulación pasa por alto y dejar constancia de su objeción. El planificador que cambie una propuesta necesita tiempo para explicar por qué, sin la presión de aceptar la primera recomendación del programa. Probar un plan virtualmente puede evitar errores costosos en la línea. Su utilidad dependerá también de cómo lleguen las advertencias del taller a quienes lo aprueban. Antes de convertir una propuesta en instrucciones para el siguiente turno, alguien debe comprobarla y tener autoridad para detenerla.

Anthropic propone destinar el 5 % de sus acciones a un nuevo fondo de beneficio público, sujeto a la aprobación de los accionistas. Lo anunció el 18 de octubre y será propiedad de la empresa. Entre sus posibles usos figuran las donaciones a organizaciones sin fines de lucro y las ayudas directas a determinados grupos. La compañía menciona los efectos de la IA sobre el empleo y promete explicar más adelante cómo se dirigirá el fondo. Reconoce así una responsabilidad hacia quienes puedan verse afectados por la automatización que vende. El anuncio compromete acciones, pero no establece fechas de pago ni reglas para determinar quién recibirá ayuda.

Una persona que pierda ingresos porque su empleador adopta IA necesitará saber si puede pedir apoyo, cómo solicitarlo y ante quién reclamar una negativa. Esas decisiones determinan si la promesa llega a convertirse en una ayuda concreta. Una empresa puede financiar proyectos valiosos y conservar la facultad de elegir a sus beneficiarios y definir qué resultados acepta. Llamarlo beneficio público deja esa facultad intacta mientras las reglas no den participación a las personas afectadas. Publicar los criterios de selección y separar las ayudas entregadas del valor de las acciones permitiría evaluar el fondo. Los trabajadores y sus representantes deberían poder cuestionar esas decisiones. Para quien necesita pagar el alquiler del mes siguiente, contará cuánto dinero recibe y cuándo llega.

El Banco Mundial llevará la llamada IA pequeña a su cumbre sobre inteligencia artificial y desarrollo digital, que comienza en Seúl el 19 de octubre. Una sesión del día 20 abordará herramientas adaptadas a necesidades locales. La institución propone diseñarlas para resolver una tarea concreta con los dispositivos que la gente tiene a mano, incluidos teléfonos básicos y sensores. Algunas pueden ejecutar modelos en el propio aparato o comunicarse mediante mensajes de texto y voz. La intención es ofrecer servicios útiles donde la conexión es limitada. Por ahora son propuestas de desarrollo cuyos beneficios habrá que comprobar cuando se usen.

Una entidad pública que contrate uno de estos servicios necesitará dinero para mantenerlo y alguien que responda cuando falle una respuesta. Ejecutar el modelo en un aparato sencillo puede reducir la dependencia de un servidor remoto, pero hacen falta electricidad, reparaciones y actualizaciones. Trabajar con datos locales también exige personas capaces de comprobar si la respuesta encaja con el idioma y las circunstancias de quien consulta. Esos gastos deben figurar en el contrato desde el principio. De lo contrario, una demostración exitosa puede dejar a un centro de salud o una cooperativa agrícola con equipos que nadie sabe mantener. El propio Banco reconoce que hacen falta formación digital e instituciones locales de confianza. La compra debería precisar quién prueba la herramienta, quién paga cuando termina el ensayo y dónde puede reclamar una persona perjudicada por sus indicaciones.

El programa de noticias con IA de Google ya reúne a más de 400 publicaciones, según anunció la empresa el 15 de octubre. CNN confirmó un acuerdo de varios años que autoriza el uso de su contenido en funciones experimentales de Google. El programa incluye resúmenes de artículos en las páginas de los medios dentro de Google News y boletines de audio personalizables, con atribución y enlaces directos. Google paga a los participantes por entregar y permitir el uso de ese material. Los anuncios no revelan los importes. El medio recibe ingresos antes de que el lector decida abrir el artículo original.

Una redacción sigue pagando por investigar aunque el lector se quede en el resumen. El pago por la licencia puede ayudar a cubrir ese gasto, pero también hace falta saber qué ocurre con la relación con el público. ¿El resumen anima a suscribirse o resuelve la consulta sin generar una visita? Un enlace visible facilita llegar a la fuente; su presencia no responde esas preguntas. Serviría conocer cuántas visitas terminan en suscripciones y cuántos lectores vuelven después sin pasar por Google. Los medios participantes deberían poder consultar esas cifras y los errores que introduzcan los resúmenes. Una empresa grande quizá tenga personal para comparar el pago con los cambios de tráfico. Una redacción pequeña necesita la misma información para valorar si el acuerdo permite pagar otro sueldo o apenas sustituye unos ingresos que están desapareciendo.

Decomp.dev desactivó su índice público y dejó de aceptar proyectos nuevos. El sitio registra los avances de quienes reconstruyen código legible a partir de videojuegos ya publicados. Su responsable afirma que las copias asistidas por IA y las adaptaciones apresuradas están perjudicando a la comunidad de voluntarios. Las páginas de proyectos existentes y sus datos históricos seguirán disponibles. El aviso reconoce que la IA puede ayudar si se utiliza con orientación y revisión. Su responsable dice que ya no tiene ganas ni energía para moderar cientos de proyectos.

Quien dedica una tarde a explicar una función difícil aporta algo que un porcentaje de avance no puede registrar. Otra persona aprende cómo funciona el programa y podrá ayudar con el siguiente problema. Si el reconocimiento se concentra en quien anuncia primero una versión terminada, resulta más difícil sostener esa enseñanza. Alguien tendrá que revisar el resultado, encontrar los errores y responder preguntas cuando el anuncio ya haya circulado. Producir más rápido puede aumentar el trabajo gratuito que recae sobre quienes tienen experiencia. Ahí aparece un límite incómodo para una afición medida con barras de progreso. El número puede subir mientras empeoran las condiciones para aprender juntos. Un proyecto puede aceptar IA y exigir que cada colaborador explique sus cambios y se responsabilice de corregirlos. Conviene establecer esas condiciones antes de contar una entrega como un avance.

Siete senadores estadounidenses pidieron a Meta que explique si solicitó créditos fiscales de investigación por construir y operar centros de datos de IA. En un comunicado publicado el 14 de octubre, cuestionaron las informaciones que describen esas instalaciones como modelos piloto experimentales. Quieren conocer cuánto dinero corresponde a los centros de datos y qué justifica ese trato. La solicitud no demuestra que Meta haya infringido la ley tributaria. Ante las noticias previas, el portavoz Andy Stone defendió que la empresa utiliza incentivos creados por el Congreso para fomentar la inversión nacional. Esa respuesta no resuelve qué gastos concretos cumplen los requisitos.

Un crédito fiscal reduce los impuestos de una empresa. Por eso, decidir qué cuenta como experimento compromete también dinero público. Un centro de IA puede albergar investigación y funcionar a la vez como una instalación de producción. Para decidir qué gastos merecen apoyo hay que saber qué se está probando y qué sabe construir ya la empresa. Llamar experimental a toda una ampliación puede convertir su tamaño en un motivo para subvencionarla. Dar por rutinaria cualquier instalación nueva también podría dejar fuera trabajos de resultado incierto. La diferencia debe poder explicarse al revisar las compras de equipos y las pruebas realizadas. Meta debería detallar los gastos incluidos y su relación con la investigación. Así, legisladores y contribuyentes tendrían algo concreto que evaluar, más allá de la promesa de futuros avances.

Google DeepMind y GovTech, la agencia tecnológica de Singapur, anunciaron el 14 de octubre un detector de estafas con IA que analiza conversaciones en el propio teléfono. Utiliza Gemma, un modelo ligero de Google, para revisar mensajes entrantes y buscar señales de manipulación en los intercambios sospechosos. Según los desarrolladores, las conversaciones no llegan a servidores de Google ni del Gobierno. El acceso requerirá consentimiento. La incorporación a las aplicaciones será gradual y todavía no tiene fecha. Una alerta pediría detenerse antes de enviar dinero o información sensible.

Quien reciba un mensaje urgente de un supuesto banco podría ver una advertencia mientras decide si sigue sus instrucciones. Esa pausa puede ayudar frente a estafas que aprovechan la prisa o la confianza. Analizar los mensajes en el teléfono evita además reunir esas conversaciones en una base de datos central para este fin. Pero una alerta puede equivocarse y cambiar cómo se interpreta una petición legítima. Las condiciones de cada aplicación definirán a qué conversaciones podrá acceder la herramienta. Hace falta explicar ese alcance con palabras claras y permitir que el usuario retire el permiso con facilidad. También debería poder saber por qué apareció una advertencia, sin tomarla como una sentencia sobre quien escribe. Antes de ofrecer el servicio, los desarrolladores deberían publicar cuántas estafas pasan inadvertidas y cuántos mensajes normales activan una alerta. Esos resultados permitirían valorar la protección que prometen.

El Fondo Monetario Internacional advirtió el 13 de octubre que unos beneficios o unas inversiones en IA por debajo de lo esperado podrían provocar una caída en los mercados. En su presentación sobre estabilidad financiera en Bangkok, señaló también los riesgos de los fondos de pensiones y las aseguradoras que mantienen inversiones difíciles de vender. Su prueba de estrés encontró que los bancos, en conjunto, resisten un golpe severo, aunque un grupo más débil quedaría expuesto. Es una advertencia sobre un riesgo posible. No anuncia un desplome ni le pone fecha. Plantea qué ocurriría si la IA no produce las ganancias esperadas.

Una persona puede aportar a un fondo de pensiones sin elegir las empresas tecnológicas ni las inversiones privadas que este mantiene. Así se conecta parte de su sueldo con las promesas de la industria. Si esas inversiones pierden valor, el efecto sobre la pensión dependerá de lo que tenga el fondo y de las garantías del plan. Vender activos difíciles de negociar en plena caída puede agravar las pérdidas. La costumbre de celebrar cada modelo más potente como prueba de prosperidad futura facilita que esos detalles pasen inadvertidos. Que una herramienta funcione y que una inversión sea rentable son afirmaciones distintas. Ambas necesitan pruebas. Quienes administran los fondos deberían explicar cuánto dinero está comprometido y con qué facilidad pueden recuperarlo. Esa información debe llegar a quien aporta antes de que una pérdida le revele dónde estaban sus ahorros.