Una de las dificultades más incómodas de la seguridad en inteligencia artificial es que, para saber si un modelo puede producir contenido dañino, muchas veces hay que ponerlo a prueba y observar qué genera. Pero ese criterio deja de funcionar cuando el contenido en cuestión es ilegal. Un equipo de MIT y la organización Thorn propuso una alternativa: auditar el modelo sin pedirle nunca que produzca la salida prohibida.
El trabajo se enfocó en modelos generativos de código abierto que pueden ser reajustados para tareas específicas mediante adaptaciones livianas. Esa flexibilidad volvió más fácil personalizarlos para usos legítimos, pero también para fines dañinos. En este caso, los investigadores buscaron detectar si un modelo había sido ajustado para producir material de abuso sexual infantil, un terreno en el que la evaluación tradicional choca con límites legales y éticos evidentes.
En lugar de mirar imágenes generadas, la técnica examina cómo cambió el funcionamiento interno del modelo después del ajuste. El método, que los autores llaman Gaussian probing, introduce datos aleatorios y analiza cómo esas señales se transforman dentro de distintas capas del sistema. La idea es que esas huellas internas permiten inferir si el modelo fue especializado para una capacidad dañina, aunque nunca se lo lleve hasta la etapa final de generación. Según MIT News y el preprint enlazado por la propia nota, el procedimiento distinguió con precisión total, dentro de su conjunto de prueba, entre adaptaciones seguras y adaptaciones diseñadas para producir ese tipo de material ilegal.
La importancia del resultado no está solo en el caso concreto. También ofrece una salida a un problema más amplio: cómo auditar miles de variantes de modelos generativos sin depender siempre de pruebas manuales, costosas o psicológicamente riesgosas para quienes evalúan. Si un enfoque así funciona de manera robusta, plataformas que alojan modelos abiertos podrían detectar adaptaciones peligrosas antes de que se distribuyan con más amplitud, y sumar una capa extra de control en un punto donde hoy hay pocos instrumentos prácticos.
Al mismo tiempo, conviene leer el hallazgo con cautela. El trabajo fue presentado en un workshop asociado a ICML y circula como prepublicación en arXiv, no como un artículo ya consolidado en una revista revisada por pares. Además, la precisión reportada depende del conjunto de modelos y adaptaciones usados en la prueba. Queda por ver cómo responde el método frente a más arquitecturas, estrategias para esquivar la detección y escenarios reales de despliegue. Aún con esas limitaciones, el estudio plantea una idea con valor público claro: en ciertos riesgos de IA, la forma más útil de evaluar un sistema puede ser no dejarlo generar nunca aquello que se quiere impedir.
New method aims to keep kids safe from illegal AI-generated content · MIT News Research
MIT News | Massachusetts Institute of Technology · Imagen acompañante del artículo fuente; atribución preservada · Fuente de imagen
Suriyakumar, V. M., Sekhari, A., Stempfle, L., Wang, R., Simpson, M., Portnoff, R., Ghassemi, M., & Wilson, A. C. (2026). Evaluation without Generation: Non-Generative Assessment of Harmful Model Specialization with Applications to CSAM (Version 1). arXiv. https://doi.org/10.48550/arXiv.2604.25119
Relacionadas por categoría
Ver masUn método adaptativo mejora la detección de texto generado por IA en pruebas controladas
Un preprint probó un detector que se ajusta a textos recientes sin etiquetas y rindió mejor ante cambios de estilo y tácticas para eludirlo.
Una IA intenta simular arena, agua y proteínas con un mismo modelo
Un preprint presenta WorldParticle, un modelo que representa distintos materiales como partículas para predecir su movimiento. Sus pruebas son prometedoras, pero no reemplazan todavía a los simuladores especializados.
Un sistema convierte artículos científicos en asistentes reutilizables
Un método empaqueta texto, código, datos y flujos de trabajo de algunos estudios para que una IA pueda ejecutar análisis y responder consultas en lenguaje natural.
Más de la misma fuente
Ver masUn material seco podría extender el uso de ecografías portátiles sin gel
Una interfaz elástica y seca transmitió ultrasonido durante días en pruebas de laboratorio y siguió el flujo sanguíneo durante un paseo en bicicleta.
Los centros de datos pueden desplazar la contaminación del aire a otras regiones
Un modelo sobre Estados Unidos estima que la electricidad adicional de los centros de datos puede elevar la contaminación del aire lejos de sus instalaciones.
Un método adaptativo mejora la detección de texto generado por IA en pruebas controladas
Un preprint probó un detector que se ajusta a textos recientes sin etiquetas y rindió mejor ante cambios de estilo y tácticas para eludirlo.
Más del mismo autor
Ver masEl clima puede cambiar el mapa de plagas en bosques de Norteamérica
Un estudio proyecta que, si las emisiones siguen altas, más del 80% de los bosques analizados en Norteamérica podría enfrentar mayor presión de plagas y enfermedades hacia mediados de siglo.
Las suricatas pueden volver solas a su grupo tras ser desplazadas
Un experimento de campo halló que 18 de 20 suricatas desplazadas a 1,5 kilómetros regresaron de forma dirigida, sin seguir a otros miembros de su grupo.
Un material seco podría extender el uso de ecografías portátiles sin gel
Una interfaz elástica y seca transmitió ultrasonido durante días en pruebas de laboratorio y siguió el flujo sanguíneo durante un paseo en bicicleta.