RealorRender: la herramienta alemana que detecta deepfakes explicando por qué son falsos
El Instituto Fraunhofer IOSB acaba de presentar RealorRender, una herramienta capaz de detectar imágenes falsas generadas por inteligencia artificial con una precisión de entre el 85 % y el 91 %. La desarrolló en colaboración con la Oficina Federal Alemana de Seguridad de la Información (BSI) y llega en un momento clave: el Artículo 50 del Reglamento Europeo de IA entra en vigor en agosto de 2026 y obliga a plataformas y empresas a detectar y etiquetar el contenido generado por IA.
Cómo funciona
RealorRender combina dos métodos de análisis. El primero es aprendizaje profundo clásico: el algoritmo clasifica imágenes según patrones ya conocidos de generación artificial. El segundo es más original: el sistema intenta reconstruir la imagen sospechosa con su propio modelo. Si la reconstrucción coincide demasiado bien con el original, eso apunta a que ese original también fue creado por un algoritmo, no por una cámara.
Explicación XAI de una imagen en la que se ha detectado a una persona como falsa. Ilustración: Fraunhofer IOSB
Lo que lo diferencia: la IA explicable
La mayoría de los detectores actuales dan un veredicto sin más: falso o real. RealorRender utiliza IA explicable (XAI, por sus siglas en inglés) para ir más allá. En lugar de un simple resultado, genera un mapa de calor que resalta las zonas concretas, texturas y artefactos que la herramienta considera sospechosos. Eso permite a los especialistas ver lo que el ojo humano no capta: inconsistencias microscópicas en la iluminación o patrones geométricos demasiado perfectos, propios de los modelos generativos. Esta capacidad de explicación también cumple con los requisitos de auditabilidad que exige la Agencia Española de Protección de Datos (AEPD).
El contexto en España
El alcance del problema es real. Según datos del Gobierno británico, solo en 2023 se detectaron más de 276 000 deepfakes pornográficos en un único sitio especializado, el 96 % dirigidos contra mujeres sin su consentimiento. En España, el Artículo 50 del AI Act obliga a las plataformas a detectar y etiquetar este tipo de contenido, con multas de hasta el 10 % del volumen de negocio global en caso de incumplimiento, bajo supervisión de la AEPD.
Sin embargo, persiste una brecha importante: aún no hay fecha confirmada de disponibilidad comercial para RealorRender, ni acuerdos de integración anunciados con plataformas. Los grandes actores globales como Google y Microsoft han firmado el Código de Buenas Prácticas del AI Act, pero la ejecución real sigue siendo opaca, según DLA Piper. Mientras tanto, no existe un ecosistema propio de herramientas de detección en el mercado español.
¿Qué cambia?
RealorRender demuestra que es posible detectar deepfakes y, además, justificar esa detección de forma auditable. Con el plazo del AI Act encima y la presión regulatoria creciente, la pregunta ya no es si hace falta esta tecnología, sino cuándo llegará integrada en las plataformas que usan millones de personas a diario.
