Nuevas normas de transparencia para la IA en la UE: claves y excepciones

La Unión Europea ha puesto en vigor nuevas normas de transparencia para los sistemas de inteligencia artificial, con el objetivo de garantizar que los usuarios sepan cuándo están interactuando con una máquina o cuando el contenido que consumen ha sido generado o manipulado por IA.

Estas disposiciones, que forman parte del marco regulatorio de la UE sobre inteligencia artificial, obligan a las empresas desarrolladoras a diseñar sus sistemas de forma que quede claramente indicado al usuario la naturaleza artificial de la interacción. La medida se aplica a plataformas como ChatGPT (Open AI), Gemini (Google) y Claude (Anthropic), así como a los sistemas de IA utilizados en servicios públicos, atención al cliente o gestión de denuncias de fraude.

Además, a partir del 2 de diciembre, los sistemas de IA generativa deberán incorporar marcas de agua detectables en textos, fotos, videos y audios manipulados, permitiendo a los ciudadanos identificar fácilmente el origen sintético del contenido. Esta exigencia no se aplicará a obras de ficción, arte o sátira, pero sí será obligatoria para material de interés general, como información relacionada con procesos electorales, judiciales o de salud pública, salvo que dicho contenido haya sido previamente supervisado por una persona.

En cuanto a la responsabilidad, las plataformas no serán legalmente responsables del contenido generado por los usuarios mediante sus herramientas de IA; será el usuario quien deba indicar que el contenido ha sido manipulado. Sin embargo, desde el mismo 2 de diciembre, se prohibirá la creación de imágenes sexualizadas generadas con IA sin el consentimiento de las personas afectadas, una medida adoptada tras el escándalo provocado por deepfakes creados con Grok, la herramienta de IA de la red social X, que ahora tiene hasta finales de año para implementar protecciones adecuadas.

La Oficina de Inteligencia Artificial de la Comisión Europea ha visto ampliados sus poderes de supervisión, incluyendo la facultad de exigir el acceso a modelos de alto riesgo para evaluación. Desde el 2 de agosto, puede requerir a empresas como Anthropic que le permitan analizar modelos como Mythos, aunque fuentes comunitarias han evitado detallar los próximos pasos por "razones obvias". Existe preocupación sobre la capacidad real de la Comisión para acceder a estos modelos, especialmente si el Gobierno de Estados Unidos impone nuevamente restricciones a ciudadanos extranjeros, como ocurrió temporalmente en junio.

Bruselas negocia actualmente con Anthropic las condiciones para que la Agencia de Ciberseguridad de la UE (ENISA) evalúe el modelo Mythos sin comprometer infraestructuras esenciales ni acceder a información sensible.

El incumplimiento de estas obligaciones podrá ser sancionado con multas de hasta 15 millones de euros o el 3 % de la facturación anual global de la empresa infractora, según cuál cantidad sea mayor. En caso de que sean instituciones o agencias de la UE las que fallen en sus obligaciones de transparencia, la sanción será de hasta 750.000 euros.