Unicef alerta sobre uso masivo de IA por menores sin suficientes protecciones

Unicef reveló que al menos 20 millones de niños y adolescentes de entre 12 y 17 años han utilizado herramientas de inteligencia artificial en diez países analizados, según un estudio basado en encuestas realizadas en Armenia, Brasil, Colombia, República Dominicana, Jordania, México, Montenegro, Macedonia del Norte, Pakistán y Serbia.

Los menores tienen más de tres veces más probabilidades de usar estas tecnologías que sus padres o cuidadores, lo que refleja una brecha generacional significativa en el acceso y comprensión de la IA. Mientras hasta la mitad de los menores encuestados había utilizado IA al menos una vez, al menos tres de cada cuatro adultos nunca la habían empleado.

Uso predominante en tareas escolares y riesgos identificados

Seis de cada diez niños que recurren a la inteligencia artificial la emplean para realizar tareas escolares, lo que equivale a unos 13 millones de menores en los países analizados. Casi la mitad la utiliza para buscar información y cerca de una cuarta parte para traducir contenidos.

Además, uno de cada diez usuarios afirmó recurrir a la IA para pedir orientación sobre asuntos personales, proporción que en algunos países alcanza el 21%. Este patrón indica que una generación está creciendo con sistemas cuyo funcionamiento, manejo de datos y mecanismos de protección resultan poco transparentes incluso para los propios usuarios.

Riesgos percibidos y amenazas emergentes

Los propios menores consultados reconocieron varios riesgos asociados a la IA: el 34 % manifestó preocupación por su uso para cometer fraudes o engaños, el 32 % por la difusión de información falsa y el 26 % por la creación de imágenes o videos sexuales falsificados.

En este último ámbito, el informe estima que al menos 1,2 millones de niños en once países fueron víctimas durante el último año de deepfakes que transformaron sus imágenes en contenido sexual explícito falso. En algunos países, esta incidencia equivale a uno de cada 25 menores, una proporción que Unicef compara con aproximadamente un estudiante por aula.

Entre estas prácticas figura la denominada "desnudez digital", mediante la cual programas de IA alteran fotografías reales para generar imágenes íntimas falsas.

Recomendaciones de Unicef para un entorno digital seguro

Unicef advierte que la evidencia científica sobre el impacto de la IA en la infancia sigue siendo limitada y avanza con menor rapidez que la adopción de estas herramientas. Ante este panorama, el organismo recomienda aumentar la inversión en investigación centrada en niños y adolescentes, fortalecer la alfabetización digital y exigir a las empresas tecnológicas que incorporen medidas de protección desde el diseño de sus productos.

Asimismo, plantea reforzar la legislación y la responsabilidad de las plataformas para impedir la creación y difusión de material de abuso sexual infantil generado mediante IA, incluyendo pruebas de seguridad antes del lanzamiento de nuevos modelos y mecanismos eficaces para detectar y retirar este tipo de contenido.

El desafío ya no radica en determinar si los niños utilizarán inteligencia artificial, sino en garantizar que puedan hacerlo en condiciones seguras y con protección adecuada de sus derechos, concluye el informe.