El Gobierno castigará los ‘deepfakes’, imágenes generadas por inteligencia artificial

El Consejo de Ministros ha aprobado este martes el Anteproyecto de Ley Orgánica para la protección de los menores en los entornos digitales, centrado especialmente en velar por su derecho a la intimidad, al honor y a la propia imagen, así como el derecho a la protección de sus datos personales y al acceso a contenidos adecuados para su edad.

Según ha informado el Ministerio de Presidencia, Justicia y Relaciones con las Cortes, la ley contiene medidas para mejorar el conocimiento de los menores y de sus familias sobre los riesgos del entorno digital e imponer obligaciones a grandes operadores e influencers.

También se busca sancionar de forma adecuada la vulneración de derechos que puede producirse en ese entorno como, por ejemplo, con la difusión de imágenes generadas por Inteligencia Artificial.

La Guardia Civil ha investigado ya varios casos de menores que han generado fotografías falsas con la IA de sus compañeras de clase, siendo el caso de Almendralejo (Badajoz) y el de Baleares los más notorios.

El ministro Félix Bolaños, en su intervención tras el Consejo de Ministros, ha definido como prioridad para este año generar entornos digitales seguros y saludables para los menores y fomentar el uso responsable de la tecnología.

Campañas de sensibilización

Para ello, la norma obliga a los poderes públicos a impulsar campañas de sensibilización sobre los derechos y los riesgos de los menores en la esfera digital, haciendo énfasis en el consumo de material pornográfico, y a investigar los efectos de la tecnología en el desarrollo cognitivo de los niños y adolescentes.

También incluye medidas para el fomento de la detección precoz, la prevención y la atención especializadas a menores con patologías asociadas al uso inadecuado de dispositivos.

En el ámbito educativo se precisa la creación de planes de formación específica, educación en ciudadanía digital y alfabetización mediática, privacidad y propiedad intelectual. Asimismo, las empresas tecnológicas tendrán que asegurar que los dispositivos digitales cuenten con sistemas de control parental activados por defecto y con un etiquetado informativo sobre sus riesgos.

Sumado a esto, la norma prohíbe, con carácter general, el acceso de las personas menores de edad a mecanismos aleatorios de recompensa en videojuegos y plataformas (loot boxes), y obliga tanto a las plataformas de intercambio de vídeos a establecer enlaces a los canales de denuncias como a los influencers a avisar de forma inequívoca, siempre que el contenido que están difundiendo sea potencialmente perjudicial para el desarrollo físico, mental o moral de niños, niñas y adolescentes.

Nuevos delitos

El Anteproyecto de Ley tipifica como delito los deepfakes pornográficos, es decir, la difusión sin autorización de imágenes o audio generado por inteligencia artificial o cualquier otra tecnología.

La norma también regula el alejamiento online, introduce el denominado grooming (engaño online a menores) como circunstancia agravante en diferentes delitos contra la libertad sexual de menores, y refuerza la tipificación de la difusión de material pornográfico a los niños y niñas, para evitar algunas conductas impunes.

Eleva de 14 a 16 años la edad mínima a la que se puede dar consentimiento al tratamiento de datos personales.