Andorra blindará el Código Penal contra los deepfakes

El Govern d’Andorra tramitará en las próximas semanas una reforma del Código Penal que incorporará por primera vez la regulación de los deepfakes y perseguirá penalmente la creación y difusión de imágenes o vídeos sexuales generados con inteligencia artificial sin consentimiento.

Cerrar los vacíos legales actuales

La iniciativa también considerará pornografía infantil cualquier material de carácter sexual que simule o represente a menores utilizando tecnología de edición o generación digital, aunque no exista un menor real detrás del contenido.

Los deepfakes —imágenes, vídeos o audios generados o alterados mediante sistemas de inteligencia artificial capaces de recrear personas reales o inexistentes— se han convertido en uno de los principales riesgos asociados al desarrollo de estas tecnologías. Este tipo de contenido permite desnudar digitalmente a cualquier persona o insertar su rostro en escenas sexuales sin su permiso.

Según fuentes del Consell General, el Govern quiere adaptar la legislación a un escenario en el que cualquier ciudadano puede ser víctima de un falso desnudo o de una manipulación sexual sin tener ningún control sobre su imagen. La reforma también acotará las actividades sexuales realizadas en plataformas digitales como OnlyFans cuando intervenga un tercero o pueda existir explotación o beneficio económico ilícito.

Según un estudio de la UOC, entre 2022 y 2023 la cantidad de pornografía deepfake generada aumentó un 464%, pasando de 3.725 vídeos a 21.019 en solo un año, una tendencia “altamente alarmante”, según los investigadores.

Patrón contra las mujeres

“Estas aplicaciones se basan en sistemas de inteligencia artificial generativa: crean un algoritmo entrenado con miles de imágenes y lo combinan con una aplicación web o móvil. El usuario introduce una fotografía y obtiene otra transformada, que en este caso es un supuesto desnudo”, explica Josep Curto, profesor de los Estudios de Informática, Multimedia y Telecomunicación de la UOC. Este fenómeno vulnera dos derechos fundamentales: la protección de datos y la intimidad, el honor y la propia imagen.

“Se utilizan datos personales reales, como el rostro o la voz de una persona, sin su consentimiento, y esto implica un tratamiento ilícito de datos. Además, la vulneración se agrava cuando estas imágenes se comparten o difunden a terceros o en redes sociales sin autorización”, advierte Eduard Blasi, profesor colaborador de los Estudios de Derecho y Ciencia Política de la UOC y experto en privacidad.

Un precedente al sur

La iniciativa legislativa llega en un momento en que varios países europeos empiezan a legislar contra este fenómeno. Hace solo dos días, en España se produjo un precedente jurídico importante: la Agencia Española de Protección de Datos impuso una sanción de 2.000 euros al creador y difusor de una imagen de falso desnudo generada con inteligencia artificial. Se trata de la primera vez que se multa un deepfake sexual en el país vecino, y diversas fuentes relacionan esta resolución con el caso de Almendralejo, donde en 2023 se generaron falsos desnudos de hasta 20 menores de edad de un instituto.

Las autoridades andorranas consideran necesario evitar “zonas grises” en las que la manipulación digital de imágenes pueda quedar fuera del ámbito penal por el simple hecho de que la persona representada no existe o no ha sido fotografiada realmente. Con la reforma, se perseguirá la creación y difusión del contenido, así como el beneficio económico derivado de estas prácticas.

Una vez registrada la propuesta, se iniciará el trámite parlamentario correspondiente en el Consell General, donde el texto deberá superar el debate en comisión y en pleno antes de su aprobación definitiva.