Serà delicte generar o difondre imatges sexuals amb IA sense consentiment
Entre el 2022 i el 2023 la quantitat de pornografia deepfake generada va augmentar un 464%
El Govern d’Andorra tramitarà en les pròximes setmanes una reforma del Codi Penal que incorporarà per primera vegada la regulació dels deepfakes i perseguirà penalment la creació i difusió d’imatges o vídeos sexuals generats amb intel·ligència artificial sense consentiment.
Omplir els buits legals de l'actualitat
La iniciativa també considerarà pornografia infantil qualsevol material de caràcter sexual que simuli o representi menors utilitzant tecnologia d’edició o generació digital, encara que no existeixi un menor real darrere del contingut.
Els deepfakes —imatges, vídeos o àudios generats o alterats mitjançant sistemes d’intel·ligència artificial capaços de recrear persones reals o inexistents— s’han convertit en un dels principals riscos associats al desenvolupament d’aquestes tecnologies. Aquest tipus de contingut permet desvestir digitalment qualsevol persona o inserir-ne el rostre en escenes sexuals sense el seu permís.
Segons fonts del Consell General, el Govern vol adaptar la legislació a un escenari en què qualsevol ciutadà pot ser víctima d’un fals nu o d’una manipulació sexual sense tenir cap control sobre la seva imatge. La reforma també acotarà les activitats sexuals realitzades en plataformes digitals com OnlyFans quan hi intervingui un tercer o hi pugui haver explotació o benefici econòmic il·lícit.
Segons un estudi de la UOC, entre el 2022 i el 2023 la quantitat de pornografia deepfake generada va augmentar un 464%, passant de 3.725 vídeos a 21.019 en només un any, una tendència “altament alarmant”, segons els investigadors.
Patró contra les dones
“Aquestes aplicacions es basen en sistemes d’intel·ligència artificial generativa: creen un algoritme entrenat amb milers d’imatges i el combinen amb una aplicació web o mòbil. L’usuari hi introdueix una fotografia i n’obté una altra transformada, que en aquest cas és un suposat nus”, explica Josep Curto, professor dels Estudis d’Informàtica, Multimèdia i Telecomunicació de la UOC. Aquest fenomen vulnera dos drets fonamentals: la protecció de dades i la intimitat, l’honor i la pròpia imatge.
“S’utilitzen dades personals reals, com el rostre o la veu d’una persona, sense el seu consentiment, i això implica un tractament il·lícit de dades. A més, la vulneració s’agreuja quan aquestes imatges es comparteixen o es difonen a tercers o a través de xarxes socials sense autorització”, adverteix Eduard Blasi, professor col·laborador dels Estudis de Dret i Ciència Política de la UOC i expert en privacitat.
Un precedent al sud
La iniciativa legislativa arriba en un moment en què diversos països europeus estan començant a legislar contra aquest fenomen. Fa només dos dies, a Espanya es va produir un precedent jurídic important: l’Agencia Española de Protección de Datos va imposar una sanció de 2.000 euros al creador i difusor d’una imatge de fals nu generat amb intel·ligència artificial. Es tracta de la primera vegada que es multa un deepfake sexual al país veí, i diverses fonts relacionen aquesta resolució amb el cas d’Almendralejo, on el 2023 es van generar falsos 'nudes' de fins a 20 menors d’edat d’un institut.
Les autoritats andorranes consideren necessari evitar “zones grises” en què la manipulació digital d’imatges pugui quedar fora de l’abast penal pel simple fet que la persona representada no existeix o no ha estat fotografiada realment. Amb la reforma, es perseguirà la creació i la difusió del contingut, així com el benefici econòmic derivat d’aquestes pràctiques.
Un cop registrada la proposta, s’iniciarà el tràmit parlamentari corresponent al Consell General, on el text haurà de superar el debat en comissió i el ple abans de la seva aprovació definitiva.
Afegeix un comentari nou
Notícies relacionades
Turisme familiar a Andorra: èxit de les rutes ‘Macarulla, Petits senders màgics’
“Ens creiem que Andorra era Andorra S.A., i ara la volen convertir en Andorra S.L."
APRi alerta que multiplicar càmeres de videovigilància pot vulnerar la privacitat a Andorra
Andorra digitalitza els tràmits tributaris per facilitar la contractació de 5.000 temporers
L'excopríncep Vives comenta el fenomen Rosalía: "Cada cop més joves s'interessen per Jesús"
'Cocina con Coqui' vol deixar l'onada d'odi enrere i continuarà centrada en els seus vídeos
Afectacions al trànsit als carrers Josep Viladomat i Esteve Albert fins al pròxim divendres
Ladislau Baró pronunciarà la lliçó inaugural del curs 2025-2026 de la UNED a la Seu
Cartera Digital: una nova app que permet portar els documents oficials d’Andorra al telèfon
Unes 150 persones van participar a la manifestació de la Seu d’Urgell en favor de Palestina
FEDA Solucions permet validar el bitllet de bus sense codi QR mentre resol la fallada d’iOS
Les altes pressions mantenen el temps estable, però augmentarà la nuvolositat durant el dia
El BC MoraBanc i el SAAS impulsen ‘Dona’t un temps’ per visibilitzar la salut mental
VÍDEO | "¿Sabes que haré con este multa de 100 euros en Andorra la Vella?"
Andorra Telecom prepara un salt de velocitat en la connexió a Internet abans de final d’any
Hope Palestina rebutja posicionar-se amb cap partit d'Andorra: "no som una extensió del PS"
Límit de 50 km/h i ciclistes prohibits per les obres del Pont de Lisboa a partir de dilluns
