Encamp, primer. Andorra, a continuació

El Comú d’Encamp va anunciar que instal·larà càmeres amb analítica d’intel·ligència artificial als seus carrers. Ho va presentar com una mesura de seguretat moderna. Nosaltres vam presentar una denúncia. I ara explicarem per què tenien raó d’estar molestos.

Fa uns mesos, el Comú d’Encamp va anunciar la instal·lació de sensors intel·ligents als carrers de la parròquia. Ho van presentar com una iniciativa de seguretat: analítica d’intel·ligència artificial per detectar «anomalies» en espais públics. Sense reconeixement facial, van aclarir. Ràpids a afegir que tot compleix la normativa vigent. Res de què preocupar-se, sembla.

El Partit Pirata d’Andorra va presentar una denúncia davant l’Agència Andorrana de Protecció de Dades (APDA) per una raó molt concreta: que l’absència de reconeixement facial no implica absència de vigilància. Un sistema que analitza comportaments, detecta patrons, classifica situacions com «normals» o «anòmales» i genera alertes que desencadenen actuacions de la força pública sí que construeix perfils. Perfils de conductes. Perfils de persones. Sense que cap de nosaltres hagi signat res que ho autoritzi.

«No estem contra la seguretat. Estem contra la seguretat sense rendició de comptes. I en democràcia, la diferència entre les dues coses no és un detall tècnic: és el que ens separa d’un estat policial.»

La resposta del Comú va ser previsible: que el sistema és proporcionat, que la privacitat dels ciutadans queda garantida, que les gravacions s’esborren en el termini legal. Perfecte. Si és així, no caldria tenir cap problema a respondre preguntes molt senzilles: on és l’Avaluació d’Impacte sobre la Protecció de Dades (AIPD) prèvia al desplegament? S’ha fet la consulta prèvia a l’APDA? Quina base jurídica específica empara aquest tractament? Com pot exercir un resident el seu dret a saber si ha estat objecte d’una alerta algorítmica? Perquè si algú va ser classificat com a «anòmal» per l’algoritme i un agent va intervenir-hi com a conseqüència, aquella persona té dret a saber-ho. No com a favor. Com a dret.

Però davant d’aquestes preguntes, l’APDA ha optat pel perfil baix, gairebé d’espectador. Resulta kafkià que l’agència arxivés la denúncia exigint-nos, a nosaltres com a denunciants, que provéssim que el sistema estava operatiu, quan la LQPD és cristal·lina: l’AIPD i la consulta prèvia no són tràmits a posteriori, sinó condicions sine qua non per a qualsevol desplegament de risc. En lloc de tutelar el dret dels ciutadans i requerir d’ofici aquesta documentació, que ja hauria d’existir des del minut zero de l’anunci públic, l’agència trasllada la càrrega de la prova a l’administrat, convertint el garant de la privacitat en un mur burocràtic.

La jurisprudència del Tribunal Europeu dels Drets Humans és inequívoca: la videovigilància pot vulnerar l’article 8 del Conveni Europeu de Drets Humans si no supera un triple test de legalitat, necessitat i proporcionalitat. I la novetat de la IA no alleugereix aquesta obligació: l’agreuja. Un agent de seguretat que s’equivoca en una identificació és un individu que s’ha equivocat. Un algoritme que classifica erròniament un comportament és un sistema que ho farà centenars de vegades, amb la mateixa confiança matemàtica, fins que algú —des de fora— ho qüestioni.

El problema d’Encamp no és Encamp. El problema és que Encamp és el primer, però no serà l’últim. Cada parròquia que desplega tecnologia de vigilància sense la transparència adequada normalitza una pràctica. I les pràctiques normalitzades es perpetuen, s’amplien i es fan invisibles fins i tot per a l’Autoritat. Fins que ja no es qüestionen. Fins que es considera que qüestionar-les és de mal viure.

Ara Europa debat el Reglament d’Intel·ligència Artificial, que estableix que certs sistemes d’IA d’alt risc —inclosos els que analitzen comportaments en espais públics— requeriran avaluacions d’impacte específiques, supervisió humana activa i transparència davant els reguladors. Andorra no és membre de la UE, però el Principat ha d’alinear la seva legislació amb aquests estàndards si vol continuar sent un país que garanteix drets fonamentals. I si ha d’alinear les lleis, millor que comenci a alinear les pràctiques.

Andorra és un país petit. Petita és la distància entre el Govern i el carrer. Precisament per això, la transparència no és aquí una abstracció: és una necessitat democràtica de primer ordre. No demanem que es desmuntin les càmeres. Demanem que es digui la veritat sobre el que fan. I que les persones afectades tinguin els mecanismes reals per defensar-se si cal.

El canvi de discurs del Comú, assegurant ara que de moment no utilitzaran la IA, només fa créixer la sospita: si no s’hagués presentat la denúncia, estarien ja aquestes càmeres instal·lades i en ple funcionament algorítmic? Sembla que, a Andorra, la protecció de dades depèn més de la vigilància ciutadana que de la diligència de les institucions que ens haurien de protegir.