Els Jocs de París estrenen un polèmic sistema de videovigilància massiva amb IA

Durant els Jocs de París 2024, una càmera de videovigilància observa l'accés a un dels recintes olímpics. Les imatges, en temps real, són analitzades per un programa de reconeixement artificial d'imatges.

La densitat de persones comença a augmentar perillosament, i el programa envia una primera alarma.

De cop, un fort soroll provoca el pànic i la gent s'allunya desesperadament del lloc. El programa ho detecta i envia un segon avís. Quatre persones resten a terra: el programa les reconeix, les localitza i avisa els gendarmes. 

Aquest és l'escenari ideal que descriuen els responsables de seguretat de l'organització dels Jocs Olímpics 2024. Per molts, però, és un escenari distòpic que amenaça la privacitat i les llibertats de la ciutadania francesa i els visitants olímpics.

Coincidiendo con los Juegos Olímpicos y Paralímpicos de #Paris2024, Francia ha legalizado la videovigilancia algorítmica sin llevar a cabo un verdadero debate público.

Actúa antes de que el reconocimiento facial se convierta en una realidad en Francia 👉 https://t.co/zskJgVu8J1 pic.twitter.com/93d9LQ5XLX

— Amnistía Internacional España (@amnistiaespana) July 27, 2024

Una quarantena d'ONG ja van posar el crit al cel durant el debat de la llei dels Jocs Olímpics i Paralímpics de París 2024 que introduïa un article per permetre l'ús de sistemes de "videovigilància augmentada" pel carrer. 

En una carta oberta en nom de la societat civil, denunciaven que França seria el primer país europeu en legalitzar aquest tipus de videovigilància:

"Creiem que les mesures de vigilància proposades violen el dret internacional dels drets humans ja que contravenen els principis de necessitat i proporcionalitat, i suposen riscos inacceptables per als drets fonamentals, com ara el dret a la intimitat, la llibertat de reunió i associació, i el dret a la no discriminació."

Tanmateix, sota el pretext de reforçar de forma inèdita la seguretat de tan important esdeveniment va portar l'Assemblea Nacional a aprovar un sistema de videovigilància massiva i automàtica sense precedents en extensió i capacitats. 

Què és la "videovigilància augmentada"?

La llei francesa especial pels Jocs Olímpics va ser aprovada el 19 de maig després de sotmetre's a les recomanacions de la Comissió Nacional de Tecnologies de la Informació i Llibertats (CNIL).

"A títol experimental, fins al 31 de març del 2025", en el context de les Olimpíades -comença dient el controvertit article 7 de la llei- les imatges capturades per les càmeres de videovigilància "podran ser objecte de tractaments algorítmics".

Aquests "tractaments algorítmics" descriuen el processament de les imatges capturades per programes de visió artificial d'un programa capaç de detectar diferents situacions de forma automàtica.

Les càmeres augmentades, apunta la llei, reconeixen vuit situacions:

► Presència d'objectes abandonats

► Presència o l'ús d'armes

► Incompliment per part d'una persona o vehicle del sentit comú de la circulació

► Encreuament o presència d'una persona o vehicle en una zona prohibida o sensible

► Presència d'una persona a terra després d'una caiguda

► Moviments multitudinaris

► Densitat de persones massa alta

► L'esclat d'un incendi

Tal com apunta la CNIL, les imatges poden extreure's només de càmeres instal·lades als llocs dels esdeveniments olímpics, al seu voltant i en el transport que hi dona servei, sigui en càmeres ja instal·lades en el carrer o en estacions de tren, però "també en drons".

Les situacions que alertin les càmeres sempre dependran de l'anàlisi humana. Un cop el software detecta qualsevol de les situacions descrites en les imatges capturades, les comunica als "agents autoritzats, que comproven aquests informes per validar-los o no".

"No podeu ser objecte de cap decisió individual ni ser processats únicament sobre la base d'aquest tractament algorítmic. A més, no es pot fer cap comprovació creuada amb altres fitxers."

Com a part de les limitacions per millorar la privacitat i la protecció dels drets de la ciutadania, les imatges només poden ser emmagatzemades fins un any després del seu enregistrament i en cap cas es preveu que hi hagi cap mena de reconeixement facial, tecnologia en què la mateixa CNIL reconeix "riscos importants".

"Una extensió de la policia"

Per les ONG que s'oposen al sistema, com La Quadrature du Net, aquesta tecnologia "és una extensió de la policia" que "busca reprimir els nostres comportaments a la via pública".

Així ho afirmava Noémie Levain, advocada d'aquesta associació de defensa dels drets digitals dels ciutadans.

Nous serons ce soir à République pour la contre-cérémonie d'ouverture des Jeux Olympiques afin de dénoncer la surveillance massive permise à l'occasion de ce méga-évènement. A tout à l'heure ! https://t.co/Ez1nQr7OCG

— La Quadrature du Net (@laquadrature) July 25, 2024

"Serem a la contracerimònia inaugural dels Jocs Olímpics per denunciar la vigilància massiva permesa durant aquest mega-esdeveniment."

Les ONG i activistes pels drets civils denuncien que l'"experiment" tindrà recorregut un cop acabats els Jocs: "durant l'any que ve, festivals, partits de futbol i altres, com els mercats de Nadal, seran terreny de joc de la videovigilància algorítmica".

La Quadrature du Net apunta que "els Jocs Olímpics ens deixaran un llegat de vigilància massiva" i assegura que amaga la intenció de l'Estat d'iniciar "un projecte de vigilància de l'espai públic molt més ampli":  

"Darrere d'aquesta legalització sense precedents, que es refereix a un nombre reduït de casos d'ús, hi ha altres aplicacions que al seu torn es podrien legalitzar. Molts líders polítics reconeixen públicament el seu desig d'autoritzar el seguiment biomètric i la categorització de la població, mitjançant el reconeixement facial o fins i tot el reconeixement d'emocions."