Intel·ligència artificial: aliada o enemiga de la justícia?

Els jutjats no estan preparats, ara mateix, per entomar els reptes de la intel·ligència artificial. Així ho asseguren jutges, advocats i fiscals com l'advocada penalista Laura Parés, que explica que actualment l'administració de justícia ni tan sols ha culminat el procés de digitalització: "Encara a dia d'avui tenim problemes per fer videoconferències, per exemple." Ara bé, a partir d'aquesta conclusió, operadors jurídics consultats per Catalunya Ràdio parlen de dues implicacions molt diferents pel que fa a la incursió d'aquesta tecnologia en el sector de la justícia: per una banda, en un futur, hi veuen una finestra per minvar la càrrega de treball --cosa que suposaria un estalvi econòmic i una resposta més àgil a la ciutadania-- però també molts perills --que encara no estan preparats per combatre--, com que es puguin manipular proves. El repte de la manipulació de proves Sobre una possible manipulació amb intel·ligència artificial d'imatges i sons que es presentin com a proves, des de la Fiscalia sostenen que el repte va encaminat sobretot cap als pèrits judicials, que són els que han de donar crèdit o no a unes gravacions o imatges. En aquest sentit, Francesc Menen, pèrit que exerceix des de fa més 40 anys, diu que una prova feta amb intel·ligència artificial treballa amb patrons fixos i estàndards programats amb anterioritat. Assegura que sempre es pot trobar la manera de contradir-los: "Entre dues persones que es vulguin comparar una respecte a l'altra, no només actua la semblança que puguin tenir, sinó una sèrie de condicions cromàtiques, de qüestions morfològiques i de senyals particulars de cada individu. Li busco les qüestions particulars, com poden ser tatuatges o lesions." Ara bé, quan es parla de conducta delictiva, Menen admet que les variables que proposa la intel·ligència artificial són molt diverses, ja que depenen, per exemple, del delicte i de com el delinqüent ha actuat davant unes circumstàncies imprevisibles. Amb tot, segons apunta l'expert en intel·ligència artificial i transformació digital Marc Duran, sí que hi ha eines per combatre una possible onada de proves falses, tot i que encara estan a les beceroles: "Són eines que s'especialitzen a detectar altres continguts creats per intel·ligència artificial mitjançant algoritmes. Eines que han de ser entrenades i que, al final, la seva eficiència (almenys inicialment) no serà completa. I, per tant, poden haver-hi casos de proves falses." Actualment, no hi ha manera de saber al 100% si arxius digitals que es presenten als jutjats estan manipulats amb IA (Canva) Així, de moment, diu Duran que la millor manera de detectar pistes sobre si una prova ha estat manipulada per intel·ligència artificial és tenir accés a les metadades de l'arxiu original, que diuen per quines mans ha passat i amb quines eines s'han editat. A més, també hi ha altres qüestions que poden ajudar quan es fa una anàlisi de les imatges o el so: "Les imatges solen tenir problemes per recrear detalls subtils, com alguna distorsió d'alguna textura en zones com els cabells o els ulls. I a la intel·ligència artificial també li costa reproduir les ombres, els reflexos... la il·luminació. I, amb les veus, poden tenir un so més metàl·lic i no tan natural i poden no tenir consistència amb l'accent o musicalitat de la persona, amb pics inesperats de so o de timbre." En aquest sentit, la magistrada de l'audiència provincial i exdegana dels jutjats de Barcelona Mercè Caso, creu que de la mateixa manera que és possible manipular proves, també serà possible examinar si s'han manipulat: "L'arribada de la intel·ligència artificial és un desafiament total per a la humanitat, i també ens afectarà a nosaltres. Si el que era una acreditació que una persona ha estat en un lloc o ha dit quelcom ho posem en dubte --perquè és possible manipular-ho--, com a jutges i jutgesses haurem de posar sota la llum si és real o no." Com pot ajudar la regulació de la IA? Tota una qüestió, la qual, segons assegura Pere Simón Castellano, especialitzat en dret digital i professor de la Universitat a distància, encara està molt lluny de resoldre's: "Pel que fa a les intel·ligències artificials que permeten crear imatges, vídeos o deepfakes, poden haver-hi indicis, però és realment difícil saber al 100% si s'han manipulat." Europa està en marxa per aprovar una regulació de l'ús de la IA que també influirà en la justícia (Canva) Amb tot, diu Simón que a Europa ja estan en marxa per impulsar una regulació que serveixi d'ajuda en aquest sentit i que s'espera de cara a principis del 2024: "A dia d'avui, no hi ha manera de reconèixer si hi ha un material que s'ha entregat als tribunals manipulat amb intel·ligència artificial, però si aquesta legislació entra en vigor serà més difícil que s'entreguin proves manipulades perquè totes les intel·ligències artificials que es podran usar i especialment les empreses i administracions públiques que les utilitzin hauran d'informar i, a més, hi haurà un òrgan europeu i diferents òrgans nacionals de supervisió amb capacitat sancionadora." En tot cas, en un aspecte en què no discrepa ningú és que, a banda de regulació, la intel·ligència artificial s'ha de dotar de valors. Un avantatge per a la ciutadania D'altra banda, el vessant més positiu de la implementació de la intel·ligència artificial en el sector judicial apunta a la possibilitat que serveixi per estalviar feines de tramitació i automatitzar tasques. De fet, podria servir per reduir el col·lapse judicial. Així, diu el president del Tribunal Superior de Justícia, Jesús María Barrientos, que en qüestions com les clàusules terra, que van provocar una allau de reclamacions pràcticament iguals als jutjats, s'hauria evitat una espera als usuaris d'un any, com a mínim, si la resposta s'hagués fet automatitzada. Entrada de la Ciutat de la Justícia, a l'Hospitalet de Llobregat (Europa Press / Departament de Justícia) En aquest sentit, Pere Simón apunta a la utilitat de la intel·ligència artificial, per exemple, en procediments on no hi ha una valoració de fons, a més de per temes relacionats amb la transparència i la rendició de comptes. A més, també creu que podria anar molt bé pel que fa a la predicció dels nivells de risc, per exemple, a l'hora d'adoptar mesures cautelars contra algú. Diu, però, que de moment és impossible implementar-ho per la manca de recursos. Tot i això, tothom coincideix que la intel·ligència artificial mai podrà suplantar cap dels professionals que intervenen en el món de la justícia. La justícia, sempre lenta Sobre com s'estan preparant aquests professionals per l'escenari que ha de venir, n'hi ha que veuen que queda molt lluny i d'altres als quals els espanta i estan fent pel seu compte cursos de formació. És el cas de la magistrada degana de violència sobre les dones de Barcelona, Josefa Verdejo: "En els dos últims anys, tots els delictes que es cometen a través de les xarxes socials s'han incrementat molt. Si a això ara li sumem l'entrada, com un huracà, de la intel·ligència artificial serà molt complex. I el pitjor és que encara no tenim la preparació suficient i que no tenim mitjans." Verdejo explica que ja va pel segon curset, però que els fa ella a títol personal, com fan altres magistrats i, òbviament, fora de l'horari laboral. A més, recalca la necessitat de fixar-se en com aborden el tema des d'altres països. Al seu torn, la magistrada de l'Audiència Provincial Mercè Caso també apunta que ja comencen a haver-hi xerrades i cursos sobre el tema, però amb un abordatge de contingut més filosòfic que encara no concreta com la intel·ligència artificial canviarà la vida judicial. Molts professionals de la justícia han optat per formar-se per compte propi davant la falta de preparació dins el sector (Canva) Per últim, Maria Peñacoba, secretària coordinadora dels lletrats de l'administració de la demarcació de Barcelona admet que la intel·ligència artificial és un repte inexistent ara a la justícia i proposa la creació de grups de treball per abordar el tema: "Amb enginyers, matemàtics, juristes, humanistes i filòsofs per poder dissenyar la intel·ligència artificial que volem a la justícia. I passar d'una justícia digital, amb un gran desenvolupament de tecnologia, a la justícia de la intel·ligència artificial." Una situació ideal que, des del sector es té assumit que arribarà, però arribarà tard a l'administració, menys modernitzada. En aquest sentit, Peñacoba diu que no és una utopia pensar que en el futur es rebran al mòbil recordatoris de les citacions judicials, com passa amb les cites de Salut.

Intel·ligència artificial: aliada o enemiga de la justícia?

En uns anys, aquesta tecnologia podria agilitzar la feina als jutjats que, amb tot, no estan preparats per combatre els perills que pugui manipular proves