blogimpulsa

Per Víctor Almonacid Lamelas. Consultor jurídic i estratègic especialitzat en projectes de transformació digital.

Un dels mites més estesos sobre la intel·ligència artificial a l’Administració pública és que els algoritmes prenen decisions que haurien de correspondre a les persones. Convé matisar aquesta idea des de l’inici: els algoritmes són instruments al servei de sistemes d’intel·ligència artificial, però no són la intel·ligència artificial en si mateixos. Poden intervenir en el procés de presa de decisions, ordenar informació, aplicar regles, detectar patrons o proposar resultats; tanmateix, no decideixen en sentit jurídic, perquè no tenen capacitat decisòria i, sobretot, perquè cap norma els atribueix competència per resoldre procediments administratius.

Un algoritme es pot definir com un conjunt ordenat d’operacions sistemàtiques que permet fer un càlcul o trobar la solució d’un determinat tipus de problemes. El concepte prové de l’àmbit matemàtic i es projecta amb naturalitat sobre la informàtica, on aquestes operacions es tradueixen en instruccions programades. En aquest sentit, l’algoritme és sempre un mitjà orientat a una finalitat, ja que processa dades d’acord amb regles prèviament establertes i ofereix un resultat. Aquest resultat podrà ser útil, fins i tot imprescindible, però no equival per si mateix a una decisió administrativa.

Resol l’òrgan competent

Des de l’òptica administrativa, resulta més precís considerar els algoritmes com a instruments que permeten executar tràmits reglats dins d’un procediment. Aquesta interpretació en facilita l’encaix jurídic, davant de dos plantejaments problemàtics: sostenir que els algoritmes dicten actes administratius discrecionals o afirmar que tenen naturalesa reglamentària. L’article 41.1 de la Llei 40/2015, d’1 d’octubre, de règim jurídic del sector públic, defineix l’actuació administrativa automatitzada com qualsevol acte o actuació realitzada íntegrament a través de mitjans electrònics per una Administració pública, en el marc d’un procediment administratiu, sense intervenció directa d’un empleat públic.

La clau està, per tant, a distingir entre regulació, execució i resolució. L’algoritme no crea la norma ni substitueix l’òrgan competent; opera en la fase d’execució del procediment, aplicant regles prèviament definides. Pot automatitzar comprovacions, càlculs, verificacions o comunicacions, però la resolució del procediment correspon a l’òrgan administratiu que tingui atribuïda la competència. Als ajuntaments, per exemple, aquesta competència recau en òrgans unipersonals, com l’Alcaldia o les regidories delegades, o en òrgans col·legiats, com el Ple o la Junta de Govern, segons correspongui.

Aquesta distinció és especialment rellevant quan es parla del biaix algorítmic. És cert que els sistemes automatitzats poden produir resultats discriminatoris si les dades, les regles o els criteris de disseny incorporen biaixos. Tanmateix, des del punt de vista jurídic, el problema no s’ha de formular com si l’algoritme decidís per si sol, sinó com una qüestió de disseny, control, supervisió i responsabilitat administrativa. L’article 22 del Reglament general de protecció de dades reconeix el dret de tota persona a no ser objecte d’una decisió basada únicament en el tractament automatitzat, inclosa l’elaboració de perfils, quan produeixi efectes jurídics sobre ella o l’afecti significativament de manera similar.

Per això, l’automatització compatible amb l’ordenament jurídic exigeix traçabilitat, motivació quan escaigui, possibilitat de supervisió i una atribució clara de responsabilitats. La tecnologia pot assistir, ordenar o executar, però no desplaça la competència de l’òrgan administratiu. La referència a la intel·ligència artificial en l’article 23 de la Llei 15/2022, de 12 de juliol, integral per a la igualtat de tracte i la no-discriminació, reforça precisament aquesta exigència: els sistemes s’han de dissenyar i utilitzar de manera que s’evitin impactes discriminatoris i es garanteixi una intervenció humana suficient quan sigui necessària.

Actuacions proactives i actuacions assistides

La normativa recent permet afinar encara més aquesta distinció mitjançant dues figures: les actuacions proactives i les actuacions assistides. Les primeres s’aproximen a l’automatització de tràmits; les segones se situen més aviat en l’àmbit de l’assistència a la redacció o elaboració de documents, especialment quan hi intervé intel·ligència artificial generativa. Diferenciar-les és útil perquè no tenen el mateix abast jurídic ni plantegen els mateixos riscos.

En l’àmbit de l’Administració de Justícia, el Reial decret llei 6/2023, de 19 de desembre, regula les actuacions proactives com a actuacions automatitzades iniciades pels sistemes d’informació sense intervenció humana directa. Aquestes actuacions aprofiten la informació incorporada a un expedient o procediment per generar avisos o efectes en aquest mateix expedient o en d’altres, sempre de conformitat amb la llei. La seva funció es mou, per tant, en el terreny de la interoperabilitat, la comunicació entre sistemes i la reutilització legítima de la informació administrativa.

La mateixa norma exigeix que aquestes actuacions es puguin identificar, traçar i justificar. A més, ha de ser possible dur-les a terme per mitjans no automatitzats i també deshabilitar, revertir o deixar sense efecte les actuacions automatitzades ja produïdes. Aquestes garanties mostren que l’automatització no es concep com una delegació de poder decisori en la màquina, sinó com una forma d’execució controlada dins d’un marc jurídic prèviament definit.

Les actuacions assistides tenen una naturalesa diferent. L’article 57 del Reial decret llei 6/2023 contempla la possibilitat que el sistema d’informació generi un esborrany total o parcial d’un document complex basat en dades. Aquest esborrany pot servir de suport o fonament per a una resolució judicial o processal, però mai no constitueix per si mateix la resolució. La norma ho diu amb claredat: el text generat requereix validació per part de l’autoritat competent i ha de poder ser modificat lliurement i íntegrament per la persona usuària.

De nou, la idea central és la mateixa: la intel·ligència artificial pot assistir, però no substituir la responsabilitat institucional. En l’àmbit judicial, la resolució exigeix la validació del jutge, jutgessa o funcionari competent de l’Administració de Justícia, així com la identificació, autenticació o signatura electrònica que correspongui i el compliment dels requisits processals aplicables.

Conclusió

A l’Administració pública, la intel·ligència artificial no s’ha d’entendre com un subjecte que decideix, sinó com una eina que automatitza, assisteix o executa determinades operacions sota direcció humana i responsabilitat jurídica. L’algoritme no és l’origen ni la finalitat del procediment; és un mitjà tècnic integrat en una arquitectura normativa, organitzativa i competencial que continua pertanyent a les persones i als òrgans legalment establerts.