LA INTEL·LIGÈNCIA ARTIFICIAL EN ELS SERVEIS PÚBLICS: DE LA POR ATÀVICA A LA COMBINACIÓ D’INTEL·LIGÈNCIES (PART III)
Per Víctor Almonacid Lamelas. Directiu especialitzat en innovació pública i lletrat expert en dret digital.
Full de ruta: com implantar IA responsablement a la teva Administració
Per a aquells valents que vulguin liderar la transformació (i no esperar que els jubilin), proposo aquest full de ruta:
Fase 1: Auditoria interna (mesos 1-2)
• Identificar processos automatitzables (començar pels de baix risc).
• Avaluar qualitat i disponibilitat de dades.
• Mapar resistències internes (corruptosauris, burocratorsauris, broncosauris).
Fase 2: Pilot controlat (mesos 3-6)
• Escollir un cas d’ús concret, mesurable i d’impacte visible.
• Implementar amb supervisió humana constant.
• Documentar-ho TOT: què fa la IA, què valida l’humà, quins resultats s’obtenen.
Fase 3: Escalat progressiu (mesos 7-12)
• Si el pilot funciona, expandir-lo a altres serveis.
• Formar el personal (no en “com usar l’eina”, sinó en “com treballar amb IA”).
• Establir protocols d’auditoria i revisió.
Fase 4: Institucionalització (any 2 en endavant)
• Crear una Oficina de Governança de la IA (sí, és necessari).
• Publicar informes anuals de transparència algorítmica.
• Involucrar la ciutadania en l’avaluació dels sistemes d’IA.
Advertiment: si la teva organització no té lideratge polític ferm, oblida-ho. Sense suport des de dalt, el projecte morirà aixafat per la burocràcia.
Conclusió: la paradoxa del funcionari intel·ligent
La IA ens posa davant d’un dilema incòmode: se’ns exigeix supervisar sistemes que no comprenem plenament, auditar processos que ens superen tècnicament i garantir drets fonamentals mitjançant eines opaques.
Però la solució no és renunciar a la IA. És insistir que qualsevol sistema d’IA que impulsem sigui dissenyat, regulat i controlat des del compromís amb l’interès general.
Perquè, al final, d’això es tracta. La IA no és bona ni dolenta; és una eina. I com qualsevol eina, pot utilitzar-se per construir o per destruir. Pot millorar radicalment els serveis públics o convertir-se en un mecanisme de control totalitari. Pot alliberar els empleats públics per a tasques creatives o convertir-los en supervisors passius de decisions que no comprenen.
La diferència la marquen les persones. Els funciosapiens que entenen que la tecnologia ha d’estar al servei del ciutadà, i no a l’inrevés. Els directius públics que lideren amb visió i valentia. Els polítics que aposten per la transformació encara que no doni rèdits electorals immediats.
I sí, també la marquen els ciutadans que exigeixen transparència, participen activament i no es conformen amb el “sempre s’ha fet així”, entre altres raons perquè la ciutadania fa temps que tampoc no ho accepta.
L’Administració pública no té un problema de tecnologia; té un problema de sentit. La intel·ligència artificial ha arribat als ajuntaments i a les conselleries embolcallada d’un relat d’eficiència gairebé messiànica, però la pregunta decisiva no és quants tràmits reduirà ni quants minuts estalviarà, sinó què farà amb la dignitat, la igualtat i la confiança de la ciutadania. El risc real no és que la IA sigui massa potent, sinó que l’Administració sigui massa complaent: delegar en sistemes que no entén decisions que abans exigien deliberació, responsabilitat i rendició de comptes. La IA serà la nostra aliada si —i només si— la governem responsablement. El repte no és en la tecnologia, sinó en nosaltres mateixos. En la nostra capacitat d’evolucionar de funciosauris a funciosapiens, funcionaris intel·ligents i insubstituïbles. Quin sentit té implantar una nova intel·ligència si no s’integra en una organització que ja era, com a mínim, moderadament intel·ligent? I en la nostra voluntat de construir una Administració Pública del segle XXI que estigui a l’altura dels reptes que afrontem.
En aquest context, el marc europeu (AI Act) i el dret administratiu clàssic no són un llast, sinó l’oportunitat de redefinir què significa “procediment degut” en clau algorítmica. Transparència ja no és només publicar expedients, sinó poder explicar en llenguatge humà per què un model ha recomanat denegar un ajut o prioritzar un expedient; motivar ja no és omplir un paràgraf estàndard, sinó vincular dades, regles i criteris a cada cas concret; audiència ja no és només un tràmit formal, sinó la possibilitat real de discutir la decisió, incloent-hi el comportament del sistema que l’ha inspirada. Una Administració que utilitzi IA sense reconstruir aquestes garanties serà més ràpida, però també més opaca i injusta.
La disrupció necessària no és incorporar models cada vegada més complexos, sinó assumir límits i redissenyar el poder. Límits: hi ha àmbits que no s’han d’automatitzar (menors, violència de gènere, exclusió severa) i decisions que han de continuar requerint el rostre i l’empatia d’un ésser humà. Redisseny del poder: invertir la càrrega de la prova (no és el ciutadà qui ha de demostrar que l’algoritme falla, sinó l’Administració la que ha de demostrar que el seu sistema és equitatiu), obrir el codi i les dades a auditories externes, donar veu a observatoris ciutadans que vigilin els algoritmes públics i exigir una formació sòlida en ètica i governança de la IA a tot directiu que pretengui implantar-la. La veritable modernització no consisteix a substituir funcionaris per màquines, sinó a dotar els funcionaris d’eines intel·ligents sense convertir-los en simples validadors de decisions alienes.
La IA només serà compatible amb el servei públic si acceptem que no pot ser un “nou BOE” inapel·lable, sinó un consell expert que treballa per al Dret i no per damunt seu. Això exigeix valentia política per dir “no” a solucions màgiques, honestedat tècnica per reconèixer allò que no s’entén i una ètica professional que anteposi l’interès general a la fascinació tecnològica. La pregunta clau no és quant ens canviarà la IA, sinó quant estem disposats a canviar l’Administració perquè la IA no erosioni allò que la justifica: garantir drets, tractar igual els qui són iguals i explicar sempre el perquè de cada decisió. Sense això, l’Administració deixarà de ser intel·ligent fins i tot abans que ho siguin els seus sistemes.
Si vols, pots llegir:
blogimpulsa 