blogimpulsa

Per Víctor Almonacid Lamelas. Directiu especialitzat en innovació pública i lletrat expert en dret digital.

Burocrac_IA

El mes passat vaig tenir el plaer de presentar el meu darrer llibre, “Burocrac_IA”, a un lloc tan emblemàtic com l’Escola d’Administració Pública de Catalunya.

A «Burocrac_IA. Guia per a l’eliminació de la burocràcia a l’era de la IA», coneixerem bé l’enemic, perquè altrament no el podrem vèncer. Burocràcia (del francès bureau: buró, oficina, i grec kratos: poder), es pot definir com una “forma d’organització de la societat, que es caracteritza pel fet que els òrgans de poder estan separats de les masses, i per la subordinació de les normes i tasques del funcionament de l’organització mateixa a les finalitats de la conservació i l’enfortiment de les posicions de la seva anella dirigent”[1]. És una versió en “mode piconadora” del poder establert. Per si això fos poc, la burocràcia també suposa un malbaratament de recursos, a més de les molèsties conegudes. Segons Carlos Enrique Castillo Peraza, «burocràcia també és “l’art de convertir el que és fàcil en difícil per mitjà del que és inútil”. (“Bureaucracy is the art of turning the easy into difficult through the useless”) És el mal d’alçada de l’Administració, el que pateixen els que creuen que hi treballen en contra i no pas per a la ciutadania. És la protagonista dels acudits de Forges (“això no m’ho repeteix vostè duplicat i compulsat”) …

Sorprenentment, el model d’Administració que volem superar, i que sembla ancorada en el període burocràsic, es troba segrestada per funciosaures amants del paper i els tràmits de més, veritables miops instal·lats a la seva zona de confort que, quan obrin els ulls, veuran que en el seu cas són substituïbles no només per la IA i altres tecnologies suprimit uns quants que ni tan sols exigeix ​​la llei), sinó per les noves generacions d’usuaris, centennials i posteriors, que simplement no se sotmetran a les mateixes tortures administratives que els seus pares i avis. Aleshores els funciosaures veuran el seu propi meteorit i reconeixeran que un canvi de model sembla urgent, però “quan és urgent, ja és massa tard” (Charles Maurice de Talleyrand). La veritat és que, avui dia, ja sabem tot ho s’hauria de fer, però després veiem que, excepte honroses excepcions, no és el que es fa… Per què? La resposta és el silenci (administratiu).

De sobte irrompen blockchain, la IA, la computació quàntica, els robots i el metavers. I tots són bons, que consti, sempre que no es facin servir per crear la versió 3.0 de la burocràcia, i igualment es tinguin en compte altres riscos i amenaces sobre els drets de les persones. Qui subscriu és un dels majors partidaris (i promotors) de la innovació pública, crec que no cal dir-ho, però no un innovador esbojarrat, sinó un de tan modern com cartesià. Primer l’un, després del dos. Si ens saltem els passos naturals, si no tenim estratègia, tindrem aquesta burocràcia d’última generació que consisteix a començar la casa per la teulada, cosa que ens donarà molta més feina a llarg termini. Tot i això, i amb l’enfocament adequat, el projecte d’implantació progressiva de la IA en el funcionament de l’Administració i els serveis que aquesta presta és apassionant, i de fet podria ser l’arma definitiva contra la burocràcia i la corrupció. Però, perquè això passi, aquest projecte ha de ser liderat per la millor versió de la intel·ligència humana, la que es basa en els valors, la intel·ligència emocional i el sentit comú, una intel·ligència que comptarà amb el magnífic suport objectiu, això sí, que donaran les dades processades precisament pels sistemes d’IA. Aquestes dades seran fonamentals en els processos de presa de decisions. La gestió objectiva i predictiva basada en dades certes, filtrades i de qualitat suposarà una millora en l’acció de govern sense precedents.

Després d’una primera part que bé podria haver-se batejat com “Torna demà, 2”, ja que, en certa manera, suposa un homenatge a Larra i tot el que ell denunciava a la seva famosa obra, la crítica constructiva (i contundent) contra la burocràcia va donant pas a un bon catàleg de propostes antiburocràtiques reals i realistes. Finalment, s’acompanyen ni més ni menys que 100 propostes d’innovació i de transformació digital a través de la IA. La màxima aspiració de l’obra és ser útil i, en segon lloc, amena i divertida.

Perills de la IA

Però el que és veritablement important de l’obra esmentada és que ajuda a entendre la realitat en què es troba l’Administració, aquest (ja) antic constructe jurídic social que s’ha de renovar a l’era de la IA, i amb la IA. La nostra experiència prèvia a la implantació de projectes com el d’administració electrònica o els serveis intel·ligents hauria de ser suficient per evitar que caiguem de nou en l’error de configurar els projectes des de dalt (decisions polítiques) i no des de baix (necessitats objectives detectades), i també des de dins (comoditat de l’Administració) i no des de fora (ciutadania). En concret, la irrupció de la IA a l’Administració ha d’evitar convertir el servei públic en una burocràcia 3.0 o, com en diu Carles Ramió, autor del pròleg del llibre, una neoburocràcia. Pensarem que hem après la lliçó amb aquest “Torneu demà” electrònic que vam imposar, per exemple, durant la pandèmia.

Altres riscos de la IA són, per descomptat, tots els relacionats amb la possible vulneració dels drets de les persones: biaixos algorítmics, desigualtats, deshumanització del públic, opacitat en la presa de decisions, riscos en la privadesa, etc. En concret, l’expressió “biaix algorítmic” fa referència als prejudicis o discriminacions inherents als sistemes d’IA, que sorgeixen del mateix disseny de l’algorisme o de les dades d’entrenament. Aquest biaix pot perpetuar desigualtats existents, com ara la discriminació per gènere, raça o nivell socioeconòmic. En tot cas, els sistemes d’IA dalt risc que utilitzen tècniques que impliquen l’entrenament de models d’IA amb dades es desenvoluparan a partir de conjunts de dades d’entrenament, validació i prova que compleixin els criteris de qualitat (art. 10 del Reglament d’IA). Pel que fa a la possible manca de transparència de la IA, cal dir que una “caixa negra” és un sistema on les decisions i processos interns no són comprensibles per a les persones. Per la seva banda, els algorismes opacs són aquells el funcionament dels quals no és transparent, ja sigui per la seva complexitat tècnica o perquè els desenvolupadors han decidit no revelar la seva lògica. En tots dos casos es dificulta la rendició de comptes. La solució passa per promoure l’explicabilitat dels algorismes i exigir transparència en el disseny.

A més, la IA requereix grans quantitats de dades personals per entrenar-se, cosa que genera preocupacions sobre com es recopilen, emmagatzemen i utilitzen aquestes dades. Però cal complir i fer que es compleixi la llei. No només el RIA, sinó tota la normativa tecnologia i drets de les persones. Quan una tecnologia s’implanta adequadament i finalment aconsegueix no soliviantar drets, sinó que més aviat ajuda a garantir-los, desenvolupa allò que s’anomena Digital Trust (confiança digital). És la confiança que els usuaris dipositen en una organització, tecnologia o sistema per manejar les dades de manera segura, ètica i transparent. Les entitats públiques han de garantir que els seus sistemes siguin segurs, que respectin la privadesa dels usuaris i que compleixin la normativa (especialment el RGPD).

El valor diferencial de la intel·ligència humana

Com hem vist, la implantació de la IA és tot un repte per a la intel·ligència humana, la crida a continuar liderant intel·lectualment l’Administració durant molts anys més, sempre que demostri o segueixi demostrant-ne el valor diferencial. La intel·ligència natural és una capacitat cerebral o mental que abasta una varietat d’habilitats cognitives, com ara el raonament, la resolució de problemes, la comprensió, l’aprenentatge, la creativitat i l’adaptació a noves situacions. Es tracta d’una facultat, de moment exclusiva de l’ésser humà, que ens permet adquirir coneixements, entendre idees complexes, prendre decisions i enfrontar-nos a desafiaments de manera efectiva; i fins i tot aprendre dels errors quan aquesta efectivitat no és tan alta, canviant d’estratègia per al següent intent. Hi ha diferents teories sobre la intel·ligència, algunes de les quals destaquen que no és una única habilitat, sinó una amalgama de capacitats “intel·ligents”. Per exemple, la teoria de les intel·ligències múltiples, de Howard Gardner, proposa que hi ha diverses formes d’intel·ligència: lingüística, logicomatemàtica, espacial, musical, interpersonal, intrapersonal, entre d’altres. En definitiva, la intel·ligència és un concepte complex i multidimensional, que no només fa referència al coneixement acadèmic o a la capacitat de resoldre operacions aritmètiques (un punt ja aconseguit fa molts anys per la tecnologia), sinó també a habilitats socials, emocionals, i pràctiques que ens permeten interactuar amb el món de manera eficaç, empàtica i significativa.

La intel·ligència humana comporta una sèrie de subintel·ligències que podem posseir en major o menor mesura. Als efectes del present estudi, i del “nostre discurs” en general, ens hi referim amb expressions com “habilitats toves”, “capacitats humanes”, “intel·ligència pràctica”… O “noves aptituds”, el tercer ítem que suporta l’administració electrònica, juntament amb les TIC i els canvis organitzatius.

Al final tornem a la nostra administració electrònica, que ja podem considerar una vella coneguda. Ja estem o hauríem d’estar en una fase avançada de la seva implantació, sí, però en definitiva la IA encaixa en el mateix procés de modernització que vam començar fa dècades, o, en el pitjor dels casos, fa almenys uns quants anys. Parlem d’una administració que es va anomenar informàtica, electrònica, digital, telemàtica, oberta, intel·ligent… No és més que una evolució, tant en la terminologia com en el propi projecte. Però de fet parlem d’un mateix projecte, el de la implantació de les tecnologies de la informació i la comunicació, els canvis organitzatius i les noves aptituds, ni més ni menys que per millorar els serveis públics, que és la nostra obligació. D’això en parlem també quan parlem d’IA, i en realitat tot es trobava ja contingut en la clàssica definició d’administració electrònica donada per la Comissió Europea fa més de vint anys[2]:

“Administració electrònica o eGovernment” es defineix com la utilització de les tecnologies de la informació i comunicació a les administracions públiques, associada a canvis en l’organització i noves aptituds del personal. L’objectiu és millorar els serveis públics, reforçar els processos democràtics i donar suport a les polítiques públiques”.

Ara són més necessaris que mai aquests canvis organitzatius i, sobretot, aquestes noves aptituds. En aquest sentit, la capacitació tecnològica és important, però no ho és menys el desenvolupament d’una sèrie d’habilitats toves (soft skills) com ara la intel·ligència emocional, el pensament crític, el lideratge, l’empatia, la comunicació, la resiliència (o adaptabilitat) o la gestió d’aquests canvis tan necessaris. I una altra: entendre i arribar a dominar la IA serà l’habilitat més important del segle XXI. Si aprèn i aconsegueix aquest domini, si se li dona realment bé, vostè serà un professional excel·lent en els propers anys. Al principi no serà fàcil perquè hem d’aprendre a aprendre de, sobre i amb la IA. Però un cop entès el caràcter instrumental de la tecnologia, el seu bon ús permetrà millorar el rendiment i la qualitat del treball exercit pels diferents empleats a nivell particular, i, per descomptat, per cadascun dels serveis municipals (per exemple, els drones són un gran complement per a la regulació del trànsit), i en darrera instància per tota l’organització. Per això, no hem de témer el mesurament del rendiment, perquè el rendiment serà bo. En tot cas, fins i tot als serveis on els empleats necessiten més habilitats toves, la IA podria ser un complement útil. En relació amb això, l’exemple més usual és el filtre referit de l’atenció ciutadana bàsica a través d’uns chatbots que, almenys, són molt fiables en els nivells inicials d’informació, reservant als empleats “humans” l’atenció més complexa i personalitzada.

Aquestes noves aptituds o capacitats no només s’han d’exigir als empleats futurs, sinó en primer lloc als actuals. Així, en un escenari ideal, d’aquí a pocs anys no només tindrem nous empleats que substituiran els companys que es van jubilant, sinó tota una generació de veterans reciclats que són els que, reunint experiència i competència, estiraran el carro amb la possibilitat d’exercir un lideratge molt potent. El futur serà dels joves, sens dubte, però encara queda una etapa imprescindible encapçalada pel talent sènior.

Conclusions i altres reflexions en obert

• Un algorisme és un conjunt ordenat i finit d’operacions que permet trobar la solució d’un problema.

• “Si ens reservem el treball humà, emocional, relacional, el que requereix de perspectiva, d’experiència, d’empatia, el que té veritable valor afegit, mai no ens substituiran les màquines.”

• “Les tecnologies cognitives podrien permetre a l’Administració pública atendre tràmits ciutadans senzills i deixar els més complicats als servidors públics”.

• Si parlem d’intel·ligència artificial i intel·ligència humana, no hem de parlar d’una competició, sinó d’una combinació.

• “Menys és més. Es parla molt de la manca de múscul a l’Administració, però ara el múscul el posa la tecnologia. Hem de passar de ser organitzacions culturistes a organitzacions cultes.

• “La capacitat predictiva de la IA és un dels principals punts forts. La predicció és la nova planificació.”

• “La intel·ligència de la IA ja està fora de tot dubte. El 1997, Deep Blue va guanyar als escacs ni més ni menys que a Kaspàrov, i estem el 2025.”

• “La intel·ligència artificial (IA) no és un enemic, sinó un aliat clau en el futur, basat en la col·laboració entre humans i màquines, formant una nova intel·ligència col·lectiva.”

• “La combinació de la creativitat humana amb la capacitat de processament de la IA obrirà noves fronteres en la prevenció, la resolució de problemes i la presa de decisions més ràpides, objectives i d’alta qualitat.”

• “La integració de la IA al sector públic impulsarà la innovació com mai abans, millorant els serveis i enfortint l’economia.”

• “La gestió pública s’ha de basar en dades, deixant enrere decisions impulsives, subjectives o políticament interessades, cosa que reduirà la corrupció i fomentarà la transparència i l’eficiència.”

• “La IA no busca reemplaçar els humans; al contrari, permet que les persones desenvolupin rols més reflexius, estratègics, creatius i humans en les seves professions.”

• “Els ajuntaments tenen una oportunitat única per transformar el seu funcionament, adoptant l’anomenada “gestió intel·ligent”, que els apropa més als ciutadans, els fa proactius i en millora la utilitat social.”

• “La revolució de la IA no és de les màquines, sinó de les persones que les usen amb un propòsit clar: l’interès general, marcant l’inici d’una governança basada en dades (però no les dades).”

• Aquest canvi promou principis fonamentals com objectivitat, igualtat, integritat i la recerca de l’interès públic, deixant enrere models obsolets de gestió i reforçant la confiança en les administracions.

• I finalment… “La burocràcia ha passat en un segle de ser bona (Max Webber, jerarquia i procediment davant de l’arbitrarietat), a ser neutra (segle XX, legalitat formal amb poca eficiència), i a ser finalment espantosa (molèsties innecessàries al segle XXI). Si amb la IA caiem a l’error de crear una burocràcia 3.0 estarem contribuint a aquesta involució.”

---

[1] Font: https://www.filosofia.org/enc/ros/buro.htm

[2] Comunicació de la Comissió, de 26 setembre 2003, al Consell, al Parlament Europeu, al Comitè Econòmico i Social Europeu i al Comitè de les Regions – “El papel de la administración electrónica en el futuro de Europa” [COM (2003) 567 final – no publicada al Diari Oficial]. Font: https://eur-lex.europa.eu/ES/legal-content/summary/egovernment.html