L’ÀNIMA DE L’ALGORISME
Per Víctor Almonacid Lamelas. Directiu especialitzat en innovació pública i Lletrat expert en Dret digital.
Un podria pensar, en contemplar la fredor implacable d’un full de càlcul, la lògica binària que vertebra l’últim model d’Intel·ligència Artificial (IA) o fins i tot els serveis públics d’última generació que ja integren precisament aquesta tecnologia, que l’esperit humà, amb les contradiccions, les passions desbordades i la inherent incertesa, queda relegat a un racó polsegós de la història. Es equivoquen, profundament.
Perquè la IA es basa en dades, i perquè és precisament a la dansa aparentment asèptica de les dades on ressonen, encara que de vegades de forma inaudible per a l’oïda no entrenat, els ressons de les nostres decisions, dels nostres anhels, dels nostres errors, de els nostres silencis (administratius). Cada xifra, cada variable, no és sinó la petjada digital d’una acció humana, una elecció presa en un moment concret, sota unes circumstàncies específiques. L’increment de la desocupació juvenil no és un simple guarisme; és l’angoixa de milers de joves que veuen el futur incert. “La disminució de la inversió en sanitat no és una simple resta en un pressupost; és el silenci gradual de les veus que ens interpel·len i ens enriqueixen, és l’aposta pels números i no per la vida humana.” Potser no hi ha un servei públic més important que aquest? El maridatge de la sanitat i la IA, per cert, és excel·lent.
I pel que fa als algorismes, aquests constructes matemàtics que avui dia semblen governar tants aspectes de la nostra existència, des de quines notícies consumim fins a quins productes ens ofereixen, potser són entitats purament racionals, desproveïdes de qualsevol vestigi d’humanitat? De nou, la resposta és un rotund no. Perquè darrere de cada línia de codi, per sofisticada que sigui, batega la ment d’un creador, amb els biaixos, les prioritats, i, sí, també les limitacions. Un algorisme dissenyat per optimitzar l’eficiència pot, sense pretendre-ho, perpetuar desigualtats preexistents si les dades amb què s’entrena reflecteixen aquestes mateixes injustícies. Del ja famós biaix algorísmic no repetirem els clixés tantes vegades ja exposats, de manera no sempre tècnicament correcta, per cert.
És en aquesta intersecció, en aquest aparent oxímoron entre l’objectivitat de les dades i la subjectivitat humana, entre la precisió dels algorismes i la inherent imperfecció de la nostra naturalesa, on resideix la veritable complexitat del món actual. No es tracta d’abraçar cegament la tecnologia com a panacea universal, ni de demonitzar-la com una força deshumanitzadora. “Es tracta, més aviat, de comprendre profundament la seva naturalesa, de desentranyar les capes de significat que subjauen sota la seva aparent neutralitat“. L’Administració ha d’entendre aquest debat existencial, i participar-hi, potser des de la mateixa neutralitat, no per freda sinó per racional, que caracteritza el propi algorisme.
Vivim en una època on els algoritmes ho decideixen gairebé tot: allò que veiem, allò que comprem, fins i tot com interactuem amb els serveis públics. I encara que aquests conjunts d’instruccions matemàtiques i lògiques semblen freds i impersonals, cada cop més s’entrellacen amb aspectes profundament humans. La gran pregunta és: pot un algorisme tenir ànima? I no és una pregunta fútil, perquè el servei públic sí que deu tenir-la.
Per descomptat, un algorisme no té ànima en el sentit tradicional o antropològic. No sent, no somia, no té consciència. Però sí que té una empremta humana, una intenció, un propòsit. El que és artificial, també la IA, és precisament artificial perquè ha estat creat, i el seu autor és directament o indirectament un ésser humà. Darrere de cada línia de codi, hi ha decisions preses per persones. Decisions ètiques, tècniques, polítiques i socials. L’ànima dels algorismes no és al silici, sinó en qui els dissenya, amb quins valors i per a quins fins. Fins i tot el biaix és humà, de qui si no podria venir?
Sigui com sigui, cal reconèixer que a l’àmbit de l’administració pública, els algorismes poden ser una poderosa eina per millorar l’eficiència, reduir la burocràcia i personalitzar l’atenció ciutadana. Però també es poden tornar opacs, excloents o injustos si no es dissenyen amb transparència, equitat i participació ciutadana. Un algorisme sense control humà és com una brúixola sense nord. Per això, parlar de “l’ànima dels algorismes” és parlar de la responsabilitat legal i ètica que tenim en implementar-los, a més de la responsabilitat, establerta a les normes, que sempre assumeix un o diversos éssers humans per la presa de decisions de administratives. És reconèixer que la tecnologia no és neutral, i que el veritable avenç no està només a automatitzar processos, sinó a humanitzar-los a través de la tecnologia. És conèixer la identitat de l’òrgan competent o de l’empleat públic responsable que assumeix la decisió algorítmica.
Els algorismes han de “tenir ànima” en el sentit que han de ser justos, inclusius i auditables. I, sobretot, han d’estar al servei de les persones. En un món cada cop més digital, la nostra humanitat serà el que doni ànima als sistemes intel·ligents que ens envolten.
A més, aquesta reflexió gairebé filosòfica també té els seus vessants tècnics i jurídics. Des d’un punt de vista tècnic, els algoritmes que avui fem servir a IA —especialment els d’aprenentatge automàtic— no són simplement seqüències deterministes, sinó models entrenats sobre grans volums de dades. El seu comportament depèn a gran mesura de la qualitat, representativitat i neteja d’aquestes dades, així com del tipus de model utilitzat (xarxes neuronals, arbres de decisió, models bayesians, etc.). Això implica que la “intel·ligència” de l’algorisme no és fixa, sinó que evoluciona, aprèn i, per tant, pot replicar biaixos si no se supervisa adequadament. Aquí és on entra el component humà com a garant de l’ètica, l’equitat i la responsabilitat. Des del pla jurídic, els algorismes han de respectar els principis del dret administratiu i constitucional, com ara la legalitat, la igualtat, la transparència, la no discriminació i la responsabilitat. L’ús de sistemes automatitzats a la presa de decisions públiques planteja reptes quant a la motivació dels actes administratius, el dret a l’explicació (consagrat en normes com el RGPD o el propi Reglament d’IA) i la possibilitat d’impugnació dels ciutadans. En aquest sentit, la governança algorítmica ha de ser una prioritat per assegurar que les decisions automatitzades puguin ser compreses, auditades i supervisades per éssers humans. No és només eficàcia, sinó garanties jurídiques i democràtiques.
Al final, necessitem una mirada crítica, una sensibilitat que vagi més enllà dels números i els codis, que sigui capaç d’escoltar el xiuxiueig de les històries humanes que s’amaguen darrere de cada dada, d’identificar els ecos dels nostres propis prejudicis a la lògica aparentment impecable dels algorismes. Perquè, al final, la tecnologia no és un ens autònom, separat de nosaltres. És una extensió de la nostra pròpia humanitat, amb les seves grandeses i misèries. I només comprenent aquesta profunda connexió, aquesta ineludible imbricació, podrem navegar pel futur amb la saviesa i l’empatia que tant necessitem. En cas contrari, correm el risc de convertir-nos en mers apèndixs de les nostres pròpies creacions, extraviant en el camí allò que ens fa, precisament, humans.
blogimpulsa 
< En un món cada cop més digital, la nostra humanitat serà el que doni ànima als sistemes intel·ligents que ens envolten.> ✅👌🏻