La «intel·ligència artificial» ens provoca un cert rebuig, per raons que potser no podem explicar gaire bé. I alhora, ens meravellem quan veiem que ens dona (de vegades) resultats tan bons i ràpids. Dic «de vegades», perquè també pot oferir resultats totalment erronis. Sempre vestits, és clar, de versemblança.
El rebuig que ens provoca pot portar-nos a evitar-la, a distanciar-nos-hi o a criticar-la sense arguments sòlids. Però, malgrat que la ignorem o la critiquem, continuarà avançant, operant i afectant directa i indirectament les nostres vides.
Margarita Padilla ha escrit un llibre, Inteligencia artificial: Jugar o romper la baraja (Traficantes de Sueños, 2025), que recomano molt.
El seu esforç per aportar-nos nocions bàsiques per entendre què és i què no és la intel·ligència artificial, i l’evolució d’aquesta tecnologia, em sembla admirable. Al llarg del llibre, i amb moltes anècdotes i exemples, explica les dues línies paral·leles del desenvolupament tecnològic: la logicista, o també anomenada simbòlica, i la connexionista o neuronal. També parla dels sistemes de retroalimentació, tant del propi procés com dels inputs externs. O dels errors. Aprofundirem en nocions com què significa una màquina que aprèn. Sorprenentment, donada la complexitat del tema que tracta, arribem a entendre grosso modo els grans elements darrere d’una IA i col·locar-los en un possible diagrama de flux senzill. Senzill, però amb complexitat creixent. També serem conscients que, igual que un ordinador està format per milers d’elements que compleixen diferents funcions, una aplicació d’IA també està formada per subconjunts que compleixen diferents funcions. Tot i que moltes coses són difícils i llunyanes per a persones com jo, que no som expertes en qüestions informàtiques, crec que el llibre aconsegueix una cosa molt important: convèncer-nos que hem de canviar la nostra actitud a l’hora d’abordar aquestes qüestions.
I és que un dels eixos de la «ideologia» que envolta la intel·ligència artificial és que creguem que és una cosa massa difícil i la convertim en una mena de mite sobre el qual no fem preguntes. L’actitud que demostra amb aquest text i a la qual Padilla ens convida va en la direcció contrària: deixem de mitificar-la, fem les preguntes que ens interessen, analitzem i actuem en conseqüència.
El terme ”intel·ligència artificial” normalment no s’utilitza amb precisió, explica Padilla. Allò que en tecnologia podem anomenar intel·ligència artificial abasta molt més del que normalment s’anomena així. Hi ha una aura propagandística (“cel·lofana”) al voltant d’aquest terme, que pretén generar una “ideologia” a través de:
- Presentar-la com una cosa extremadament complexa, i alhora, asèptica o neutral. Ambdues característiques neutralitzen la crítica.
- Presentar-la com a útil gràcies a tot el que podem aconseguir de manera senzilla. [Una anècdota de la meva pròpia experiència: vam penjar una foto (fosca i de mala qualitat) d’un ganxo d’un armari que no sabíem com treure, i la IA de Google ens va donar tots els detalls de què era, com funcionava i com es deixava anar. I ho vam aconseguir. Sorprenent.]
Presentada com una cosa realment útil i pràctica i deslegitimat el camí crític, la ideologia que es pretén instal·lar és la d’una nova autoritat (indiscutible) a la qual hem de sotmetre’ns. És clar, una de les característiques principals de moltes d’aquestes aplicacions, les de la tecnologia connexionista o neuronal, és que no és possible rastrejar el procés que ha portat a la conclusió, així que no és possible revisar-lo (al menys, a la manera que estem acostumats). I una altra característica, que no és tecnològica, sinó d’ordre sociopolític, és que tendeixen a respondre a una política privativa, obscura i opaca.
La proposta de Padilla és clara: hauríem de deixar de parlar tant d’intel·ligència artificial de manera genèrica i hauríem de parlar de tecnologies i aplicacions específiques.
I d’una manera situada, les preguntes que podem fer servir per analitzar cada cas són del tipus: Qui té el control? Amb quins objectius opera? De quines dades s’alimenta? El seu codi és obert o no? Quin tipus de seguiment es fa per analitzar tant l’eficàcia segons els objectius establerts com per veure com està generant canvis al entramat de relacions?… [I aquest concepte d’ «entramat de relacions» és molt rellevant, com veurem més endavant, en el discurs de Padilla.]
Les realitats complexes requereixen una visió multidisciplinària. Ens parla d’un exemple: VioGen, una aplicació per ajudar la policia a avaluar el risc per a la víctima en casos de denúncies de violència masclista i decidir el nivell de protecció. Una eina com aquesta requereix el coneixement de persones expertes en violència de gènere, que analitzin tant el disseny, cada element del diagrama de fluxograma com, un cop en marxa, els resultats, des d’una perspectiva global.
En funció d’anàlisis d’aquest tipus, podrem tenir una perspectiva crítica ben fonamentada de cada eina específica.
No hi ha tecnologies bones i dolentes, ens diu Padilla, i no depèn de l’ús que se’ls doni, com sovint es diu, però cada aplicació configura un context de relacions, i és tot el entramat que cal analitzar. Per exemple, la tecnologia de fabricació d’automòbils no és ni bona ni dolenta. La clau tampoc està en que utilitzem els vehicles per a qüestions d’importància vital, com transportar bosses de sang per transfondre-les, o, a l’extrem oposat, per atropellar persones. Aquestes perspectives no ens ajuden a tenir una major comprensió i sentit crític, no tenen recorregut. El que hem d’analitzar és que el cotxe ha significat una reconfiguració dels espais, la mobilitat, els ritmes de vida, les prioritats… En el mateix sentit, no seria qüestió de construir xarxes socials «bones», amb contingut de qualitat i compromès socialment. Perquè, sent, tal com és, la lògica de les xarxes socials, «capturar» la nostra atenció, és a partir d’aquí que hauríem d’analitzar tot allò què té a veure amb les xarxes socials. I tornant a l’aplicació VioGen, el que passa en aquest tipus d’aplicació és que, tot i que es proposen com una eina per ajudar, moltes vegades les persones les utilitzen delegant la seva decisió al “que diu la màquina», així que els errors que produeixen aquestes màquines poden portar-nos a situacions molt preocupants. Encara més si les veiem com una nova autoritat que ens dona solucions, que ens supera i que no la entendrem, en comptes de veure-les com a eines que no ens substitueixen, sinó que ens ajuden i que hem d’avaluar i millorar contínuament. Perquè, ens assegura Margarita Padilla, «sempre tindran errors». Això és inevitable. I si s’apliquen cada cop més a àrees com la medicina, l’educació, l’assistència social, la seguretat, etc., necessitem saber molt més sobre com hauríem d’utilitzar aquestes eines i com no. Per tant, crec que la formació genèrica en IA hauria d’estar més orientada a com generar habilitats crítiques que no pas a difondre eines que se suposa que són útils.
Veig i valoro el que es pot aconseguir gràcies a aquestes tecnologies d’IA. Els traductors automàtics, per exemple, de vegades donen molt bons resultats, depenent del context o dels parells d’idiomes. I continuen avançant. El llibre de Margarita Padilla m’ha fet entendre millor per què m’alerto cada vegada que veig que aquest terme s’utilitza sense crítica. I la clau no és fer crítiques genèriques ni presentar els beneficis genèrics, sinó dotar-nos d’informació i eines per poder tenir criteri sobre els usos específics, les aplicacions específiques, les entramats específiques de relacions que transforma.
Després de recórrer per Marx, Heidegger i Simondon, Padilla acaba fent una proposta que, al meu parer, és molt propera als enfocaments de Donna Haraway, a qui cita diverses vegades al text, però no en aquesta part: fer simbiosi amb entorns humans específics, entre coses, màquines, persones, animals, etc. Superar la visió de que podem tenir-ho tot sota la nostra dominació i control i buscar una altra forma de vincularitat.
A continuació, extret algunes cites del llibre per continuar animant aquells que encara no s’han decidit a llegir-lo.
[p. 79] Què és la cel·lofana? La cel·lofana és l’aurèola amb què s’embolica el producte. No es tracta només de l’embalatge tecnològic, sinó de la legitimitat que l’envolta. Com es presenta, com la gent la percep. La cel·lofana és l’emoció positiva, la càrrega de positivitat que porta el producte, la seva necessitat, la seva bondat. L’embalatge és el millor del regal. Cal construir la validesa, la legalitat del producte, impressionar, captivar, fer-lo desitjable. Cal esborrar del mapa les preguntes que els sistemes de salut es van fer sobre el mycin. No més preguntes. «Nosaltres, els magnats, controlarem les preguntes. Us direm què es pot demanar i què no. Nosaltres, els magnats, controlarem les vostres idees i opinions. Us direm què és la intel·ligència artificial i què no és. I, per descomptat, us diem des del principi que la intel·ligència artificial és només el que fem nosaltres.»
I com es fa per controlar la cel·lofana? Doncs, llançant missatges apocalíptics abstractes que ocupen l’espai que podrien ocupar els debats situats.
[p. 82] (…) Mentre aquests mateixos emprenedors, investigadors o enginyers que estan creant i explotant intel·ligències artificials utilitzen el megàfon per alertar-nos dels riscos existencials que assumim com a humanitat, no es presta atenció a les situacions específiques de discriminació algorítmica, de perpetuació de patrons de discriminació racial, social o de gènere, d’exacerbació d’estereotips, de desinformació, de costos mediambientals o de precarietat laboral.
L’estratègia de les elits del sector és enunciar els riscos com una cosa abstracta i, alhora, preservar la cel·lofana dels productes concrets. Parlar de riscos d’extermini de la humanitat ometent l‘entramat de relacions de poder enmig de la qual s’està implantant la intel·ligència artificial. Criar gegants que amaguen els molins de vent.
La conseqüència és greu. Les mateixes elits controlen el desenvolupament i les crítiques. D’aquesta manera ofusquen completament les possibilitats no només de la sobirania tecnològica popular, sinó d’una comprensió mínima real de què són les intel·ligències artificials, quines són les tecnologies bàsiques, qui les està desenvolupant, com s’estan implementant, qui en surt beneficiat…
[p. 120] (…) en la majoria dels casos hi ha un ampli marge de possibles decisions tecnològiques (…) cadascuna de les decisions decanta el projecte cap a on es vol fer lliscar. (…) Hi ha marge. Tot es pot fer de maneres molt diferents.
[p. 122] Softcatalà és una comunitat que autodetermina les tecnologies adequades per a cada problema tecno-social que es porta entre mans. Té coneixement i té posicionament. No hi ha dubte que un traductor automàtic, sigui quina sigui la tecnologia que utilitzi, és una intel·ligència artificial. Però al seu lloc web la narrativa sobre les promeses de la intel·ligència artificial no té cap rellevància. No necessiten cel·lofana. No necessiten màrqueting. En canvi, la defensa de la seva pròpia llengua, la lluita contra la privatització del coneixement i la defensa dels recursos comuns sí que en tenen. Per això publiquen els models neuronals i els corpus que utilitzen. Hi ha intel·ligències artificials que no necessiten exhibir-se.
[p. 141] Darrere d’un xat generatiu brillant i polit, preparat per a converses amables i corteses, hi ha molta feina humana, explotació i sofriment.
[p. 145] Quan es diu que una intel·ligència artificial aprèn sense intervenció humana, a partir de les dades, és convenient emfatitzar la quantitat d’intervenció humana necessària perquè aquest aprenentatge automàtic es produeixi. Les dades s’han d’identificar, obtenir, preparar i donar-les per bons. El model, l’enfocament computacional, s’ha de definir al mil·límetre. Les proves i la validació també són activitats humanes. I l’assemblatge d’aquesta màquina en l’entorn social on operarà com una altra peça en combinació amb altres peces tecnològiques, socials, polítiques o econòmiques està subjecta a un nombre infinit de decisions rellevants no relacionades amb la tecnologia, preses per persones o grups humans. En la producció d’intel·ligència artificial, la quantitat de treball humà és enorme: grups i persones immersos en xarxes d’aliances, conflictes i relacions de poder, més o menys subordinats entre si, que condensen a la màquina les seves visions, interessos o objectius, però també les seves dificultats, patiment i pobresa. És el que Mary Gray anomena feina de fantasmes.
Les corporacions presumeixen de com de ràpid aprenen les seves intel·ligències artificials, de com d’eficients són els seus algoritmes. Però no expliquen fins a quin punt hi ha feina humana, en diferents jerarquies i amb diferents reconeixements socials i econòmics. Els costos mediambientals i socials no entren en l’equació.
Moltes gràcies, Marga, per aquesta magnífica obra.
