GABRIELA RAMOS: “LES TECNOLOGIES HAN DE SER SOSTENIBLES I DONAR SUPORT A LA TRANSICIÓ MEDIAMBIENTAL”

Recuperem l’entrevista amb la subdirectora General de Ciències Socials i Humanes de la UNESCO que col·loca de nou la relació entre tecnologies i l’ètica

Per Pep Martí

Gabriela Ramos és directora general adjunta de Ciències Socials i Humanes de la UNESCO. La seva actuació ha estat clau per a l’aprovació per part de l’organització de la Recomanació sobre ètica en el desenvolupament de la intel·ligència artificial. Pertanyent al servei exterior del seu país, Mèxic (on va ser assessora del ministre d’Exteriors), catedràtica d’Economia internacional a la Universitat iberoamericana, Gabriela Ramos ha estat en posicions rellevants en l’escena internacional, exercint de directora de gabinet de la presidència de l’Organització per a la Cooperació i el Desenvolupament Econòmic (OCDE), on va exercir com a sherpa (negociadora) de l’OCDE davant el G20. És un referent en la lluita per la paritat de gènere.

– La Unesco va aprovar el passat novembre una Recomanació sobre l’Ètica de la Intel·ligència Artificial. Quins són els aspectes més crucials i que poden tenir un impacte real?
– Bo, en primer lloc faria una reflexió. En aquest món, on estem tots tan infatuats amb els resultats tecnològics, la Unesco fa una crida molt sòlida per canalitzar aquests desenvolupaments tecnològics i donar suport als drets humans, i no a l’inrevés. La reflexió ètica és, per suposat, una reflexió moral on es busca que els resultats tecnològics siguin inclusius, que siguin justos, que siguin sustentables. I llavors, la Unesco incideix en el fet que moltes d’aquestes tecnologies, tal com s’han desenvolupat, estan creant més problemes dels que resolen. Llavors, la recomanació la van elaborar vint-i-quatre experts internacionals. Jo estic donant suport a la seva feina. Era un grup interdisciplinari. La primera asseveració és que ha d’ estar en línia amb l’ evolució i la defensa dels drets humans, i la dignitat humana. Les tecnologies han de ser sostenibles i donar suport a la transició ambiental. I han de ser justes i donar suport a la pau. És una escala de valors que es transforma en principis molt concrets de transparència, de rendició de comptes, de privacitat, de proporcionalitat, d’explicabilitat. Perquè tots estem subjectes als algoritmes i sovint ens preguntem: per què aquest algoritme m’ofereix un resultat que resulta negatiu en els meus drets i oportunitats? Moltes vegades, ni sabem com s’utilitzen les nostres dades. Es manipulen les nostres reaccions, s’accedeix a informacions privades. És molt important tenir una protecció i que, quan hi hagi dany, que hi hagi una compensació. I finalment, aquests principis es transformen en polítiques públiques. Llavors, em sembla que és una Recomanació molt sòlida perquè disposa de tot aquest marc i després incorpora tota la part d’acció.

– En relació al que ens diu, cada vegada més decisions rellevants per a les nostres vides es prenen en base a informació produïda per intel·ligència artificial, des de concessió de crèdits a accés a centres educatius. Com controlar els algoritmes i com es transforma això en polítiques públiques?
– Bé, has de disposar d’un marc molt més rigorós de legislació i de regulació. Els principals països que han desenvolupat aquestes tecnologies, en particular els Estats Units i la Xina, han anat canviant la seva regulació. Però s’ha creat un buit reglamentari, i sobre aquest aspecte crida l’atenció la nostra Recomanació. I necessitem unes institucions capaces d’aplicar aquestes regles. No és suficient amb la protecció de dades. Hi ha d’haver una governança específica per a les dades. Per exemple, nosaltres haurem de ser els portadors, els somnis de les nostres dades. Tota la informació que deixem en el món digital l’hem de tenir a la nostra butxaca i poder-la transferir d’un lloc a un altre i decidir què es fa amb aquestes dades. Necessitem incrementar el coneixement i la conscienciació en el ciutadà i establir les regles que el protegeixin quan es produeix un dany, i necessitem canviar la manera com s’estan governant aquestes tecnologies. Per exemple, sobre els algoritmes; som els éssers humans els que desenvolupem els algoritmes. Quan hi ha un biaix o una discriminació? Comencem per les bases de dades amb què comptes. Si algú es pregunta per què el banc no li va atorgar un crèdit, si soc una dona d’un nivell socioeconòmic baix que viu en un determinat barri, la resposta és: perquè no estàs en les dades. Simplement. Per què les tecnologies de reconeixement facial tenen més dificultat a reconèixer una dona negra? Doncs perquè no estan entrenades per a això. Perquè no estan en les dades. Quan es desenvolupen els mètodes matemàtics amb totes les inferències dels algoritmes, perquè ja tens tots aquests biaixos. El 85% dels desenvolupaments tecnològics són elaborats per equips d’ homes sols.

“Convidaria Barcelona a convertir-se en una pionera en la implementació de la Recomanació de la Unesco”

– Aquesta és una xifra enorme i molt significativa.
– És altíssima! I són cinc països, Estats Units, la Xina, Alemanya, el Japó i Corea els que estan desenvolupant la majoria de totes aquestes tecnologies. Per suposat que hi ha d’haver biaixos. Tenim a la meitat de la població del món que no està connectada a internet. Llavors, realment, és clar que necessitem unes tecnologies més inclusives. Necessitem tenir més dones en el món digital i això potser reduiria més els biaixos. Necessitem tenir més diversitat, que hi hagi més països en desenvolupament en aquest procés també. Però, sobretot, no es pot controlar tot. Aquestes tecnologies es desenvolupen a una velocitat increïble. Però si hi ha dany, i es demostra que no s’ha donat una entrevista per a un lloc de treball perquè el teu algoritme tenia uns biaixos contra la teva nacionalitat o el meu gènere, hi ha d’haver un rescabalament. Com en qualsevol estat de dret. Aquesta és la crida que fa la Recomanació.

– Però, ¿no tenen la sensació que aquesta vegada, el ritme del procés digital va anar més ràpid que la reacció de les institucions globals?
– Per això és important que la gent pugui tenir accés a uns canals clars, com els que tenim al món analògic, per obtenir una compensació quan hi ha danys. Però és que tampoc és tan difícil. El que passa és que també es creen mites, com afirmar que és impossible governar les noves tecnologies perquè són molt dinàmiques… ¿Deixaríem els empresaris dels automòbils que decideixin quins són els seus equips de seguretat? Deixaríem decidir als restaurants quin nivell de protecció donar als seus clients perquè no s’intoxiquin amb el menjar? Doncs no. Cal establir unes normes, uns criteris, i auditar.

– Si la lluita per l’hegemonia en intel·ligència artificial està concentrada en grans plataformes dels Estats Units i la Xina, quin marge tindrà la Unesco per guanyar la batalla pels valors?
– Jo vaig arribar fa dos anys a la Unesco procedent de l’OCDE i em van fer aquesta pregunta. La Unesco té un gran crèdit, i els seus posicionaments tenen un gran impacte, però a més tenim un mandat que no té cap altra institució que és la defensa de l’ètica de la ciència. Tenim 193 països que han aprovat una Recomanació i ara en tenim molts que volen participar en la seva implementació, amb mandats tan rellevants com prohibir l’espionatge massiu o protegir els drets neuronals.
– Un dels fronts del treball de la Unesco és la inclusió social. La majoria d’analistes adverteixen que la IA ha d’eliminar una quantitat important de llocs de treball. Els fa por?
– Jo crec que els efectes en el mercat laboral són més complexos que això. L’evidència ens diu que s’han creat més llocs de treball vinculats a la intel·ligència artificial i les noves tecnologies que els que s’han destruït.

– Això és així realment?
– Sí. Pensem tan sols en la quantitat d’analistes de dades d’alt nivell i que estan molt buscats. I la quantitat de funcions que s’han hagut d’adaptar. No es tracta que desapareguin llocs de treball. Imaginem com treballava un arquitecte fa vint anys i com ho fa ara. L’adaptació al que està succeint en el mercat laboral està sent difícil. Les funcions que estan desapareixent són usualment de nivell mitjà o baix nivell i té un impacte més gran sobre els grups que pateixen situacions més difícils. Llavors, sí que està contribuint a una accentuació de les desigualtats i requereix moltes intervencions públiques i privades per donar suport i acompanyar aquests treballadors que no tenen aquesta adaptabilitat. No és senzill. Però el que més em preocupa a mi en el tema del mercat laboral és l’adaptabilitat en els sectors menys preparats. I també és veritat que una part de les ocupacions del sector són de mala qualitat, com els conductors d’Uber, per posar un exemple. No podem fer marxa enrere a un segle de conquestes laborals.

– Posem el focus ara en la realitat de les ciutats davant d’aquest repte tecnològic. Quin ha de ser el paper de les ciutats per preservar un desenvolupament ètic de la IA?
– Jo realment convidaria les ciutats, i a Barcelona en particular, a convertir-se en una pionera en la implementació de la Recomanació de la Unesco. Perquè les ciutats ja estan utilitzant la intel·ligència artificial en molts dels seus processos. En la gestió de l’aigua, dels residus, en el camp de la seguretat. El que no sé és si les ciutats estan assumint plenament la perspectiva ètica a la qual em referia. Solen utilitzar-se aquests recursos per a la gestió però ha de tenir consciència del que implica fer-ho malament. Recordem ara el que va succeir a Holanda, on es va utilitzar tecnologia de la informació per analitzar qui estava abusant del sistema de les prestacions socials. En aquest sentit, és molt important, parlant de les ciutats, que les autoritats locals ens ajudin a assumir aquest marc ètic. Convido a Barcelona que apliqui el marc que proposa la Unesco.

– Com afectarà la vida de les ciutats l’eclosió de les noves tecnologies?
– Si apliquem el component ètic, vam rebre només l’impacte positiu de la intel·ligència artificial. Per exemple, un dels efectes més positius de les noves tecnologies és que pot ser eficaç en el combat per evitar l’explotació de persones. O donar suport a les petites i mitjanes empreses en processos que normalment serien molt costosos.

– Quines modificacions preveu en la governança de les ciutats en el que afecta els nous paràmetres?
– Crec que serà important repensar el marc regulador i legal d’aquestes tecnologies, que han d’estar cada vegada més presents. Si deixem que les tecnologies estiguin en mans de les institucions i els sectors més ben posicionats, de nivell socioeconòmic alt, o de les escoles privades, el que ha de succeir és que s’ampliarà la bretxa social.

– Permeti’m una reflexió de caire filosòfic. En la 59 edició de la Biennal de Venècia d’art contemporani que ha comissariat Cecilia Alemani, ha proposat una sèrie de preguntes al voltant de fins a quin punt està canviant la definició d’humà, a com es defineix la vida i quines són les diferències que separen l’animal, vegetal, l’humà i el no humà. Nosaltres li preguntaríem: ¿ens trobem en un moment clau de la història on les preguntes ja no poden ser contestades, ni tan sols formulades, sinó participen per a la seva elaboració l’art, la ciència, la tecnologia, la biologia o la tecnologia?
– Aquesta és una pregunta fascinant. El que està succeint és que, en un context d’alta desigualtat social, econòmica, després del Covid, en trobar-nos amb tanta vulnerabilitat, amb uns impactes desiguals tan alts, amb una gran crisi social, amb uns processos electorals que ofereixen uns resultats de gran radicalització, ens trobem en un moment complicat. Jo tinc un ànim bastant optimista i potser plantejaria que els paradigmes i els models analítics que hem utilitzat per entendre l’ésser humà han estat reduccionistes. I ens han reduït a l’individu, al benestar material, al PIB per càpita i a maximitzar els nostres beneficis materials. Des de la perspectiva econòmica, sempre estem beneficiant l’eficiència. I amb aquests nivells de desigualtat que hem assolit en les nostres societats, i de discriminació, necessitem un canvi de paradigma. I aquest canvi de paradigma passa per utilitzar millor la multidisciplinarietat i les ciències socials i humanes. Crec que és important revaluar les contribucions que la sociologia, la psicologia, les arts i la literatura ens aporten per a una comprensió de l’ésser humà més fidedigna que no el redueixi a ser simplement un productor, un consumidor o un treballador. A la Unesco organitzem un seminari per estudiar el que deien les ciències socials de la pandèmia. Va ser fascinant. Una de les ponències que més em va impactar va ser una que es plantejava com vam entendre l’ésser humà durant la pandèmia. Ho vam entendre com un mecanisme físic al qual havíem de protegir. Perquè els comitès que es van constituir davant la pandèmia estaven formats sobretot per epidemiòlegs i economistes. No hi va haver tants sociòlegs, psicòlegs o escriptors i no hi va haver un debat més ric. La nostra necessitat de relacionar-nos, el nostre caràcter gregari i la nostra salut mental no van estar en l’equació. Ara ens trobem amb un problema de salut mental enorme.

– Per concloure, vostè ha estat en molts llocs sensibles. Va pertànyer al servei exterior del seu país. Va estar al nucli dur de l’OCDE amb Ángel Gurría i ha estat en moltes batalles. De quin triomf està més orgullosa?
– Jo em sento molt orgullosa quan a través d’una organització multilateral aconsegueixes que molts països adoptin unes decisions positives. A l’OCDE, això va succeir en diverses ocasions. Elaborem un estudi que ens va encarregar la presidència francesa del COP26 del clima per quantificar quant els països avançats transferien als països en desenvolupament. Va ser molt complicat, però va ser fonamental per aconseguir l’acord sobre el canvi climàtic. També va ser important introduir el debat de gènere al G20 i demostrem el molt que guanyaven les economies si reduïm la bretxa en el camp laboral. I, al meu país, va ser molt important donar suport a la reforma de les telecomunicacions, que va aconseguir reduir en un 70% els preus de la telefonia. I a la Unesco, aquesta Recomanació ha estat també molt transcendental, com ho és treballar per a tot el que és multilateral.