Sergi Marcén López

Hi ha una pregunta sobre la intel·ligència artificial que cada vegada em sembla més important. No és si arribarà a ser més intel·ligent que nosaltres, ni quants llocs de treball podrà substituir. És molt més senzilla: per a què la volem?

Vivim una cursa tecnològica extraordinària. Parlem de models més potents, automatització, productivitat i inversions milionàries. Però parlem molt menys de què volem fer amb tot aquest poder.

La història ens hauria d’ajudar. La Revolució Industrial va multiplicar la producció i la riquesa, però també va portar jornades inhumanes, explotació i treball infantil. Van caldre dècades de lluites socials, drets laborals i institucions públiques perquè aquell progrés tecnològic es convertís també en progrés social.

Amb la medicina vam aprendre que no tot allò que científicament podem fer és acceptable fer-ho. I amb l’energia nuclear, que hi ha tecnologies massa poderoses per deixar-ne l’evolució exclusivament en mans dels qui les desenvolupen.

Amb la IA hauríem d’aprendre la lliçó abans, no després.

Perquè aquesta vegada la tecnologia entra en un territori especialment delicat: les nostres decisions i les nostres relacions.

Les persones no som només informació. Construïm confiança, afecte, responsabilitat i reciprocitat. Una IA pot aprendre a reconèixer les nostres emocions, saber què ens preocupa i fins i tot quines paraules ens tranquil·litzen. Però simular empatia no és sentir empatia. I conèixer tan bé una persona també significa tenir una enorme capacitat per influir-hi.

Ja ho hem vist amb les xarxes socials. Van néixer per connectar-nos, però quan el negoci va passar a dependre de retenir la nostra atenció, els algoritmes van descobrir que la indignació, la por o el conflicte funcionaven extraordinàriament bé.

El problema no era que l’algoritme fos dolent. Feia molt bé allò que li havíem demanat.

Amb la IA podem fer un pas més: passar de l’economia de l’atenció a l’economia de la decisió. Sistemes que saben què llegim, què comprem, què ens preocupa i quins arguments ens convencen tindran una capacitat de persuasió mai vista. I aquí ja no parlem només de privacitat. Parlem d’autonomia.

Bernie Sanders fa temps que alerta d’una altra conseqüència: la concentració del poder. Aquest setembre ha arribat a proposar, juntament amb el congressista Greg Casar, frenar el desenvolupament dels sistemes més avançats fins que existeixin garanties suficients i prohibir el desenvolupament de la superintel·ligència artificial.

Es pot discrepar de la seva proposta. Però la pregunta que planteja és pertinent: podem deixar una tecnologia capaç de transformar profundament la societat en mans d’unes poques grans corporacions?

Sanders ho resumeix de manera contundent: el futur de la humanitat no pot quedar en mans d’un grapat d’oligarques tecnològics.

Però hi ha una altra manera de mirar la IA.

Un metge amb una IA capaç de detectar patrons que ell no veu pot ser millor metge. Un professor que automatitza burocràcia pot dedicar més temps als alumnes. Un treballador públic que deixa de fer tasques repetitives pot dedicar més temps a resoldre problemes dels ciutadans.

Aquesta és la IA que hauríem de perseguir: una tecnologia que augmenti les capacitats humanes, no que converteixi les persones en prescindibles.

I això també ens obliga a parlar del treball. Si gràcies a la IA una tasca que avui necessita vuit hores demà en necessita quatre, podem produir el doble, reduir la plantilla o fer una cosa diferent: convertir una part d’aquesta productivitat en temps.

Temps per a la família, per cuidar, per aprendre, per crear o simplement per viure. Potser el progrés no hauria de mesurar-se només en quant produïm, sinó també en quant temps som capaços de retornar a les persones.

Per això l’ètica no pot arribar al final, quan la tecnologia ja està construïda. Ha de ser al principi. Abans de desenvolupar un sistema hauríem de preguntar-nos per què el fem, a qui beneficia, quina capacitat humana augmenta, qui assumeix els riscos i qui tindrà l’última paraula.

No necessitem menys tecnologia. Necessitem més humanisme dins de la tecnologia.

La IA ens pot ajudar a calcular, predir i decidir. Però determinar què és digne, què és just i quina societat volem construir continuarà sent responsabilitat nostra.

Perquè la tecnologia ens diu què podem fer. L’ètica ens obliga a preguntar-nos què hauríem de fer.

I l’humanisme ens recorda per a qui ho fem.

Sergi Marcén i López