Fa 2.500 anys Confuci no podia imaginar una intel·ligència artificial. Però sí que va entendre una cosa essencial sobre el poder, tenir la capacitat de fer alguna cosa no significa tenir la legitimitat per fer-la. Aquesta distinció hauria de ser al centre del debat sobre la intel·ligència artificial.
Estem vivint una cursa tecnològica extraordinària. Models més grans, més ràpids i més capaços. Sistemes que escriuen, programen, diagnostiquen, prediuen, recomanen i comencen a intervenir en decisions que fins fa molt poc consideràvem exclusivament humanes. Celebrem cada nova capacitat com una victòria. Però hem dedicat molt més temps a preguntar-nos què pot fer la intel·ligència artificial que a decidir què volem que faci.
Perquè el simple fet de ser més eficient no pot decidir el model de societat. Un dels conceptes centrals de les Analectes és yi: fer allò que és correcte per damunt d’allò que simplement resulta convenient.
Sembla una idea senzilla. Aplicada a la intel·ligència artificial, deixa de ser-ho. Perquè una de les grans temptacions d’aquesta revolució tecnològica serà confondre eficiència amb progrés. Si una IA permet atendre més persones amb menys recursos, sembla lògic utilitzar-la. Si automatitza una tasca administrativa, redueix costos o accelera una decisió, aparentment hem millorat el sistema.
Però què passa quan aquesta eficiència redueix drets, autonomia o capacitat de decisió? Què passa quan, per estalviar temps, convertim una recomanació algorítmica en una decisió pràcticament automàtica? I quan la tecnologia és extraordinàriament eficient, però ningú no pot explicar realment per què ha pres una determinada decisió?
L’eficiència és necessària. Però l’eficiència no és una ètica. Una societat democràtica no pot permetre que la pregunta «funciona?» substitueixi una altra de molt més important: «és això el que volem fer?».
Confuci defensava la rectificació dels noms: les coses havien de correspondre’s amb allò que dèiem que eren. La idea té una actualitat enorme.
Avui anomenem «assistents» sistemes que comencen a condicionar decisions. Parlem de «supervisió humana» quan, moltes vegades, l’humà es limita a confirmar la recomanació de la màquina. Parlem d’«automatització» per referir-nos a processos que poden determinar qui rep una ajuda, qui aconsegueix una feina o quin ciutadà mereix una investigació addicional. I parlem d’«algoritmes objectius» com si les dades amb què treballen haguessin aparegut espontàniament i no fossin producte de decisions humanes, institucions i societats concretes.
El llenguatge mai no és innocent quan parlem de poder.
Si anomenem assistent una intel·ligència artificial, ha d’assistir. Si parlem de supervisió humana, la persona ha de poder comprendre, qüestionar i corregir. I si un sistema pren decisions que afecten drets, hem de reconèixer que som davant d’un instrument de poder. Anomenar-lo correctament és el primer pas per poder governar-lo.
Bona part del debat polític sobre intel·ligència artificial s’està concentrant en l’ocupació. És lògic. Però hi ha un altre impacte menys visible. Podem construir organitzacions extraordinàriament productives i, al mateix temps, intel·lectualment més dependents.
Imaginem una administració on la intel·ligència artificial llegeix expedients, busca antecedents, compara documents, redacta informes, detecta errors i proposa resolucions. La productivitat augmenta. Al cap de sis mesos, augmenta encara més. Dos anys després hauríem de fer una pregunta que difícilment apareixerà al quadre de comandament:
Els treballadors saben més o saben menys que abans d’utilitzar-la?
Aquesta pregunta em preocupa molt més que saber quants minuts hem estalviat per expedient. Perquè podem acabar creant institucions tecnològicament molt intel·ligents habitades per persones cada vegada més dependents de sistemes que ja no comprenen. I una administració que no comprèn les eines de les quals depèn perd una cosa més important que la productivitat. Perd sobirania.
Durant anys hem parlat de sobirania digital pensant principalment en infraestructures, dades, comunicacions, plataformes o capacitat de computació. Amb la intel·ligència artificial hi hem d’afegir una altra dimensió: la sobirania cognitiva.
Qui organitza la informació que rebem. Qui estableix quin coneixement és rellevant. Qui recomana una decisió. Qui construeix els models amb què interpretem la realitat. I, finalment, qui conserva la capacitat de decidir sense dependre completament d’aquests sistemes.
Una administració pública que externalitza progressivament la seva capacitat de raonar, interpretar i decidir cap a models que no controla pot continuar sent formalment sobirana mentre perd capacitat efectiva per exercir aquesta sobirania. Per això el debat sobre IA no es pot limitar a comprar millors eines. Ens hem de preguntar quin coneixement volem conservar dins de les nostres institucions.
La intel·ligència artificial ofereix una oportunitat extraordinària per transformar els serveis públics. Pot alliberar els empleats de tasques repetitives, recuperar coneixement dispers, detectar incoherències, comparar milers de documents, facilitar la relació amb la ciutadania i ajudar a prendre decisions més ben informades. Ho hem d’aprofitar.
Però l’objectiu no hauria de ser construir una Administració que necessiti cada vegada menys criteri humà. Precisament al contrari. Necessitem una Administració on la tecnologia permeti a les persones comprendre més, disposar de millor informació i decidir millor.
Això canvia la manera com hem de dissenyar els sistemes. Un bon assistent cognitiu no s’hauria de limitar a donar una resposta. Hauria d’explicar. Mostrar fonts. Assenyalar contradiccions. Expressar incertesa. Permetre preguntes. Reconèixer quan no sap alguna cosa. I, sobretot, deixar sempre espai perquè una persona pugui dir: «No hi estic d’acord.»
Perquè supervisar una intel·ligència artificial no consisteix a situar un humà al final del procés perquè premi un botó. Això no és supervisió. És validació.
Hi ha, a més, un perill polític evident. Com més tecnologia introduïm en una decisió, més fàcil resulta diluir-ne la responsabilitat. L’empleat va seguir la recomanació del sistema. El responsable va confiar en l’empleat. L’Administració va confiar en el proveïdor. El proveïdor explica que el model ofereix respostes probabilístiques. Tenim una decisió. Tenim una persona afectada. Però sembla que ningú no hagi decidit res. Una democràcia no pot funcionar així.
Podem automatitzar tasques. Podem utilitzar algoritmes per analitzar informació. Podem demanar a una IA que formuli recomanacions. El que no podem automatitzar és la responsabilitat.
Sempre hi ha d’haver algú capaç d’explicar una decisió, justificar-la i respondre de les seves conseqüències. I com més important sigui la decisió, més gran ha de ser aquesta exigència.
Fins ara hem avaluat la transformació digital fonamentalment amb indicadors de productivitat. Temps estalviat. Costos. Nombre de tràmits. Errors reduïts. Són indicadors necessaris. Però amb la intel·ligència artificial resulten insuficients.
Després d’utilitzar un sistema durant un any també ens hauríem de preguntar: les persones comprenen millor la seva feina? Detecten millor els errors? Són capaces de qüestionar una recomanació algorítmica? Conserven el coneixement necessari per decidir sense la màquina? L’organització sap més que abans? Pot explicar millor les seves decisions?
Aquestes preguntes haurien de formar part de qualsevol avaluació seriosa de l’impacte de la intel·ligència artificial. Perquè una tecnologia que augmenta la productivitat però disminueix la nostra capacitat de pensar pot ser rendible a curt termini i profundament empobridora a llarg termini.
La intel·ligència artificial no determinarà inevitablement el nostre futur. El determinaran les decisions que prenguem sobre ella. Podem construir una IA concentrada en poques empreses i grans infraestructures, on ciutadans, treballadors i administracions siguin fonamentalment consumidors d’intel·ligència produïda per altres.
O podem construir un model on la tecnologia ampliï capacitats, distribueixi coneixement i reforci la nostra autonomia. Aquesta elecció no la resoldran els enginyers. Tampoc els algoritmes. És una decisió política.
Confuci pensava que el bon govern començava per la responsabilitat de qui tenia poder. Vint-i-cinc segles després, mentre construïm màquines capaces d’intervenir en una part creixent de les nostres decisions, aquella idea torna a resultar incòmodament moderna.
La pregunta important no és si la intel·ligència artificial arribarà a ser capaç de decidir per nosaltres. Probablement podrà fer-ho en molts àmbits. La pregunta és si nosaltres decidirem deixar que ho faci.
Perquè el veritable progrés tecnològic no hauria de consistir a construir màquines que pensin perquè nosaltres puguem deixar de pensar. Hauria de consistir a construir màquines que ens permetin pensar millor, decidir millor i continuar sent responsables de les nostres decisions.
Aquest hauria de ser el límit.
I també l’objectiu.
Sergi Marcén i López
Deixa un comentari