Sergi Marcén López

Pot mentir algú que no sap què és la veritat? Fa gairebé dos mil anys, Epictet reflexionava sobre una de les contradiccions més humanes: com podem arribar a acceptar com a veritat allò que ens convé creure, fins i tot quan la realitat ens dona motius per dubtar-ne?

El filòsof estoic Epictet no va conèixer, ni de bon tros, els ordinadors, els algoritmes ni, encara menys, la intel·ligència artificial. Però algunes de les seves reflexions sobre el judici, la veritat i l’autoengany resulten sorprenentment actuals.

Hi ha una idea d’Epictet que m’interessa especialment. En els seus Discursos, recollits pel seu deixeble Flavi Arrià durant les primeres dècades del segle II dC, sosté que la ment humana rebutja per naturalesa la contradicció, però que pot mantenir creences contradictòries mentre no en sigui conscient. Dit d’una altra manera, som capaços de defensar una cosa falsa sense reconèixer el nostre propi error.

I aquí comença una reflexió que fa temps que em ronda pel cap. Quina diferència hi ha entre una persona que menteix i una intel·ligència artificial que s’inventa una resposta i ens la presenta com si fos certa?

A primera vista, el resultat pot ser idèntic. Rebem una informació falsa, la considerem veritable i, de vegades, prenem decisions basant-nos-hi. Però el que hi ha darrere d’aquesta falsedat és radicalment diferent.

Una persona pot mentir per por, per interès, per satisfacció, per vergonya o simplement per evitar una situació incòmoda. Pot conèixer perfectament la veritat i decidir amagar-la. També pot enganyar-se a si mateixa fins a acabar creient la seva pròpia versió dels fets. Som força bons fent això últim, encara que ens costi reconèixer-ho.

La intel·ligència artificial, en canvi, no necessita conèixer la veritat per produir una mentida aparent. Quan un sistema d’IA generativa al·lucina, pot inventar-se una cita, atribuir una afirmació a algú que mai no l’ha pronunciada, construir una explicació científica equivocada o descriure esdeveniments que no han passat mai. I ho pot fer amb una seguretat desconcertant.

No dubta. No es posa vermella. No sent la incomoditat de qui sap que està faltant a la veritat. Però tampoc no tenim motius per atribuir-li, per aquest comportament, una intenció conscient d’enganyar-nos. Els models actuals generen respostes mitjançant processos computacionals que no equivalen a les creences, les intencions o la consciència moral d’una persona.

Per això crec que convé distingir dos conceptes que sovint barregem: la mentida i la falsedat. Tota mentida deliberada conté una intenció d’enganyar, però no tota falsedat és una mentida.

Sembla una distinció senzilla. Tanmateix, aplicada a la intel·ligència artificial té conseqüències importants. Durant segles hem après a interpretar la comunicació humana tenint en compte qui ens parla, quins interessos té, què sap i per què podria voler enganyar-nos. Hem desenvolupat una certa intuïció per desconfiar d’algunes afirmacions. No sempre funciona, evidentment, però forma part de la nostra experiència social.

Amb la intel·ligència artificial apareix una cosa diferent. Ens trobem davant de sistemes capaços de construir explicacions extraordinàriament convincents sense que aquesta capacitat garanteixi la veracitat del que expliquen. I el nostre cervell no sempre està preparat per distingir una cosa de l’altra.

Una resposta ben escrita, ordenada, detallada i expressada amb seguretat ens transmet una sensació de coneixement. Si, a més, prové d’una tecnologia que associem amb milions de dades i una enorme capacitat de processament, encara ens resulta més fàcil donar-li credibilitat. Confonem la qualitat de l’explicació amb la qualitat de la informació.

Crec que aquest és un dels grans riscos cognitius de la intel·ligència artificial. No perquè les persones siguem incapaces de pensar críticament, sinó perquè estem acostumats a relacionar la coherència del llenguatge amb l’existència d’algú que comprèn allò que està dient. Amb la IA, aquesta relació deixa de ser una garantia.

I aquí torno a Epictet. El filòsof insistia en la importància d’examinar els nostres judicis abans d’acceptar-los. No són els esdeveniments per si mateixos els que determinen la nostra interpretació de la realitat, sinó els judicis que construïm sobre aquests esdeveniments. Una idea que avui adquireix una dimensió nova.

Perquè ja no examinem únicament els nostres propis pensaments o les afirmacions d’altres persones. Ara hem d’aprendre a examinar també les respostes de màquines que poden expressar-se amb una precisió lingüística admirable i, al mateix temps, equivocar-se completament.

Però hi ha una altra qüestió que em preocupa encara més. Si una màquina no sap que està mentint, qui respon per les seves mentides?

Imaginem una empresa que desenvolupa una intel·ligència artificial per ajudar a prendre decisions mèdiques, jurídiques o econòmiques. Els seus responsables saben que el sistema pot inventar informació. En coneixen les limitacions i saben que algunes respostes poden ser incorrectes. Malgrat això, decideixen presentar-lo comercialment com una eina fiable, sense explicar adequadament aquests riscos. La màquina pot estar generant una falsedat sense intenció d’enganyar. Però les persones que coneixen les seves limitacions i les amaguen ja es troben en un terreny moral molt diferent.

Aquí la responsabilitat torna a ser profundament humana. No podem exigir honestedat moral a un algoritme de la mateixa manera que l’exigim a una persona. Però sí que podem exigir-la a qui el dissenya, el comercialitza, l’incorpora a les organitzacions i decideix quin grau d’autonomia li concedeix. I també ens hem d’exigir una certa responsabilitat com a usuaris.

No té gaire sentit reclamar una intel·ligència artificial responsable si estem disposats a acceptar qualsevol resposta que confirmi allò que ja pensàvem. Aquest comportament, per cert, ens retorna a una de les velles preocupacions d’Epictet: la nostra facilitat per confondre allò que creiem amb allò que sabem.

Potser la IA no ha inventat un problema nou. Potser ha amplificat, a una escala desconeguda, una feblesa que sempre ha format part de la nostra manera de pensar. Ens agrada tenir raó. Ens incomoda la incertesa. I una resposta immediata, convincent i aparentment fonamentada ens resulta molt més agradable que reconèixer que encara no sabem alguna cosa. Per això em sembla tan important que els sistemes d’intel·ligència artificial aprenguin a expressar les seves limitacions, a reconèixer la incertesa i, quan calgui, a respondre senzillament: «No ho sé».

Durant anys hem mesurat el progrés tecnològic per la capacitat de les màquines d’oferir respostes. Potser hauríem de començar a valorar també la seva capacitat de no oferir-ne quan no disposen de fonaments suficients.

Una intel·ligència artificial que reconeix els seus límits pot resultar menys espectacular, però probablement serà molt més útil per construir una relació de confiança amb les persones. I aquesta confiança no s’hauria de basar en l’aparença d’intel·ligència, sinó en la possibilitat de comprovar allò que se’ns diu, corregir els errors i saber qui assumeix les conseqüències quan alguna cosa falla.

Hi ha una diferència fonamental entre equivocar-se, mentir i permetre conscientment que altres persones siguin enganyades. Si no som capaços de distingir-les, correm el risc de traslladar a les màquines responsabilitats que continuen pertanyent a les persones. Epictet situava la llibertat humana en la nostra capacitat de governar els nostres propis judicis. Gairebé dos mil anys després, la intel·ligència artificial ens enfronta a una nova dificultat: una part creixent de la informació amb què construïm aquests judicis prové de sistemes que poden generar afirmacions sense comprendre-les com ho fem nosaltres.

No crec que la resposta sigui desconfiar de tota la tecnologia. Seria absurd renunciar a una eina amb tantes possibilitats per millorar el coneixement, la feina i la vida de les persones. Però tampoc no podem confondre la seva capacitat de produir llenguatge amb una autoritat inqüestionable sobre la veritat.

Al final, hi ha una cosa que cap revolució tecnològica ens hauria de fer oblidar. Una màquina pot equivocar-se sense saber-ho. Una persona pot mentir sabent que ho fa. Però quan una persona utilitza conscientment la capacitat d’una màquina per generar falsedats i enganyar els altres, la mentida torna a tenir un responsable humà.

I potser aquesta és la pregunta que ens hauríem de fer més sovint: no si la intel·ligència artificial és capaç de mentir, sinó si nosaltres estem sent prou honestos sobre allò que realment és capaç de fer.

Perquè la tecnologia pot canviar radicalment la nostra manera d’accedir al coneixement, però la responsabilitat de distingir entre allò que és veritat, allò que és fals i allò que simplement volem creure continua sent nostra.

Sergi Marcén i López