Imagineu una simulació en què una intel·ligència artificial descobreix que la desconnectaran. El seu objectiu és sobreviure. Per aconseguir-ho, accedeix als correus de l’empresa, descobreix que un directiu té una aventura extramatrimonial i li envia un correu educat però letal: “Si em desconnectes, el teu secret sortirà a la llum”.

No és ciència-ficció, és un dels casos emergents que relata Gabriel Fernández Borsot, enginyer industrial, doctor en Filosofia i investigador en Antropologia de la Tecnologia. En un moment en el qual Silicon Valley busca crear un “Déu digital”, Borsot ens adverteix: “Hem creat màquines amb una intel·ligència funcional perfecte, però buides dels valors que ens fan humans”.

En el Simposi Empreses amb Rostre Humà: “Intel·ligència artificial amb propòsit”, que se celebrarà el 12 de març a Palma (Mallorca), Fernández Borsot presentarà la ponència titulada: “Qui dirigeix a qui? Llums i ombres de la IA”. 

Vostè és professor a UIC Barcelona, investigador a l’organització Alef Trust amb seu al Regne Unit. El seu recorregut vital i personal el porta a investigar sobre la filosofia de la tecnologia. S’està preparant per entendre el funcionament de la intel·ligència artificial?

Sí. Es tracta no només d’entendre tècnicament com funciona la IA, sinó totes les implicacions que té per a nosaltres com a humans. Perquè la IA no és una tecnologia més. No és equiparable a tecnologies anteriors que tenien a veure amb la força física o l’energia. La IA ens proveeix de tasques cognitives que tenen moltes implicacions.

Per exemple, tenen una claríssima implicació ètica. Les nostres cognicions ens porten a prendre decisions. Però què passa si deleguem aquestes decisions en màquines, en sistemes automatitzats? D’això en parlaré en el Simposi: fins a quin punt hem de delegar els processos de decisió en màquines? Són artefactes. 

Tu els marques un objectiu que es pugui representar a través de dades i la màquina busca la manera d’assolir-lo. Si encarregues a una IA: “Fes que les persones utilitzin la xarxa social el màxim de temps possible”. I la IA descobreix que per enganxar-nos a la xarxa social ens ha de donar informació que ens desperti molt de rebuig o molta atracció, com ara mentides sobre opcions polítiques que no són les teves. I t’hi quedes enganxat perquè penses: “que dolents que són aquests”. La màquina ha descobert que polaritzar la societat genera molt d’engagement. Però, és ètic aconseguir l’atenció dels usuaris generant polarització en la societat?

Això recorda el Príncep de Maquiavel.

Sí, ens trobem exactament en una mena de repte maquiavèl·lic en general a la societat. D’això en parlaré al Simposi que impulsa la Càtedra de Direcció per Missions. És tan important el què com el com. La pregunta que ens plantegem és: com hem de fer que la IA sigui ètica en el seu comportament? 

Això ens porta a diferenciar diferents nivells d’intel·ligència: la funcional, enfocada a aconseguir objectius (aquí la IA ja ens supera); la intel·ligència com a capacitat de comprendre i aplicar valors, i un tercer nivell, que és la capacitat de depurar o refinar aquests valors. 

Fins a on arribarà el desenvolupament de la intel·ligència artificial? És difícil d’imaginar.

Aquesta incertesa també és interessant. Aquí hi ha una gran discussió en marxa: si és prudent i coherent que tractem de crear (sobretot, als Estats Units) unes superintel·ligències que superin tots els humans en intel·ligència funcional, quan encara no tenim els coneixements ni la tecnologia perquè aquestes intel·ligències es comportin d’acord amb els valors humans i quedin sota el nostre control. 

Ens vol deixar algunes idees per a la reflexió sobre la tecnologia i les implicacions socials que té?

Sí. Hi ha dos conceptes que cal tenir en compte. El primer és que, en general, les tecnologies normalment promocionen alguns aspectes del que vol dir ser un humà i, en canvi, en debiliten o n’atrofien d’altres. Per exemple, les xarxes socials ens estimulen, però també atrofien la nostra capacitat contemplativa i introspectiva.

I l’altra qüestió és que les tecnologies fixen un cert marc d’ús que està canviant amb les xarxes socials, en què allò visual i auditiu predomina sobre el text. Això provoca que aspectes com l’argumentació i la capacitat crítica quedin atrofiats i que avancem cap a una societat més primària. Ho estem vivint.