La intel·ligència artificial i el basilisc de Roko

El frenètic desenvolupament de la robòtica i de la intel·ligència artificial dels últims anys ens està fent qüestionar la relació que s’ha d’establir entre màquines i humans.

Molts auguren un futur on les màquines substituiran els humans en les tasques més feixugues i els alliberaran perquè es puguin dedicar a tasques més creatives. Tanmateix, molts altres veuen en les màquines intel·ligents una potencial amenaça per a la societat i, fins i tot, per a la supervivència de l’espècie humana.

Dins d’aquest últim grup va sorgir un experiment mental, o situació hipotètica que no es pot donar a la realitat (almenys avui), però de la qual s’analitzen les conseqüències, i que planteja un hipotètic escenari dramàtic i apocalíptic. Conegut com a "basilisc de Roko", planteja la situació en què els humans han estat capaços de crear una màquina, també anomenada basilisc de Roko —en referència al mite clàssic del basilisc— que supera en capacitat intel·lectual els mateixos humans. És a dir, s’ha arribat a la situació que el matemàtic hongarès John Von Neumann va anomenar singularitat tecnològica. 

La particularitat del basilisc de Roko és que busca, per sobre de tot, fer el bé a la humanitat, vetllant per la seva salut i salvant vides. Des del punt de vista dels éssers humans, el basilisc té a la seva disposició recursos il·limitats que li permeten arribar a assolir-ho. Tant és així, que la màquina cerca totes i cadascuna de les estratègies possibles per aconseguir-ho, des de les estratègies més simples fins a les més inversemblants.

El gir maquiavèl·lic arriba quan el basilisc s’adona que, si hagués estat creat abans, hauria pogut salvar moltes més vides i acabar amb el patiment de moltes més persones. D’aquesta manera, el basilisc arriba a la conclusió que té l’imperatiu moral de castigar totes aquelles persones que en el passat no han contribuït a la seva creació abans i també totes les persones que, tenint consciència de la seva existència, no contribueixen a millorar-lo.

S’arribaria, així, a una societat on tothom amb consciència de l’existència del basilisc, per por a ser castigat, hauria de treballar per a la creació i desenvolupament del mateix basilisc. I no només això. També tothom que hagués pensat en la possible existència del basilisc, inclús abans de la seva creació, hauria de treballar en favor seu per evitar les conseqüències que podria comportar retrospectivament.

Tot i que no deixa de ser un experiment mental, el cert és que és un exercici que ens posa en una situació hipotètica que, donades certes condicions, no es pot descartar que no arribi en algun moment.

El basilisc de Roko va aparèixer al fòrum en línia LessWrong l’any 2010 i no ha estat lliure de polèmica, a més de posar-se en qüestió la validesa dels arguments. Primer de tot perquè s’assumeix que el basilisc seguiria, entre totes les possibles, una ètica utilitarista, fet que no és estrictament necessari per fer el bé a la humanitat. Segon, perquè ignora el fet que, atès que el basilisc té accés a infinitat de recursos, sempre podria escollir altres alternatives que no requerissin xantatge ni gastar recursos per castigar persones de manera retrospectiva.

En qualsevol cas, el punt important d’aquest experiment és que demostra que cada cop es té més present quina ha de ser la relació entre màquines i humans. El desenvolupament de la intel·ligència artificial avança a un ritme sense precedents, i estem davant una tecnologia amb un potencial, per bé i per mal, que mai havíem experimentat. 

Depèn de tots nosaltres, tant dels desenvolupadors d’intel·ligències artificials com dels mateixos usuaris, definir quins són els criteris que s’han de seguir per assegurar-nos que aquestes eines es desenvolupen posant l’ésser humà sempre al centre. Disposar d’intel·ligències artificials que siguin confiables i que treballin al servei de la societat i no al contrari és responsabilitat de tots.

Arribat aquest punt, el lector ja té consciència de la possible existència en un futur del basilisc de Roko. Depèn d’ell oposar-se a la seva creació i arriscar-se a patir les conseqüències.

BIBLIOGRAFIA

Roko’s Basilisk

Harlan Ellison, "No tinc boca i he de cridar".