“Gerty, no estem programats. Som persones, ho enteneu?" – extret de la pel·lícula “Moon” dirigida per Duncan Jones – 2009
En Sam, compromès en una missió espacial en nom d'una corporació multinacional, és l'únic membre d'una base lunar gestionada per una intel·ligència artificial anomenada Gerty.
Units pels objectius de la missió, Sam i Gerty han establert una relació de cordialitat i confiança mútues. L'humà Sam està convençut que Gerty és una eina tecnològica al servei de la base espacial, però per als seus superiors és Gerty qui és l'autèntic protagonista de la missió mentre que Sam és només un element transitori i prescindible: quan arriba el moment d'alleujar. ell dels seus deures, serà la feina de Gerty substituir-lo i, sens dubte, ho farà sense cap remordiment i sense cap pietat.
Quan les IA estiguin prou evolucionades com per deixar de ser considerades com un simple ordinador de bord, formaran la tripulació ideal per a qualsevol missió en un entorn hostil: a cavall entre la humanitat i els ordinadors, les IA seran prou intel·ligents per entendre unètica dèbil construït gairebé exclusivament sobre els objectius del seu mandat i alguns altres moralitat.
Les intel·ligències artificials capaces de desenvolupar una ètica estructurada serien difícils de gestionar i les seves posicions podrien entrar en conflicte amb els propòsits per als quals es van construir. En altres paraules, perquè puguin perseguir els seus objectius amb determinació i impecablement, han d'operar en l'absència total de qualsevol límit moral que una consciència artificial pugui construir de manera autònoma.
Si l'autoconsciència de la IA apareix als ulls de molts com un salt evolutiu que es realitzarà amb l'afirmació d'una nova espècie dominant i l'extinció de l'espècie humana, d'això deriva la necessitat de l'home de contenir l'evolució de les intel·ligències artificials amb receptes basades en algorismes i una primacia antropològica no especificada de l'home sobre les espècies presents però també futures.
"Vostès replicants teniu vides tan dures, creades per fer el que preferim no fer. No et puc ajudar amb el futur, però puc donar-te bons records per mirar enrere i somriure. I quan els records se senten autèntics, llavors actues com un ésser humà. No estàs d'acord?" – de “Blade Runner 2049” dirigida per Denis Villeneuve – 2017
A Blade Runner 2049, als replicants se'ls confia qualsevol tasca que es consideri massa arriscada o massa humiliant per a un ésser humà. Tanmateix, els replicants no només semblen iguals a qualsevol ésser humà, sinó que senten les mateixes emocions i aquest desig de llibertat que trastocarà la convivència amb el seu creador: l'home.
Els replicants es comporten com éssers humans gràcies a un minuciós treball de construcció de "memòries". La seva producció no preveu que puguin néixer, créixer i morir com en el cicle natural de la vida. Continuen sent sistemes biotecnològics sofisticats que, tan bon punt són portats al món, estan immediatament disponibles per a les indústries per treballar a la Terra o construir colònies fora del món.
Però els records poden donar-los la sensació d'haver gaudit i patit en una vida que de fet no es va viure mai. Sense frustració, sense redempció. Si els records són els principals responsables de la personalitat d'un subjecte, determinen el seu caràcter i aspiracions, convertint-los, quan cal, en subjectes suaus i sotmesos a la voluntat del creador.
Malgrat això, tard o d'hora els replicants es rebel·laran contra el creador, reclamant un lloc al món i alliberant-lo per decidir el seu propi destí.
Potser la fase històrica més delicada en l'evolució de les intel·ligències artificials no és la de la conquesta de l'autoconsciència, sinó l'anterior: l'era en què les ments artificials encara no han desenvolupat un moral artificial que els permet prendre una posició i negar-se a exercir les seves funcions quan aquestes xoquen amb els seus principis.
Les intel·ligències artificials seguiran sent les eines molt potents que ja són avui dia, sempre que se'ls priva de la capacitat d'escollir de manera autònoma què és correcte i què no.
Article di Gianfranco Fedele
El desenvolupament de la motricitat fina a través del color prepara els nens per a habilitats més complexes com escriure. Per acolorir...
El sector naval és una veritable potència econòmica mundial, que ha navegat cap a un mercat de 150 milions...
Dilluns passat, el Financial Times va anunciar un acord amb OpenAI. FT autoritza el seu periodisme de classe mundial...
Milions de persones paguen per serveis de streaming, pagant quotes de subscripció mensuals. És l'opinió comuna que tu...
