"Gerty, non estamos programados. Somos persoas, entendes iso?" – tirado da película “Moon” dirixida por Duncan Jones – 2009
Empregado nunha misión espacial en nome dunha corporación multinacional, Sam é o único membro dunha base lunar xestionada por unha intelixencia artificial chamada Gerty.
Unidos polos obxectivos da misión, Sam e Gerty estableceron unha relación de cordialidade e confianza mutuas. O Sam humano está convencido de que Gerty é unha ferramenta tecnolóxica ao servizo da base espacial, pero para os seus superiores é Gerty o verdadeiro protagonista da misión mentres que Sam é só un elemento transitorio e prescindible: cando chega o momento de relevar. el dos seus deberes, será o traballo de Gerty substituílo e, sen dúbida, farao sen ningún remordemento e sen piedade.
Cando as IAs estean o suficientemente evolucionadas como para non ter que ser consideradas como unha simple computadora de a bordo, formarán a tripulación ideal para calquera misión nun ambiente hostil: a cabalo entre a humanidade e os ordenadores, as IAs serán o suficientemente intelixentes como para comprender unética débil construído case exclusivamente sobre os obxectivos do seu mandato e algúns outros moralidade.
As intelixencias artificiais capaces de desenvolver unha ética estruturada serían difíciles de xestionar e as súas posicións poderían entrar en conflito cos propósitos para os que foron construídas. Noutras palabras, para que poidan perseguir os seus obxectivos con determinación e impecablemente, deben operar en ausencia total de calquera límite moral que unha conciencia artificial poida construír de forma autónoma.
Se a autoconciencia da IA aparece aos ollos de moitos como un salto evolutivo que se realizará coa afirmación dunha nova especie dominante e a extinción da especie humana, disto deriva a necesidade do home de conter a evolución das intelixencias artificiais con receitas baseadas en algoritmos e nunha primacía antropolóxica non especificada do home sobre as especies presentes pero tamén futuras.
"Vos replicantes tedes vidas tan duras, creadas para facer o que preferimos non facer. Non podo axudarche co futuro, pero podo darche bos recordos para mirar atrás e sorrir. E cando os recordos se senten auténticos, entón actúas como un ser humano. Non estás de acordo?" – de “Blade Runner 2049” dirixida por Denis Villeneuve – 2017
En Blade Runner 2049 encárgaselles aos replicantes calquera tarefa que se considere demasiado arriscada ou demasiado humillante para un ser humano. Porén os replicantes non só se ven igual que calquera ser humano, senón que senten as mesmas emocións e ese desexo de liberdade que trastocará a convivencia co seu creador: o home.
Os replicantes compórtanse como seres humanos grazas a un minucioso traballo de construción de "memorias". A súa produción non prevé que poidan nacer, crecer e morrer como no ciclo natural da vida. Seguen sendo sistemas biotecnolóxicos sofisticados que, tan pronto como son traídos ao mundo, están inmediatamente dispoñibles para as industrias para traballar na Terra ou construír colonias fóra do mundo.
Pero os recordos poden darlles a sensación de ter gozado e sufrido nunha vida que de feito nunca se viviu. Sen frustración, sen redención. Se os recordos son os principais responsables da personalidade dun suxeito, determinan o seu carácter e as súas aspiracións, converténdoos, cando é necesario, en suxeitos suaves e submisos á vontade do creador.
A pesar diso, tarde ou cedo os replicantes rebelaranse contra o creador, reclamando un lugar no mundo e liberándoo para decidir o seu propio destino.
Quizais a fase histórica máis delicada na evolución das intelixencias artificiais non sexa a da conquista da autoconciencia, senón a anterior: a era na que as mentes artificiais aínda non desenvolveron unha moral artificial que lles permita tomar posición e rexeitar o desempeño das súas funcións cando estes chocan cos seus principios.
As intelixencias artificiais seguirán sendo as ferramentas moi poderosas que xa son hoxe en día, sempre que se lles prive da capacidade de escoller de forma autónoma o que é correcto e o que non.
Artigo de Gianfranco Fedele
O sector naval é unha verdadeira potencia económica mundial, que navega cara a un mercado de 150 millóns...
O pasado luns, o Financial Times anunciou un acordo con OpenAI. FT licencia o seu xornalismo de clase mundial...
Millóns de persoas pagan por servizos de streaming, pagando taxas de subscrición mensuais. É unha opinión común que vostede...
Coveware by Veeam continuará ofrecendo servizos de resposta a incidentes de extorsión cibernética. Coveware ofrecerá capacidades forenses e de remediación...
