'Gerty, we zijn niet geprogrammeerd. Wij zijn mensen, begrijp je dat?” – overgenomen uit de film “Moon” geregisseerd door Duncan Jones – 2009
Sam is betrokken bij een ruimtemissie namens een multinational en is het enige lid van een maanbasis die wordt beheerd door een kunstmatige intelligentie genaamd Gerty.
Verenigd door de doelstellingen van de missie, hebben Sam en Gerty een relatie van wederzijdse hartelijkheid en vertrouwen opgebouwd. De mens Sam is ervan overtuigd dat Gerty een technologisch hulpmiddel is ten dienste van de ruimtebasis, maar voor zijn superieuren is Gerty de echte hoofdrolspeler van de missie, terwijl Sam slechts een vergankelijk en vervangbaar element is: wanneer het tijd is om te ontlasten hem van zijn plichten af te helpen, zal het Gerty's taak zijn om hem te vervangen en ze zal het zeker doen zonder enig berouw en zonder enige genade.
Wanneer AI's voldoende ontwikkeld zijn om niet langer als een simpele boordcomputer te hoeven worden beschouwd, zullen ze de ideale bemanning vormen voor elke missie in een vijandige omgeving: tussen mensheid en computers zullen AI's intelligent genoeg zijn om eenzwakke ethiek bijna uitsluitend gebouwd op de doelstellingen van zijn mandaat en enkele andere moraliteit.
Kunstmatige intelligenties die in staat zijn om gestructureerde ethiek te ontwikkelen, zouden moeilijk te beheren zijn en hun posities zouden in strijd kunnen zijn met de doeleinden waarvoor ze zijn gebouwd. Met andere woorden, om hun doelen vastberaden en feilloos te kunnen nastreven, moeten ze opereren in de totale afwezigheid van enige morele grens die een kunstmatig geweten autonoom kan bouwen.
Als het zelfbewustzijn van AI in de ogen van velen verschijnt als een evolutionaire sprong die zal worden gerealiseerd met de bevestiging van een nieuwe dominante soort en het uitsterven van de menselijke soort, dan vloeit daaruit de behoefte van de mens voort om de evolutie van intelligenties kunstmatig te beheersen met recepten gebaseerd op algoritmen en een ongespecificeerd antropologisch primaat van de mens op huidige maar ook toekomstige soorten.
'Jullie replicanten hebben zo'n zwaar leven, gemaakt om te doen wat we liever niet doen. Ik kan je niet helpen met de toekomst, maar ik kan je wel wat goede herinneringen geven om op terug te kijken en om om te lachen. En als de herinneringen authentiek aanvoelen, gedraag je je als een mens. Ben je het niet eens?" – uit “Blade Runner 2049”, geregisseerd door Denis Villeneuve – 2017
In Blade Runner 2049 worden de replicanten belast met elke taak die te riskant of te vernederend wordt geacht voor een mens. Maar de replicanten zien er niet alleen hetzelfde uit als ieder mens, ze voelen dezelfde emoties en dat verlangen naar vrijheid dat het samenleven met hun schepper: de mens, zal verstoren.
De replicanten gedragen zich als mensen dankzij een nauwgezet werk van het opbouwen van "herinneringen". Hun productie voorziet niet dat ze kunnen worden geboren, groeien en sterven zoals in de natuurlijke levenscyclus. Het blijven geavanceerde biotechnologische systemen die, zodra ze ter wereld worden gebracht, onmiddellijk beschikbaar zijn voor industrieën om op aarde te werken of buitenaardse kolonies te bouwen.
Maar de herinneringen kunnen hen het gevoel geven genoten en geleden te hebben in een leven dat in feite nooit geleefd is. Geen frustratie, geen verlossing. Als herinneringen in de eerste plaats verantwoordelijk zijn voor de persoonlijkheid van een persoon, bepalen ze zijn karakter en aspiraties, waardoor ze, indien nodig, milde onderwerpen worden en zich onderwerpen aan de wil van de schepper.
Desondanks zullen de replicanten vroeg of laat in opstand komen tegen de maker, een plaats in de wereld opeisen en hem vrijlaten om zijn eigen lot te bepalen.
Misschien wel de meest delicate historische fase in de evolutie van kunstmatige intelligenties is niet die van de verovering van het zelfbewustzijn, maar de vorige: het tijdperk waarin kunstmatige geesten nog geen kunstmatige moraal die hen in staat stelt een standpunt in te nemen en te weigeren hun taken uit te voeren wanneer deze in strijd zijn met hun principes.
Kunstmatige intelligenties zullen de zeer krachtige tools blijven die ze vandaag al zijn, zolang ze niet in staat zijn om autonoom te kiezen wat goed is om te doen en wat niet.
Artikel di Gianfranco Fedele
De marinesector is een echte mondiale economische macht, die is genavigeerd naar een markt van 150 miljard...
Afgelopen maandag maakte de Financial Times een deal met OpenAI bekend. FT geeft licenties voor haar journalistiek van wereldklasse...
Miljoenen mensen betalen voor streamingdiensten en betalen maandelijkse abonnementskosten. De algemene mening is dat je…
Coveware by Veeam zal responsdiensten op het gebied van cyberafpersingsincidenten blijven leveren. Coveware zal forensische en herstelmogelijkheden bieden...
