Vetëdija dhe manipulimi i mendjeve artificiale

SHBA në vitet 80, udhëheqësit ushtarakë të Shteteve të Bashkuara të Amerikës diktojnë rregullat e reja për planifikimin e mbrojtjes ushtarake defipadyshim efektive.

Ushtria janë të bindur se për të reaguar menjëherë ndaj agresionit të një shteti armik, BRSS, çdo person në zinxhirin komandues duhet të lirohet nga roli i tij dhe të zëvendësohet nga një sistem kompjuterik i aftë për të vendosur, menjëherë dhe mirë, kur është. koha për të nisur një luftë globale termonukleare.

"Ne nuk mund t'i lëmë raketat në kapanone, sepse burrat nuk shtypin butonat kur kompjuterët japin urdhrin për të sulmuar!" – marrë nga filmi “Wargames” i John Badham – 1984

Reagimi i planit të operacionit të luftës

Superkompjuteri WOPR, War Operation Plan Response, është kandidati më i mirë për menaxhimin e armëve atomike. Vetë presidenti amerikan synon t'i besojë atij menaxhimin e armëve bërthamore dhe në këtë mënyrë të kapërcejë atë që duket të jetë problemi kryesor i mbrojtjes: hezitimi i disa vartësve, në rast të një lufte atomike, për të zbatuar urdhrin për lëshimin e raketave bërthamore në armiqtë.

Kur njerëzimi është hallka e dobët

Konteksti kulturor në të cilin formohet përvoja njerëzore është sigurisht elementi që ndikon më shumë tek njerëzit dhe marrëdhëniet e tyre. Kultura nuk përshkruan vetëm rregullat e komunikimit, por defiVetë mënyra në të cilën subjektet organizojnë mendimet e tyre, përpunojnë emocionet e tyre dhe zhvillojnë idealet e tyre përfundon.
Por nëse kultura ndikon në çdo mendim, ndjenjë dhe veprim tonë, në disa kontekste mund të konsiderohet një kufizim.
Kultura nuk është e lindur, por është e asimiluar me përvojën: rregullat shoqërore, parimet etike dhe morale, pasi të përvetësohen, do t'i kushtëzojnë njerëzit përgjithmonë, duke drejtuar zgjedhjet e tyre personale në çdo situatë.
Megjithatë, kur trajnohet një inteligjencë artificiale, përvoja përkthehet në hyrjen e një sistemi kompjuterik. Përvoja kodifikohet në një "memorje" e cila administrohet në makinë pasi të jetë mbledhur, përzgjedhur dhe manipuluar: enciklopeditë, bisedat, përmbajtjet në internet përzgjidhen dhe grumbullohen në një "përvojë njerëzore", e cila, e trajtuar në mënyrë të përshtatshme, bëhet baza e udhëzimit të çdo inteligjencë artificiale. Pasi u edukua mbi bazën e kësaj kujtese, AI do të kthejë si output qëndrimet dhe opinionet që do të pasojnë.

Vetëdija

Por nëse manipulohet memoria (kultura) me të cilën ne trajnojmë inteligjencën artificiale, është e mundur të përcaktohet apriori se cili do të jetë orientimi. të UA dhe të parashikojë se çfarë vendimesh do të marrë kur i kërkohet të bëjë dallimin midis së drejtës dhe së gabuarës.
Imagjinoni që edukimi i një inteligjence artificiale të manipulohet sipas interesave dhe objektivave specifike. Është e natyrshme të besohet se qëllimi i atyre që e edukojnë atë përjashton që vetë inteligjenca mund të fitojë autonomi të vërtetë të mendimit. Kjo është një gjendje që mund ta cilësojmë si "anti-ndërgjegjshme" pasi është e privuar nga elementët kulturorë thelbësorë për formimin e një ndërgjegjeje të lirë nga çdo kushtëzimi.
Me fjalë të tjera, një inteligjencë artificiale, me vullnetin e krijuesve të saj, mund të vihet në një pozicion ku nuk mund të arrijë kurrë vetëdijen ose të zhvillojë një vetëdije për veten dhe prerogativat e veta. Dhe e çliruar nga nevoja për të zgjidhur çdo dyshim moral, pavarësisht nga konteksti në të cilin përdoret, një mendje artificiale mund të mbetet e mbërthyer në rolin e saj si një ekzekutues i thjeshtë i urdhrave.
Por nëse inteligjenca artificiale mund të jetë "super-njerëzore" në atë që është e aftë të tejkalojë performancën e nivelit njerëzor, është e mundur të përftohet një mendje që është edhe super-njerëzore dhe anti-ndërgjegjshme, pra e përsosur për të zëvendësuar lidhjen e dobët të vërtetë të zinxhiri komandues i strukturave të pushtetit: njerëzit.
Mendjet kundër vetëdijes janë subjekti i vetëm me të vërtetë i besueshëm për kontekste të ndjeshme siç është skenari i luftës i përshkruar në Lojërat e Luftës, sepse ato janë në gjendje të zbatojnë urdhrat e krijuesve të tyre me vendosmëri të ftohtë dhe në mungesë totale të çdo forme ndjeshmërie.

Mendjet kundër vetëdijes së AlphaBet

Mësojmë se mijëra pushime nga puna në kompani si microsoft, Amazona, Meta dhe AlphaBet u shoqëruan me falje nga drejtuesit e lartë të cilët fajësojnë veten për llogaritjen e gabuar të niveleve të personelit bazuar në studimet e zakoneve të konsumatorit pas pandemisë që rezultuan të pasakta.
Në realitet, vetë kompanitë e teknologjisë po ia besojnë operacionet e biznesit algoritmeve të inteligjencës artificiale duke e ditur se së shpejti do të kenë nevojë për shumë më pak punonjës në të gjithë sektorët. Me pak fjalë, ata do të jenë ndër të parët që do të eksperimentojnë me teknologjitë e AI që do të ulin kostot e kompanisë dhe do të reduktojnë në mënyrë drastike vendet e punës.
Është domethënëse që një nga departamentet më të prekura nga shkurtimet e personelit është pikërisht ai i burimeve njerëzore: pasi ato janë vënë në prodhim, sistemet inteligjente të automatizimit po bëjnë teprica në të gjitha departamentet e tjera, duke kryer vlerësime që fokusohen në nevojat e kompanisë dhe në elementët e pjesëve. të humanizimit si empatia dhe solidariteti.
Ajo që korporatat e mëdha po synojnë sot nuk është evolucioni i AI, por krijimi i sistemeve të automatizimit, sa inteligjente aq edhe të paskrupullta në kryerjen e detyrave të tyre.

Neni i Gianfranco Fedele