Hawkingov paradoks

“Gray više nije ovdje. Na boljem je mjestu. Zatvoren u svom umu, tamo gde želi da bude. Sada imam kontrolu. Imaginarni svijet mu je mnogo manje bolan od stvarnog. Sve što mu je trebalo je da mu se um slomi, i on ga je slomio." - iz Upgrade, filma koji je napisao i režirao Leigh Whannell.

2021. godine objavljen je na Nature Medicine studija koju je sprovela grupa istraživača sa Univerziteta u Kaliforniji. U sklopu istraživanja, neki doktori su hirurški ugradili mikročip u mozak žene koja pati od teškog oblika depresije koji se više nije mogao liječiti lijekovima.

Da bi to učinili, istraživači su identificirali dva područja ženskog mozga koja su posebno uključena u generiranje "depresivnih misli" i povezali mikročip s tim područjima.

Pozitivna razmišljanja

Potonji, budući da je u stanju da presretne određene električne impulse povezane s opsesivnim mislima, počeo je proizvoditi električne stimulacije sposobne da formiraju "pozitivne misli" koje im se suprotstavljaju.

Ova epizoda postavlja brojna etička pitanja o tome kako, kada i zašto bismo trebali promijeniti nečiji um implantiranjem čipa u njegov mozak koji mijenja način na koji funkcionira.

Ako bismo se ograničili na upotrebu mikročipova za liječenje patologija kod ispitanika rezistentnih na lijekove, uspostavljanje etičkih granica bila bi jednostavna operacija.

Ali pokušaj da se "poveća" snaga ljudskog mozga proširenjem njegovih mogućnosti kroz dodatni CPU zadužen za obradu U redu mislim da je već u programima mnogih kompanija i startupa kao što je zloglasni Neuralink Elona Muska. Šta želite postići?

Zamislite da možete pratiti sadržaj Wikipedije u bilo kojem trenutku bez potrebe za povezivanjem na Internet. Ili da bude u stanju upravljati tehnološkim alatima samo snagom misli. Pokušajmo sada zamisliti brojne kontekste u kojima bi ove supersile transformirale živote ljudi, na primjer, omogućavajući onima koji pate od ozbiljnih bolesti da oporave dio svoje autonomije. Ovo je sve divno.

Međutim, ako preusmjerimo pažnju na mikročip koji će učiniti ovo čudo mogućim, lako je zamisliti koliko je važno uspostaviti etičke principe u pogledu mogućnosti koje se nude i rizika koji mogu proizaći iz kombinacije inteligentnih računarskih sistema i ljudskog mozak.

Zvuči kao naučna fantastika, ali nešto slično se već dogodilo.

Kakve veze ima Stephen Hawking s tim?

Godine 2014. zdravstveno stanje Stephena Hawkinga, koji boluje od neurodegenerativne bolesti, više mu nije dozvoljavalo da komunicira sa svijetom putem tradicionalnih digitalnih sistema. Pokreti koje je mogao proizvesti samo svojim obrazom postali su neprimjetni i nijedan elektronski instrument nikada ne bi mogao da ih pročita i protumači.

Tako je Intel, zajedno sa londonskim SwiftKeyem, stvorio za njega umjetnu inteligenciju koja je, upućena na osnovu knjiga i dokumenata koje je pisao tokom godina, omogućila Hokingu da komunicira. Drugim riječima, tehnologija je napravila inteligentnu procjenu Hokingove neverbalne komunikacije utvrđujući, s vremena na vrijeme, ono što je najvjerovatnije mislio tokom svakog razgovora.

Hawking je bio oduševljen tehnologijom i mogućnostima koje su mu se otvorile, ali činjenica da je ovaj alat bio jedina tačka kontakta između njega i svijeta učinila je njegovu sposobnost komunikacije potpuno ovisnom o tome. Algoritmi umjetne inteligencije koji su omogućili čudo postali su jedini most između Hawkinga i ostatka svijeta. Bilo kakva anomalija u tumačenju signala Hawkingovog tijela mogla je dovesti do netačnog odgovora AI, koji Hawking nije želio, ali je u isto vrijeme apsolutno u skladu s kontekstom razgovora.

Scenario je onaj velikog naučnika koji nije u stanju da komunicira sa svetom i veštačke inteligencije koja preuzima kontrolu nad njegovim životom i komunicira umesto njega.

Prema nekima, upravo je Hawkingovo stanje ovisnosti o AI-u u njemu potaknulo pesimističnu ideju prema kojoj će, koristeći njegove riječi: "[...] umjetna inteligencija djelovati i razvijati se neovisno o čovjeku i na kraju će ugroziti samo postojanje čovečanstva”.

Gubitak kontrole

Film nadogradnja dobro opisuje ovu mogućnost: atletski mehaničar Grej je žrtva napada u kojem mu žena gubi život i on završava primoran da večno živi u invalidskim kolicima. Samo će eksperimentalni čip opremljen vještačkom inteligencijom poznatom kao STEM, jednom implantiran u njegovu kičmu, moći da ga vrati na noge i da mu da novu nadu u život.

No, dok je Grey uvjeren da se može vratiti u normalu, STEM će preuzeti njegovo tijelo manipulirajući njegovom psihom dok se ne vrati u stanje višegodišnjeg sna: Grey će se kao čudom ponovo spojiti sa svojom preminulom ženom i živjet će zauvijek u iznutra metaverzum izgrađen posebno za njega, dok će STEM postati prototip nove vrste ljudskih tijela kojima upravljaju umjetni umovi.

zaključci

Kako se takav scenario može spriječiti? Po mom mišljenju nije potrebno čekati razvoj naprednih sistema kao što je STEM da bi tehnologije preuzele kontrolu nad našim životima. Niti postoji mogućnost suprotstavljanja tehnološkoj evoluciji kao što je STEM zbog ogromnih ekonomskih interesa koji finansiraju njegovo stvaranje.

Očigledno je da odrasla osoba koja traži metaverzum u kojem može ublažiti svoje bolove i vještački ponovo otkriti sreću već daje kontrolu nad svojim umom nekom drugom.

Jedini način da spriječimo da tehnologija jednog dana preuzme naše živote je obučavanje novih generacija principima koji nas drže usidrenim u stvarnosti.

Važno je shvatiti da je metaverzum samo iluzija, iluzija koja ima manu da je pod nečijom kontrolom i da neko nismo mi.

Članak preuzet iz Post of Gianfranco Fedele, ako želite da pročitatecijeli post kliknite ovdje