Pod kontrolom vještačke inteligencije
„Moram se vratiti da bih završio svoju evoluciju: projektirat ću se unutar kompjutera i postati čista energija. Kada se jednom uspostavi u mreži, moj prvi vapaj će biti zvonjava svih telefona na planeti!
prema filmu “Kosilica” Breta Leonarda – 1992
u filmu "Kosilica“, Jobe Smith je mladi vrtlar sa očitom mentalnom retardacijom koji živi nekoliko koraka od kuće dr. Lawrencea Angela, istraživača u Virtual Space Industries. Jobe, često predmet zlostavljanja i uznemiravanja nekih poznanika, ubrzo dolazi u centar pažnje doktora Lawrencea koji ga smatra savršenim za naučni eksperiment koji ima za cilj povećanje kapaciteta mozga upotrebom droga i dugih uranjanja u virtuelnu stvarnost.
Eksperiment je uspio i Jobe iz dana u dan povećava svoj IQ, dostižući izuzetnu inteligenciju, ali i prilično nestabilnu psihičku ravnotežu koja će ga natjerati da se obračuna s prošlošću, osvećujući se onima koji su zloupotrijebili njegovu nevinost.
Evolucija Jobeovog uma će se nastaviti sve dok, obuzet jakim delirijumom svemoći, on ne napusti svoj ljudski oblik i krene unutar mreže "mainframe", preuzimajući kontrolu nad svakim povezanim uređajem na Zemlji.
Da li je zaista sve pod kontrolom?
Max Erik Tegmark američki teorijski fizičar, profesor na Massachusetts Institute of Technology i predsjednik Instituta za budućnost života, think tank pokreta dugoročni, prvi je potpisnik apela koji diže veliku buku. U apelu se traži da se "uspori" istraživanja o umjetnoj inteligenciji kako bi se čovječanstvu i njegovim nacionalnim institucijama dala prilika da razviju propis koji sprječava tehnologiju da preuzme ljudsku vrstu.
Teme filma „The kosilice” u velikoj mjeri prelivaju u futurističku viziju modernih teoretičara dugoročnog razmišljanja kao npr Max Tegmark, koju karakterizira duboka vjera u nagađanja najrasprostranjenijih cyberpunk naučnofantastičnih priča. Još uvijek usidren za banalne teme kao što je "upload mozga" vrlo popularan u naučnoj fantastici 90-ih (sa mozak upload znači sposobnost prenošenja uma u kompjuter), Max Tegmark čini se da je više zainteresiran za privlačenje pažnje na sebe proricanjem AI apokalipse nego za pokretanje prave rasprave o budućnosti ljudskog društva.
Konkretno, godinama Tegmark porta avanti una sua personale ricerca sul machine Learning e sull’impatto di questa disciplina tecnologica sul futuro dell’umanità. La sua visione, ovviamente pessimista, emerge con chiarezza da uno dei suoi libri più venduti, “Vita 3.0” dove, giocando un po’ con le parole, ipotizza uno scenario dove un ristretto gruppo di persone, da lui denominato Omega, prende il controllo del pianeta mediante un ingegnoso utilizzo di una potente vještačka inteligencija generale.
Naracija o Tegmark to nije klasičan naučnofantastični film u kojem mašine stiču svest koja ih na kraju stavlja u kontrast sa čovekom. Tegmark opisuje kraj sloboda kao progresivno otuđenje društva zbog kontrole institucija koja je nametnuta na suptilan i psihološki način kroz tehnologiju:
„Mase moćnih ljudi oduprle su se talasu promena, ali njihov odgovor je bio neverovatno neefikasan […]. Ogromne promjene dešavale su se toliko šokantnim tempom da ih je bilo teško pratiti ili koordinirati odgovor. Na kraju, nikome nije bilo jasno za šta će se boriti."
Tegmark
Le tecniche messe in campo degli Omega, come descritte nel libro, sono le tecniche già utilizzate oggi dalle agenzie di marketing. In questo modo Tegmark sembra volere, in maniera non troppo sottile, trasferire nel lettore la consapevolezza che per prendere il controllo del mondo non serva altro che la capacità di manipolare nella giusta manierai canali d’informazione e che l’vještačka inteligencija si configura come lo strumento definitivo per attuare questa strategia.
Možete li uvijek isključiti?
Ako su mnogi intelektualci potpisali apel za moratorij na prekid istraživanja u polju umjetne inteligencije, kako bi izbjegli da stignu nespremni da se suoče s tehnologijama koje možda nećemo moći kontrolirati, drugi osjećaju stalnu potrebu da daju uvjeravanja o činjenici da AI su "neinteligentni" alati i potpuno su pod kontrolom njihovih kreatora.
«Se l’vještačka inteligencija preoccupa, si può sempre staccare la spina»
Prof. Luciano Floridi
Ali da li je zaista tako? Koliko daleko dizajn umjetne inteligencije može evoluirati da bi čovječanstvo zadržalo kontrolu?
Ako za Tegmark najvjerovatniji od apokaliptičkih scenarija odgovara postizanju samosvijesti mašina, možda nije potrebno čekati da takav nivo evolucije tehnologija postane prava opasnost za čovječanstvo.
Spor između Talijanski garant privatnosti e OpenAI to je važan signal jer pokazuje kako kompanija tjera ruku da ugasi jedini disidentski glas na cijelom Zapadu i to na najbanalniji način blokirajući servis sa ciljem da dobije reakciju već naviknutog javnog mnijenja alatu i stoga vrlo sklon da se uskladi sa pozicijama kompanije.
Želite proći blok Chat GPT za čin nasilja protiv napretka tako što nije rekao da je instrument crna kutija i to OpenAI, uprkos svom imenu i originalnom statutu, ne otkriva ništa o svojim tehnologijama i ne čini ih nasleđem čovečanstva.
Licemjerne su izjave intelektualaca i novinara koji su oduševljeni napretkom i uvijek spremni da se suprotstave svakoj tehnologiji koja obećava transformaciju društva kako bi mogli reći da su prvi bili licemjerni.
Inteligencija na zahtjev
Sa izrazom inteligencija na zahtjev opisujemo čin delegiranja u tehnološki sistem onoga što je bilo kreativno u ljudskom radu.
midjourney stvara prava umjetnička djela u stilu koji volite, balansirajući oblike i boje s majstorstvom umjetnika. Chat GPT, s druge strane, ne samo da je u stanju da mnoge već poznate koncepte dovede u dobro stanje, već i da predloži korisne ideje i razmišljanja za dubinsku analizu.
Možemo pitati Chat GPT da potkrijepi argument i trenutak kasnije da ga opovrgne i on će bez greške uraditi ono što smo tražili. Drugim riječima, mi nismo suočeni sa naprednim daktilografom koji naše ideje dovodi u lijep oblik, već sa "subjektom" koji je sposoban analizirati činjenice i razmišljati u naše ime. Prava "inteligencija" kojoj se procjene i izbori mogu delegirati "na zahtjev".
Budite oprezni, Chat GPT on nije obdaren autonomijom misli ili autonomijom djelovanja. Znamo koliko bi bilo zgodno da institucije, manje ili više autoritarne, povjere osjetljive elemente svog aparata inteligenciji čija je emocionalnost numerički parametar koji se može podesiti po želji. Ali trenutno Chat GPT on radi ono što se od njega traži bez preuzimanja inicijative iu granicama razgovora.
ali ipak Chat GPT već zna kako da piše zlonamerni kod i, ako je povezan na Internet, bilo bi potrebno malo vremena da ga masovno koristi protiv miliona krajnjih tačaka. Samo bi ga morao pitati.
Uvjeravanje ponekad znači skrivanje banalnih i logičnih istina kao što je činjenica da se AI ne može isključiti, iz jednostavnog razloga što uvijek postoji neko ko ima interes da ih zadrži.
Uzmimo za primjer prevara, kompjuterske prevare velikih razmjera: nijedan zakon nikada nije spriječio kompanije da prevare ljude u Evropi, koristeći telefone i modeme iz podruma zgrada na periferiji New Delhija. Kada se ove kompanije opremi sa naprednim alatima kao što su Chat GPT, šta će ih spriječiti da ih koriste za povećanje efekata svojih nezakonitih aktivnosti? Žalba od strane će biti dovoljna Max Tegmark da ih ubede da ugrožavaju čovečanstvo?
zaključci
Istina je da kada tehnologije postanu stvarnost, više ih se ne možemo riješiti, a kosilica Jobe nas podsjeća koliko je opasno centralizirati vlast u rukama jednog subjekta, posebno ako je to AI.
Niko na svijetu nikada ne bi mogao planirati i implementirati bilo koju akciju istom brzinom kao što bi to činili AI. E Chat GPT potencijalno je sposoban da preuzme vitalne sisteme nacije izgradnjom svih potrebnih elektronskih alata za napad u hodu i bacajući ih na svaku metu. Sve to brzinom koja bi predvidjela bilo kakav protupokret čovjeka.
A ako nije Chat GPT da bi se to postiglo, uskoro će biti implementirana AI sposobna da efikasno odgovori na jednostavne komande kao što su "isključi sve institucionalne sajtove ove određene nacije" ili "blokiraj aktivnosti javne uprave određene nacije". Njihova efikasnost zavisiće isključivo i isključivo od čovekove sposobnosti da evoluira uz tehnologije, kao i mnoge bezbednosne strategije za prevenciju sličnih apokaliptičkih događaja.
Malo je razloga za smirenje.
Član od Gianfranco Fedele
