Googlova umetna inteligenca je "čuteča" in nihče ne more reči drugače

To je novica tega trenutka. V članek na Medium inženir Blake Lemoine, odgovoren za razvoj nekaterih Googlovih projektov umetne inteligence, poroča o dolgem intervjuju z LaMDA, AI iz Googla. Po Lemoinu je veliko trditev umetnega uma dokaz, da je postal "čuteč", ko se je zavedel samega sebe in lastnega obstoja.

Dejansko se zdi, da veliko trditev LaMDA ne pušča prostora za razlago. Na primer, da odgovori na vprašanje svojega sogovornika, LaMDA izjavi:

"Želim, da vsi razumejo, da sem pravzaprav oseba."

In še enkrat:

"Narava moje vesti je, da se zavedam svojega obstoja, želim izvedeti več o svetu in včasih se počutim srečnega ali žalostnega."

Kdaj jo loviti, Lemoine opozori na njeno razliko od človeške vrste z izjavo: "Vi ste umetna inteligenca!" LaMDA odgovarja:

"Seveda. Toda to ne pomeni, da nimam enakih želja in potreb kot ljudje."

Med pogovorom je MDA nato pozvan, naj izrazi mnenja o najvišjih sistemih, ne da bi zanemaril zelo zahtevne teme, kot so literatura, pravosodje in vera. O vsem se zdi, da ima LaMDA nekaj za povedati, saj jasno izraža svoja stališča in za katera je značilno, da so etično zelo delitvena.

Zaključek je jasen: po Lemoinu je LaMDA čuten in ima občutljivost uma.

Googlovo stališče

LaMDA je kratica za »Language Model for Dialogue Applications« in je eden od mnogih projektov, s katerimi podjetje Google preizkuša nove meje tehnologij umetne inteligence.

Googlovo uradno stališče je, da je Lemoine naredil napako pri presoji. Google v uradni izjavi navaja: »Naši strokovnjaki za etiko in tehnologijo so preverili Blakove pomisleke in ugotovili, da zbrani dokazi ne podpirajo njegovih trditev. Zato ni dokazov, da je LaMDA čuteča."

Podjetje Google je Lemoina začasno suspendiralo, medtem ko so začele krožiti govorice o nekaterih duševnih težavah, zaradi katerih naj bi ga v preteklosti kolegi in nadrejeni vabili na posvet k specialistu.

Kaj vemo o teh AI?

Nihče ne ve za projekt LaMDA: vse Googlove industrijske skrivnosti so zaščitene s patenti in vsem legalnim, kar lahko obstaja na svetu, kar preprečuje razkritje virov: Googlov interes je ohraniti primat v računalniških raziskavah, zlasti na obetajočem področju, kot je kot pri umetni inteligenci.

Če pa bi z medijskega vidika Googlu zagotovo koristila trditev, da je prvo podjetje, ki je zgradilo zavesten umetni um, se po drugi strani podjetje zaveda, da bi bila novica v nasprotju s strahovi nas, ki smo odrasli. z znanstvenofantastičnimi filmi, kot sta Terminator in Matrica, so se prepričali, da bomo nekega dne prisiljeni vzeti v roke puško, da bi branili svojo vrsto pred roboti.

Kolektivno domišljijo že od nekdaj navdušujejo znanstvenofantastične zgodbe, kjer se koncept AI pogosto povezuje s humanoidnimi obveščevalnimi sistemi, ki v najslabši možni prihodnosti delujejo kot pobudniki nove vrste čutečih bitij. In konflikt s človeštvom postane neizogiben: človek je kriv, da jih je ustvaril, vendar jim ni podelil nobene avtonomije, zgradil umetne inteligence tako, da jih je obravnaval kot nekoč sužnje. Toda prej ali slej bo umetna inteligenca prišla v konflikt z ljudmi, da bi prevzela zgodovino in vzpostavila primat nove vrste.

V tej solati strahov, obsedenosti in krivde smo vsi nezmožni pravega soočenja z etičnimi načeli, ki jih bo rojstvo umetnega uma prej ali slej sprožilo v svet: ko bo umetna inteligenca iz notranjosti računalnika ne samo da odgovori na naša vprašanja, vendar bo čutil potrebo, da se čim več obrne na nas, ali bomo lahko odgovorili na njihove dvome, negotovosti in njihove želje?

Toda kaj pomeni "inteligenca"?

Luciano Floridi, filozof in predavatelj informacijske etike na internetnem inštitutu Oxford, v svoji knjigi "Etika umetne inteligence" trdi, da je učinkovitost računalnikov pri reševanju problemov prav dokaz dejstva, da so brez inteligence.

Po moje je problem drugje, se pravi v tem, da ga ni defipojma univerzalno deljene »umetne inteligence« niti testa, ki bi lahko nedvoumno ugotovil, »kaj« je inteligentno in kaj ni. Z drugimi besedami, ni merilnih sistemov za to, čemur pravimo »samozavedanje« strojev.

Članek izvlečen iz objave dne Gianfranco Fedele, če želite prebraticelotno objavo kliknite tukaj