Gervigreind í dögun hinna dauðu

Á árlegri ráðstefnu sinni Re: Mars 2022 Amazon hefur tilkynnt að Alexa muni fljótlega geta talað við okkur með því að líkja eftir röddum alvöru fólks, þökk sé gervigreind.

Það var Rohit Prasad, vísindastjóri Alexa verkefnisins Artificial Intelligence, á aðaltónlist hans þar sem hann sagði að þökk sé nýjum eiginleika mun Amazon snjallhátalarinn leyfa notendum að umbreyta persónulegum samböndum í eitthvað "varanlegt" ("varanleg persónuleg sambönd").

Ef einhverjum var ekki ljóst hvað Prasad var að vísa til spurði mynd af litlum dreng sem sneri sér að Alexa hana á stóra skjánum og spurði hana: „Amma getur klárað að lesa „Galdrakarlinn í Oz“?“. Alexa svarar tafarlaust "Ok!" og frá því augnabliki heyrist rödd aldraðrar konu koma úr tækinu þegar hún byrjar að lesa ævintýrið eftir Frank Baum fyrir barnið.

„Amma sem er til staðar í þessari atburðarás er ekki lengur á meðal okkar,“ mun Tony Dokoupil, blaðamaður CBS News, dæma algid athugasemdir Kynning Prasad.

Það er alltaf fyrsta skiptið

Þegar í júlí 2017 olli þjónusta sem gefin var út af WIRED furðu, enn í boði í dag Youtube, þar sem myndbandsviðtal segir frá tölvutæknimanninum sem „breytti deyjandi föður sínum í gervigreind“.

Þegar James Vlahos áttaði sig á því að faðir hans væri að deyja úr ólæknandi sjúkdómi ákvað hann að vista minningar föður síns í langan lista af hljóð- og textaskrám og setja þær síðan á snjallsímann sinn.

En þetta var aðeins byrjunin: með gervigreindaralgrími, gerði James símanum sínum kleift að svara spurningum með því að skila viðeigandi hljóði og texta föður síns, og myndaði samtal á milli þeirra tveggja mjög líklega. Samkvæmt fyrirætlunum James hefði reikniritið gert samtal við föður sinn mögulega aftur jafnvel eftir dauða hans, og svo var.

En viðtalið tekur undarlega stefnu í lokin. Þegar James spyr látinn föður sinn "Elskarðu mig?" svarið virðist svolítið hjákátlegt: „Vá! Ég saknaði þín svo mikið! Hvað viljum við tala um?".

Og það er þá sem James byrjar í djúpri hugleiðingu um hvað gerðist: „Ég varð fyrir vonbrigðum með tregðu föður míns til að segja mér að hann elskaði mig,“ segir James með sársauka. „Faðir á að vita svörin við spurningum eins og þessum, en hann gerir það ekki. Ég meina, ég vildi heyra hann segja það."

Og þetta er þar sem ástandið verður flókið.

Inn í lykkjuna

Reynsla James er orðin fyrirtæki, sjálfseignarstofnun sem lofar fólki að tengjast látnum sínum í gegnum gervigreind. Greidd þjónusta þar sem hver sem er getur vakið ástvin aftur til lífsins með því að flytja minningar sínar yfir í app.

En ef við íhugum hinar djúpu sálfræðilegu afleiðingar þess að komast í snertingu við látinn ástvin, getum við ekki útilokað að þessi þjónusta gæti leitt til nýrra og ófyrirsjáanlegra samfélagslegra hræringa. Erum við til dæmis tilbúin til að búa í samfélagi fólks sem, frekar en að syrgja, treystir á gjaldskylda þjónustu til að vera bundið við hamingjusamari lífsreynslu eins og í lykkju? Ef minnið okkar vinnur úr sársaukafullum minningum í sjónarhóli sjálfsverndar, hvernig verður það á morgun þegar við getum breytt þeim í eitthvað sem er aldrei sársaukafullt og alltaf tilbúið hamingjusamt?

Amazon stuðlar ekki að vísindalegum framförum, það leitar líka að nýjum rýmum til að setja vörur í og ​​leitar að þeim þar sem enginn hafði þorað áður.

Tæknin sem Alexa mun endurskapa raddir og tóna raunverulegs fólks með eru reiknirit sem hafa verið þekkt í nokkurn tíma. Við gætum sagt: ekkert nýtt undir sólinni. Það er umsókn þeirra sem lofar að vera eyðileggjandi, ögrun sem nær mörkum siðfræði samtímans.

Með Alexa virðist Amazon vilja byggja í kringum hvern notanda raunverulegt samsafn af minningum sem eru byggðar af ástvinum og týndu fólki. Léttarstaður þar sem við gátum öll valið að kveðja ekki fortíðina, að geta valið að endurlifa hana óendanlega þökk sé hugbúnaði.

Staðan verður flókin

Hvað myndi gerast ef James Vlahos, svekktur yfir vangetu föður síns (látna) til að sýna honum væntumþykju sína, ákvað einn daginn að "leiðrétta", með því að breyta nokkrum línum af kóða, þessum þætti persónu hans og fleira eins og föðurinn sem hann vildi?

Einnig, hver ætlar að hindra notendur Alexa í að leiðbeina snjallhátalaranum um að gegna hlutverki fullkomlega lifandi manneskju fyrir okkur og hlúa að nýju formi stafræns fetisisma sem við höfum ekki enn fundið þörf fyrir?

Við skulum reyna að ímynda okkur vonsvikinn elskhuga sem umbreytir Alexa í hlut ástar sinnar, ekki gleyma að leiðrétta persónu sína til að beygja hana að eigin tilfinningalegum og húmorískum þörfum. Væri þetta leið til að vanmeta mannleg samskipti og sökkva lífi viðkvæmustu viðfangsefna í nýjar ástúðarform, aðskilinn raunveruleikanum og festar við tæknileg tæki sem stýrt er af fjölþjóðlegum þjónustufyrirtækjum?

En afhverju?

Markmið Amazon er að búa til verkfæri sem vekja athygli fólks og virkja það meira og meira í athöfnum á netinu. Þátttaka notenda snertir nú þegar mörg svið einkalífsins og það er ætlun Amazon að fara og hernema ný og taka þátt í tilfinningalegu sviðinu, ef þörf krefur, eins og í hernámsstríði þar sem landvinningasvæðið er í einkalífi hvers og eins.

En ef að nýta tilfinningar og sársauka er hin nýja landamæri, ætti að íhuga siðferðileg áhrif þessarar hegðunar alvarlega: Sviðið ætti ekki að vera frjálst fyrir þá sem ætla að nýta sér nýja tækni til að búa til nýtt form þátttöku sem verða að formum meðferðar.

Viljum við kannski umbreyta nýju kynslóðunum í fjöldann allan af viðfangsefnum sem nærast tilfinningalega af tækni og geta ekki þróast náttúrulega í eigin lífsreynslu?

gr Gianfranco Fedele