Вештачка интелигенција во зората на мртвите

На неговата годишна конференција Одг: Марс 2022 година Amazon објави дека Alexa наскоро ќе може да разговара со нас имитирајќи гласови на вистински луѓе, благодарение на вештачката интелигенција.

Тоа беше Рохит Прасад, научен директор на проектот Алекса Вештачка интелигенција, за време на неговиот главен говор во кој изјави дека благодарение на новата функција, паметниот звучник на Amazon ќе им овозможи на корисниците да ги трансформираат личните односи во нешто „трајно“ („трајни лични односи“).

Ако на некој не му беше јасно на што мислеше Прасад, сликата на мало момче кое се сврте кон Алекса ја праша на големиот екран и ја праша: „Бабата може да заврши со читањето на „Волшебникот од Оз“?“. Алекса веднаш одговара "Во ред!" и од тој момент се слуша гласот на една постара жена што доаѓа од апаратот додека таа почнува да му ја чита на детето бајката од Френк Баум.

„Бабата присутна во ова сценарио повеќе не е со нас“, алгид ќе изрече Тони Докупил, новинар на CBS News. коментирајќи Презентација на Прасад.

Секогаш има прв пат

Веќе во јули 2017 година, услугата објавена од WIRED предизвика сензација, сè уште достапна денес на YouTube, каде видео интервју ја раскажува приказната за компјутерскиот техничар кој го „преобразил својот татко на умирање во вештачка интелигенција“.

Кога Џејмс Влахос сфатил дека татко му умира од неизлечива болест, решил да ги зачува спомените на својот татко во долга листа на аудио и текстуални датотеки, а потоа да ги стави на својот паметен телефон.

Но, ова беше само почеток: преку алгоритам за вештачка интелигенција, Џејмс му овозможи на својот телефон да одговара на прашања со враќање на најрелевантните аудио и текстови на неговиот татко, генерирајќи разговор меѓу двајцата многу веројатно. Во намерите на Џејмс, алгоритмот би овозможил повторно дијалог со неговиот татко дури и по неговата смрт, и така беше.

Но, интервјуто на крајот добива чуден пресврт. Кога Џејмс го прашува својот покоен татко „Дали ме сакаш?“ одговорот изгледа малку заобиколен: „Леле! Многу ми недостигаш! За што сакаме да разговараме?".

И токму тогаш Џејмс започнува длабоко размислување за она што се случи: „Бев разочаран од колебливоста на татко ми да ми каже дека ме сака“, вели Џејмс со болка. „Таткото треба да ги знае одговорите на ваквите прашања, но не ги знае. Мислам, сакав да го слушнам како го кажува тоа“.

И тука ситуацијата се усложнува.

Во јамката

Искуството на Џејмс стана бизнис, непрофитна организација која им ветува на луѓето да се поврзат со своите починати преку вештачка интелигенција. Платена услуга со која секој може да ја врати саканата личност во живот со пренесување на своите спомени во апликација.

Но, ако ги земеме предвид длабоките психолошки импликации од контактот со починатиот близок, не можеме да исклучиме дека оваа услуга може да доведе до нови и непредвидливи социјални пресврти. На пример, дали сме подготвени да живееме во општество на луѓе кои, наместо да тагуваат, се потпираат на платена услуга за да останат прицврстени за посреќни животни искуства како во јамка? Ако денес нашата меморија ги обработува болните спомени во перспектива на самозаштита, како ќе биде утре кога со манипулирање со нив ќе можеме да ги трансформираме во нешто што никогаш не е болно и секогаш вештачки среќно?

Амазон не го промовира научниот напредок, туку бара и нови простори во кои ќе ги пласира производите и ги бара таму каде што никој претходно не се осмелил.

Технологиите со кои Alexa ќе ги репродуцира гласовите и тоновите на вистинските луѓе се алгоритми кои се познати подолго време. Можеме да кажеме: ништо ново под сонцето. Нивната примена е таа што ветува дека ќе биде деструктивна, провокација која ги достигнува границите на современата етика.

Со Alexa, Амазон се чини дека сака да изгради околу секој корисник вистински метаверс на спомени населени со сакани и изгубени луѓе. Место на олеснување каде што сите би можеле да избереме да не се збогуваме со минатото, да можеме да избереме да го преживееме бескрајно благодарение на софтверот.

Ситуацијата станува комплицирана

Што би се случило ако Џејмс Влахос, фрустриран од неспособноста на неговиот (покојниот) татко да му ја покаже својата наклонетост, реши еден ден да го „поправи“, со модифицирање на неколку линии код, овој аспект од неговиот карактер и повеќе налик на таткото што го сака?

Исто така, кој ќе ги спречи корисниците на Alexa да му наредат на паметниот звучник да ја игра улогата на совршено жива личност за нас, негувајќи нова форма на дигитален фетишизам за кој сè уште не чувствувавме потреба?

Ајде да се обидеме да замислиме разочарана љубовница која ја трансформира Алекса во предмет на неговата љубов, не заборавајќи да го поправи нејзиниот лик за да го свитка на сопствените емоционални и хуморални потреби. Дали ова би бил начин да се обезвреднат човечките односи и да се втурнат животите на најкревките субјекти во нови форми на наклонетост, одвоени од реалноста и прицврстени на технолошките алатки насочени од мултинационалните услужни компании?

Но зошто?

Целта на Амазон е да создаде алатки кои ќе го привлечат вниманието на луѓето и ќе ги ангажираат сè повеќе во онлајн активности. Вклучувањето на корисниците веќе се однесува на многу области од приватниот живот и намерата на Амазон е да оди и да окупира нови, вклучително и сентименталната сфера, доколку е потребно, како во окупациска војна каде што освојувачкото тло е во приватноста на секој од нас.

Но, ако искористувањето на чувствата и болката е новата граница, етичките импликации од ваквото однесување треба сериозно да се разгледаат: полето не треба да се остави слободно за оние кои имаат намера да ги искористат новите технологии за да создадат нови форми на вклучување кои стануваат форми на манипулација.

Дали можеби сакаме да ги трансформираме новите генерации во толпи субјекти сентиментално хранети од технологијата и неспособни да се развиваат природно во сопственото животно искуство?

Артиколо ди Gianfranco Fedele