На својој годишњој конференцији Ре: Марс 2022 Амазон је најавио да ће Алекса ускоро моћи да разговара са нама опонашајући гласове стварних људи, захваљујући вештачкој интелигенцији.
Био је то Рохит Прасад, научни директор Алека пројекта Вештачка интелигенција, током свог уводног излагања наводећи да ће захваљујући новој функцији, Амазон паметни звучник омогућити корисницима да трансформишу личне односе у нешто „трајно“ („трајни лични односи“).
Ако некоме није било јасно на шта Прасад мисли, слика дечака који се окренуо Алекси упитала ју је на великом екрану и упитала је: „Може ли бака да заврши читање „Чаробњака из Оза“?“. Алека одмах одговара "У реду!" и од тог тренутка из уређаја се чује глас старије жене која детету почиње да чита бајку Френка Баума.
„Бака присутна у овом сценарију више није са нама“, изрече Алгид Тони Докоупил, новинар ЦБС Невс-а. коментаришући Прасадово излагање.
Већ у јулу 2017. услуга коју је објавио ВИРЕД изазвала је сензацију, која је и данас доступна ИоуТубе, где видео интервју прича причу о компјутерском техничару који је „умирућег оца трансформисао у вештачку интелигенцију“.
Када је Џејмс Влахос схватио да му отац умире од неизлечиве болести, одлучио је да сачува сећања свог оца у дугачкој листи аудио и текстуалних датотека, а затим их стави на свој паметни телефон.
Али ово је био само почетак: помоћу алгоритма вештачке интелигенције, Џејмс је омогућио свом телефону да одговара на питања враћајући најрелевантније аудио и текстове његовог оца, генеришући врло вероватно разговор између њих двојице. У Џејмсовим намерама, алгоритам би поново омогућио дијалог са његовим оцем чак и након његове смрти, и тако је и било.
Али интервју на крају добија чудан обрт. Када Џејмс пита свог покојног оца "Да ли ме волиш?" одговор се чини помало измичућим: „Вау! Недостајао си ми много! О чему желимо да разговарамо?".
И тада Џејмс креће у дубоко размишљање о томе шта се догодило: „Био сам разочаран неспремношћу мог оца да ми каже да ме воли.“, каже Џејмс с болом. „Отац би требало да зна одговоре на оваква питања, али не зна. Мислим, желео сам да га чујем како то каже."
И ту се ситуација компликује.
Џејмсово искуство је постало бизнис, непрофитна организација која обећава људима да се повежу са својим преминулим путем вештачке интелигенције. Плаћена услуга помоћу које свако може вратити вољену особу у живот тако што ће своје успомене пренети у апликацију.
Али ако узмемо у обзир дубоке психолошке импликације контакта са преминулом вољеном особом, не можемо искључити да ова услуга може довести до нових и непредвидивих друштвених преокрета. На пример, да ли смо спремни да живимо у друштву људи који се, уместо да жале, ослањају на плаћену услугу да би остали усидрени за срећнија животна искуства као у петљи? Ако данас наше памћење обрађује болна сећања у перспективи самозаштите, како ће бити сутра када их манипулацијом можемо трансформисати у нешто што никада није болно и увек вештачки срећно?
Амазон не промовише научни напредак, он такође тражи нове просторе у које ће поставити производе и тражи их тамо где се нико раније није усудио.
Технологије помоћу којих ће Алека репродуковати гласове и тонове стварних људи су алгоритми који су познати већ неко време. Могли бисмо рећи: ништа ново под сунцем. Управо њихова примена обећава да ће бити деструктивна, провокација која сеже до граница савремене етике.
Са Алека-ом, чини се да Амазон жели да око сваког корисника изгради прави метаверзум успомена које насељавају вољени и изгубљени људи. Место олакшања где бисмо сви могли да изаберемо да се не опростимо од прошлости, будући да смо у могућности да изаберемо да је проживљавамо бесконачно захваљујући софтверу.
Шта би се десило када би Џејмс Влахос, фрустриран немогућношћу (покојног) оца да му покаже своју наклоност, једног дана одлучио да „исправи“, модификујући неколико редова кода, овај аспект свог карактера и више личи на оца којег је желео?
Такође, ко ће спречити Алека кориснике да упуте паметном звучнику да за нас игра улогу савршено живе особе, негујући нови облик дигиталног фетишизма за којим још нисмо осетили потребу?
Покушајмо да замислимо разочараног љубавника који Алексу претвара у објекат своје љубави, не заборављајући да исправи њен лик како би га прилагодио сопственим емоционалним и хуморалним потребама. Да ли би то био начин да се обезврједе људски односи и животи најкрхкијих субјеката уроне у нове облике наклоности, одвојене од стварности и усидрене за технолошке алате у режији мултинационалних услужних компанија?
Амазонов циљ је да створи алате који привлаче пажњу људи и све више их ангажују у онлајн активностима. Ангажовање корисника већ се тиче многих области приватног живота и Амазонова намера је да оде и заузме нове, укључујући и сентименталну сферу, ако је потребно, као у окупационом рату где је освајачко тло у приватности сваког од нас.
Али ако је искоришћавање осећања и бола нова граница, етичке импликације оваквог понашања треба озбиљно размотрити: поље не треба оставити слободним за оне који намеравају да искористе нове технологије за стварање нових облика укључености који постају облици манипулације.
Да ли можда желимо да трансформишемо нове генерације у гомилу субјеката сентиментално храњених технологијом и неспособних да природно еволуирају у сопственом животном искуству?
Артицоло ди Gianfranco Fedele
Прошлог понедељка, Финанциал Тимес је објавио договор са ОпенАИ. ФТ лиценцира своје новинарство светске класе…
Милиони људи плаћају услуге стриминга, плаћајући месечне претплате. Увријежено је мишљење да сте…
Цовеваре од Вееам-а ће наставити да пружа услуге одговора на инциденте са сајбер изнудом. Цовеваре ће понудити форензику и могућности санације…
Предиктивно одржавање револуционише сектор нафте и гаса, са иновативним и проактивним приступом управљању постројењима.…
