На сваёй штогадовай канферэнцыі Re: Марс 2022 Кампанія Amazon абвясціла, што Alexa неўзабаве зможа размаўляць з намі, імітуючы галасы рэальных людзей, дзякуючы штучнаму інтэлекту.
Ім стаў Рохіт Прасад, навуковы кіраўнік праекта Alexa Штучны Інтэлект, падчас свайго асноўнага дакладу, заявіўшы, што дзякуючы новай функцыі разумная калонка Amazon дазволіць карыстальнікам ператварыць асабістыя адносіны ў нешта «пастаяннае» («доўгія асабістыя адносіны»).
Калі камусьці было незразумела, што меў на ўвазе Прасад, малюнак маленькага хлопчыка, які павярнуўся да Алексы, спытаў яе на вялікім экране і спытаў у яе: «Бабуля можа дачытаць «Чараўнік краіны Оз»?». Alexa імгненна адказвае "ОК!" і з гэтага моманту з апарата даносіцца голас пажылой жанчыны, якая пачынае чытаць дзіцяці казку Фрэнка Баўма.
«Бабулі, якая прысутнічае ў гэтым сцэнары, больш няма з намі», — прысудзіць Алгіду Тоні Дакупіл, журналіст CBS News каментавання Прэзентацыя прасада.
Ужо ў ліпені 2017 года паслуга, апублікаваная WIRED, выклікала сенсацыю, даступная і сёння YouTube, дзе відэаінтэрв'ю распавядае пра кампутарніка, які "ператварыў свайго паміраючага бацьку ў ІІ".
Калі Джэймс Влахос зразумеў, што яго бацька памірае ад невылечнай хваробы, ён вырашыў захаваць успаміны бацькі ў доўгім спісе аўдыё- і тэкставых файлаў, а затым размясціць іх на сваім смартфоне.
Але гэта быў толькі пачатак: з дапамогай алгарытму штучнага інтэлекту Джэймс дазволіў свайму тэлефону адказваць на пытанні, вяртаючы найбольш прыдатныя аўдыё і тэкставыя паведамленні свайго бацькі, ствараючы размову паміж імі, вельмі верагодна. У намерах Джэймса, алгарытм зрабіў бы дыялог з яго бацькам магчымым нават пасля яго смерці, так і было.
Але ў канцы інтэрв'ю набывае дзіўны абарот. Калі Джэймс пытаецца ў свайго нябожчыка бацькі: «Ты мяне любіш?» адказ падаецца трохі ўніклівым: «Ого! Я так па табе сумавала! Пра што мы хочам пагаварыць?».
І менавіта тады Джэймс пачынае глыбока разважаць пра тое, што здарылася: «Я быў расчараваны нежаданнем майго бацькі сказаць мне, што ён мяне любіць», — з болем кажа Джэймс. «Бацька павінен ведаць адказы на такія пытанні, але ён іх не ведае. Я маю на ўвазе, я хацеў пачуць, як ён гэта сказаў».
І вось тут сітуацыя ўскладняецца.
Вопыт Джэймса стаў бізнесам, некамерцыйнай арганізацыяй, якая абяцае людзям звязацца са сваімі памерлымі праз ІІ. Платная паслуга, з дапамогай якой кожны можа вярнуць каханага чалавека да жыцця, перадаўшы яго ўспаміны ў дадатак.
Але калі мы ўлічым глыбокія псіхалагічныя наступствы кантакту з памерлым каханым чалавекам, мы не можам выключыць, што гэтая паслуга можа прывесці да новых і непрадказальных сацыяльных узрушэнняў. Напрыклад, ці гатовыя мы жыць у грамадстве людзей, якія замест смутку разлічваюць на платныя паслугі, каб заставацца прывязанымі да больш шчаслівага жыццёвага вопыту, як у пятлі? Калі сёння наша памяць апрацоўвае балючыя ўспаміны з пункту гледжання самаабароны, што будзе заўтра, калі, маніпулюючы імі, мы зможам ператварыць іх у нешта, што ніколі не выклікае болю і заўсёды штучна шчаслівае?
Amazon не спрыяе навуковаму прагрэсу, ён таксама шукае новыя прасторы для размяшчэння прадуктаў і шукае іх там, дзе раней ніхто не адважваўся.
Тэхналогіі, з дапамогай якіх Alexa будзе прайграваць галасы і тоны рэальных людзей, - гэта алгарытмы, вядомыя ўжо некаторы час. Можна сказаць: нічога новага пад сонцам. Менавіта іх прымяненне абяцае быць дэструктыўным, правакацыяй, якая выходзіць за межы сучаснай этыкі.
З дапамогай Alexa Amazon, падобна, хоча стварыць вакол кожнага карыстальніка сапраўдную метасусвет успамінаў, населеных любімымі і страчанымі людзьмі. Месца палёгкі, дзе мы ўсе можам не развітвацца з мінулым, маючы магчымасць перажываць яго бясконца зноўку дзякуючы праграмнаму забеспячэнню.
Што здарылася б, калі б Джэймс Влахос, расчараваны няздольнасцю свайго (памерлага) бацькі выказаць яму сваю прыхільнасць, аднойчы вырашыў "выправіць", змяніўшы некалькі радкоў кода, гэты аспект свайго характару і зрабіць больш падобным на бацьку, якога ён хацеў?
Акрамя таго, хто перашкодзіць карыстальнікам Alexa даручыць разумнай калонцы гуляць для нас ролю абсалютна жывога чалавека, выхоўваючы новую форму лічбавага фетышызму, у якой мы яшчэ не адчувалі патрэбы?
Паспрабуем уявіць сабе расчараванага каханка, які ператварае Алексу ў аб'ект сваёй любові, не забываючы карэктаваць яе характар, каб схіліць яго пад свае эмацыйныя і гумаральныя патрэбы. Ці будзе гэта спосабам абясцэніць чалавечыя адносіны і пагрузіць жыццё самых далікатных суб'ектаў у новыя формы прыхільнасці, адарваныя ад рэальнасці і прывязаныя да тэхналагічных інструментаў, якія кіруюцца шматнацыянальнымі сэрвіснымі кампаніямі?
Мэтай Amazon з'яўляецца стварэнне інструментаў, якія прыцягваюць увагу людзей і прыцягваюць іх усё больш і больш да дзейнасці ў Інтэрнэце. Удзел карыстальнікаў ужо датычыцца многіх сфер прыватнага жыцця, і Amazon мае намер пайсці і заняць новыя, задзейнічаючы, калі неабходна, сентыментальную сферу, як у акупацыйнай вайне, дзе тэрыторыя заваявання знаходзіцца ў прыватным жыцці кожнага з нас.
Але калі эксплуатацыя пачуццяў і болю з'яўляецца новай мяжой, варта сур'ёзна разгледзець этычныя наступствы такіх паводзін: поле не павінна быць вольным для тых, хто мае намер выкарыстоўваць новыя тэхналогіі для стварэння новых формаў уцягвання, якія становяцца формамі маніпуляцыі.
Можа, мы хочам ператварыць новыя пакаленні ў натоўпы суб'ектаў, якія сентыментальна сілкуюцца тэхналогіямі і не здольныя натуральна развівацца ў сваім жыццёвым вопыце?
Артыкола дзі Gianfranco Fedele
У мінулы панядзелак Financial Times абвясціла аб здзелцы з OpenAI. FT ліцэнзуе сваю журналістыку сусветнага ўзроўню...
Мільёны людзей плацяць за струменевыя паслугі, плацячы штомесячную абаненцкую плату. Распаўсюджана меркаванне, што вы…
Coveware ад Veeam працягне прадастаўляць паслугі рэагавання на інцыдэнты кібервымагальніцтва. Coveware будзе прапаноўваць судова-медыцынскую экспертызу і магчымасці выпраўлення…
Прагнастычнае тэхнічнае абслугоўванне рэвалюцыянізуе нафтагазавы сектар з інавацыйным і актыўным падыходам да кіравання заводам.…
