Mga artificial intelligence sa bukang-liwayway ng mga patay

Sa kanyang taunang kumperensya re: Mars 2022 Inanunsyo ng Amazon na malapit nang makipag-usap sa amin si Alexa sa pamamagitan ng paggaya sa boses ng mga totoong tao, salamat sa artificial intelligence.

Ito ay si Rohit Prasad, siyentipikong direktor ng proyekto ni Alexa Artipisyal na Talino, sa panahon ng kanyang pangunahing tono na nagsasaad na salamat sa isang bagong feature, ang Amazon smart speaker ay magbibigay-daan sa mga user na baguhin ang mga personal na relasyon sa isang bagay na "permanent" ("pangmatagalang personal na relasyon").

Kung ang isang tao ay hindi malinaw kung ano ang tinutukoy ni Prasad, isang imahe ng isang maliit na batang lalaki na bumaling kay Alexa ay nagtanong sa kanya sa malaking screen at nagtanong sa kanya: "Maaari bang tapusin ni Lola ang pagbabasa ng 'The Wizard of Oz'?". Agad namang sumagot si Alexa ng "Ok!" at mula sa sandaling iyon ay narinig ang boses ng isang matandang babae na nagmumula sa device habang sinisimulan niyang basahin ang fairy tale ni Frank Baum sa bata.

"Ang lola na naroroon sa sitwasyong ito ay wala na sa amin", si Tony Dokoupil, mamamahayag ng CBS News, ay magsentensiya ng algid nagkokomento Ang pagtatanghal ni Prasad.

Laging may first time

Nasa Hulyo 2017 na ang isang serbisyong na-publish ng WIRED ay nagdulot ng isang sensasyon, available pa rin hanggang ngayon YouTube, kung saan ang isang panayam sa video ay nagsasabi sa kuwento ng computer technician na "binago ang kanyang namamatay na ama sa isang AI".

Nang mapagtanto ni James Vlahos na ang kanyang ama ay namamatay sa isang sakit na walang lunas, nagpasya siyang i-save ang mga alaala ng kanyang ama sa isang mahabang listahan ng mga audio at text file, at pagkatapos ay ilagay ang mga ito sa kanyang smartphone.

Ngunit ito ay simula pa lamang: sa pamamagitan ng isang algorithm ng artificial intelligence, pinagana ni James ang kanyang telepono na sagutin ang mga tanong sa pamamagitan ng pagbabalik ng pinakamahalagang audio at mga text ng kanyang ama, na nagbubuo ng pag-uusap sa pagitan ng dalawa na malamang. Sa mga intensyon ni James, ginawa ng algorithm na posible muli ang pag-uusap sa kanyang ama kahit pagkamatay niya, at ganoon nga.

Ngunit ang pakikipanayam ay tumatagal ng kakaiba sa dulo. Nang tanungin ni James ang kanyang yumaong ama ng "Mahal mo ba ako?" ang sagot ay tila medyo umiiwas: “Wow! namiss kita ng sobra! Ano ang gusto nating pag-usapan?"

At ito ay pagkatapos na James launches sa isang malalim na pagmuni-muni sa kung ano ang nangyari: "Ako ay nabigo sa aking ama pag-aatubili na sabihin sa akin na siya ay mahal sa akin.", James says na may sakit. “Dapat alam ng isang ama ang mga sagot sa mga tanong na tulad nito, ngunit hindi niya alam. I mean, gusto kong marinig na sabihin niya."

At dito nagiging kumplikado ang sitwasyon.

Sa loop

Ang karanasan ni James ay naging isang negosyo, isang non-profit na nangangako sa mga tao na kumonekta sa kanilang mga namatay sa pamamagitan ng AI. Isang bayad na serbisyo kung saan maaaring buhayin ng sinuman ang isang mahal sa buhay sa pamamagitan ng paglilipat ng kanilang mga alaala sa isang app.

Ngunit kung isasaalang-alang natin ang malalim na sikolohikal na implikasyon ng pakikipag-ugnayan sa isang namatay na mahal sa buhay, hindi natin maibubukod na ang serbisyong ito ay maaaring humantong sa bago at hindi mahuhulaan na mga kaguluhan sa lipunan. Halimbawa, handa ba tayong mamuhay sa isang lipunan ng mga tao na, sa halip na magdalamhati, ay umaasa sa isang bayad na serbisyo upang manatiling nakaangkla sa mas maligayang karanasan sa buhay tulad ng sa isang loop? Kung ngayon ang ating memorya ay nagpoproseso ng mga masasakit na alaala sa isang perspektibo ng pagprotekta sa sarili, ano kaya ang mangyayari bukas kapag sa pamamagitan ng pagmamanipula sa mga ito maaari nating baguhin ang mga ito sa isang bagay na hindi kailanman masakit at palaging artipisyal na masaya?

Ang Amazon ay hindi nagtataguyod ng siyentipikong pag-unlad, naghahanap din ito ng mga bagong puwang kung saan maglalagay ng mga produkto at hinahanap ang mga ito kung saan walang nangahas noon.

Ang mga teknolohiyang gagamitin ni Alexa ay magpaparami ng mga boses at tono ng mga totoong tao ay mga algorithm na matagal nang kilala. Masasabi natin: walang bago sa ilalim ng araw. Ito ay ang kanilang aplikasyon na nangangako na mapanira, isang probokasyon na umabot sa mga limitasyon ng kontemporaryong etika.

Sa Alexa, tila nais ng Amazon na bumuo sa paligid ng bawat gumagamit ng isang tunay na metaverse ng mga alaala na pinamumunuan ng mga minamahal at nawalang mga tao. Isang lugar ng kaluwagan kung saan mapipili nating lahat na huwag magpaalam sa nakaraan, na mapipiling buhayin ito nang walang hanggan salamat sa isang software.

Nagiging kumplikado ang sitwasyon

Ano ang mangyayari kung si James Vlahos, na bigo sa kawalan ng kakayahan ng kanyang (namayapa) ama na ipakita sa kanya ang kanyang pagmamahal, ay nagpasya isang araw na "iwasto", sa pamamagitan ng pagbabago ng ilang linya ng code, ang aspetong ito ng kanyang karakter at higit na katulad ng ama na gusto niya?

At saka, sino ang pipigil sa mga user ng Alexa mula sa pagtuturo sa matalinong tagapagsalita na gampanan ang papel ng isang perpektong buhay na tao para sa amin, na nag-aalaga ng isang bagong anyo ng digital fetishism na hindi pa namin naramdaman na kailangan?

Subukan nating isipin ang isang nabigo na manliligaw na nagpalit kay Alexa sa bagay ng kanyang pag-ibig, hindi nalilimutang itama ang kanyang karakter upang iayon ito sa kanyang sariling emosyonal at nakakatawang mga pangangailangan. Ito ba ay isang paraan upang sirain ang halaga ng mga relasyon ng tao at ihulog ang buhay ng mga pinaka-marupok na mga paksa sa mga bagong anyo ng pagmamahal, na hiwalay sa katotohanan at nakaangkla sa mga teknolohikal na tool na itinuro ng mga kumpanya ng serbisyong multinasyunal?

Pero bakit?

Layunin ng Amazon na lumikha ng mga tool na nakakaakit ng atensyon ng mga tao at higit na maakit ang mga ito sa mga online na aktibidad. Ang paglahok ng mga gumagamit ay may kinalaman na sa maraming mga lugar ng pribadong buhay at ito ay ang layunin ng Amazon na pumunta at sakupin ang mga bago, na kinasasangkutan ng sentimental na globo, kung kinakailangan, tulad ng sa isang digmaan ng trabaho kung saan ang lugar ng pananakop ay nasa privacy ng bawat isa sa atin.

Ngunit kung ang pagsasamantala sa mga damdamin at sakit ay ang bagong hangganan, ang mga etikal na implikasyon ng pag-uugali na ito ay dapat na seryosong isaalang-alang: ang larangan ay hindi dapat iwanang libre para sa mga taong nagnanais na pagsamantalahan ang mga bagong teknolohiya upang lumikha ng mga bagong anyo ng paglahok na nagiging mga anyo ng pagmamanipula.

Nais ba nating ibahin ang anyo ng mga bagong henerasyon sa mga pulutong ng mga paksang sentimentally nourished sa pamamagitan ng teknolohiya at hindi maaaring mag-evolve natural sa kanilang sariling karanasan sa buhay?

Artikulo ng Gianfranco Fedele