Kecerdasan buatan ing esuke wong mati

Ing konferensi taunan kang maneh: Mars 2022 Amazon wis ngumumake yen Alexa bakal enggal bisa ngobrol karo kita kanthi niru swarane wong nyata, amarga intelijen buatan.

Rohit Prasad, direktur ilmiah proyek Alexa Kacerdhasan gawéyan, sajrone intine nyatakake yen thanks kanggo fitur anyar, speaker pinter Amazon bakal ngidini pangguna ngowahi hubungan pribadi dadi "permanen" ("hubungan pribadi sing langgeng").

Yen ana wong sing ora ngerti apa sing dimaksud Prasad, gambar bocah cilik sing nyedhaki Alexa takon dheweke ing layar gedhe lan takon: "Mbah bisa rampung maca 'The Wizard of Oz'?". Alexa langsung mangsuli "Ok!" lan wiwit wektu iku keprungu swara wong wadon tuwa saka piranti nalika dheweke wiwit maca dongeng dening Frank Baum marang bocah kasebut.

"Eyang sing ana ing skenario iki ora ana maneh karo kita", Tony Dokoupil, wartawan CBS News, bakal ngukum algid ngomentari Presentasi Prasad.

Ana tansah pisanan

Wis ing Juli 2017 layanan diterbitake dening WIRED nyebabake sensasi, isih kasedhiya dina YouTube, ing ngendi wawancara video nyritakake babagan teknisi komputer sing "ngowahi bapakne sing seda dadi AI".

Nalika James Vlahos nyadari yen bapake seda amarga penyakit sing ora bisa ditambani, dheweke mutusake kanggo nyimpen kenangan bapake ing dhaptar file audio lan teks sing dawa, banjur dilebokake ing smartphone.

Nanging iki mung wiwitan: liwat algoritma intelijen buatan, James ngaktifake telpon kanggo mangsuli pitakon kanthi mbalekake audio lan teks sing paling relevan saka bapake, nggawe obrolan antarane loro kasebut. Ing maksud James, algoritma kasebut bakal nggawe dialog karo bapake bisa maneh sanajan sawise dheweke mati, lan dadi.

Nanging wawancara njupuk giliran aneh ing pungkasan. Nalika James takon almarhum bapake "Apa kowe tresna kula?" wangsulane katon rada nyingkiri: "Wah! Aku kangen banget karo kowe! Apa sing arep kita omongake?"

Lan banjur James miwiti refleksi jero babagan kedadeyan kasebut: "Aku kuciwa amarga bapakku ora gelem ngandhani yen dheweke tresna marang aku." James ngandika kanthi lara. "Bapak mesthine ngerti jawaban kanggo pitakonan kaya iki, nanging ora. Maksudku, aku pengin krungu dheweke ngomong."

Lan ing kene kahanan dadi rumit.

Ing loop

Pengalaman James wis dadi bisnis, nirlaba sing njanjeni wong bisa nyambung karo almarhum liwat AI. Layanan mbayar sing sapa wae bisa urip maneh wong sing ditresnani kanthi mindhah kenangan menyang app.

Nanging yen kita nimbang implikasi psikologis sing jero nalika kontak karo wong sing ditresnani sing wis tilar donya, kita ora bisa ngilangi yen layanan iki bisa nyebabake pergolakan sosial sing anyar lan ora bisa ditebak. Contone, apa kita siap manggon ing masyarakat sing, tinimbang sedhih, ngandelake layanan sing dibayar supaya tetep ana ing pengalaman urip sing luwih bahagia kaya ing daur ulang? Yen dina iki memori kita proses pengeling-eling nglarani ing perspektif saka pangayoman dhiri, apa bakal kaya sesuk nalika manipulating wong kita bisa ngowahi mau dadi soko sing tau nglarani lan tansah artificially seneng?

Amazon ora ningkatake kemajuan ilmiah, uga nggoleki spasi anyar kanggo nempatake produk lan nggoleki ing ngendi ora ana sing wani sadurunge.

Teknologi sing Alexa bakal ngasilake swara lan nada wong nyata minangka algoritma sing wis dikenal sawetara wektu. Kita bisa ngomong: ora ana sing anyar ing sangisore srengenge. Aplikasi kasebut sing janji bakal ngrusak, provokasi sing tekan wates etika kontemporer.

Kanthi Alexa, Amazon misale jek pengin mbangun saben pangguna metaverse nyata kenangan sing didunungi dening wong sing ditresnani lan ilang. A Panggonan relief ngendi kita kabeh bisa milih ora ngucapake pamit kanggo kepungkur, bisa milih relive iku tanpa wates thanks kanggo piranti lunak.

Kahanan dadi ruwet

Apa bakal kelakon yen James Vlahos, frustasi dening (almarhum) rama kang ora bisa kanggo nuduhake marang tresno, mutusaké siji dina kanggo "mbenerake", dening ngowahi sawetara baris kode, iki aspek saka karakter lan liyane kaya rama wanted?

Uga, sapa sing bakal ngalangi pangguna Alexa supaya ora menehi pitunjuk marang pamicara sing cerdas supaya bisa dadi wong sing urip kanthi sampurna, nuturi wujud fetisisme digital anyar sing durung dirasakake?

Coba mbayangno pacangan sing kuciwa sing ngowahi Alexa dadi obyek sing ditresnani, ora lali kanggo mbenerake karakter dheweke kanggo nyukupi kabutuhan emosional lan humoral. Apa iki bakal dadi cara kanggo nyuda sesambungan manungsa lan nyemplungake urip subyek sing paling rapuh menyang bentuk rasa tresna anyar, dipisahake saka kasunyatan lan digandhengake karo piranti teknologi sing diarahake dening perusahaan layanan multinasional?

Nanging kenapa?

Tujuane Amazon yaiku nggawe alat sing narik kawigaten manungsa lan luwih akeh melu kegiatan online. Keterlibatan pangguna wis ana ing akeh wilayah urip pribadi lan tujuane Amazon kanggo pindhah lan manggoni sing anyar, nglibatake lingkungan sentimental, yen perlu, kaya ing perang pendhudhukan ing ngendi papan penaklukan ana ing privasi saben kita.

Nanging yen eksploitasi perasaan lan rasa lara minangka tapel wates anyar, implikasi etika saka prilaku iki kudu dianggep kanthi serius: lapangan ora kudu dibebasake kanggo wong-wong sing pengin ngeksploitasi teknologi anyar kanggo nggawe bentuk keterlibatan anyar sing dadi bentuk manipulasi.

Apa kita bisa uga pengin ngowahi generasi anyar dadi akeh subyek sing disedhiyakake dening teknologi lan ora bisa berkembang kanthi alami ing pengalaman urip dhewe?

Artikel di Gianfranco Fedele