Ang pagkakakilanlan ay hindi isang etikal na prinsipyo ngunit isang maruming trick!

Simula nung nagsimula akong gumawa ng project Laila, isang ecosystem ng Artificial Intelligence upang suportahan ang isang ahente sa pakikipag-usap na nakatuon sa mga negosyo, nalaman ko na ang AI ay nag-aalok ng napakalaking pagkakataon para sa pag-unlad at pagbabago, ngunit ang karamihan ng mga kumpanyang nagsasabing gumagamit nito ay sa kasamaang-palad ay nagsasanay ng isang diskarte lamang sa marketing .

Ang viral na video ng Google Duplex

Sa sandaling ipakilala ito sa mundo, agad na naakit ng Google Duplex ang atensyon ng web. Iniharap sa panahon ng Google IO 2018, ang teknolohiyang ito na nakabatay sa Artificial Intelligence ay namamahala upang gayahin ang layunin ng isang tao, sa ngalan ng gumagamit nito, na mag-book ng session sa hairdresser at isang mesa sa restaurant, na nagpapanatili, sa parehong negosyo, ng isang medyo tuluy-tuloy na pag-uusap sa telepono.

Ang video demo ay mukhang totoo kahit na para sa marami ito ay isang pekeng. Tiyak na ang mga pag-uusap, na mukhang medyo kumplikado, kung hindi pa sila masining na binuo ay tiyak na resulta ng maraming mga pagtatangka at kaunting swerte: sa dalawang matagumpay na mga tawag sa telepono hindi namin alam kung gaano karaming iba pang mga Google Duplex ang maaaring nabigo nang husto.

Ang epekto ng pagtatanghal ay nagpapaalala sa akin ng mahusay na pag-uusap na ginawa ng Amazon noong 2013, na may isang video sa Youtube, ipinakita ito sa mundo Amazon Prime Air, ang makabagong sistema ng paghahatid batay sa mga drone; ang rebolusyonaryong sistemang ito, pagkaraan ng maraming taon, ay nasa experimental phase pa rin at tayong mga mortal ay nasanay na sa ideya na ang "lahat" ng science fiction na ito na natagpuan ay sa huli ay isang bagong paraan lamang upang makagawa ng mga viral na video.

Ang ikinagulat ko tungkol sa Google Duplex ay ang maliit na teatro na binuo sa paligid ng isang di-umano'y etikal na tanong na ibinangon na ilang oras pagkatapos ma-publish ang video at agad na muling inilunsad ng pinakamahalagang online na pahayagan. Sa madaling salita, ayon sa ilan: Ang mga AI na gayahin ang pag-uugali ng tao ay nagpapakita ng isang etikal na problema kung ibinabalat nila ang kanilang kalikasan at nagpapanggap na tao.

Snapshot ng tugon ng Google: "Ang duplex ay agad na makikilala sa iyong kausap".

Umatras tayo ng isang hakbang

Palagi kaming nakasanayan ng Google na gamitin ang mga teknolohiya nito sa pamamagitan ng hindi paglalahad kung paano ginawa ang mga ito at kung paano gumagana ang mga ito. Ang search engine nito ay kinatawan ng pilosopiyang ito: ang pinagbabatayan na algorithm ay isang pang-industriyang sikreto na hindi matatawaran ang halaga, walang sinuman ang nagtuturing sa kanyang sarili na may kakayahang magbunyag ng mga lihim nito. At dahil mismo sa hindi maarok na kalikasan nito, nasanay na tayong hindi magtanong sa bisa nito, totoo man o ipinagpalagay. Ginagamit lang namin.

Hindi mahalaga kung ang pagpasa mula sa isang pahina patungo sa isa pa ng isang paghahanap ay nagbabago ang bilang ng mga resulta; o kung may lumabas sa aming pananaliksik na hindi namin akalain na maiuugnay namin sa aming layunin.

Gayunpaman, ang maliliit na kabiguan na ito ay lumilitaw sa aming mga mata bilang mga di-kasakdalan lamang, maliliit na depekto sa isang napakahusay na sistema na kung minsan ay nagdududa kami na ang Google ang tama at kami ay mali.

Kunin halimbawa ang Google Search Suggest, ang auto-completion system kung saan iminumungkahi ng Google kung ano ang hahanapin habang nagsusulat kami. Ang system na ito, na para sa akin ay nagpapalaki ng mas maraming problema sa etika kaysa sa Google Duplex, ay mukhang kapaki-pakinabang at matalino, ngunit sa likod ng pagiging epektibo nito ay nagtatago ito ng isang trick para sa mga tunay na hacker: gumagana ang search engine ng Google sa "mga keyword", mga grupo ng mga salita na kumakatawan sa layunin ng paghahanap ng mga gumagamit nito. Ang bawat bagong keyword ay ang pagpapahayag ng isang pangangailangan at nangangailangan ng partikular na pagproseso upang ang Google ay makatugon nang sapat. Ang Google ay may napakahusay na kapangyarihan sa pag-compute, ngunit ngayon ay hindi praktikal na isipin ang pag-aayos ng mga resulta ng engine nito ayon sa "anumang posibleng kumbinasyon ng mga salita".

Ang Google Search Suggest ay naglalabas ng mas maraming isyu sa etika kaysa sa Google Duplex.

Para sa kadahilanang ito, binibigyang-pansin lamang ng Google ang mga keyword na naipahayag nang sapat na beses upang maging isang malawakang pangangailangan. Para sa lahat ng iba pa, nag-improvise siya: mga katulad na salita, pagkakatulad sa iba pang mga keyword, pagkakakilanlan ng mga random na teksto ay ang mga sistemang inilapat upang harapin ang mga sitwasyong iyon na kung hindi man ay lilitaw nang walang paraan.

Ang bilang ng mga resulta, tulad ng mga pahina, ay nagbabago sa pamamagitan ng paglipat ng pahina ng paghahanap pasulong at hindi mo nagagawang suriin ang mga resulta sa kabila ng isang partikular na pahina: maging malinaw tayo, ang mga resulta na nasa pahina 30 ay walang pakinabang sa sinuman, ngunit bakit i-claim na May 160 resulta ba ang keyword na "printed stems" kung wala pang 300 ang matingnan?

Ang Google Search Suggest ay ang paraan kung saan sinusubukan ng Google na "maasahan kami": sa pamamagitan ng pagmumungkahi ng layunin sa paghahanap na alam na nito, sinusubukan ng Google na gabayan tayo patungo sa isang paghahanap kung saan ito ay makakasagot nang walang mga trick: pagkumbinsi sa user na gumamit ng isang susi Ang Google ay hindi lamang nagbabalik ng isang kapaki-pakinabang na resulta ngunit iniligtas ang sarili mula sa pagkakaroon ng pagdaragdag ng isang bagong keyword sa listahan ng mga kung saan kakailanganin nitong gumastos ng ilan sa kanyang kapangyarihan sa pag-compute.

Operational-functional indulgence

Pagbabalik sa Google Duplex, tayo ay nasa 2022 at matagal na nating hindi napag-uusapan, ngunit mula sa karanasang ito natutunan natin na ang pagkilala bilang isang artipisyal na sistema ng pakikipag-usap ay hindi sagot sa isang problema sa etika ngunit isang trick ng hacker: kung ang mga Ang pakikipag-usap kay Duplex ay batid na siya ay nakikipag-usap sa isang automated system, alam din niya na dapat siyang kumilos nang sapat, suportahan siya sa pag-uusap at tulungan siyang maunawaan ang nilalaman nito.

Para sa Google Duplex, ang pagkilala bilang isang artipisyal na sistema ay hindi sagot sa isang etikal na problema ngunit isang trick ng hacker.

Kapag nakikipag-usap kami kay Cortana, Alexa, Siri, palagi kaming awtomatikong gumagamit ng parehong mga expression, parehong mga formula dahil ito ay mahalaga kung gusto naming maiwasan na hindi maunawaan ng aming mga system.

Ang pagkakakilanlan ay para sa Google Duplex ng isang paraan ng pagkuha mula sa mga tao ng "pag-unawa" sa kanilang mga limitasyon, isang anyo ng operational-functional indulgence na natutunan nating lahat ng tao na magkaroon ng teknolohiyang iyon na, habang nagsusumikap, ay hindi ibinabalik ang lahat ng bagay. mga creator na ipinangako nila.

Artikulo ng Gianfranco Fedele