Идентификацијата не е етички принцип туку валкан трик!

Откако почнав да работам на проектот Лајла, екосистем на вештачка интелигенција за поддршка на агент за разговор посветен на бизнисите, научив дека вештачката интелигенција нуди огромни можности за развој и иновации, но поголемиот дел од компаниите кои тврдат дека ја користат, за жал, применуваат обична маркетинг стратегија.

Вирално видео на Google Duplex

Веднаш штом беше претставен на светот, Google Duplex веднаш го привлече вниманието на мрежата. Презентирани во текот на Google IO 2018 година, оваа технологија заснована на вештачка интелигенција успева да имитира човечко суштество кое има намера, во име на својот корисник, да резервира сесија во фризер и маса во ресторан, одржувајќи прилично течен телефонски разговор со двата бизниси.

Демото на видеото изгледа реално, иако за многумина тоа е лажно. Секако, разговорите, кои изгледаат прилично сложени, ако не се уметнички склопени, секако се резултат на многу обиди и малку среќа: од два успешни телефонски повици не знаеме колку други повици на Google Duplex можеби не успеале очајно. .

Ефектот произведен од презентацијата ме потсетува на одличниот разговор што Амазон го направи кога во 2013 година, со видео на Youtube, го претстави на светот Amazon PrimeAir, иновативниот систем за испорака базиран на беспилотни летала; овој револуционерен систем, години подоцна, сè уште е во експериментална фаза и ние обичните смртници се навикнавме на идејата дека „сите“ овие научно-фантастични изуми на крајот се само нов начин за правење вирални видеа.

Она што ме импресионираше за Google Duplex е малиот театар поставен околу наводното етичко прашање веќе покренато неколку часа по објавувањето на видеото и веднаш повторно промовирано од најважните онлајн весници. Накратко, според некои: ВИ кои симулираат човечко однесување претставуваат етички проблем ако ја прикријат својата природа и се преправаат дека се луѓе.

Снимка Одговорот на Google: „Duplex ќе биде веднаш препознатлив за вашиот соговорник".

Ајде да направиме чекор назад

Google отсекогаш нè навикнувал да ги користиме своите технологии, никогаш не откривајќи како се направени и како функционираат. Неговиот пребарувач е репрезент на оваа филозофија: алгоритмот што лежи во него е индустриска тајна со непроценлива вредност, никој не се смета себеси за способен да ги открие нејзините тајни. И токму поради неговата неразбирлива природа, се навикнавме да не ја доведуваме во прашање нејзината ефикасност, без разлика дали е вистинска или претпоставена. Ние само го користиме.

Малку е важно ако се менува бројот на резултати од една на друга страница на пребарување; или ако од нашето истражување произлезе нешто што никогаш не би помислиле да го поврземе со нашата намера.

Сепак, овие мали неуспеси на нашите очи изгледаат како едноставни несовршености, мали недостатоци на систем толку софистициран што понекогаш се прашуваме дали Google бил во право, а ние сме погрешиле.

Да го земеме на пример Google Search Suggest, системот за автоматско комплетирање со кој Google сугерира што да бараме додека пишуваме. Овој систем, кој по мое мислење покренува многу повеќе етички проблеми од Google Duplex, изгледа корисен и интелигентен, но зад неговата ефикасност се крие вистински хакерски трик: пребарувачот Google работи на „клучни зборови“, групи зборови што ја претставуваат намерата за пребарување на неговиот корисници. Секој нов клучен збор е израз на потреба и бара специфична обработка за Google да може да одговори соодветно. Google има неизмерно голема компјутерска моќ, но до денес е непрактично да се замислуваат организирање на резултатите од неговиот мотор според „секоја можна комбинација на зборови“.

Google Search Suggest покренува многу повеќе етички прашања од Google Duplex.

Поради оваа причина, Google обрнува внимание само на клучни зборови кои се доволно пати изразени за да се создаде широка потреба. За сè друго, импровизирајте: слични зборови, аналогии со други клучни зборови, идентификација на случајни текстови се системите што се применуваат за да се дојде до дното на оние ситуации кои инаку изгледаат како да немаат излез.

Бројот на резултати, како оној на страниците, се менува придвижувајќи ја страницата за пребарување напред и никогаш не е можно да се проверат резултатите надвор од одредена страница: имајте предвид, резултатите што се на страница 30 не се корисни за никого, но зошто тврдите дека Дали клучниот збор „печатени стебла“ има 160 резултати ако може да се видат помалку од 300?

Google Search Suggest е начин на Google да се обиде да не „предвиди“: со предлагање веќе познати намери за пребарување, Google се обидува да не води кон пребарување на кое може да одговори без трикови: со убедување на корисникот да користи клуч за пребарување пребарувајќи меѓу оние што ги има во стомакот, Google не само што враќа корисен резултат, туку се спасува од потребата да додаде нов клучен збор на листата на оние за кои ќе треба да потроши дел од својата компјутерска моќ.

Оперативно-функционалното уживање

Да се ​​вратиме на Google Duplex, ние сме во 2022 година и за тоа не се зборува веќе некое време, но од ова искуство научивме дека идентификувањето како вештачки систем за разговор не е одговор на етички проблем, туку хакерски трик. : ако кој разговара со Дуплекс е свесен дека зборува со автоматизиран систем, знае и дека треба да се движи соодветно, поддржувајќи го во разговорот и помагајќи му да ја разбере неговата содржина.

За Google Duplex, идентификувањето себеси како вештачки систем не е одговор на етички проблем, туку хакерски трик.

Кога комуницираме со Cortana, Alexa, Siri, автоматски секогаш ги користиме истите изрази, истите формули бидејќи тоа е од суштинско значење ако сакаме да избегнеме да не бидеме разбрани од нашите системи.

Идентификувањето на себе е за Google Duplex начин да ги натера луѓето да ги „разберат“ нивните граници, форма на оперативно-функционално уживање што сите ние луѓето научивме да го имаме кон таа технологија која, иако прави напор, не ѝ враќа сè. неговите креатори тие ветуваат.

Артиколо ди Gianfranco Fedele