Identifikácia nie je etický princíp, ale špinavý trik!

Odkedy som začal pracovať na projekte Laila, ekosystém umelej inteligencie na podporu konverzačného agenta venovaného podnikom, som sa dozvedel, že AI ponúka obrovské príležitosti na vývoj a inovácie, ale väčšina spoločností, ktoré tvrdia, že ju používajú, bohužiaľ uvádza do praxe iba marketingovú stratégiu.

Vírusové video Google Duplex

Hneď ako bol svetu predstavený, Google Duplex okamžite zaujal web. Prezentované počas Google IO 2018Táto technológia založená na umelej inteligencii dokáže zosobniť ľudskú bytosť so zámerom v mene svojho používateľa rezervovať si stretnutie u kaderníka a stôl v reštaurácii, čím sa s oboma podnikmi udržiava pomerne plynulý telefonický rozhovor.

Video demo sa však mnohým zdá skutočné je to falzifikát. Konverzácie, ktoré sa zdajú byť dosť zložité, ak neboli umne zostavené, sú určite výsledkom mnohých pokusov a trochy šťastia: z dvoch úspešných telefonátov nevieme, koľko ďalších hovorov Google Duplex mohol zlyhať. .

Efekt vyvolaný prezentáciou mi pripomína skvelú prednášku, ktorú Amazon predniesol, keď v roku 2013 s videom na Youtube predstavil svetu Amazon Prime Air, inovatívny doručovací systém založený na dronoch; tento revolučný systém je po rokoch stále v experimentálnej fáze a my obyčajní smrteľníci sme si už zvykli na myšlienku, že „všetky“ tieto sci-fi vynálezy sú v konečnom dôsledku len novým spôsobom vytvárania virálnych videí.

Čo ma na Google Duplex zarazilo, je malé divadlo zriadené okolo údajného etického problému, ktorý už nastolili niekoľko hodín po zverejnení videa a okamžite ho znova spustili najdôležitejšie online noviny. Stručne povedané, podľa niektorých: AI, ktoré simulujú ľudské správanie, predstavujú etický problém, ak maskujú svoju povahu a predstierajú, že sú ľudia.

Snímka odpovede Google: "Duplex bude okamžite identifikovateľný pre vášho partnera".

Urobme krok späť

Google nás vždy zvykol používať jeho technológie a nikdy neprezradil, ako sa vyrábajú a ako fungujú. Jeho vyhľadávač reprezentuje túto filozofiu: algoritmus, ktorý je jeho základom, je priemyselným tajomstvom neoceniteľnej hodnoty, nikto sa nepovažuje za schopných odhaliť jeho tajomstvá. A práve pre jeho nevyspytateľnú povahu sme si zvykli nespochybňovať jeho účinnosť, či už skutočnú alebo domnelú. Len to používame.

Pri prechode z jednej stránky na druhú pri vyhľadávaní nezáleží na počte výsledkov; alebo ak z nášho výskumu vyplynie niečo, čo by nás nikdy nenapadlo spájať s naším zámerom.

Tieto malé zlyhania sa však našim očiam javia ako obyčajné nedokonalosti, malé chyby v systéme tak sofistikovanom, že niekedy pochybujeme, že to bol Google, kto mal pravdu a my sme sa mýlili.

Vezmime si napríklad Google Search Suggest, systém automatického dopĺňania, pomocou ktorého Google navrhuje, čo máme hľadať, keď píšeme. Tento systém, ktorý podľa môjho názoru vyvoláva oveľa viac etických problémov ako Google Duplex, sa javí ako užitočný a inteligentný, no za jeho účinnosťou sa skrýva skutočný hackerský trik: vyhľadávač Google funguje na „kľúčových slovách“, skupinách slov, ktoré predstavujú zámer jeho vyhľadávania. používateľov. Každé nové kľúčové slovo je vyjadrením potreby a vyžaduje špecifické spracovanie, aby bol Google schopný adekvátne reagovať. Google má nesmierne veľký výpočtový výkon, no do dnešného dňa je nepraktické predstaviť si organizovanie výsledkov svojho enginu podľa „akejkoľvek možnej kombinácie slov“.

Google Search Suggest prináša oveľa viac etických problémov ako Google Duplex.

Z tohto dôvodu Google venuje pozornosť iba kľúčovým slovám, ktoré boli vyjadrené dostatočne často na to, aby boli rozšírené. Na všetko ostatné improvizuje: podobné slová, podobnosti s inými kľúčovými slovami, identifikácia náhodných textov sú systémy aplikované na riešenie situácií, ktoré sa inak objavia bez východiska.

Počet výsledkov, podobne ako počet stránok, sa mení posúvaním stránky vyhľadávania dopredu a nikdy nie je možné skontrolovať výsledky za určitou stránkou: pozor, výsledky, ktoré sú na strane 30, nie sú pre nikoho užitočné, ale prečo tvrdí, že má kľúčové slovo „tlačené stonky“ 160 300 výsledkov, ak je možné zobraziť menej ako XNUMX?

Google Search Suggest je spôsob, akým sa nás Google snaží „predvídať“: navrhnutím zámeru vyhľadávania, ktorý už pozná, sa nás Google snaží naviesť na hľadanie, na ktoré je schopný odpovedať bez trikov: presvedčiť používateľa, aby použil kľúč Google nielenže vráti užitočný výsledok, ale ušetrí si aj to, že nebude musieť pridať nové kľúčové slovo do zoznamu kľúčových slov, na ktoré bude musieť minúť časť svojho výpočtového výkonu.

Prevádzkovo-funkčný pôžitok

Keď sa vrátime ku Google Duplex, sme v roku 2022 a nejaký čas sme o tom nehovorili, no z tejto skúsenosti sme sa naučili, že identifikácia ako umelý konverzačný systém nie je odpoveďou na etický problém, ale hackerským trikom: ak tí, ktorí converse with Duplex si uvedomujú, že hovorí s automatizovaným systémom, vie tiež, že sa musí primerane pohybovať, podporovať ho v rozhovore a pomáhať mu porozumieť jeho obsahu.

Pre Google Duplex nie je identifikácia seba samého ako umelého systému odpoveďou na etický problém, ale skôr trik hackerov.

Keď komunikujeme s Cortanou, Alexou, Siri, automaticky vždy používame rovnaké výrazy, rovnaké vzorce, pretože je to nevyhnutné, ak sa chceme vyhnúť tomu, aby nám naše systémy nerozumeli.

Identifikácia seba samého je pre Google Duplex spôsob, ako prinútiť ľudí, aby „pochopili“ svoje limity, čo je forma prevádzkovo-funkčnej zhovievavosti, ktorú sme sa my všetci ľudia naučili mať voči tejto technológii, ktorá síce vynakladá úsilie, ale nevráti všetko sľubujú jej tvorcovia.

Článok z Gianfranco Fedele