Identifikacija ni etično načelo, ampak umazan trik!

Odkar sem začel delati na projektu Lajla, ekosistema umetne inteligence za podporo pogovornega agenta, namenjenega podjetjem, sem izvedel, da umetna inteligenca ponuja neizmerne priložnosti za razvoj in inovacije, vendar večina podjetij, ki trdijo, da jo uporabljajo, na žalost uresničuje zgolj trženjsko strategijo.

Viralni videoposnetek Google Duplex

Takoj ko je bil predstavljen svetu, je Google Duplex takoj pritegnil pozornost spleta. Predstavljeno med Google IO 2018, ta tehnologija, ki temelji na umetni inteligenci, uspe posnemati človeško bitje, ki namerava v imenu svojega uporabnika rezervirati obisk pri frizerju in mizo v restavraciji, pri čemer z obema podjetjema vzdržuje precej tekoč telefonski pogovor.

Video demo je videti resničen, čeprav za mnoge to je ponaredek. Vsekakor so pogovori, ki se zdijo precej zapleteni, če niso bili umetelno sestavljeni, zagotovo rezultat številnih poskusov in kančka sreče: pri dveh uspešnih telefonskih klicih ne vemo, koliko drugih Google Duplexov je morda klavrno spodletelo.

Učinek predstavitve me spominja na velik govor Amazona, ko je leta 2013 z videoposnetkom na Youtube predstavil svetu Amazon Prime Air, inovativni sistem dostave, ki temelji na dronih; ta revolucionarni sistem je po dolgih letih še vedno v eksperimentalni fazi in navadni smrtniki smo se že navadili, da je "vsa" ta najdena znanstvena fantastika na koncu le nov način ustvarjanja viralnih videov.

Kar me je presenetilo pri Googlu Duplex, je malo gledališče, zbrano okoli domnevnega etičnega vprašanja, ki je bilo postavljeno že nekaj ur po objavi videoposnetka in so ga takoj znova lansirali najpomembnejši spletni časopisi. Skratka, po mnenju nekaterih: AI, ki simulirajo človeško vedenje, predstavljajo etični problem, če prikrijejo svojo naravo in se pretvarjajo, da so ljudje.

Posnetek Googlovega odgovora: "Duplex bo vašemu sogovorniku takoj prepoznaven".

Stopimo korak nazaj

Google nas je vedno navajal na uporabo njegovih tehnologij tako, da nikoli ni razkril, kako so narejene in kako delujejo. Njegov iskalnik je predstavnik te filozofije: osnovni algoritem je industrijska skrivnost neprecenljive vrednosti, nihče se ne meni, da je sposoben razkriti njegove skrivnosti. In prav zaradi njegove nedoumljivosti smo se navadili, da ne dvomimo o njegovi učinkovitosti, pa najsi bo resnična ali domnevna. Samo uporabljamo ga.

Ni pomembno, če se pri prehodu z ene strani iskanja na drugo število rezultatov spremeni; ali če iz naše raziskave izhaja nekaj, za kar nikoli nismo mislili, da ga bomo povezali z našim namenom.

Toda te majhne napake se našim očem zdijo zgolj nepopolnosti, majhne napake v sistemu, ki je tako prefinjen, da včasih dvomimo, da je Google imel prav, mi pa smo se motili.

Vzemimo za primer Google Search Suggest, sistem za samodokončanje, s katerim Google predlaga, kaj naj iščemo, medtem ko pišemo. Ta sistem, ki zame sproža veliko več etičnih težav kot Google Duplex, se zdi uporaben in inteligenten, a za svojo učinkovitostjo skriva trik pravih hekerjev: iskalnik Google deluje na "ključnih besedah", skupinah besed, ki predstavljajo namere iskanja. svojih uporabnikov. Vsaka nova ključna beseda je izraz potrebe in zahteva posebno obdelavo, da se Google lahko ustrezno odzove. Google ima neizmerno veliko računalniško moč, vendar si je danes nepraktično predstavljati, da bi rezultate njegovega motorja organiziral po »poljubni možni kombinaciji besed«.

Google Search Suggest postavlja veliko več etičnih vprašanj kot Google Duplex.

Zato je Google pozoren samo na ključne besede, ki so bile dovoljkrat izražene, da so zelo razširjene. Za vse ostalo improvizirajte: podobne besede, podobnosti z drugimi ključnimi besedami, prepoznavanje naključnih besedil so sistemi, ki se uporabljajo za reševanje tistih situacij, ki se sicer pojavijo brez izhoda.

Število rezultatov, tako kot število strani, se spreminja s premikom iskalne strani naprej in rezultatov nikoli ne uspete pregledati dlje od določene strani: naj bo jasno, rezultati, ki so na strani 30, nikomur ne koristijo, ampak zakaj trdijo, da ima ključna beseda "natisnjena stebla" 160 rezultatov, če si jih je mogoče ogledati manj kot 300?

Google Search Suggest je način, na katerega nas Google skuša "predvideti": s predlaganjem namena iskanja, ki mu je že znan, nas poskuša Google usmeriti k iskanju, na katerega lahko odgovori brez zvijač: prepričati uporabnika, da uporabi ključ Google ne vrne samo uporabnega rezultata, ampak se reši tega, da bi dodal novo ključno besedo na seznam tistih, za katere bo moral porabiti nekaj svoje računalniške moči.

Operativno-funkcionalno razvajanje

Če se vrnemo k Google Duplexu, smo v letu 2022 in o tem že nekaj časa nismo govorili, a iz te izkušnje smo se naučili, da identificiranje kot umetni pogovorni sistem ni odgovor na etični problem, ampak hekerski trik: če tisti, se pogovarja z Duplexom zaveda, da se pogovarja z avtomatiziranim sistemom, ve tudi, da se mora ustrezno gibati, ga pri pogovoru podpirati in mu pomagati razumeti njegovo vsebino.

Za Google Duplex opredelitev za umetni sistem ni odgovor na etični problem, temveč hekerski trik.

Ko se pogovarjamo s Cortano, Alexo, Siri, vedno samodejno uporabljamo iste izraze, iste formule, ker je to bistveno, če se želimo izogniti temu, da nas naši sistemi ne razumejo.

Identifikacija je za Google Duplex način, kako pridobiti od ljudi "razumevanje" svojih meja, oblika operativno-funkcionalnega popuščanja, ki smo se ga vsi ljudje naučili imeti do te tehnologije, ki kljub temu, da se trudi, ne vrne vsega, kar ima. ustvarjalci obljubljajo.

Člen Gianfranco Fedele