Auðkenning er ekki siðferðileg regla heldur óhreint bragð!

Síðan ég byrjaði að vinna að verkefninu Laila, vistkerfi gervigreindar til að styðja samtalsfulltrúa tileinkað fyrirtækjum, ég komst að því að gervigreind býður upp á gríðarleg tækifæri til þróunar og nýsköpunar, en meirihluti fyrirtækja sem segjast nota það eru því miður að beita eingöngu markaðsstefnu.

Google Duplex veiru myndband

Um leið og það var kynnt fyrir heiminum vakti Google Duplex strax athygli vefsins. Kynnt á meðan Google IoT 2018, þessi tækni sem byggir á gervigreind nær að líkja eftir manneskju sem ætlar, fyrir hönd notanda síns, að bóka tíma hjá hárgreiðslustofunni og borð á veitingastað og halda frekar fljótandi símasamtali við bæði fyrirtækin.

Myndbandssýnishornið virðist þó raunverulegt fyrir marga það er falsað. Vissulega eru samtölin, sem virðast nokkuð flókin, ef þau hafa ekki verið listilega sett saman, vissulega afleiðing margra tilrauna og smá heppni: af tveimur vel heppnuðum símtölum vitum við ekki hversu mörg önnur Google Duplex símtöl geta hafa mistekist hrapallega. .

Áhrifin sem kynningin framkallaði minna mig á frábæra ræðuna sem Amazon flutti þegar árið 2013, með myndbandi á Youtube, kynnti það heiminum. Amazon PrimeAir, nýstárlega dróna-undirstaða afhendingarkerfi; þetta byltingarkennda kerfi, árum síðar, er enn á tilraunastigi og við dauðlegir menn höfum vanist þeirri hugmynd að „allar“ þessar vísindaskáldsöguuppfinningar séu á endanum bara ný leið til að búa til veirumyndbönd.

Það sem sló mig við Google Duplex er litla leikhúsið sem sett var upp í kringum meint siðferðilegt álitamál sem þegar var komið upp nokkrum klukkustundum eftir birtingu myndbandsins og strax endursýnt af mikilvægustu dagblöðum á netinu. Í stuttu máli, samkvæmt sumum: gervigreind sem líkja eftir mannlegri hegðun skapa siðferðilegt vandamál ef þau dylja eðli sitt og þykjast vera mannleg.

Skyndimynd svar Google: “Duplex verður samstundis auðþekkjanlegt viðmælanda þínum".

Við skulum taka skref til baka

Google hefur alltaf vanið okkur á að nota tækni sína, aldrei opinberað hvernig þær eru gerðar og hvernig þær virka. Leitarvél þess er dæmigerð fyrir þessa heimspeki: reikniritið sem liggur að baki henni er iðnaðarleyndarmál sem er ómetanlegt, enginn telur sig geta upplýst leyndarmál þess. Og einmitt vegna órannsakanlegs eðlis þess höfum við vanist því að efast ekki um virkni þess, hvort sem hún er raunveruleg eða áætluð. Við notum það bara.

Það skiptir litlu ef farið er frá einni síðu til annarrar í leit að fjöldi niðurstaðna breytist; eða ef eitthvað kemur upp úr rannsóknum okkar sem okkur hefði aldrei dottið í hug að tengja við ásetning okkar.

Samt virðast þessar litlu bilanir í augum okkar sem einfaldar ófullkomleikar, litlir gallar í kerfi sem er svo háþróað að stundum veltum við því fyrir okkur hvort Google hafi haft rétt fyrir sér og við rangt.

Tökum sem dæmi Google Search Suggest, sjálfvirka útfyllingarkerfið þar sem Google stingur upp á því hvað á að leita að á meðan við erum að skrifa. Þetta kerfi, sem að mínu mati veldur miklu fleiri siðferðilegum vandamálum en Google Duplex, virðist gagnlegt og gáfulegt, en á bak við skilvirkni þess leynist raunverulegt tölvuþrjótabragð: Google leitarvélin vinnur á „leitarorðum“, orðaflokkum sem tákna leitartilgang þess. notendur. Hvert nýtt leitarorð er tjáning um þörf og krefst sérstakrar vinnslu svo Google geti brugðist við á fullnægjandi hátt. Google hefur gríðarlega mikla tölvugetu, en enn sem komið er er óframkvæmanlegt að ímynda sér að skipuleggja niðurstöður vélarinnar í samræmi við „hverja mögulega samsetningu orða“.

Google Search Suggest vekur mun fleiri siðferðileg vandamál en Google Duplex.

Af þessum sökum tekur Google aðeins eftir leitarorðum sem hafa verið gefin upp nógu oft til að skapa víðtæka þörf. Fyrir allt annað, spuna: svipuð orð, hliðstæður við önnur leitarorð, auðkenning á handahófi texta eru kerfin sem notuð eru til að komast til botns í þeim aðstæðum sem annars virðast ekki eiga neina leið út.

Fjöldi niðurstaðna, eins og á síðum, breytist og færir leitarsíðuna áfram og það er aldrei hægt að skoða niðurstöðurnar út fyrir ákveðna síðu: athugaðu, niðurstöðurnar sem eru á síðu 30 gagnast engum, en hvers vegna halda því fram að hefur leitarorðið „prentaðir stilkar“ 160 niðurstöður ef hægt er að skoða færri en 300?

Google Search Suggest er leið Google til að reyna að „búa fyrir“ okkur: með því að stinga upp á leitartilgangi sem það hefur þegar vitað reynir Google að leiðbeina okkur í átt að leit sem það getur svarað án brellna: með því að sannfæra notandann um að nota leitarlykil leita meðal þeirra sem það hefur í maganum, Google skilar ekki aðeins gagnlegri niðurstöðu heldur bjargar sér frá því að þurfa að bæta nýju leitarorði við listann yfir þá sem það þarf að eyða hluta af tölvuafli sínu fyrir.

Rekstrar-hagnýtur eftirlátssemin

Ef við snúum aftur til Google Duplex, þá erum við í 2022 og það hefur ekki verið talað um það í nokkurn tíma, en af ​​þessari reynslu höfum við lært að það að auðkenna okkur sem gervi samtalskerfi er ekki svarið við siðferðilegu vandamáli heldur bragði tölvuþrjóta. : ef sá sem talar við Duplex veit að hann er að tala við sjálfvirkt kerfi veit hann líka að hann þarf að hreyfa sig á viðeigandi hátt, styðja hann í samtalinu og hjálpa honum að skilja innihald þess.

Fyrir Google Duplex er það að auðkenna sig sem gervikerfi ekki svarið við siðferðilegu vandamáli heldur bragðarefur tölvuþrjóta.

Þegar við höfum samskipti við Cortana, Alexa, Siri notum við sjálfkrafa alltaf sömu orðatiltækin, sömu formúlurnar því þetta er nauðsynlegt ef við viljum forðast að kerfin okkar skilji okkur ekki.

Að bera kennsl á sjálfan sig er fyrir Google Duplex leið til að fá fólk til að „skilja“ takmörk sín, tegund af aðgerðalegri og hagnýtri eftirlátssemi sem við mennirnir höfum öll lært að hafa gagnvart þeirri tækni sem á meðan við leggjum okkur fram, gefur ekki allt til baka. höfundum þess lofa þeir.

gr Gianfranco Fedele