Identifikatsiya axloqiy tamoyil emas, balki iflos hiyla!

Loyiha ustida ish boshlaganimdan beri Layla, biznesga bag'ishlangan suhbat agentini qo'llab-quvvatlash uchun sun'iy intellekt ekotizimidan, men AI rivojlanish va innovatsiyalar uchun ulkan imkoniyatlarni taqdim etishini bilib oldim, ammo undan foydalanishga da'vo qiluvchi kompaniyalarning aksariyati, afsuski, oddiy marketing strategiyasini amalda qo'llashmoqda.

Google Duplex-ning virusli videosi

Dunyoga taqdim etilishi bilanoq, Google Duplex darhol Internetning e'tiborini tortdi. davomida taqdim etilgan Google IoT 2018, Sun'iy intellektga asoslangan ushbu texnologiya o'z foydalanuvchisi nomidan sartaroshxonada seans va restoranda stolni bron qilish niyatida insonni taqlid qilishga muvaffaq bo'lib, ikkala biznes bilan ham telefon orqali suhbatlashishni ta'minlaydi.

Video demo ko'pchilik uchun bo'lsa ham haqiqiy ko'rinadi bu soxta. Albatta, juda murakkab ko'rinadigan suhbatlar, agar ular mohirlik bilan yig'ilmagan bo'lsa, albatta, ko'p urinishlar va ozgina omad natijasidir: ikkita muvaffaqiyatli telefon qo'ng'irog'ida biz yana qancha Google Duplexlari muvaffaqiyatsizlikka uchraganini bilmaymiz.

Taqdimotning ta'siri menga Amazonning 2013 yilda Youtube-dagi videosi bilan dunyoga taqdim etgan ajoyib nutqini eslatadi. Amazon PrimeAir, dronlarga asoslangan innovatsion yetkazib berish tizimi; bu inqilobiy tizim, ko'p yillar o'tib, hali ham tajriba bosqichida va biz oddiy odamlar, topilgan bu ilmiy fantastika "barchasi" oxir-oqibat virusli videolarni yaratishning yangi usuli degan fikrga o'rganib qolganmiz.

Google Duplex-da meni hayratga solgan narsa, video chop etilganidan bir necha soat o'tgach paydo bo'lgan va eng muhim onlayn gazetalar tomonidan darhol qayta ishga tushirilgan go'yo axloqiy savol atrofida yig'ilgan kichkina teatr edi. Muxtasar qilib aytganda, ba'zilarning fikriga ko'ra: inson xatti-harakatlarini taqlid qiluvchi sun'iy intellekt, agar ular o'z tabiatini yashirsa va o'zini odamdek ko'rsatsa, axloqiy muammo tug'diradi.

Google javobining surati: "Dupleks suhbatdoshingiz uchun darhol aniqlanishi mumkin".

Keling, bir qadam orqaga qaytaylik

Google bizni har doim o'z texnologiyalaridan foydalanishga o'rganib kelgan, ular qanday yaratilgani va qanday ishlashini hech qachon oshkor etmaydi. Uning qidiruv tizimi ushbu falsafaning vakili: asosiy algoritm - bebaho qiymatga ega sanoat siridir, hech kim o'zini uning sirlarini ochishga qodir deb hisoblamaydi. Va aynan uning tushunib bo'lmaydigan tabiati tufayli biz uning samaradorligiga shubha qilmaslikka odatlanib qolganmiz, xoh haqiqiymi, xoh taxmin qilingan. Biz shunchaki foydalanamiz.

Qidiruvning bir sahifasidan ikkinchi sahifasiga o'tishda natijalar soni o'zgarishi muhim emas; yoki tadqiqotimiz natijasida niyatimiz bilan bog'lanamiz deb o'ylamagan narsamiz paydo bo'lsa.

Shunga qaramay, bu kichik nosozliklar bizning ko'zimizga shunchaki nomukammallik, shu qadar murakkab tizimdagi kichik nuqsonlar sifatida ko'rinadiki, ba'zida biz Google haq va biz noto'g'ri ekanligiga shubha qilamiz.

Masalan, Google Search Suggest-ni oling, bu avtomatik to'ldirish tizimi orqali Google biz yozish paytida nimalarga e'tibor berishni taklif qiladi. Men uchun Google Duplex-dan ko'ra ko'proq axloqiy muammolarni keltirib chiqaradigan ushbu tizim foydali va aqlli ko'rinadi, ammo uning samaradorligi ortida haqiqiy xakerlarning hiylasi yashiringan: Google qidiruv tizimi "kalit so'zlar", qidiruv maqsadini ifodalovchi so'zlar guruhlari ustida ishlaydi. uning foydalanuvchilari. Har bir yangi kalit so'z ehtiyojning ifodasidir va Google etarli darajada javob bera olishi uchun maxsus ishlov berishni talab qiladi. Google juda katta hisoblash kuchiga ega, ammo bugungi kunda o'z dvigatelining natijalarini "har qanday mumkin bo'lgan so'z birikmasi" bo'yicha tashkil qilishni tasavvur qilish mantiqiy emas.

Google Search Suggest Google Duplexga qaraganda ko'proq axloqiy muammolarni keltirib chiqaradi.

Shu sababli, Google faqat keng tarqalgan ehtiyoj bo'lish uchun etarlicha marta ifodalangan kalit so'zlarga e'tibor beradi. Qolgan hamma narsa uchun u improvizatsiya qiladi: o'xshash so'zlar, boshqa kalit so'zlar bilan o'xshashliklar, tasodifiy matnlarni identifikatsiyalash - bu hech qanday chiqish yo'li bo'lmagan vaziyatlarni hal qilish uchun qo'llaniladigan tizimlar.

Natijalar soni, masalan, sahifalar soni, qidiruv sahifasini oldinga siljitish orqali o'zgaradi va siz hech qachon natijalarni ma'lum bir sahifadan tashqarida tekshira olmaysiz: aniq aytaylik, 30-sahifadagi natijalar hech kimga foyda keltirmaydi, lekin nima uchun "Bosilgan novdalar" kalit so'zi 160 dan kam ko'rish mumkin bo'lsa, 300 XNUMX ta natijaga egami?

Google Search Suggest - bu Google "bizni oldindan ko'rishga" harakat qiladigan usul: o'ziga ma'lum bo'lgan qidiruv maqsadini taklif qilish orqali Google bizni hiyla-nayranglarsiz javob beradigan qidiruvga yo'naltirishga harakat qiladi: foydalanuvchini kalitdan foydalanishga ishontirish. Google nafaqat foydali natijani qaytaradi, balki hisoblash quvvatining bir qismini sarflashi kerak bo'lganlar ro'yxatiga yangi kalit so'z qo'shishdan o'zini qutqaradi.

Operatsion-funktsional indulgentsiya

Google Duplex-ga qaytadigan bo'lsak, biz 2022 yildamiz va biz bu haqda bir muncha vaqt gaplashmadik, ammo bu tajribadan biz sun'iy suhbat tizimi sifatida identifikatsiya qilish axloqiy muammoga javob emas, balki xakerlik hiylasi ekanligini bilib oldik: Duplex bilan suhbatlashish, u avtomatlashtirilgan tizim bilan gaplashayotganidan xabardor, shuningdek, u adekvat harakat qilish kerakligini biladi, suhbatda uni qo'llab-quvvatlaydi va uning mazmunini tushunishga yordam beradi.

Google Duplex uchun sun'iy tizim sifatida identifikatsiya qilish axloqiy muammoga javob emas, balki xakerlik hiylasidir.

Biz Cortana, Alexa, Siri bilan gaplashganimizda, biz doimo bir xil iboralarni, bir xil formulalarni ishlatamiz, chunki bu bizning tizimlarimiz tomonidan tushunilmasligini istasak, juda muhimdir.

Google Duplex uchun identifikatsiya - bu odamlardan o'z chegaralarini "tushunish" usuli, biz hammamiz o'rgangan operatsion-funktsional indulgensiya shakli bo'lib, bu texnologiyaga sa'y-harakatlar qilib, hamma narsani qaytarib bermaydi. ular va'da qilgan ijodkorlar.

Ning maqolasi Gianfranco Fedele