Ідентифікація - це не етичний принцип, а капий трюк!
Відколи я почав працювати над проектом Лейла, екосистеми штучного інтелекту для підтримки розмовного агента, присвяченого бізнесу, я дізнався, що штучний інтелект пропонує величезні можливості для розвитку та інновацій, але більшість компаній, які стверджують, що використовують його, на жаль, втілюють у життя лише маркетингову стратегію.
Вірусне відео Google Duplex
Як тільки він був представлений світові, Google Duplex одразу привернув увагу мережі. Представлено під час Google IO 2018, ця технологія, заснована на штучному інтелекті, вдається імітувати людину, яка має намір від імені свого користувача забронювати сеанс у перукарні та столик у ресторані, підтримуючи з обома компаніями досить плавну телефонну розмову.
Демонстраційне відео виглядає справжнім, навіть якщо для багатьох це підробка. Безперечно, розмови, які здаються досить складними, якщо їх не було майстерно зібрано, є результатом багатьох спроб і частки удачі: під час двох успішних телефонних дзвінків ми не знаємо, скільки інших Google Duplexs, можливо, зазнали невдачі.
Ефект від презентації нагадує мені чудову розмову, яку Amazon зробив у 2013 році, представивши світові відео на Youtube Amazon Prime Air, інноваційна система доставки на основі дронів; ця революційна система, після багатьох років, все ще перебуває в експериментальній фазі, і ми, прості смертні, звикли до думки, що «всі» ці знайдені наукові фантастики зрештою є лише новим способом створення вірусних відео.
Що мене вразило в Google Duplex, так це маленький театр, зібраний навколо нібито етичного питання, яке вже було піднято через кілька годин після публікації відео та негайно повторно запущено найважливішими онлайн-газетами. Коротше кажучи, на думку деяких: штучний інтелект, який імітує людську поведінку, створює етичну проблему, якщо він маскує свою природу та прикидається людиною.
Знімок відповіді Google: "Дуплекс буде відразу ідентифікований вашим співрозмовником".
Зробимо крок назад
Google завжди привчав нас використовувати її технології, ніколи не розкриваючи, як вони створені та як працюють. Її пошукова система є представником цієї філософії: theалгоритм що лежить в основі промислової таємниці неоціненної цінності, ніхто не вважає себе здатним розкрити її таємниці. І саме через його незбагненну природу ми звикли не ставити під сумнів його ефективність, реальну чи припущену. Ми просто використовуємо це.
Не має значення, якщо при переході від однієї сторінки пошуку до іншої кількість результатів змінюється; або якщо в результаті нашого дослідження випливає щось таке, про що ми ніколи не думали, що будемо пов’язувати з нашим наміром.
Проте ці невеликі помилки здаються нашим очам просто недосконалістю, невеликими недоліками в системі, настільки складній, що іноді ми сумніваємося, що Google був правий, а ми помилялися.
Візьмемо, наприклад, Google Search Suggest, систему автозавершення, за допомогою якої Google пропонує, на що слід звернути увагу, поки ми пишемо. Ця система, яка для мене породжує набагато більше етичних проблем, ніж Google Duplex, здається корисною та розумною, але за її ефективністю приховується хитрість справжніх хакерів: пошукова система Google працює за «ключовими словами», групами слів, які представляють мету пошуку. своїх користувачів. Кожне нове ключове слово є вираженням потреби та вимагає спеціальної обробки, щоб Google міг адекватно реагувати. Google має надзвичайно велику обчислювальну потужність, але сьогодні непрактично уявити собі організацію результатів його механізму відповідно до «будь-якої можливої комбінації слів».
Google Search Suggest викликає набагато більше етичних проблем, ніж Google Duplex.
З цієї причини Google звертає увагу лише на ключові слова, які були висловлені достатньо разів, щоб бути широко поширеною потребою. Щодо всього іншого, він імпровізує: подібні слова, схожість з іншими ключовими словами, ідентифікація випадкових текстів – це системи, які застосовуються для вирішення тих ситуацій, які інакше з’являються без виходу.
Кількість результатів, як і сторінок, змінюється шляхом переміщення сторінки пошуку вперед, і вам ніколи не вдається переглянути результати за межами певної сторінки: давайте прояснимо, результати на сторінці 30 нікому не потрібні, але чому стверджувати, що чи має ключове слово "друковані стебла" 160 300 результатів, якщо можна переглянути менше XNUMX?
Google Search Suggest — це спосіб, у який Google намагається «передбачити нас»: пропонуючи вже відомі наміри пошуку, Google намагається спрямувати нас до пошуку, на який він може відповісти без хитрощів: переконуючи користувача використати ключ Google не тільки повертає корисний результат, але й позбавляє себе необхідності додавати нове ключове слово до списку тих, на які йому доведеться витратити частину своєї обчислювальної потужності.
Оперативно-функціональна індульгенція
Повертаючись до Google Duplex, ми живемо в 2022 році, і ми не говорили про це деякий час, але з цього досвіду ми зрозуміли, що визначення себе як штучної розмовної системи — це не відповідь на етичну проблему, а трюк хакера: якщо ті, хто спілкуватися з Duplex усвідомлює, що розмовляє з автоматизованою системою, він також знає, що повинен рухатися адекватно, підтримуючи його в розмові та допомагаючи йому зрозуміти її зміст.
Для Google Duplex визначення штучної системи — це не відповідь на етичну проблему, а трюк хакера.
Коли ми розмовляємо з Cortana, Alexa, Siri, ми завжди автоматично використовуємо ті самі вирази, ті самі формули, тому що це важливо, якщо ми хочемо, щоб наші системи не зрозуміли нас.
Ідентифікація для Google Duplex є способом отримати від людей «розуміння» своїх обмежень, формою операційно-функціональної поблажливості, яку всі ми, люди, навчилися відчувати до цієї технології, яка, докладаючи зусиль, не повертає все, що має творці вони обіцяють.
Артиколо ді Gianfranco Fedele
