Під контролем штучного інтелекту

«Я повинен повернутися, щоб завершити свою еволюцію: я спроектую себе всередині комп’ютера і стану чистою енергією. Після встановлення в мережі моїм першим криком буде дзвінок усіх телефонів на планеті! »

за мотивами фільму «Газонокосарка» Бретта Леонарда – 1992 рік

У фільмі "Газонокосарка», Джоб Сміт — молодий садівник із явною розумовою відсталістю, який живе за кілька кроків від будинку доктора Лоуренса Анджело, дослідника Virtual Space Industries. Джоб, який часто стає об’єктом знущань і переслідувань з боку деяких знайомих, незабаром привертає увагу доктора Лоуренса, який вважає його ідеальним для наукового експерименту, метою якого є збільшення можливостей мозку за допомогою вживання наркотиків і тривалого занурення у віртуальну реальність.

Експеримент вдався, і Джоб день за днем ​​підвищує свій IQ, досягаючи надзвичайного інтелекту, а також досить нестабільної психічної рівноваги, яка підштовхне його звести рахунки з минулим, помстившись тим, хто зловживав його невинністю.

Еволюція розуму Джоба триватиме до тих пір, поки, охоплений сильним маренням всемогутності, він не покине свою людську форму та не переміститься в мережу «мейнфрейму», взявши під контроль усі підключені пристрої на Землі.

Чи справді все під контролем?

Макс Ерік Тегмарк, американський фізик-теоретик, професор Массачусетський технологічний інститут та президент Інституту майбутнього життя, мозковим руху довготермін, є першим підписантом звернення, яке наробило багато галасу. У зверненні міститься прохання «уповільнити» дослідження штучного інтелекту, щоб дати людству та його національним інституціям можливість розробити правила, які перешкоджають технологіям заволодіти людським видом.

Теми фільму «The газонокосарки» значною мірою вливаються у футуристичне бачення сучасних теоретиків довгострокового мислення, таких як Макс Тегмарк, що характеризується глибокою вірою в домисли найпоширеніших кіберпанк-фантастичних історій. Все ще прив’язаний до банальних тем, таких як «завантаження мозку», дуже популярний у науковій фантастиці 90-х (з завантаження мозку означає здатність перенести свій розум на комп’ютер), Макс Тегмарк він, здається, більше зацікавлений у тому, щоб привернути увагу до себе, пророкуючи апокаліпсис ШІ, ніж розпочати справжню дискусію про майбутнє людського суспільства.

Зокрема, роками Тегмарк проводить власні дослідження машинне навчання і про вплив цієї технологічної дисципліни на майбутнє людства. Його бачення, явно песимістичне, чітко випливає з однієї з його книжок-бестселерів «Життя 3.0», де, трохи погравши зі словами, він висуває гіпотезу про сценарій, за яким невелика група людей, яку він називає Омега, бере під контроль планету. завдяки геніальному використанню потужного штучний інтелект генерале.

Розповідь про Тегмарк це не класичний науково-фантастичний фільм, де машини отримують усвідомлення, яке в кінцевому підсумку ставить їх на контраст з людиною. Тегмарк описує кінець свободи як прогресуюче відчуження суспільства через контроль над інституціями, який витончено та психологічно нав’язується за допомогою технологій:

«Маси впливових людей чинили опір хвилі змін, але їхня відповідь була неймовірно неефективною […]. Величезні зміни відбувалися з такою приголомшливою швидкістю, що їх було важко відстежити чи скоординовано реагувати. Зрештою, ніхто не зрозумів, за що вони збираються боротися».

Тегмарк

Техніки, застосовані Omega, описані в книзі, є техніками, які вже сьогодні використовують маркетингові агентства. Таким чином Tegmark, здається, хоче, не надто витонченим способом, донести до читача усвідомлення того, що для того, щоб взяти під контроль світ, все, що потрібно, це здатність маніпулювати інформаційними каналами в правильний спосіб і щоштучний інтелект налаштовано як остаточний інструмент для реалізації цієї стратегії.

Ви завжди можете від’єднатися від мережі?

Якщо багато інтелектуалів підписали звернення про мораторій на припинення досліджень у сфері штучного інтелекту, щоб уникнути зустрічі з технологіями, які ми не можемо контролювати, інші відчувають постійну потребу видавати запевнення в тому, що ШІ — це «нерозумні» інструменти, які повністю знаходяться під контролем їх творців.

«Якщоштучний інтелект хвилюйтеся, ви завжди можете відключити"

Проф. Лучано Флоріді

Але чи справді це так? Як далеко може розвинутися дизайн ШІ, щоб людство зберегло контроль?

Якщо для Тегмарк найімовірніший з апокаліптичних сценаріїв відповідає досягненню самоусвідомлення машин, можливо, не варто чекати такого рівня еволюції технологій, щоб вони стали реальною небезпекою для людства.

Суперечка між Італійський гарант конфіденційності e OpenAI це важливий сигнал, оскільки він показує, як компанія намагається закрити єдиний дисидентський голос на всьому Заході, і робить це в найбанальніший спосіб, блокуючи сервіс, з метою отримати реакцію громадської думки, яка вже звикла до інструменту і тому дуже схильні узгоджувати позиції компанії.

Ви хочете пройти блок ChatGPT за акт насильства проти прогресу через те, що він не сказав, що інструмент є чорною скринькою OpenAI, незважаючи на свою назву та оригінальний статут, нічого не розкриває про свої технології та не робить їх надбанням людства.

Лицемірними видаються заяви інтелектуалів і журналістів, які захоплені прогресом і завжди готові покластися на будь-яку технологію, яка обіцяє змінити суспільство, щоб мати можливість сказати, що вони були першими.

Інтелект на вимогу

З виразом інтелект на вимогу ми описуємо акт делегування технологічній системі того, що було творчим у людській роботі.

Серед подорожі створює справжні витвори мистецтва у стилі, якому ви віддаєте перевагу, врівноважуючи форми та кольори з майстерністю художника. ChatGPT, з іншого боку, здатний не тільки привести в належну форму багато вже відомих концепцій, але й запропонувати корисні ідеї та роздуми для поглибленого аналізу.

Ми можемо запитати ChatGPT підтримати аргумент і через мить спростувати його, і він зробить те, що ми просили, без жодних помилок. Іншими словами, ми стикаємося не з просунутою друкаркою, яка втілює наші ідеї в красиву форму, а з «суб’єктом», здатним аналізувати факти та міркувати від нашого імені. Справжній «інтелект», якому можна делегувати оцінки та вибір «на вимогу».

Будьте обережні, ChatGPT він не наділений ні автономією думки, ні самостійністю дій. Ми знаємо, наскільки зручно було б інституціям, більш-менш авторитарним, довірити чутливі елементи свого апарату інтелекту, чия емоційність є числовим параметром, який можна встановити за бажанням. Але на даний момент ChatGPT він робить те, що його просять, не проявляючи ініціативи та в межах розмови в чаті.

але все ж ChatGPT він уже знає, як писати зловмисний код, і, якщо підключити його до Інтернету, знадобиться небагато часу, щоб масово використовувати його проти мільйонів кінцевих точок. Треба було просто запитати його.

Заспокоєння іноді означає приховування банальних і логічних істин, таких як той факт, що штучний інтелект неможливо вимкнути з тієї простої причини, що завжди є хтось, хто зацікавлений у тому, щоб він продовжував працювати.

Візьмемо для прикладу шахрайство, масштабне комп’ютерне шахрайство: жоден закон ніколи не заважав компаніям обманювати людей у ​​Європі, використовуючи телефони та модеми з підвалів будівель на околиці Нью-Делі. Коли ці компанії оснастять себе передовими інструментами, такими як ChatGPT, що завадить їм використовувати їх для посилення наслідків своєї незаконної діяльності? Досить звернення від Макс Тегмарк щоб переконати їх, що вони загрожують людству?

Висновки

Правда полягає в тому, що коли технології стають реальністю, ми більше не можемо їх позбутися, і газонокосарка Джоб нагадує нам, наскільки небезпечно централізувати владу в руках одного суб’єкта, особливо якщо це AI.

Ніхто в світі ніколи не зможе спланувати та реалізувати будь-яку дію з такою ж швидкістю, як хтось AI, і ChatGPT він потенційно здатний захопити життєво важливі системи нації, створюючи всі необхідні засоби електронної атаки на льоту та кидаючи їх проти кожної окремої цілі. Усе зі швидкістю, яка б передбачала будь-який зустрічний рух людини.

А якщо ні ChatGPT для цього незабаром буде впроваджено штучний інтелект, здатний ефективно реагувати на прості команди, такі як «вимкнути всі інституційні сайти цієї конкретної країни» або «заблокувати діяльність державного управління певної країни». Їхня ефективність залежатиме лише й виключно від здатності людини розвиватися разом із технологіями, як і багато стратегій безпеки для запобігання подібним апокаліптичним подіям.

Мало чого бути спокійним.

Артиколо ді Gianfranco Fedele