З того самого, що й мрії
«Сем і Клер разом відкрили цю технологію, але потім розійшлися. Вони ігнорували один одного. Вони нехтували один одним. Мрії, які зникають після першого позіхання, стали їхньою єдиною дієтою, дедалі концентрованішою. […] Вони блукали втраченими світами, емоції та образи збігалися із забутим минулим. Мрії перетворилися на чорні діри ізоляції, і зрештою вони взагалі втратили зв’язок із реальністю». – «До кінця світу» Віма Вендерса – 1991 рік
«До кінця світу» Віма Вендерса, показаний у кінотеатрах у 1991 році, але дія якого відбувається у 1999 році, сміливо намагається передбачити найближче майбутнє, представляючи деякі події, які шокують його та змінять хід історії.
Приголомшливі події, про які розповідає Вендерс, — це не катастрофічні події, а скоріше ледве помітні складки історії, яким судилося спровокувати, як ефект метелика, епохальні, а часом і драматичні зміни в житті людей. Ми все ще далекі від 2000-х і нинішнього взаємопов’язаного суспільства, але Вендерс, схоже, розуміє той факт, що в межах і без того нестабільного соціального балансу невеликі трансформації можуть змінити весь хід подій.
Мрії
Серед цих подій — винахід пристрою, здатного збирати сни людей під час сну, а потім проектувати їх на портативний екран, який за всіма ознаками виглядає як планшет. Можливість знову пережити свої мрії через образи, іноді розмиті, а іноді чіткі, для деяких стає новою формою залежності. І Клер разом зі своїм партнером Семом опиниться в безодні цієї нової одержимості, з якої вони, можливо, вже ніколи не вийдуть.
Вендерс описує небезпеку пристрою як прямий наслідок людського стану наприкінці двадцятого століття: глобальне суспільство, яке, здається, позбавлене своїх культурних орієнтирів і характеризується нестабільною рівновагою, яка робить життя людей небезпечними, щоб сказати найменший. Саме в словах Клер ми знаходимо цікаву точку спостереження цього явища. Клер описує досвід Гаррі як зумовлений горем смерті його дружини: «Я зрозуміла, чому Гаррі намалював ці образи зі своїх мозкових хвиль. Дружина існувала лише в його мріях, він шукав її там і там знайшов. Точніше, не вона, а пам’ять про неї та її постать».
Сан і Клер
Історія Гаррі нагадує про персонажа Кріса Кельвіна, головного героя Solaris чия пам'ять про дружину матеріалізується в альтернативній реальності, з якої він ніколи не повернеться. І саме пошуки щастя, на думку Вендерса, спонукають Сема та Клер шукати притулку у своїх мріях, місцях спокою та стабільності, де вони повертають у свідомість спогади, запхані глибоко всередині себе.
Таким чином Сем і Клер потрапляють у певне замикання, де мрії повертаються на поверхню, але лише для того, щоб їх переживати знову і знову, якщо щось маніпулює ними в нарцисичний делірій, який призведе до самознищення: «Щоразу, коли я потрапляю туди з сон це все плутає. Я хочу знову помріяти про це, щоб краще визначити. Насправді я можу спрямувати це в інше русло».
Емоційна сила генеративного ШІ
«Qualcuno può spiegarmi perché le immagini generate dall’штучний інтелект sono così simili ai sogni… senza spaventarmi a morte?» – Hank Green in un tweet del 9 lug 2022
Da sempre le immagini generate dall’штучний інтелект mi riportano alla mente i sogni. Credo ciò sia dovuto fondamentalmente ad una caratteristica che li accomuna: se ad una prima occhiata le immagini generate dall’AI trasmettono chiaramente il senso di cosa esse vogliano rappresentare, se si fa attenzione si scopre che gli алгоритм generativi trascurano molto i dettagli.
Зображення, створені генеративним штучним інтелектом, завжди представляють чіткий і впізнаваний предмет, але характеризуються очевидними проблемами у відображенні найбільш маргінальних деталей: безглузді тексти, порушення перспективи та об’єкти, які порушують закони фізики, є елементами, що характеризують ці творіння. Іншими словами, генеративний ШІ, здається, здатний створити щось, що «сприймається» як реальне, але має великі проблеми з представленням самої реальності.
Елементи, що характеризують образ і які ми могли б визначити як «емоційні», стають центральними у творіннях ШІ, де фізика тіл стає другорядним і незначним елементом. Таким чином виходить емоційний вплив, який зникає після ретельного і майже завжди невтішного огляду зображення.
Парадокс
Ми стикаємося з очевидним парадоксом: технологія, яку більшість описує як прикладну математику, абсолютно неспроможна створювати творчі роботи, виявляється дуже здатною захоплювати, але майже зовсім нездатною застосовувати правила логіки.
Мабуть, генеративний ШІ не володіє тією частиною людського інтелекту, яка перевіряє правильне застосування правил фізики, але вони здатні вивчати стилі та форми, типові для світу мистецтва та творчості. Іншими словами, їм бракує «принципу реальності», який допомагає їм представити світ, який поважає закони фізики, але вони здатні генерувати зображення, де всі елементи зберігаються в ідеальному естетичному балансі.
Сказане стосується як штучного інтелекту, який створює зображення, так і тексту. Генеруючий штучний інтелект, який створює текстовий вміст, такий як ChatGPT, навчений створювати плавні та плавні тексти, наділені безсумнівною силою спонукання, але навіть у цьому випадку те, що представлено, не завжди є правдивим.
Найбільший страх
«Я найбільше боюся, що галузь штучного інтелекту дійсно може завдати шкоди світу. Якщо ця технологія йде в неправильному напрямку, вона стає справді неправильною», – сказав Сем Альтман, генеральний директор OpenAI, у заяві від 16 травня 2023 року.
Здається, генеративний штучний інтелект працює як людський розум, коли він мріє, вони створюють щось абсолютно нове в процесі, який рухається між сноподібним і концептуальним і який ігнорує правду фактів. Генеративний штучний інтелект обирає розповідь як першу й основну мету спілкування, відсуваючи правду на другий план.
Створення правдоподібних, але не обов’язково правдивих образів і текстів ставить все людське суспільство перед небезпекою безпрецедентного маніпулювання інформацією. Якщо вперше прославлявся прямий доступ до інформації і на цьому новонародженому універсальному праві будувалися політичні рухи з революційним присмаком, то сьогодні навіть ті, хто веде бізнес із генеративним штучним інтелектом, не втрачають нагоди попередити суспільство про можливе його неналежне використання. Це випадок Сема Альтмана, генерального директора OpenAI.
Небезпека посилюється тим фактом, що кожен має можливість отримати доступ до цих технологій і не потрібні значні інвестиції для створення неправдивих новин, які супроводжуються зображеннями, які їх найкраще представляють.
Багато хто не помічає того, що небезпека здається ще більшою, якщо взяти до уваги переконливість інформації, створеної штучним інтелектом, її силу спонукання, здатну найкраще стимулювати відчуття спостерігача, як у сновидінні.
Цей поворот гуру технологічних інновацій говорить про те, що, можливо, нам варто повернутися до контролю над інформацією. Не контроль, який маніпулює нею та підкоряє її упередженим політичним інтересам, а засвідчує її правдивість через сертифікований ланцюжок поставок операторів зі світу видавничої справи та журналістики.
Тим часом світ реклами та маркетингу вже сповнений зображень і текстів, створених штучним інтелектом, підробок, настільки реалістичних, що вони видаються за справжні у світі інформації, якому, здається, судилося стати повністю штучним.
Артиколо ді Gianfranco Fedele
