Świadomość i manipulacja sztucznymi umysłami

USA w latach 80. przywódcy wojskowi Stanów Zjednoczonych dyktowali nowe zasady planowania obrony wojskowej defizdecydowanie skuteczny.

Wojsko jest przekonane, że aby szybko zareagować na agresję wrogiego państwa, ZSRR, należy zwolnić każdą osobę w hierarchii dowodzenia i zastąpić ją systemem komputerowym zdolnym szybko i dobrze decydować, kiedy to nastąpi. czas rozpętać globalną wojnę termojądrową.

„Nie możemy zostawić rakiet w silosach, ponieważ ludzie nie naciskają przycisków, gdy komputery wydają rozkaz ataku!” – fragment filmu „Gry wojenne” Johna Badhama – 1984

Odpowiedź na plan operacji wojennej

Superkomputer WOPR, War Operation Plan Response, jest najlepszym kandydatem do zarządzania bronią atomową. Sam prezydent USA zamierza powierzyć mu zarządzanie bronią nuklearną i w ten sposób przezwyciężyć to, co wydaje się być głównym problemem obronnym: niechęć części podwładnych, w przypadku wojny atomowej, do wykonania rozkazu wystrzelenia rakiet nuklearnych na wrogowie.

Kiedy ludzkość jest słabym ogniwem

Kontekst kulturowy, w którym kształtuje się ludzkie doświadczenie, jest z pewnością elementem, który najbardziej wpływa na ludzi i ich relacje. Kultura nie opisuje tylko zasad komunikacji, ona ją opisuje defiKończy się sam sposób, w jaki podmioty organizują swoje myśli, rozwijają emocje i rozwijają swoje ideały.
Jeśli jednak kultura wpływa na każdą naszą myśl, uczucie i działanie, w niektórych kontekstach można ją uznać za ograniczenie.
Kultura nie jest wrodzona, ale jest asymilowana z doświadczeniem: reguły społeczne, zasady etyczne i moralne, raz nabyte, będą warunkować ludzi na zawsze, kierując ich osobistymi wyborami w każdej sytuacji.
Kiedy jednak szkoli się sztuczną inteligencję, doświadczenie przekłada się na dane wejściowe systemu komputerowego. Doświadczenie jest kodowane w „pamięci”, która po zebraniu, wybraniu i zmanipulowaniu jest podawana maszynie: encyklopedie, rozmowy, treści internetowe są wybierane i gromadzone w „ludzkim doświadczeniu”, które odpowiednio potraktowane staje się podstawą instrukcji jakiejkolwiek sztucznej inteligencji. Wychowany w oparciu o tę pamięć, AI zwróci jako wynik następujące stanowiska i opinie.

Samoświadomość

Jeśli jednak zmanipuluje się pamięć (kulturę), za pomocą której trenujemy sztuczne inteligencje, można a priori ustalić, jaka będzie orientacja AI i przewidzieć, jakie decyzje podejmie, gdy zostanie wezwany do rozróżnienia dobra od zła.
Wyobraźmy sobie, że edukacją sztucznej inteligencji manipuluje się według konkretnych zainteresowań i celów. Naturalnym jest przekonanie, że intencja tego, kto ją kształci, wyklucza, aby ta sama inteligencja mogła uzyskać rzeczywistą autonomię myślenia. Stan ten moglibyśmy określić jako „antyświadomy”, jako pozbawiony elementów kulturowych niezbędnych do kształtowania sumienia wolnego od jakichkolwiek uwarunkowań.
Innymi słowy, sztuczna inteligencja może, z woli jej twórców, zostać postawiona w stanie, w którym nigdy nie będzie w stanie osiągnąć samoświadomości ani rozwinąć świadomości siebie i swoich własnych prerogatyw. Uwolniony od konieczności rozstrzygania wszelkich wątpliwości moralnych, niezależnie od kontekstu, w jakim jest zastosowany, sztuczny umysł może utknąć w swojej roli zwykłego wykonawcy rozkazów.
Ale jeśli sztuczna inteligencja może być „nadludzka” w tym sensie, że jest w stanie przekroczyć poziom ludzki, możliwe jest uzyskanie umysłu zarówno nadludzkiego, jak i antyświadomego, tj. idealnego do zastąpienia rzeczywistego słabego ogniwa w łańcuch dowodzenia strukturami władzy: ludzie.
Umysły antyświadome są jedynym naprawdę wiarygodnym tematem w delikatnych kontekstach, takich jak scenariusz wojenny opisany w Grach wojennych, ponieważ są w stanie wykonywać rozkazy swoich twórców z zimną determinacją i przy całkowitym braku jakiejkolwiek formy empatii.

Antyświadome umysły AlphaBet

Dowiadujemy się, że tysiące zwolnień w firmach takich jak Microsoft, Amazonka, Meta i AlphaBet towarzyszyły przeprosiny ze strony najwyższego kierownictwa, które obwinia się za błędne obliczenie poziomu zatrudnienia na podstawie badań nawyków konsumenckich po pandemii, które okazały się błędne.
W rzeczywistości te same firmy technologiczne coraz częściej powierzają operacje biznesowe algorytmom sztucznej inteligencji, mając świadomość, że wkrótce będą potrzebowały znacznie mniej pracowników we wszystkich sektorach. Krótko mówiąc, będą jednymi z pierwszych, którzy będą eksperymentować z technologiami sztucznej inteligencji, które obniżą koszty biznesowe poprzez drastyczną redukcję miejsc pracy.
Znaczące jest, że jednym z działów najbardziej dotkniętych redukcjami personelu jest właśnie dział zasobów ludzkich: po wprowadzeniu ich do produkcji inteligentne systemy automatyki powodują zwolnienia we wszystkich pozostałych działach, dokonując ocen skupiających się na potrzebach firmy i elementach składowych humanizacji, takich jak empatia i solidarność.
Tym, do czego dziś dążą wielkie korporacje, nie jest ewolucja sztucznej inteligencji, ale stworzenie systemów automatyki, na tyle inteligentnych, jak pozbawionych skrupułów w wykonywaniu swoich obowiązków.

Artykuł z Gianfranco Fedele