Kesadaran dan manipulasi pikiran buatan

Amerika Serikat pada tahun 80-an, para pemimpin militer Amerika Serikat mendiktekan aturan baru untuk perencanaan pertahanan militer defisangat efektif.

Militer yakin bahwa untuk segera bereaksi terhadap agresi negara musuh, Uni Soviet, setiap orang dalam rantai komando harus dilepaskan dari perannya dan digantikan oleh sistem komputer yang mampu mengambil keputusan, dengan cepat dan baik, kapan saatnya tiba. untuk melancarkan perang termonuklir global.

“Kita tidak bisa membiarkan rudal berada dalam silo karena manusia tidak menekan tombol ketika komputer memberi perintah untuk menyerang!” – diambil dari film “Wargames” oleh John Badham – 1984

Respon Rencana Operasi Perang

WOPR, Respons Rencana Operasi Perang, superkomputer adalah kandidat terbaik untuk mengelola senjata atom. Presiden AS sendiri bermaksud untuk mempercayakan kepadanya pengelolaan senjata nuklir dan dengan demikian mengatasi apa yang tampaknya menjadi masalah pertahanan utama: keengganan beberapa bawahannya, jika terjadi perang atom, untuk melaksanakan perintah meluncurkan rudal nuklir ke musuh. .

Ketika kemanusiaan adalah mata rantai yang lemah

Konteks budaya di mana pengalaman manusia terbentuk tentunya merupakan elemen yang paling mempengaruhi manusia dan hubungannya. Budaya tidak membatasi dirinya pada deskripsi aturan-aturan komunikasi saja defiCara subjek mengatur pikirannya, memproses emosinya, dan mengembangkan cita-citanya telah ditentukan.
Namun jika budaya mempengaruhi setiap pemikiran, perasaan dan tindakan kita, dalam beberapa konteks hal itu dapat dianggap sebagai batasan.
Kebudayaan bukanlah sesuatu yang dibawa sejak lahir, namun diasimilasikan melalui pengalaman: aturan-aturan sosial, prinsip-prinsip etika dan moral, setelah diperoleh, akan selamanya mempengaruhi orang-orang, membimbing pilihan-pilihan pribadi mereka dalam situasi apa pun.
Namun, ketika melatih kecerdasan buatan, pengalaman tersebut diterjemahkan ke dalam masukan sistem komputer. Pengalaman dikodifikasikan dalam sebuah "memori" yang dimasukkan ke dalam mesin setelah dikumpulkan, dipilih, dan dimanipulasi: ensiklopedia, percakapan, konten online dipilih dan dikumpulkan dalam "pengalaman manusia" yang, jika diperlakukan dengan tepat, menjadi dasar pengajaran. kecerdasan buatan apa pun. Setelah dididik berdasarkan ingatan ini, AI akan kembali sebagai output posisi dan opini yang dihasilkan.

Kesadaran diri

Tetapi jika ingatan (budaya) yang kita gunakan untuk mengajar kecerdasan buatan dimanipulasi, maka dimungkinkan untuk menetapkan secara apriori apa orientasinya. dari AI dan memprediksi keputusan apa yang akan diambil ketika diminta untuk membedakan mana yang benar dan mana yang salah.
Bayangkan pendidikan kecerdasan buatan dimanipulasi menurut kepentingan dan tujuan tertentu. Adalah wajar untuk percaya bahwa niat orang-orang yang mendidiknya meniadakan kemungkinan kecerdasan itu sendiri memperoleh otonomi pemikiran yang sebenarnya. Ini adalah suatu kondisi yang dapat kita sebut sebagai “anti-sadar” karena tidak mengandung unsur-unsur budaya yang penting bagi pembentukan hati nurani yang bebas dari pengkondisian apa pun.
Dengan kata lain, kecerdasan buatan, atas kehendak penciptanya, dapat ditempatkan pada posisi di mana ia tidak akan pernah mencapai kesadaran diri atau mengembangkan kesadaran akan dirinya sendiri dan hak prerogatifnya sendiri. Dan karena tidak lagi harus menyelesaikan keraguan moral apa pun konteks penggunaannya, pikiran buatan dapat tetap terjebak dalam perannya sebagai pelaksana perintah belaka.
Namun jika kecerdasan buatan bisa menjadi "manusia super" karena mampu melampaui kinerja tingkat manusia, maka kita bisa mendapatkan pikiran yang bersifat manusia super dan anti-kesadaran, yaitu sempurna untuk menggantikan mata rantai lemah yang sesungguhnya. rantai komando struktur kekuasaan: rakyat.
Pikiran anti-sadar adalah satu-satunya subjek yang benar-benar dapat diandalkan untuk konteks sensitif seperti skenario perang yang dijelaskan dalam Permainan Perang karena mereka mampu melaksanakan perintah penciptanya dengan tekad yang dingin dan tanpa adanya empati dalam bentuk apa pun.

Pikiran anti-sadar dari Alphabet

Kami mengetahui bahwa ribuan PHK di perusahaan seperti Microsoft, Amazon, Meta dan AlphaBet disertai dengan permintaan maaf dari manajemen puncak yang menyalahkan diri mereka sendiri karena salah menghitung tingkat staf berdasarkan studi tentang kebiasaan konsumen pascapandemi yang ternyata tidak benar.
Kenyataannya, perusahaan-perusahaan teknologi sendiri semakin mempercayakan operasi bisnis mereka pada algoritma kecerdasan buatan (AI) karena mereka sadar bahwa mereka akan segera membutuhkan lebih sedikit karyawan di semua sektor. Singkatnya, mereka akan menjadi orang pertama yang bereksperimen dengan teknologi AI yang akan mengurangi biaya perusahaan dan mengurangi lapangan kerja secara drastis.
Penting untuk dicatat bahwa salah satu departemen yang paling terkena dampak dari pengurangan staf adalah departemen sumber daya manusia: sistem otomasi cerdas, setelah diproduksi, akan melakukan redundansi di semua departemen lainnya, melakukan penilaian yang mengutamakan kebutuhan perusahaan dan dari bagian unsur humanisasi seperti empati dan solidaritas.
Yang dituju oleh perusahaan-perusahaan besar saat ini bukanlah evolusi AI melainkan penciptaan sistem otomasi, secerdas apapun mereka yang tidak bermoral dalam menjalankan tugasnya.

Artikel dari Gianfranco Fedele