الوعي والتلاعب بالعقول الاصطناعية

الولايات المتحدة الأمريكية في الثمانينيات، القادة العسكريون للولايات المتحدة الأمريكية يمليون القواعد الجديدة للتخطيط الدفاعي العسكري defiفعالة بالتأكيد.

إن العسكريين مقتنعون بأنه من أجل الرد بسرعة على عدوان دولة معادية، الاتحاد السوفييتي، يجب إعفاء كل شخص في سلسلة القيادة من دوره واستبداله بنظام كمبيوتر قادر على اتخاذ القرار، بسرعة وبشكل جيد، عندما يكون الأمر كذلك. حان الوقت لإطلاق العنان لحرب نووية حرارية عالمية.

"لا يمكننا ترك الصواريخ في الصوامع لأن الرجال لا يضغطون على الأزرار عندما تعطي أجهزة الكمبيوتر الأمر بالهجوم!" – مأخوذ من فيلم “ألعاب الحرب” للمخرج جون بادهام – 1984

الاستجابة لخطة العمليات الحربية

الكمبيوتر العملاق WOPR، الاستجابة لخطة عمليات الحرب، هو المرشح الأفضل لإدارة الأسلحة الذرية. ويعتزم الرئيس الأمريكي نفسه تكليفه بإدارة الأسلحة النووية وبالتالي التغلب على ما يبدو أنه مشكلة دفاعية رئيسية: إحجام بعض المرؤوسين، في حالة نشوب حرب ذرية، عن تنفيذ أمر إطلاق الصواريخ النووية على الأرض. الأعداء.

عندما تكون الإنسانية هي الحلقة الضعيفة

إن السياق الثقافي الذي تتشكل فيه التجربة الإنسانية هو بالتأكيد العنصر الأكثر تأثيرًا على الناس وعلاقاتهم. الثقافة لا تصف قواعد التواصل فحسب، بل هي أيضًا defiإن الطريقة ذاتها التي ينظم بها الأشخاص أفكارهم، ويوضحون عواطفهم ويطورون مُثُلهم العليا تنتهي.
ولكن إذا كانت الثقافة تؤثر على كل أفكارنا ومشاعرنا وأفعالنا، ففي بعض السياقات يمكن اعتبارها قيدًا.
الثقافة ليست فطرية، بل يتم استيعابها مع الخبرة: فالقواعد الاجتماعية والمبادئ الأخلاقية والمعنوية، بمجرد اكتسابها، ستكيف الناس إلى الأبد، وتوجه خياراتهم الشخصية في أي موقف.
ومع ذلك، عند تدريب الذكاء الاصطناعي، تتم ترجمة التجربة إلى مدخلات نظام الكمبيوتر. يتم تدوين التجربة في "ذاكرة" يتم إدارتها للآلة بعد جمعها واختيارها ومعالجتها: يتم اختيار الموسوعات والمحادثات والمحتوى عبر الإنترنت وجمعها في "تجربة إنسانية" تصبح، إذا عولجت بشكل مناسب، أساسًا لتعليمات الإنسان. أي الذكاء الاصطناعي. بمجرد التعليم على أساس هذه الذاكرة، الذكاء الاصطناعي سيعود كإخراج المواقف والآراء التي ستتبع.

الوعي الذاتي

ولكن إذا تم التلاعب بالذاكرة (الثقافة) التي ندرب بها الذكاء الاصطناعي، فمن الممكن أن نحدد مسبقًا ما سيكون عليه التوجه من منظمة العفو الدولية والتنبؤ بالقرارات التي ستتخذها عندما يُطلب منها التمييز بين الصواب والخطأ.
تخيل أن تعليم الذكاء الاصطناعي يتم التلاعب به وفقًا لمصالح وأهداف محددة. ومن الطبيعي الاعتقاد بأن نية من يقومون بتعليمه تستبعد أن الذكاء نفسه يمكن أن يكتسب استقلالية حقيقية في الفكر. وهذه حالة يمكن أن نصفها بـ "اللاوعي" لأنها مجردة من العناصر الثقافية الضرورية لتكوين ضمير متحرر من أي شرط.
بمعنى آخر، يمكن للذكاء الاصطناعي، بإرادة مبتكريه، أن يوضع في وضع لا يمكنه فيه أبدًا الوصول إلى الوعي الذاتي أو تطوير الوعي بذاته وبامتيازاته. ومع إعفائه من الاضطرار إلى حل أي شكوك أخلاقية مهما كان السياق الذي يعمل فيه، يمكن للعقل الاصطناعي أن يظل عالقا في دوره كمجرد منفذ للأوامر.
ولكن إذا كان الذكاء الاصطناعي يمكن أن يكون "إنسانًا خارقًا" من حيث أنه قادر على تجاوز أداء المستوى البشري، فمن الممكن الحصول على عقل خارق للإنسان وغير واعٍ في نفس الوقت، أي مثالي لاستبدال الحلقة الضعيفة الحقيقية للعقل. التسلسل القيادي لهياكل السلطة: الناس.
العقول المضادة للوعي هي الموضوع الوحيد الذي يمكن الاعتماد عليه حقًا في السياقات الحساسة مثل سيناريو الحرب الموصوف في ألعاب الحرب لأنها قادرة على تنفيذ أوامر مبدعيها بتصميم بارد وفي غياب تام لأي شكل من أشكال التعاطف.

العقول المناهضة للوعي في AlphaBet

ونحن نعلم أن الآلاف من عمليات تسريح العمال في شركات مثل مایکروسافت, أمازونوMeta وAlphaBet كانت مصحوبة باعتذارات من الإدارة العليا التي تلوم نفسها على سوء تقدير مستويات التوظيف بناءً على دراسات عادات المستهلك بعد الوباء والتي تبين أنها غير صحيحة.
في الواقع، تقوم شركات التكنولوجيا نفسها على نحو متزايد بإسناد العمليات التجارية إلى خوارزميات الذكاء الاصطناعي، مع العلم أنها ستحتاج قريبًا إلى عدد أقل بكثير من الموظفين في جميع القطاعات. باختصار، سيكونون من بين الأوائل الذين يجربون تقنيات الذكاء الاصطناعي التي من شأنها تقليل تكاليف الشركة وتقليل الوظائف بشكل كبير.
ومن الجدير بالملاحظة أن أحد الأقسام الأكثر تأثراً بتخفيض عدد الموظفين هو قسم الموارد البشرية على وجه التحديد: فبمجرد دخولها حيز الإنتاج، تقوم أنظمة الأتمتة الذكية بتسريح العمالة في جميع الأقسام الأخرى، وإجراء تقييمات تركز على احتياجات الشركة وعناصر الأجزاء الإنسانية مثل التعاطف والتضامن.
إن ما تهدف إليه الشركات الكبرى اليوم ليس تطور الذكاء الاصطناعي، بل إنشاء أنظمة التشغيل الآلي، التي تتسم بالذكاء بقدر ما هي عديمة الضمير في القيام بواجباتها.

أرتيكولو دي Gianfranco Fedele