آگاهی و دستکاری ذهن مصنوعی

ایالات متحده آمریکا در دهه 80، رهبران نظامی ایالات متحده آمریکا قوانین جدیدی را برای برنامه ریزی دفاع نظامی دیکته می کنند. defiقطعا موثر

ارتش متقاعد شده است که برای واکنش سریع به تجاوزات یک کشور دشمن، اتحاد جماهیر شوروی، هر فرد در زنجیره فرماندهی باید از نقش خود خلاص شود و با یک سیستم کامپیوتری جایگزین شود که قادر به تصمیم گیری سریع و خوب در زمانی است که در آن لحظه است. برای به راه انداختن یک جنگ گرما هسته ای جهانی.

ما نمی‌توانیم موشک‌ها را در سیلوها بگذاریم، زیرا وقتی رایانه‌ها دستور حمله را می‌دهند، انسان‌ها دکمه‌ها را فشار نمی‌دهند!» – برگرفته از فیلم Wargames ساخته جان بادهام – 1984

پاسخ طرح عملیات جنگ

ابررایانه WOPR، War Operation Plan Response، بهترین نامزد برای مدیریت سلاح های اتمی است. خود رئیس جمهور آمریکا قصد دارد مدیریت تسلیحات هسته ای را به او بسپارد و از این طریق بر آنچه که به نظر می رسد اصلی ترین مشکل دفاعی است، غلبه کند: عدم تمایل برخی از زیردستان، در صورت وقوع جنگ اتمی، برای اجرای دستور پرتاب موشک های هسته ای به سمت دشمنان. .

وقتی انسانیت حلقه ضعیف است

زمینه فرهنگی که تجربه انسانی در آن شکل می‌گیرد قطعاً عنصری است که بیشتر بر افراد و روابط آنها تأثیر می‌گذارد. فرهنگ خود را به توصیف قواعد ارتباط محدود نمی کند، بلکه defiروشی که سوژه ها افکار خود را سازماندهی می کنند، احساسات خود را پردازش می کنند و ایده آل های خود را توسعه می دهند، تعریف شده است.
اما اگر فرهنگ بر هر اندیشه، احساس و عمل ما تأثیر بگذارد، در برخی زمینه ها می توان آن را محدودیت تلقی کرد.
فرهنگ ذاتی نیست، بلکه از طریق تجربه جذب می شود: قوانین اجتماعی، اصول اخلاقی و اخلاقی، پس از به دست آوردن، برای همیشه مردم را تحت تأثیر قرار می دهند و انتخاب های شخصی آنها را در هر موقعیتی هدایت می کنند.
با این حال، هنگام آموزش یک هوش مصنوعی، این تجربه به ورودی یک سیستم رایانه ای تبدیل می شود. تجربه در یک «حافظه» کدگذاری می‌شود که پس از جمع‌آوری، انتخاب و دستکاری در دستگاه مدیریت می‌شود: دایره‌المعارف‌ها، گفتگوها، محتوای آنلاین انتخاب شده و در یک «تجربه انسانی» جمع‌آوری می‌شوند که با درمان مناسب، مبنای آموزش قرار می‌گیرد. هر هوش مصنوعی زمانی که بر اساس این حافظه تربیت شد، هوش مصنوعی مواضع و نظرات حاصل را به عنوان خروجی برمی گرداند.

خودآگاهی

اما اگر حافظه (فرهنگی) که با آن هوش مصنوعی را آموزش می دهیم دستکاری شود، می توان به طور پیشینی تعیین کرد که جهت گیری چیست. از هوش مصنوعی و پیش‌بینی کند که وقتی از آن خواسته می‌شود که درست را از نادرست تشخیص دهد، چه تصمیمی خواهد گرفت.
تصور کنید که آموزش یک هوش مصنوعی بر اساس علایق و اهداف خاص دستکاری می شود. طبیعی است که باور کنیم نیت کسانی که آن را آموزش می دهند، امکان دستیابی خود هوش به استقلال فکری واقعی را منتفی می کند. این وضعیتی است که می‌توانیم آن را «ضدآگاهانه» توصیف کنیم، زیرا از عناصر فرهنگی ضروری برای شکل‌گیری وجدان فارغ از هرگونه شرطی‌سازی محروم است.
به عبارت دیگر، یک هوش مصنوعی را می‌توان با اراده سازندگانش در موقعیتی قرار داد که هرگز نتواند به خودآگاهی برسد یا نسبت به خود و امتیازات خود آگاهی ایجاد کند. و با رهایی از نیاز به حل هر گونه شبهه اخلاقی در هر زمینه ای که در آن به کار می رود، یک ذهن مصنوعی می تواند در نقش خود به عنوان یک مجری صرف دستورات گیر کند.
اما اگر هوش مصنوعی بتواند «فوق بشری» باشد، زیرا قادر به فراتر رفتن از عملکرد سطح انسانی است، می‌توان ذهنی را به دست آورد که هم فوق بشری و هم ضد خودآگاه باشد، یعنی برای جایگزینی پیوند ضعیف واقعی ایده آل باشد. زنجیره فرماندهی ساختارهای قدرت: مردم
ذهن های ضد خودآگاه تنها موضوع واقعا قابل اعتماد برای زمینه های حساس مانند سناریوی جنگ توصیف شده در بازی های جنگی هستند زیرا آنها قادرند دستورات سازندگان خود را با عزم سرد و در غیاب کامل هر شکلی از همدلی انجام دهند.

ذهن های ضد خودآگاه آلفابت

می آموزیم که هزاران اخراج در شرکت هایی مانند مایکروسافت, آمازون، Meta و AlphaBet با عذرخواهی مدیران ارشد همراه شدند که خود را به دلیل اشتباه در محاسبه سطح کارکنان بر اساس مطالعات عادات مصرف کنندگان پس از همه گیری که نادرست بودند، سرزنش کردند.
در واقعیت، خود شرکت‌های فناوری به طور فزاینده‌ای عملیات تجاری را به الگوریتم‌های هوش مصنوعی می‌سپارند، زیرا می‌دانند که به زودی به تعداد بسیار کمتری از کارکنان در همه بخش‌ها نیاز خواهند داشت. به طور خلاصه، آن‌ها جزو اولین کسانی خواهند بود که فناوری‌های هوش مصنوعی را آزمایش می‌کنند که هزینه‌های شرکت را کاهش می‌دهد و مشاغل را به شدت کاهش می‌دهد.
قابل توجه است که یکی از بخش هایی که بیشتر تحت تأثیر کاهش کارکنان قرار گرفته است دقیقاً بخش منابع انسانی است: سیستم های اتوماسیون هوشمند، پس از تولید، در حال تعدیل در سایر بخش ها هستند، ارزیابی هایی را انجام می دهند که نیازهای شرکت را در مرکز قرار می دهد و از بخشی از عناصر انسان سازی مانند همدلی و همبستگی.
آنچه امروزه شرکت‌های بزرگ به دنبال آن هستند، تکامل هوش مصنوعی نیست، بلکه ایجاد سیستم‌های اتوماسیون است که در انجام وظایف خود به همان اندازه هوشمند و بی‌وجدان هستند.

آرتیکولو دی Gianfranco Fedele