هوش مصنوعی در طلوع مردگان

در کنفرانس سالانه اش Re: Mars 2022 آمازون اعلام کرده است که الکسا به لطف هوش مصنوعی به زودی می تواند با تقلید صدای افراد واقعی با ما صحبت کند.

روهیت پراساد، مدیر علمی پروژه الکسا بود هوش مصنوعیدر طول سخنرانی خود اظهار داشت که به لطف ویژگی جدید، بلندگوی هوشمند آمازون به کاربران اجازه می دهد تا روابط شخصی را به چیزی "دائمی" ("روابط شخصی پایدار") تبدیل کنند.

اگر کسی واضح نبود که پراساد به چه چیزی اشاره می کند، تصویری از پسر بچه ای که رو به الکسا می کند در صفحه بزرگ از او می پرسد و از او می پرسد: "مادربزرگ می تواند خواندن "جادوگر شهر اوز" را تمام کند؟ الکسا بی درنگ پاسخ می دهد "خوب!" و از همان لحظه صدای یک زن مسن از دستگاه شنیده می شود که شروع به خواندن افسانه فرانک باوم برای کودک می کند.

تونی دوکوپیل، روزنامه‌نگار سی‌بی‌اس نیوز، الگید را محکوم می‌کند: «مادربزرگ حاضر در این سناریو دیگر با ما نیست». اظهار نظر ارائه پراساد.

همیشه اولین بار هست

قبلاً در ژوئیه 2017 یک سرویس منتشر شده توسط WIRED باعث ایجاد شور و هیجانی شد که هنوز در دسترس است یوتیوب، جایی که یک مصاحبه ویدیویی داستان تکنسین کامپیوتر را روایت می کند که "پدر در حال مرگ خود را به یک هوش مصنوعی تبدیل کرد".

وقتی جیمز ولاهوس متوجه شد که پدرش بر اثر یک بیماری صعب العلاج در حال مرگ است، تصمیم گرفت خاطرات پدرش را در فهرستی طولانی از فایل های صوتی و متنی ذخیره کند و سپس آنها را در گوشی هوشمند خود قرار دهد.

اما این تنها آغاز بود: از طریق یک الگوریتم هوش مصنوعی، جیمز تلفن خود را فعال کرد تا با بازگرداندن مرتبط‌ترین صداها و متن‌های پدرش به سؤالات پاسخ دهد و به احتمال زیاد گفت‌وگوی بین آن دو ایجاد کرد. در نیات جیمز، این الگوریتم حتی پس از مرگ پدرش گفتگو با پدرش را دوباره ممکن می کرد، و همینطور هم شد.

اما مصاحبه در انتها حالت عجیبی به خود می گیرد. وقتی جیمز از پدر مرحومش می پرسد "آیا مرا دوست داری؟" پاسخ کمی گریزان به نظر می رسد: "وای! دلم برایت خیلی تنگ شده بود! در مورد چه چیزی می خواهیم صحبت کنیم؟"

جیمز با درد می‌گوید: «از این‌که پدرم نمی‌خواست به من بگوید که من را دوست دارد، من ناامید شدم.» یک پدر قرار است پاسخ سوالاتی از این دست را بداند، اما نمی داند. منظورم این است که می‌خواستم حرف او را بشنوم.»

و اینجاست که اوضاع پیچیده می شود.

به حلقه

تجربه جیمز به یک تجارت تبدیل شده است، یک سازمان غیرانتفاعی که به مردم قول می دهد از طریق هوش مصنوعی با متوفیان خود ارتباط برقرار کنند. یک سرویس پولی که با آن هر کسی می تواند با انتقال خاطرات خود به یک برنامه، عزیزان خود را به زندگی بازگرداند.

اما اگر پیامدهای روانشناختی عمیق تماس با یکی از عزیزان متوفی را در نظر بگیریم، نمی‌توانیم این خدمات را رد کنیم که این خدمات می‌تواند به تحولات اجتماعی جدید و غیرقابل پیش‌بینی منجر شود. به عنوان مثال، آیا ما آماده‌ایم در جامعه‌ای متشکل از افرادی زندگی کنیم که به جای سوگواری، به خدماتی پولی تکیه می‌کنند تا به تجربه‌های زندگی شادتر مانند یک حلقه متصل بمانند؟ اگر امروز حافظه ما خاطرات دردناک را در منظر محافظت از خود پردازش می کند، فردا چگونه خواهد بود که با دستکاری آنها بتوانیم آنها را به چیزی تبدیل کنیم که هرگز دردناک نیست و همیشه به طور مصنوعی شاد است؟

آمازون پیشرفت علمی را ترویج نمی کند، همچنین به دنبال فضاهای جدیدی است که محصولات را در آن قرار دهد و آنها را در جایی جستجو می کند که قبلاً هیچ کس جرات نکرده بود.

فناوری‌هایی که الکسا صداها و لحن افراد واقعی را با آن‌ها بازتولید می‌کند، الگوریتم‌هایی هستند که مدتی است شناخته شده‌اند. می‌توانیم بگوییم: زیر آفتاب چیز جدیدی نیست. این کاربرد آنهاست که نوید مخرب بودن را می دهد، تحریکی که به مرزهای اخلاق معاصر می رسد.

با الکسا، آمازون به نظر می‌رسد که می‌خواهد پیرامون هر کاربر یک متاوره واقعی از خاطرات ایجاد کند که توسط افراد دوست‌داشتنی و گمشده پر شده است. مکانی آرامش‌بخش که همه ما می‌توانیم انتخاب کنیم که با گذشته خداحافظی نکنیم، و بتوانیم به لطف یک نرم‌افزار بی‌نهایت آن را دوباره زنده کنیم.

اوضاع پیچیده می شود

چه اتفاقی می‌افتد اگر جیمز ولاهوس، که از ناتوانی پدر (درگذشته‌اش) در نشان دادن محبت خود به او ناامید شده بود، یک روز تصمیم می‌گرفت که با اصلاح چند خط کد، این جنبه از شخصیت خود و بیشتر شبیه پدری را که می‌خواست، «اصلاح کند»؟

همچنین، چه کسی می‌خواهد جلوی کاربران الکسا را ​​بگیرد که به بلندگوی هوشمند دستور دهند که نقش یک فرد کاملاً زنده را برای ما بازی کند و شکل جدیدی از فتیشیسم دیجیتال را پرورش دهد که ما هنوز نیازی به آن نداشتیم؟

بیایید سعی کنیم عاشقی ناامید را تصور کنیم که الکسا را ​​به هدف عشق خود تبدیل می کند و فراموش نمی کند که شخصیت او را اصلاح کند تا آن را به نیازهای احساسی و شوخ طبعی خود خم کند. آیا این راهی برای بی‌ارزش کردن روابط انسانی و فرو بردن زندگی شکننده‌ترین سوژه‌ها در اشکال جدید محبت است که از واقعیت جدا شده و به ابزارهای فن‌آوری هدایت شده توسط شرکت‌های خدمات چندملیتی متصل است؟

اما چرا؟

هدف آمازون ایجاد ابزارهایی است که توجه مردم را به خود جلب کند و آنها را بیش از پیش در فعالیت های آنلاین درگیر کند. مشارکت کاربران در حال حاضر به بسیاری از حوزه‌های زندگی خصوصی مربوط می‌شود و قصد آمازون این است که برود و حوزه‌های جدیدی را اشغال کند، در صورت لزوم، حوزه احساسات را درگیر کند، مانند یک جنگ اشغالی که در آن زمین فتح در حریم خصوصی هر یک از ما است.

اما اگر بهره‌برداری از احساسات و درد مرز جدید است، پیامدهای اخلاقی این رفتار باید به طور جدی مورد توجه قرار گیرد: نباید زمینه را برای کسانی که قصد بهره‌برداری از فناوری‌های جدید برای ایجاد اشکال جدیدی از مشارکت را دارند، آزاد گذاشت.

آیا ممکن است بخواهیم نسل‌های جدید را به انبوهی از سوژه‌هایی تبدیل کنیم که از نظر احساسی از فناوری تغذیه می‌شوند و قادر به تکامل طبیعی در تجربه زندگی خود نیستند؟

آرتیکولو دی Gianfranco Fedele