شناسایی یک اصل اخلاقی نیست بلکه یک ترفند کثیف است!

از زمانی که کار روی پروژه را شروع کردم لیلا، یک اکوسیستم از هوش مصنوعی برای پشتیبانی از یک عامل مکالمه اختصاص داده شده به مشاغل، متوجه شدم که هوش مصنوعی فرصت های بسیار زیادی را برای توسعه و نوآوری ارائه می دهد، اما اکثر شرکت هایی که ادعا می کنند از آن استفاده می کنند متاسفانه یک استراتژی بازاریابی صرف را به کار می گیرند.

ویدیوی ویروسی Google Duplex

به محض ارائه به جهان، گوگل دوپلکس بلافاصله توجه وب را به خود جلب کرد. ارائه شده در طول Google IoT 2018این فناوری مبتنی بر هوش مصنوعی می‌تواند هویت انسانی را جعل کند که به نمایندگی از کاربر خود قصد رزرو یک جلسه در آرایشگاه و یک میز در رستوران را دارد و یک مکالمه تلفنی نسبتاً روان با هر دو کسب‌وکار برقرار می‌کند.

نسخه ی نمایشی ویدیو برای بسیاری واقعی به نظر می رسد این جعلی است. مسلماً مکالماتی که بسیار پیچیده به نظر می‌رسند، اگر هنرمندانه جمع‌آوری نشده باشند، قطعاً نتیجه تلاش‌های فراوان و کمی شانس هستند: از دو تماس تلفنی موفق، ما نمی‌دانیم که چند تماس Google Duplex دیگر ممکن است به‌شدت شکست بخورد. .

جلوه تولید شده توسط این ارائه من را به یاد صحبت های بزرگی می اندازد که آمازون در سال 2013 با ویدیویی در یوتیوب به جهانیان ارائه کرد. آمازون پرایم ایرسیستم تحویل مبتکرانه مبتنی بر پهپاد؛ این سیستم انقلابی، سال‌ها بعد، هنوز در مرحله آزمایشی است و ما انسان‌های فانی به این ایده عادت کرده‌ایم که «همه» این اختراعات علمی تخیلی در نهایت فقط یک روش جدید برای ساخت ویدیوهای ویروسی هستند.

چیزی که در مورد Google Duplex مرا شگفت زده کرد، تئاتر کوچکی است که حول یک موضوع اخلاقی ادعا شده که قبلاً چند ساعت پس از انتشار ویدیو مطرح شده بود و بلافاصله توسط مهم ترین روزنامه های آنلاین دوباره راه اندازی شد. به طور خلاصه، به گفته برخی: هوش مصنوعی هایی که رفتار انسان را شبیه سازی می کنند، اگر ماهیت خود را پنهان کنند و وانمود کنند که انسان هستند، یک مشکل اخلاقی ایجاد می کنند.

پاسخ گوگل اسنپ شات:دوبلکس بلافاصله برای همکار شما قابل شناسایی خواهد بود".

بیایید یک قدم به عقب برگردیم

گوگل همیشه ما را به استفاده از فناوری‌های خود عادت داده است و هرگز نحوه ساخت و عملکرد آن‌ها را فاش نمی‌کند. موتور جستجوی آن نماینده این فلسفه است: الگوریتمی که زیربنای آن است یک راز صنعتی با ارزش غیرقابل ارزیابی است، هیچ کس خود را قادر به فاش کردن اسرار آن نمی داند. و دقیقاً به دلیل ماهیت غیرقابل درک آن، ما عادت کرده ایم که تأثیرگذاری آن را، چه واقعی و چه فرضی، زیر سؤال نبریم. ما فقط از آن استفاده می کنیم.

اگر با رفتن از یک صفحه به صفحه دیگر جستجو، تعداد نتایج تغییر کند، اهمیت چندانی ندارد. یا اگر چیزی از تحقیقات ما بیرون بیاید که هرگز فکر نمی کردیم آن را با هدف خود مرتبط کنیم.

با این حال، این شکست‌های کوچک در چشم ما به‌عنوان نقص‌های ساده، نقص‌های کوچک در سیستمی به‌قدری پیچیده به نظر می‌رسند که گاهی اوقات فکر می‌کنیم که آیا گوگل درست می‌گوید و ما اشتباه می‌کنیم.

بیایید به عنوان مثال پیشنهاد جستجوی Google را در نظر بگیریم، سیستم تکمیل خودکار که با آن Google پیشنهاد می‌کند هنگام نوشتن به دنبال چه چیزی باشیم. این سیستم که به نظر من مشکلات اخلاقی بسیار بیشتری نسبت به Google Duplex ایجاد می کند، مفید و هوشمند به نظر می رسد، اما در پس اثربخشی آن یک ترفند واقعی هکر پنهان می شود: موتور جستجوی Google بر روی "کلمات کلیدی" کار می کند، گروه هایی از کلمات که نشان دهنده هدف جستجوی آن هستند. کاربران هر کلمه کلیدی جدید بیان کننده یک نیاز است و نیاز به پردازش خاصی دارد تا گوگل بتواند به اندازه کافی پاسخ دهد. گوگل قدرت محاسباتی بسیار بالایی دارد، اما تا به امروز تصور سازماندهی نتایج موتور خود بر اساس "هر ترکیب ممکن از کلمات" غیرعملی است.

Google Search Suggest مسائل اخلاقی بسیار بیشتری را نسبت به Google Duplex مطرح می کند.

به همین دلیل گوگل فقط به کلمات کلیدی توجه می کند که به اندازه کافی برای ایجاد نیاز گسترده بیان شده اند. برای هر چیز دیگری، بداهه گویی کنید: کلمات مشابه، قیاس با کلمات کلیدی دیگر، شناسایی متون تصادفی سیستم‌هایی هستند که برای رسیدن به انتهای آن موقعیت‌هایی به کار می‌روند که در غیر این صورت به نظر می‌رسد راهی برای خروج ندارند.

تعداد نتایج، مانند نتایج صفحات، باعث تغییر صفحه جستجو به جلو می شود و هرگز نمی توان نتایج را فراتر از یک صفحه خاص بررسی کرد: توجه داشته باشید، نتایجی که در صفحه 30 هستند برای هیچکس مفید نیستند، اما چرا آیا کلمه کلیدی "ساقه های چاپی" 160 نتیجه دارد اگر کمتر از 300 قابل مشاهده باشد؟

Google Search Suggest روشی است که گوگل برای «پیش‌بینی» ما تلاش می‌کند: با پیشنهاد اهداف جستجویی که قبلاً برای آن شناخته شده است، Google سعی می‌کند ما را به سمت جستجویی راهنمایی کند که بتواند بدون ترفند به آن پاسخ دهد: با متقاعد کردن کاربر برای استفاده از کلید جستجو. جستجو در میان کلماتی که در شکم خود دارد، گوگل نه تنها نتیجه مفیدی را برمی‌گرداند، بلکه خود را از اضافه کردن یک کلمه کلیدی جدید به لیست کلمات کلیدی که مجبور است مقداری از قدرت محاسباتی خود را صرف آن کند، نجات می‌دهد.

لذت عملیاتی-عملکردی

با بازگشت به Google Duplex، ما در سال 2022 هستیم و مدتی است که درباره آن صحبتی نشده است، اما از این تجربه دریافتیم که شناسایی خود به عنوان یک سیستم مکالمه مصنوعی پاسخی به یک مشکل اخلاقی نیست، بلکه یک ترفند هکری است. : اگر کسی که با Duplex صحبت می کند آگاه باشد که با یک سیستم خودکار صحبت می کند، همچنین می داند که باید به درستی حرکت کند، از او در گفتگو حمایت کند و به او کمک کند تا محتوای آن را بفهمد.

برای Google Duplex، شناسایی خود به عنوان یک سیستم مصنوعی پاسخی به یک مشکل اخلاقی نیست، بلکه یک ترفند هکری است.

هنگامی که ما با کورتانا، الکسا، سیری ارتباط برقرار می‌کنیم، همیشه از همان عبارات، فرمول‌های مشابه استفاده می‌کنیم، زیرا اگر بخواهیم از درک نشدن توسط سیستم‌هایمان جلوگیری کنیم، این امر ضروری است.

شناسایی خود برای Google Duplex راهی برای وادار کردن مردم به «درک» محدودیت‌هایشان است، نوعی لذت عملیاتی-عملکردی که همه ما انسان‌ها آموخته‌ایم نسبت به آن فناوری داشته باشیم که در عین تلاش، همه چیز را به آن باز نمی‌گرداند. سازندگان آن قول می دهند.

آرتیکولو دی Gianfranco Fedele