نسل جعلی

در 31 ژانویه 2022 در وبلاگ لیلا منتشر کردیم مقاله اول متشکل از یک الگوریتم مولد، برای روشن شدن الگوریتمی که از همان معماری تکنولوژیکی پیروی می کند. GPT چت توسعه یافته توسط OpenAI.

نه اولین بود و نه آخرین definitiva ما 4 را منتشر کردیم که همیشه به صراحت نشان می دهد که آنها توسط چه کسی نوشته شده اند.

اما آزمایش‌ها فراتر رفت، ما ده‌ها محتوا تولید کردیم تا اینکه الگوریتم، با تمرکز بر چشم‌اندازهای بازاریابی املاک و مستغلات در سال 2023، نقل قول زیر را گزارش کرد:

مارک چین هانگ، رئیس انجمن خریداران خانه هنگ کنگ، به ساوت چاینا مورنینگ پست گفت که اگرچه ارزش خانه های تازه تکمیل شده در این قلمرو در حال کاهش است، اما حجم فروش همچنان بالاست. Chien-Hang گفت: "این به این دلیل است که افرادی با برنامه های سرمایه گذاری قوی قبلاً از خارج وارد بازار شده اند."

عنصر اطمینان

این نقل قول به صورت یک ظاهر شد عنصر اطمینان کاملاً با متن مقاله مطابقت دارد. اما قبل از ارسال آن به صورت آنلاین تصمیم گرفتیم منبع را برای کامل بودن با هدف استناد مناسب بررسی کنیم. خوب، چیزی که ما متوجه شدیم این است که Mark Chien-Hang وجود ندارد، همانطور که انجمن خریداران خانه هنگ کنگ وجود ندارد. متن مورد استناد در وب ظاهر نمی شود و اگر کسی فکر کند که ممکن است آرشیوهایی از اطلاعات وجود داشته باشد که این هوش مصنوعی ها را تغذیه می کند که مستقیماً به صورت آنلاین قابل دسترسی نیستند، خوب، اینطور نیست: نقل قول کاملاً اختراع شده است!

هوش مصنوعی‌های مولد توانایی «تولید» محتوا به سبک و شکل محتوایی را دارند که بر روی آن آموزش دیده‌اند، اما داده‌ها را «ذخیره» نمی‌کنند و قادر به بازگرداندن آن به شکل اصلی نیستند. هوش مصنوعی مولد مانند جعبه‌های سیاه عمل می‌کند که از شبکه‌های عصبی مصنوعی تشکیل شده‌اند که هیچ شکلی از آن وجود ندارد مهندسی معکوس. به عبارت دیگر داده های آموزشی به عدد تبدیل می شوند و هیچ رابطه مستقیمی بین این اعداد و داده هایی که آنها را تولید کرده اند وجود ندارد.

تا به امروز آنها هنوز هیچ کاربرد تجاری پیدا نکرده اند، زیرا این خطر وجود دارد که می توانند اطلاعات کاملاً نادرست را در زمینه های حساس ارائه دهند.

شرایط استفاده OpenAI برای ChatGPT به شرح زیر است: 

«ورودی‌ها و خروجی‌ها باید در مجموع «محتوا» در نظر گرفته شوند. [...] مسئولیت محتویات با توجه به تضمین عدم نقض هیچ یک از مواد قانون [...]»

اگر اطلاعات تولید شده توسط ChatGPT، افرادی را که از آن استفاده می کنند در معرض خطر انتشار نادرست، افتراآمیز یا سایر موارد نقض قانون قرار دهد، به همین دلیل OpenAI با رد هرگونه مسئولیت در قبال افشای محتوای تولید شده توسط هوش مصنوعی خود از خود محافظت می کند.

در حال حاضر ذهن بزرگ از فراگیری ماشین آن‌ها هنوز نتوانسته‌اند چیزی بهتر از سیستم‌هایی تولید کنند که به هر سؤالی فقط با دراز کشیدن از طریق دندان پاسخ می‌دهند. و اگر گاهی اوقات این AI ها به درستی پاسخ می دهند، این یک تصادف است و نه بیشتر.

آرتیکولو دی Gianfranco Fedele