דור מזויף

עוד ב-31 בינואר 2022, פרסמנו בבלוג של לילה את מאמר ראשון מורכב מאלגוריתם מחולל, כדי להיות ברור אלגוריתם העוקב אחר אותה ארכיטקטורה טכנולוגית של ChatGPT פותח על ידי OpenAI.

זה לא היה הראשון וזה לא יהיה האחרון definitiva פרסמנו 4 תמיד מציינים במפורש על ידי מי הם נכתבו.

אבל הניסויים הלכו רחוק יותר, יצרנו עשרות תכנים עד שהאלגוריתם, תוך התמקדות בסיכויי שיווק נדל"ן ב-2023, דיווח על הציטוט הבא:

"נשיא איגוד רוכשי הבתים של הונג קונג, מארק צ'יין האנג, אמר ל-South China Morning Post שלמרות שערך הבתים החדשים שהושלמו בשטח יורד, נפח המכירות עדיין גבוה. "זה בגלל שאנשים עם תוכניות השקעה מוצקות כבר נכנסו לשוק מחו"ל", אמר Chien-hang.

אלמנט של ביטחון

ציטוט זה הופיע בתור א אלמנט של ביטחון מתאים באופן מושלם להקשר של המאמר. אבל לפני שליחתו באינטרנט החלטנו לאמת את המקור למען שלמותו במטרה לצטט אותו כראוי. ובכן, מה שגילינו הוא שמארק צ'יין-האנג לא קיים, בדיוק כפי שאין איגוד רוכשי דירות בהונג קונג. הטקסט המצוטט לא מופיע ברשת ואם מישהו היה חושב שאולי יש ארכיונים של מידע שמזין את ה-AI האלה שאינם נגישים ישירות באינטרנט, ובכן, זה לא המקרה: הציטוט מומצא לחלוטין!

לאנשי AI גנרטיביים יש את היכולת "ליצור" תוכן בסגנון ובצורת התוכן עליו הם מאומנים, אך הם אינם "מאחסנים" את הנתונים ואינם מסוגלים לשחזר אותם לצורתם המקורית. בינה מלאכותית גנרית פועלת כמו קופסאות שחורות, המורכבות מרשתות עצביות מלאכותיות שאליהן אין צורה - הנדסה הפוכה. במילים אחרות, נתוני האימון הופכים למספרים ואין קשר ישיר בין המספרים הללו לנתונים שיצרו אותם.

עד היום הם עדיין לא מוצאים שום אפליקציה מסחרית בגלל הסיכון שהם יכולים לספק מידע שגוי לחלוטין בהקשרים רגישים.

בתנאי השימוש של OpenAI עבור ChatGPT נכתב: 

"כניסות ופלטים ייחשבו ביחד "תוכן". [...] המשתמש אחראי לתכנים בכל הנוגע לערבות שהם אינם מפרים סעיף כלשהו בחוק [...]»

אם המידע שנוצר על ידי ChatGPT חושף את מי שמשתמש בו לסיכון של פרסום של הפרות שווא, לשון הרע או אחרות של החוק, מסיבה זו בדיוק OpenAI מגינה על עצמה על ידי דחיית כל אחריות לחשיפת תכנים שנוצרו על ידי הבינה המלאכותית שלה.

כרגע המוחות הגדולים של ה למידת מכונה הם עדיין לא הצליחו לייצר משהו טוב יותר ממערכות שעונות על כל שאלה רק על ידי שכיבה דרך השיניים. ואם ה-AI האלו מגיבים לפעמים נכון, זה רק צירוף מקרים ותו לא.

ארטיקולו די Gianfranco Fedele