Lažna generacija

31. januarja 2022 smo na Lailinem blogu objavili prvi članek sestavljen iz generativnega algoritma, če smo jasni, algoritma, ki sledi isti tehnološki arhitekturi ChatGPT razvil OpenAI.

Ni bil prvi in ​​ne bi bil zadnji definitiva smo objavili 4 vedno z izrecno navedbo, kdo jih je napisal.

Toda poskusi so šli dlje, ustvarili smo na desetine vsebin, dokler algoritem v okviru poudarka na možnostih trženja nepremičnin v letu 2023 ni sporočil naslednjega citata:

»Predsednik Hongkonškega združenja kupcev stanovanj Mark Chien-hang je za South China Morning Post povedal, da čeprav vrednost na novo dokončanih stanovanj na ozemlju upada, je obseg prodaje še vedno visok. "To je zato, ker so ljudje s trdnimi naložbenimi načrti že vstopili na trg iz tujine," je dejal Chien-hang.

element pomiritve

Ta citat se je pojavil kot a element pomiritve popolnoma sodi v kontekst članka. Toda preden ga pošljemo na splet, smo se odločili, da preverimo vir zaradi popolnosti, da bi ga ustrezno navedli. No, ugotovili smo, da Mark Chien-hang ne obstaja, tako kot ni hongkonškega združenja kupcev stanovanj. Citirano besedilo se ne pojavi na spletu in če bi kdo pomislil, da morda obstajajo arhivi informacij, ki hranijo te AI, ki niso neposredno dostopni na spletu, no, temu ni tako: citat je popolnoma izmišljen!

Generativni umetni inteligenci imajo možnost "generirati" vsebino v slogu in obliki vsebine, na kateri se usposabljajo, vendar ne "shranjujejo" podatkov in jih ne morejo obnoviti v prvotno obliko. Generativni AI deluje kot črne skrinjice, sestavljene iz umetnih nevronskih mrež, ki jim nobena oblika obratno inženirstvo. Z drugimi besedami, podatki o usposabljanju postanejo številke in med temi številkami in podatki, ki so jih ustvarili, ni neposredne povezave.

Do danes še vedno niso našli nobene komercialne uporabe zaradi tveganja, da lahko zagotovijo popolnoma napačne informacije v občutljivih kontekstih.

Pogoji uporabe OpenAI za ChatGPT se glasijo: 

«Vhod in izhod je treba obravnavati skupaj kot »Vsebina«. [...] Uporabnik je odgovoren za vsebino glede garancije, da ne krši nobenega člena zakona [...]»

Če informacije, ki jih ustvari ChatGPT, izpostavijo tiste, ki jih uporabljajo, tveganju objave lažnih, obrekljivih ali drugih kršitev zakona, se prav zaradi tega razloga OpenAI zaščiti tako, da zavrača kakršno koli odgovornost za razkritje vsebin, ki jih ustvari njegova lastna umetna inteligenca.

Trenutno veliki umi strojno učenje nič boljšega od sistemov, ki na vsako vprašanje odgovorijo le z laganjem skozi zobe, še niso uspeli izdelati. In če se ti AI včasih pravilno odzovejo, je to zgolj naključje in nič več.

Člen Gianfranco Fedele