Maar de experimenten gingen verder, we genereerden tientallen inhoud totdat het algoritme, met een focus op vastgoedmarketingvooruitzichten in 2023, het volgende citaat rapporteerde:
“De voorzitter van de Hong Kong Home Buyers Association, Mark Chien-hang, vertelde de South China Morning Post dat hoewel de waarde van nieuw opgeleverde huizen in het gebied afneemt, het verkoopvolume nog steeds hoog is. "Dit komt omdat er al mensen met solide investeringsplannen vanuit het buitenland op de markt zijn gekomen", zegt Chien-hang.
Dit citaat verscheen als een element van geruststelling past perfect in de context van het artikel. Maar voordat we het online stuurden, besloten we de bron voor de volledigheid te verifiëren met als doel het op de juiste manier te citeren. Wat we ontdekten is dat Mark Chien-hang niet bestaat, net zoals er geen Hong Kong Home Buyers Association is. De geciteerde tekst verschijnt niet op internet en als iemand zou denken dat er archieven met informatie zijn die deze AI's voeden die niet direct online toegankelijk zijn, dan is dat niet het geval: het citaat is volledig verzonnen!
Generatieve AI’s hebben het vermogen om inhoud te ‘genereren’ in de stijl en vorm van de inhoud waarop ze zijn getraind, maar ze ‘slaan’ de gegevens niet op en zijn niet in staat deze in de oorspronkelijke vorm te herstellen. Generatieve AI werkt als zwarte dozen, opgebouwd uit kunstmatige neurale netwerken waar geen enkele vorm van bestaat reverse engineering. Met andere woorden, de trainingsgegevens worden getallen en er is geen directe relatie tussen deze cijfers en de gegevens die ze hebben gegenereerd.
Tot op heden vinden ze nog steeds geen commerciële toepassing vanwege het risico dat ze in gevoelige contexten volledig onjuiste informatie kunnen verstrekken.
De gebruiksvoorwaarden van OpenAI voor ChatGPT luiden:
«Ingangen en uitgangen moeten gezamenlijk als "inhoud" worden beschouwd. [...] De gebruiker is verantwoordelijk voor de inhoud met betrekking tot de garantie dat deze geen enkel artikel van de wet overtreedt [...]»
Als de door ChatGPT gegenereerde informatie degenen die het gebruiken blootstelt aan het risico van het publiceren van valse, lasterlijke of andere schendingen van de wet, beschermt OpenAI zichzelf om deze reden door elke verantwoordelijkheid af te wijzen voor de openbaarmaking van inhoud die is gegenereerd door zijn eigen kunstmatige intelligentie.
Op dit moment zijn de grote geesten van de machine learning ze hebben nog niets beters kunnen produceren dan systemen die elke vraag alleen beantwoorden door door hun tanden te liegen. En als deze AI’s soms correct reageren, is dat louter toeval en meer niet.
Artikel di Gianfranco Fedele
De marinesector is een echte mondiale economische macht, die is genavigeerd naar een markt van 150 miljard...
Afgelopen maandag maakte de Financial Times een deal met OpenAI bekend. FT geeft licenties voor haar journalistiek van wereldklasse...
Miljoenen mensen betalen voor streamingdiensten en betalen maandelijkse abonnementskosten. De algemene mening is dat je…
Coveware by Veeam zal responsdiensten op het gebied van cyberafpersingsincidenten blijven leveren. Coveware zal forensische en herstelmogelijkheden bieden...
