Predvideni čas branja: 9 min
V začetku leta 2023 je priljubljeni in kontroverzni klepetalni robot OpenAI ChatGPT naletel na veliko pravno težavo: dejansko prepoved v Italiji. Italijanski organ za varstvo podatkov (GPDP) je obtožil OpenAI, da krši pravila EU o varstvu podatkov, podjetje pa se je strinjalo, da bo omejilo dostop do storitve v Italiji, ko poskuša rešiti težavo. 28. aprila se je ChatGPT vrnil v državo, pri čemer je OpenAI rahlo obravnaval pomisleke glede GPDP, ne da bi naredil kakršne koli večje spremembe v svoji storitvi – navidezna zmaga.
GPDP je potrdil da »pozdravimo« spremembe, ki jih je naredil ChatGPT. Vendar pa se pravne težave podjetja – in tiste podjetij, ki gradijo podobne chatbote – verjetno šele začenjajo. Regulatorji v več državah preiskujejo, kako ta orodja AI zbirajo in proizvajajo informacije, pri čemer navaja vrsto pomislekov, od podjetij, ki zbirajo nelicencirane podatke o usposabljanju, do nagnjenosti klepetalnih robotov k širjenju dezinformacij.
V EU uveljavljajo Splošno uredbo o varstvu podatkov (GDPR), enega najtrdnejših pravnih okvirov zasebnosti na svetu, katerega posledice bodo verjetno čutili tudi zunaj Evrope. Medtem evropski zakonodajalci delajo na zakonu, ki bo posebej obravnaval umetno inteligenco in verjetno uvedel novo dobo regulacije za sisteme, kot je ChatGPT.
ChatGPT je eden najbolj priljubljenih primerov generativne umetne inteligence, krovni izraz, ki zajema orodja, ki proizvajajo besedilo, slike, video in zvok na podlagi zahtev uporabnikov. Storitev naj bi postala ena od najhitreje rastoče potrošniške aplikacije v zgodovini, potem ko je dosegel 100 milijonov mesečnih aktivnih uporabnikov v samo dveh mesecih po lansiranju novembra 2022 (OpenAI ni nikoli potrdil teh številk).
Ljudje ga uporabljajo za prevajanje besedila v različne jezike, pisanje univerzitetni eseji in ustvari kodo. Toda kritiki, vključno z regulatorji, so poudarili nezanesljive rezultate ChatGPT, nejasne težave z avtorskimi pravicami in sumljive prakse varstva podatkov.
Italija je bila prva država, ki se je preselila. 31. marca je poudaril štiri načine, na katere meni, da OpenAI krši GDPR:
Nobena druga država ni sprejela takega ukrepa. Toda od marca so vsaj tri države EU – Nemčija , Francija e Španija – sprožili lastno preiskavo o ChatGPT.
Medtem pa na drugi strani Atlantika, Kanada ocenjuje pomisleke glede zasebnosti v skladu z Zakonom o varstvu osebnih podatkov in elektronskih dokumentih ali PIPEDA. Evropski odbor za varstvo podatkov (EDPB) je celo ustanovil enega namensko delovno skupino za pomoč pri koordinaciji preiskave. In če te agencije zahtevajo spremembe OpenAI, bi lahko vplivale na to, kako storitev deluje za uporabnike po vsem svetu.
Pomisleke regulatorjev je mogoče na splošno razdeliti v dve kategoriji:
ChatGPT uporablja velike jezikovne modele (LLM) GPT-3.5 in GPT-4 OpenAI, ki se učijo na velikih količinah besedila, ki ga ustvari človek. OpenAI je previden glede tega, katero besedilo za usposabljanje uporablja, vendar pravi, da se opira na "različne javno dostopne, ustvarjene in licenčne vire podatkov, ki lahko vključujejo javno dostopne osebne podatke."
To lahko predstavlja velike težave v skladu z GDPR. Zakon je bil sprejet leta 2018 in zajema vse storitve, ki zbirajo ali obdelujejo podatke državljanov EU, ne glede na to, kje ima odgovorna organizacija sedež. Pravila GDPR zahtevajo, da imajo podjetja pred zbiranjem osebnih podatkov izrecno soglasje, da imajo pravno utemeljitev, zakaj se zbirajo, in da so pregledna glede njihove uporabe in shranjevanja.
Evropski regulatorji pravijo, da tajnost podatkov o usposabljanju OpenAI pomeni, da ni mogoče potrditi, ali so bili vneseni osebni podatki prvotno posredovani z uporabnikovim soglasjem, GPDP pa je posebej trdil, da OpenAI sploh ni imel "nobene pravne podlage", da bi jih zbiral. Doslej so se OpenAI in drugi izognili le malo natančnega pregleda, vendar ta izjava postavlja velik vprašaj k prihodnjim prizadevanjem za strganje podatkov.
Potem je tu še " pravica do pozabe ” GDPR, ki uporabnikom omogoča, da od podjetij zahtevajo popravek njihovih osebnih podatkov ali njihovo popolno odstranitev. Odpri AI je predhodno posodobil svojo politiko zasebnosti olajšati takšne zahteve, ampak da je razpravljati ali jih je tehnično mogoče upravljati glede na to, kako zapleteno je lahko ločevanje specifični podatki ko so bili postavljeni v te velike jezikovne modele.
OpenAI zbira tudi informacije neposredno od uporabnikov. Kot katera koli internetna platforma zbira a standardni nabor uporabniških podatkov (npr. ime, kontaktni podatki, podatki o kartici itd.). Še pomembneje pa je, da beleži interakcije uporabnikov s ChatGPT. Kot navedeno v pogostih vprašanjih , lahko te podatke pregledajo zaposleni v OpenAI in se uporabljajo za usposabljanje prihodnjih različic njegovega modela. Glede na intimna vprašanja, ki jih ljudje postavljajo ChatGPT, ki bota uporabljajo kot terapevt ali zdravnik, to pomeni, da podjetje zbira vse vrste občutljivih podatkov.
Vsaj nekateri od teh podatkov so bili morda zbrani od otrok, saj čeprav politika OpenAI navaja, da "zavestno ne zbira osebnih podatkov od otrok, mlajših od 13 let", ni strogega nadzora starosti. To ni v skladu s pravili EU, ki prepovedujejo zbiranje podatkov od oseb, mlajših od 13 let, in (v nekaterih državah) zahtevajo soglasje staršev za otroke, mlajše od 16 let. Na strani rezultatov je GPDP dejal, da pomanjkanje starostnih filtrov ChatGPT izpostavlja mladoletnike a "popolnoma nezadostni odzivi glede na njihovo stopnjo razvoja in samozavedanja".
Tudi nagnjenost ChatGPT k posredovati lažne podatke je lahko problem. Predpisi GDPR določajo, da morajo biti vsi osebni podatki točni, kar je v svojem sporočilu poudaril GPDP. Odvisno kako pride definite, lahko povzroči težave večini generatorjev besedila z umetno inteligenco, ki so nagnjeni k " alucinazioni “: Lep industrijski izraz za dejansko nepravilne ali nepomembne odgovore na poizvedbo. To je že imelo nekatere posledice v resničnem svetu drugje, kot jih je imel avstralski regionalni župan grozil, da bo OpenAI tožil zaradi obrekovanja potem ko je ChatGPT lažno trdil, da je odslužil zaporno kazen zaradi korupcije.
Zaradi priljubljenosti ChatGPT in trenutne prevlade na trgu umetne inteligence je še posebej privlačna tarča, vendar ni razloga, da njegovi konkurenti in sodelavci, kot sta Google z Bardom ali Microsoft s svojim Azure AI, ki temelji na OpenAI, ne bi bili pod nadzorom. Pred ChatGPT je Italija prepovedala platformo chatbot Replika za zbiranje informacij o mladoletnikih in je do sedaj ostalo prepovedano.
Medtem ko je GDPR močan sklop zakonov, ni bil ustvarjen za reševanje posebnih težav z umetno inteligenco. Pravila, ki , lahko pa so na obzorju.
Leta 2021 je EU predstavila svoj prvi osnutekZakon o umetni inteligenci (AIA) , zakonodaja, ki bo delovala skupaj z GDPR. Zakon ureja orodja umetne inteligence na podlagi njihovega zaznanega tveganja, od »minimalnega« (stvari, kot so filtri neželene pošte) do »visokega« (orodja umetne inteligence za kazenski pregon ali izobraževanje) ali »nesprejemljivega« in zato prepovedanega (kot sistem socialnega kredita). Po eksploziji velikih jezikovnih modelov, kot je ChatGPT lani, zakonodajalci zdaj tekmujejo, da bi dodali pravila za »jedrne modele« in »sisteme umetne inteligence splošnega namena (GPAI)« – dva izraza za umetno raven obveščevalnih sistemov, vključno z LLM – in potencialno razvrstiti kot storitve z visokim tveganjem.
zakonodajalci EU dosegli začasni dogovor o zakonu o AI 27. aprila. Komisija bo o osnutku glasovala 11. maja, končni predlog pa pričakujejo sredi junija. Zato bodo morali Evropski svet, parlament in komisija reši morebitne preostale spore pred uveljavitvijo zakona. Če bo šlo vse gladko, bi ga lahko sprejeli do druge polovice leta 2024, kar je malo za ciljem uradni evropskih volitev maja 2024.
OpenAI ima še vedno cilje, ki jih mora doseči. Do 30. septembra je treba določiti strožjo starostno mejo, da se mlajšim od 13 let ne bi pridružilo, in zahtevati soglasje staršev za starejše mladoletne najstnike. Če ne uspe, se lahko znova blokira. Vendar je zagotovil primer, kaj Evropa meni za sprejemljivo vedenje za podjetje z umetno inteligenco, vsaj dokler ne bodo sprejeti novi zakoni.
Ercole Palmeri
Prejšnji ponedeljek je Financial Times objavil dogovor z OpenAI. FT licencira svoje vrhunsko novinarstvo ...
Milijoni ljudi plačujejo storitve pretakanja in plačujejo mesečne naročnine. Splošno mnenje je, da si…
Coveware by Veeam bo še naprej zagotavljal storitve odzivanja na incidente kibernetskega izsiljevanja. Coveware bo nudil forenziko in zmogljivosti sanacije ...
Prediktivno vzdrževanje revolucionira sektor nafte in plina z inovativnim in proaktivnim pristopom k upravljanju obratov.…
