Odhadovaný čas čítania: 9 minúty
Začiatkom roku 2023 narazil populárny a kontroverzný chatbot ChatGPT OpenAI na veľký právny problém: účinný zákaz v Taliansku. Taliansky úrad na ochranu údajov (GPDP) obvinil OpenAI z porušovania pravidiel EÚ na ochranu údajov a spoločnosť súhlasila s obmedzením prístupu k službe v Taliansku, keď sa pokúsi problém vyriešiť. 28. apríla sa ChatGPT vrátil do krajiny, pričom OpenAI zľahka riešil problémy GPDP bez akýchkoľvek zásadných zmien vo svojej službe – zjavné víťazstvo.
GPDP potvrdil aby ste „privítali“ zmeny vykonané službou ChatGPT. Právne problémy spoločnosti - a spoločnosti, ktoré vytvárajú podobné chatboty - sa však pravdepodobne len začínajú. Regulačné orgány v niekoľkých krajinách skúmajú, ako tieto nástroje AI zhromažďujú a vytvárajú informácies odvolaním sa na celý rad obáv od spoločností zbierajúcich nelicencované tréningové údaje až po tendenciu chatbotov šíriť dezinformácie.
V EÚ presadzujú všeobecné nariadenie o ochrane údajov (GDPR), jeden z najrobustnejších právnych rámcov na ochranu súkromia na svete, ktorého účinky sa pravdepodobne prejavia aj mimo Európy. Európski zákonodarcovia medzitým pracujú na zákone, ktorý sa bude špecificky zaoberať umelou inteligenciou, čo pravdepodobne otvára novú éru regulácie pre systémy ako ChatGPT.
ChatGPT je jedným z najpopulárnejších príkladov generatívnej AI, čo je zastrešujúci pojem, ktorý zahŕňa nástroje, ktoré vytvárajú text, obrázky, video a zvuk na základe požiadaviek používateľov. Služba sa údajne stala jednou z najrýchlejšie rastúce spotrebiteľské aplikácie v histórii po dosiahnutí 100 miliónov aktívnych používateľov mesačne len za dva mesiace po spustení v novembri 2022 (OpenAI tieto čísla nikdy nepotvrdila).
Ľudia ho používajú na preklad textu do rôznych jazykov, písanie univerzitné eseje a vygenerovať kód. Kritici, vrátane regulačných orgánov, však zdôraznili nespoľahlivý výstup ChatGPT, mätúce problémy s autorskými právami a pochybné postupy ochrany údajov.
Taliansko bolo prvou krajinou, ktorá sa presťahovala. 31. marca zdôraznil štyri spôsoby, akými sa domnieval, že OpenAI porušuje GDPR:
Žiadna iná krajina takéto opatrenie neprijala. Ale od marca aspoň tri štáty EÚ – Nemecko , Francúzsko e španielsko – začali svoje vlastné vyšetrovanie ChatGPT.
Medzitým na druhej strane Atlantiku Kanada vyhodnocuje obavy o súkromie podľa svojho zákona o ochrane osobných údajov a elektronických dokumentov alebo PIPEDA. Európsky výbor pre ochranu údajov (EDPB) ho dokonca zriadil špecializovanej pracovnej skupiny pomôcť pri koordinácii vyšetrovania. A ak tieto agentúry požiadajú o zmeny v OpenAI, mohli by ovplyvniť fungovanie služby pre používateľov na celom svete.
Obavy regulátorov možno rozdeliť do dvoch kategórií:
ChatGPT využíva veľké jazykové modely (LLM) OpenAI GPT-3.5 a GPT-4, ktoré sú trénované na veľkom množstve textu vytvoreného človekom. OpenAI je opatrný, pokiaľ ide o presne to, ktorý školiaci text používa, ale tvrdí, že čerpá z „rôznych verejne dostupných, vytvorených a licencovaných zdrojov údajov, ktoré môžu zahŕňať verejne dostupné osobné informácie“.
To môže podľa GDPR predstavovať obrovské problémy. Zákon bol prijatý v roku 2018 a vzťahuje sa na všetky služby, ktoré zhromažďujú alebo spracúvajú údaje občanov EÚ, bez ohľadu na to, kde sídli zodpovedná organizácia. Pravidlá GDPR vyžadujú, aby spoločnosti mali výslovný súhlas pred zhromažďovaním osobných údajov, aby mali právne odôvodnenie, prečo sa zhromažďujú, a aby boli transparentné, pokiaľ ide o ich používanie a uchovávanie.
Európski regulátori tvrdia, že utajenie školiacich údajov OpenAI znamená, že neexistuje spôsob, ako potvrdiť, či zadané osobné informácie boli pôvodne poskytnuté so súhlasom používateľa, a GPDP konkrétne argumentovalo, že OpenAI nemá „žiadny právny základ“ na ich zhromažďovanie. OpenAI a iní sa doteraz dostali len s malou kontrolou, ale toto vyhlásenie pridáva veľký otáznik k budúcim snahám o zoškrabovanie údajov.
Potom je tu " právo byť zabudnutý “ GDPR, ktoré používateľom umožňuje požiadať spoločnosti o opravu ich osobných údajov alebo ich úplné odstránenie. Otvorte AI už predtým aktualizovala svoje zásady ochrany osobných údajov na uľahčenie takýchto žiadostí, ale áno diskutovať či je technicky možné ich spravovať vzhľadom na to, aké zložité môže byť oddeľovanie konkrétne údaje akonáhle budú vložené do týchto veľkých jazykových modelov.
OpenAI tiež zhromažďuje informácie priamo od používateľov. Ako každá internetová platforma zhromažďuje a štandardný súbor užívateľských údajov (napr. meno, kontaktné údaje, údaje o karte atď.). Čo je však dôležitejšie, zaznamenáva interakcie používateľov s ChatGPT. Ako uvedené v FAQ , tieto údaje môžu kontrolovať zamestnanci OpenAI a používajú sa na školenie budúcich verzií jej modelu. Vzhľadom na intímne otázky, ktoré ľudia kladú ChatGPT, používajúc robota ako terapeuta alebo lekára, to znamená, že spoločnosť zhromažďuje všetky druhy citlivých údajov.
Prinajmenšom niektoré z týchto údajov mohli byť zhromaždené od detí, pretože zatiaľ čo politika OpenAI uvádza, že „vedome nezhromažďuje osobné informácie od detí mladších ako 13 rokov“, neexistuje žiadna prísna kontrola veku. To sa nezhoduje s pravidlami EÚ, ktoré zakazujú zhromažďovanie údajov od ľudí mladších ako 13 rokov a (v niektorých krajinách) vyžadujú súhlas rodičov pre deti mladšie ako 16 rokov. Na strane výstupu GPDP uviedol, že nedostatok vekových filtrov ChatGPT odhaľuje maloletých a „absolútne neadekvátne reakcie v porovnaní so stupňom ich rozvoja a sebauvedomenia“.
Tiež sklon ChatGPT k poskytnúť nepravdivé informácie môže byť problém. Nariadenia GDPR stanovujú, že všetky osobné údaje musia byť presné, čo GPDP zdôraznilo vo svojom oznámení. Podľa toho, ako to príde definite, môže spôsobiť problémy pre väčšinu textových generátorov AI, ktoré sú náchylné na “ alucinácie “: Pekný priemyselný výraz pre skutočne nesprávne alebo irelevantné odpovede na otázku. To už zaznamenalo nejaké skutočné dôsledky inde, ako to urobil austrálsky regionálny starosta pohrozil žalobou OpenAI za ohováranie po tom, čo ChatGPT nepravdivo tvrdil, že si odpykal trest odňatia slobody za korupciu.
Popularita ChatGPT a súčasná dominancia na trhu AI z neho robia obzvlášť atraktívny cieľ, ale nie je dôvod, prečo by jeho konkurenti a prispievatelia, ako napríklad Google s Bardom alebo Microsoft so svojou Azure AI založenou na OpenAI, nemuseli čeliť kontrole. Pred ChatGPT Taliansko zakázalo platformu chatbotov replika na zhromažďovanie informácií o maloletých a doteraz zostalo zakázané.
Aj keď je GDPR výkonný súbor zákonov, nebolo vytvorené na riešenie konkrétnych problémov AI. Pravidlá to , môžu však byť na obzore.
V roku 2021 EÚ predstavila svoj prvý návrh zákonaZákon o umelej inteligencii (AIA) , legislatívu, ktorá bude spolupracovať s GDPR. Zákon upravuje nástroje AI na základe ich vnímaného rizika, od „minimálnych“ (veci ako spamové filtre) po „vysoké“ (nástroje AI na presadzovanie práva alebo vzdelávanie) alebo „neprijateľné“, a preto zakázané (ako systém sociálnych kreditov). Po explózii veľkých jazykových modelov, ako je ChatGPT v minulom roku, sa teraz zákonodarcovia predháňajú v pridávaní pravidiel pre „základné modely“ a „všeobecné systémy umelej inteligencie (GPAI)“ – dva termíny pre umelú škálu inteligentných systémov vrátane LLM – a potenciálne klasifikovať ako vysokorizikové služby.
zákonodarcovia EÚ dosiahli predbežnú dohodu o zákone o AI dňa 27. apríla. Komisia bude o návrhu hlasovať 11. mája a konečný návrh sa očakáva v polovici júna. Preto bude musieť Európska rada, Parlament a Komisia vyriešiť všetky zostávajúce spory pred implementáciou zákona. Ak všetko pôjde hladko, mohla by byť prijatá v druhej polovici roku 2024, čo je trochu za cieľom úradník európskych volieb v máji 2024.
OpenAI má stále ciele, ktoré treba dosiahnuť. Do 30. septembra je čas na vytvorenie prísnejšej vekovej hranice, aby sa do nej nedostali osoby mladšie ako 13 rokov a aby sa u starších neplnoletých tínedžerov vyžadoval súhlas rodičov. Ak zlyhá, môže sa znova zablokovať. Poskytol však príklad toho, čo Európa považuje za prijateľné správanie spoločnosti AI, aspoň kým nebudú prijaté nové zákony.
Ercole Palmeri
Námorný sektor je skutočnou globálnou ekonomickou veľmocou, ktorá smerovala k 150 miliardovému trhu...
Minulý pondelok Financial Times oznámili dohodu s OpenAI. FT licencuje svoju žurnalistiku svetovej triedy…
Milióny ľudí platia za streamovacie služby a platia mesačné predplatné. Je bežný názor, že si…
Coveware od Veeam bude aj naďalej poskytovať služby reakcie na incidenty v oblasti kybernetického vydierania. Coveware ponúkne forenzné a sanačné schopnosti…
