Amser darllen amcangyfrifedig: 9 minuti
Yn gynnar yn 2023, daeth chatbot ChatGPT poblogaidd a dadleuol OpenAI i broblem gyfreithiol fawr: gwaharddiad effeithiol yn yr Eidal. Mae Awdurdod Diogelu Data’r Eidal (GPDP) wedi cyhuddo OpenAI o dorri rheolau diogelu data’r UE, ac mae’r cwmni wedi cytuno i gyfyngu mynediad i’r gwasanaeth yn yr Eidal wrth iddo geisio datrys y mater. Ar Ebrill 28, dychwelodd ChatGPT i'r wlad, gydag OpenAI yn mynd i'r afael yn ysgafn â phryderon GPDP heb wneud unrhyw newidiadau mawr i'w wasanaeth - buddugoliaeth ymddangosiadol.
Cadarnhaodd y GPDP i “groesawu” y newidiadau a wnaed gan ChatGPT. Fodd bynnag, mae'n debyg mai megis dechrau y mae materion cyfreithiol y cwmni - a rhai cwmnïau sy'n adeiladu chatbots tebyg. Mae rheoleiddwyr mewn sawl gwlad yn ymchwilio i sut mae'r offer AI hyn yn casglu ac yn cynhyrchu gwybodaeth, gan nodi ystod o bryderon gan gwmnïau sy'n casglu data hyfforddi didrwydded i duedd chatbots i ledaenu gwybodaeth anghywir.
Yn yr UE maent yn gorfodi’r Rheoliad Diogelu Data Cyffredinol (GDPR), un o’r fframweithiau cyfreithiol preifatrwydd mwyaf cadarn yn y byd, y mae’n debygol y bydd effeithiau hyn i’w teimlo y tu allan i Ewrop hefyd. Yn y cyfamser, mae deddfwyr Ewropeaidd yn gweithio ar gyfraith a fydd yn mynd i'r afael yn benodol â deallusrwydd artiffisial, gan arwain yn ôl pob tebyg mewn cyfnod newydd o reoleiddio ar gyfer systemau fel ChatGPT.
ChatGPT yw un o'r enghreifftiau mwyaf poblogaidd o AI cynhyrchiol, term ymbarél sy'n cwmpasu offer sy'n cynhyrchu testun, delweddau, fideo a sain yn seiliedig ar geisiadau defnyddwyr. Dywedir bod y gwasanaeth wedi dod yn un o cymwysiadau defnyddwyr sy'n tyfu gyflymaf mewn hanes ar ôl cyrraedd 100 miliwn o ddefnyddwyr gweithredol misol mewn dim ond dau fis ar ôl ei lansio ym mis Tachwedd 2022 (nid yw OpenAI erioed wedi cadarnhau'r ffigurau hyn).
Mae pobl yn ei ddefnyddio i gyfieithu testun i wahanol ieithoedd, ysgrifennu traethodau prifysgol a chynhyrchu cod. Ond mae beirniaid, gan gynnwys rheoleiddwyr, wedi tynnu sylw at allbwn annibynadwy ChatGPT, materion hawlfraint dryslyd, ac arferion diogelu data cysgodol.
Yr Eidal oedd y wlad gyntaf i symud. Ar Fawrth 31, tynnodd sylw at bedair ffordd yr oedd OpenAI yn credu eu bod yn torri'r GDPR:
Nid oes unrhyw wlad arall wedi cymryd camau o'r fath. Ond ers mis Mawrth, o leiaf tair gwlad yr UE - Yr Almaen , Ffrainc e Sbaen – wedi lansio eu hymchwiliad eu hunain i ChatGPT.
Yn y cyfamser, yr ochr arall i'r Iwerydd, Canada yn gwerthuso pryderon preifatrwydd o dan ei Ddeddf Diogelu Gwybodaeth Bersonol a Dogfennau Electronig, neu PIPEDA. Mae Bwrdd Diogelu Data Ewrop (EDPB) hyd yn oed wedi sefydlu un tasglu ymroddedig helpu i gydlynu’r ymchwiliad. Ac os bydd yr asiantaethau hyn yn gofyn am newidiadau i OpenAI, gallent effeithio ar sut mae'r gwasanaeth yn gweithio i ddefnyddwyr ledled y byd.
Gellir rhannu pryderon rheoleiddwyr yn fras yn ddau gategori:
Mae ChatGPT yn defnyddio modelau iaith mawr GPT-3.5 a GPT-4 OpenAI (LLMs), sydd wedi'u hyfforddi ar lawer iawn o destun a gynhyrchir gan ddyn. Mae OpenAI yn ofalus ynghylch pa destun hyfforddi yn union y mae'n ei ddefnyddio, ond dywed ei fod yn defnyddio "amrywiaeth o ffynonellau data trwyddedig, wedi'u creu ac sydd ar gael yn gyhoeddus, a allai gynnwys gwybodaeth bersonol sydd ar gael yn gyhoeddus."
Gallai hyn achosi problemau enfawr o dan y GDPR. Daeth y gyfraith i rym yn 2018 ac mae’n cwmpasu’r holl wasanaethau sy’n casglu neu’n prosesu data dinasyddion yr UE, ni waeth ble mae’r sefydliad cyfrifol wedi’i leoli. Mae rheolau GDPR yn ei gwneud yn ofynnol i gwmnïau gael caniatâd penodol cyn casglu data personol, bod â chyfiawnhad cyfreithiol pam y caiff ei gasglu, a bod yn dryloyw ynghylch sut y caiff ei ddefnyddio a’i storio.
Dywed rheoleiddwyr Ewropeaidd fod cyfrinachedd data hyfforddi OpenAI yn golygu nad oes unrhyw ffordd i gadarnhau a oedd y wybodaeth bersonol a gofnodwyd wedi'i darparu i ddechrau gyda chaniatâd y defnyddiwr, a dadleuodd y GPDP yn benodol nad oedd gan OpenAI "sail gyfreithiol" i'w chasglu yn y lle cyntaf. Hyd yn hyn mae OpenAI ac eraill wedi dianc heb fawr o graffu, ond mae'r datganiad hwn yn ychwanegu marc cwestiwn mawr at ymdrechion sgrapio data yn y dyfodol.
Yna mae'r " hawl i gael eich anghofio ” o’r GDPR, sy’n caniatáu i ddefnyddwyr ofyn i gwmnïau gywiro eu gwybodaeth bersonol neu ei dileu’n gyfan gwbl. Agor AI wedi diweddaru ei bolisi preifatrwydd yn flaenorol i hwyluso ceisiadau o'r fath, ond ydy trafodo a yw'n dechnegol bosibl eu rheoli, o ystyried pa mor gymhleth y gall fod i wahanu data penodol unwaith maen nhw wedi cael eu rhoi yn y modelau iaith mawr yma.
Mae OpenAI hefyd yn casglu gwybodaeth yn uniongyrchol gan ddefnyddwyr. Fel unrhyw lwyfan rhyngrwyd, mae'n casglu a set ddata defnyddiwr safonol (e.e. enw, gwybodaeth gyswllt, manylion cerdyn, ac ati). Ond yn fwy arwyddocaol, mae'n cofnodi'r rhyngweithio sydd gan ddefnyddwyr â ChatGPT. Fel a nodir mewn Cwestiynau Cyffredin , gall gweithwyr OpenAI adolygu'r data hwn a'i ddefnyddio i hyfforddi fersiynau o'i fodel yn y dyfodol. O ystyried y cwestiynau agos-atoch y mae pobl yn eu gofyn i ChatGPT, gan ddefnyddio'r bot fel therapydd neu feddyg, mae hyn yn golygu bod y cwmni'n casglu pob math o ddata sensitif.
Mae’n bosibl bod o leiaf rhywfaint o’r data hwn wedi’i gasglu gan blant, oherwydd er bod polisi OpenAI yn nodi “nad yw’n casglu gwybodaeth bersonol yn fwriadol gan blant o dan 13 oed,” nid oes rheolaeth oedran llym. Nid yw hyn yn cyd-fynd yn dda â rheolau’r UE, sy’n gwahardd casglu data gan bobl o dan 13 oed ac (mewn rhai gwledydd) sydd angen caniatâd rhieni ar gyfer plant o dan 16 oed. Ar yr ochr allbwn, dywedodd y GPDP fod diffyg hidlwyr oedran ChatGPT yn amlygu plant dan oed a "atebion cwbl annigonol o gymharu â'u graddau o ddatblygiad a hunanymwybyddiaeth".
Hefyd tuedd ChatGPT i darparu gwybodaeth ffug yn gallu cynrychioli problem. Mae rheoliadau GDPR yn nodi bod yn rhaid i’r holl ddata personol fod yn gywir, rhywbeth a amlygodd y GPDP yn ei gyhoeddiad. Yn dibynnu ar sut y daw definite, gallai achosi trafferth i'r rhan fwyaf o gynhyrchwyr testun AI, sy'n dueddol o ” rhithweledigaethau “: Term diwydiant braf am atebion anghywir neu amherthnasol i ymholiad. Mae hyn eisoes wedi gweld rhai ôl-effeithiau yn y byd go iawn mewn mannau eraill, fel y mae maer rhanbarthol yn Awstralia wedi bygwth erlyn OpenAI am ddifenwi ar ôl i ChatGPT honni ar gam ei fod wedi treulio dedfryd o garchar am lygredd.
Mae poblogrwydd ChatGPT a goruchafiaeth marchnad AI gyfredol yn ei gwneud yn darged arbennig o ddeniadol, ond nid oes unrhyw reswm pam nad oes rhaid i'w gystadleuwyr a'i gyfranwyr, fel Google with Bard neu Microsoft gyda'i Azure AI yn seiliedig ar OpenAI, wynebu craffu. Cyn ChatGPT, gwaharddodd yr Eidal y platfform chatbot Replika ar gyfer casglu gwybodaeth am blant dan oed a hyd yn hyn wedi parhau i fod yn waharddedig.
Er bod y GDPR yn set bwerus o gyfreithiau, ni chafodd ei greu i fynd i'r afael â materion AI penodol. Rheolau hynny , fodd bynnag, efallai eu bod ar y gorwel.
Yn 2021, cyflwynodd yr UE ei ddrafft cyntaf o'rDeddf Deallusrwydd Artiffisial (AIA) , deddfwriaeth a fydd yn cydweithio â’r GDPR. Mae'r ddeddf yn rheoleiddio offer AI yn seiliedig ar eu risg canfyddedig, o "lleiaf" (pethau fel hidlwyr sbam) i "uchel" (offer AI ar gyfer gorfodi'r gyfraith neu addysg) neu "annerbyniol" ac felly wedi'i wahardd (fel system credyd cymdeithasol). Ar ôl y ffrwydrad o fodelau iaith mawr fel ChatGPT y llynedd, mae deddfwyr bellach yn rasio i ychwanegu rheolau ar gyfer “modelau craidd” a “systemau Deallusrwydd Artiffisial Diben Cyffredinol (GPAI)” - dau derm ar gyfer systemau deallusrwydd ar raddfa artiffisial gan gynnwys LLM - ac o bosibl dosbarthu fel gwasanaethau risg uchel.
deddfwyr yr UE wedi dod i gytundeb petrus ar y Ddeddf AI ar Ebrill 27. Bydd comisiwn yn pleidleisio ar y drafft ar Fai 11, ac mae disgwyl y cynnig terfynol ganol mis Mehefin. Felly, bydd yn rhaid i’r Cyngor Ewropeaidd, y Senedd a’r Comisiwn datrys unrhyw anghydfodau sy'n weddill cyn rhoi’r gyfraith ar waith. Os aiff popeth yn ddidrafferth, gellid ei fabwysiadu erbyn ail hanner 2024, ychydig y tu ôl i’r targed swyddogol etholiadau Ewropeaidd Mai 2024.
Mae gan OpenAI nodau i'w cyflawni o hyd. Mae tan 30 Medi i greu terfyn oedran llymach i gadw plant dan 13 oed allan a gofyn am ganiatâd rhieni ar gyfer pobl ifanc dan oed hŷn. Os bydd yn methu, efallai y bydd yn cael ei rwystro eto. Ond fe roddodd enghraifft o'r hyn y mae Ewrop yn ei ystyried yn ymddygiad derbyniol i gwmni AI, o leiaf nes bod deddfau newydd yn cael eu pasio.
Ercole Palmeri
Perfformiwyd gweithrediad offthalmoplasti gan ddefnyddio gwyliwr masnachol Apple Vision Pro yn y Catania Polyclinic…
Mae datblygu sgiliau echddygol manwl trwy liwio yn paratoi plant ar gyfer sgiliau mwy cymhleth fel ysgrifennu. I liwio…
Mae'r sector llyngesol yn bŵer economaidd byd-eang gwirioneddol, sydd wedi llywio tuag at farchnad 150 biliwn...
Ddydd Llun diwethaf, cyhoeddodd y Financial Times gytundeb ag OpenAI. Mae FT yn trwyddedu ei newyddiaduraeth o safon fyd-eang…
