Temps estimat de lectura: 9 acta
A principis de 2023, el popular i controvertit chatbot ChatGPT d'OpenAI es va trobar amb un problema legal important: una prohibició efectiva a Itàlia. L'Autoritat italiana de protecció de dades (GPDP) ha acusat OpenAI d'infringir les normes de protecció de dades de la UE i l'empresa ha acceptat restringir l'accés al servei a Itàlia mentre intenta resoldre el problema. El 28 d'abril, ChatGPT va tornar al país, amb OpenAI abordant lleugerament les preocupacions de GPDP sense fer cap canvi important al seu servei: una victòria aparent.
El GPDP va afirmar per donar la benvinguda als canvis fets per ChatGPT. Tanmateix, els problemes legals de l'empresa, i els de les empreses que construeixen chatbots similars, probablement acaben de començar. Els reguladors de diversos països estan investigant com aquestes eines d'IA recullen i produeixen informació, citant una sèrie de preocupacions de les empreses que recullen dades de formació sense llicència a la tendència dels chatbots a difondre desinformació.
A la UE estan fent complir el Reglament General de Protecció de Dades (GDPR), un dels marcs legals de privadesa més sòlids del món, els efectes del qual probablement també es notin fora d'Europa. Mentrestant, els legisladors europeus estan treballant en una llei que abordarà específicament la intel·ligència artificial, probablement inaugurant una nova era de regulació per a sistemes com ChatGPT.
ChatGPT és un dels exemples més populars d'IA generativa, un terme paraigua que cobreix les eines que produeixen text, imatges, vídeo i àudio basats en les sol·licituds dels usuaris. El servei s'ha convertit en un dels aplicacions de consum de més ràpid creixement a la història després d'arribar als 100 milions d'usuaris actius mensuals en només dos mesos després del llançament al novembre de 2022 (OpenAI no ha confirmat mai aquestes xifres).
La gent l'utilitza per traduir text a diferents idiomes, escriure assaigs universitaris i generar codi. Però els crítics, inclosos els reguladors, han destacat la producció poc fiable de ChatGPT, els problemes de drets d'autor confusos i les pràctiques de protecció de dades obscures.
Itàlia va ser el primer país a moure's. El 31 de març, va destacar quatre maneres en què creia que OpenAI infringia el GDPR:
Cap altre país ha pres aquesta acció. Però des de març, almenys tres nacions de la UE: Alemanya , França e Espanya - han iniciat la seva pròpia investigació sobre ChatGPT.
Mentrestant, a l'altra banda de l'Atlàntic, Canadà està avaluant els problemes de privadesa segons la seva Llei de protecció de dades personals i documents electrònics, o PIPEDA. El Comitè Europeu de Protecció de Dades (EDPB) fins i tot n'ha creat un grup de treball dedicat per ajudar a coordinar la investigació. I si aquestes agències demanen canvis a OpenAI, podrien afectar el funcionament del servei per als usuaris de tot el món.
Les preocupacions dels reguladors es poden dividir a grans trets en dues categories:
ChatGPT utilitza els models de llenguatge gran (LLM) GPT-3.5 i GPT-4 d'OpenAI, que s'entrenen en grans quantitats de text produït per humans. OpenAI és prudent sobre quin text d'entrenament utilitza exactament, però diu que es basa en "diverses fonts de dades amb llicència, creades i disponibles públicament, que poden incloure informació personal disponible públicament".
Això pot suposar grans problemes sota el GDPR. La llei es va promulgar l'any 2018 i cobreix tots els serveis que recullen o tracten dades dels ciutadans de la UE, independentment de la seu de l'organització responsable. Les regles del GDPR exigeixen que les empreses tinguin el consentiment explícit abans de recollir dades personals, que tinguin una justificació legal del motiu pel qual es recullen i que siguin transparents sobre com s'utilitzen i emmagatzemen.
Els reguladors europeus diuen que el secret de les dades de formació d'OpenAI significa que no hi ha manera de confirmar si la informació personal introduïda es va proporcionar inicialment amb el consentiment de l'usuari, i el GPDP va argumentar específicament que OpenAI "no tenia cap base legal" per recollir-les en primer lloc. Fins ara, OpenAI i altres s'han sortit amb poc escrutini, però aquesta declaració afegeix un gran signe d'interrogació als futurs esforços de raspat de dades.
Després hi ha el " dret a ser oblidat ” del GDPR, que permet als usuaris sol·licitar a les empreses que corregin la seva informació personal o que la eliminen completament. IA oberta ha actualitzat prèviament la seva política de privadesa per facilitar aquestes peticions, però sí que ho és discutir si és tècnicament possible gestionar-los, tenint en compte la complexitat que pot ser separar-los dades concretes un cop s'han posat en aquests grans models lingüístics.
OpenAI també recopila informació directament dels usuaris. Com qualsevol plataforma d'Internet, recull a conjunt de dades d'usuari estàndard (per exemple, nom, informació de contacte, dades de la targeta, etc.). Però el que és més significatiu, registra les interaccions que tenen els usuaris amb ChatGPT. Com indicat en una PMF , aquestes dades poden ser revisades pels empleats d'OpenAI i s'utilitzen per entrenar futures versions del seu model. Tenint en compte les preguntes íntimes que la gent fa a ChatGPT, utilitzant el bot com a terapeuta o metge, això significa que l'empresa està recopilant tot tipus de dades sensibles.
Almenys algunes d'aquestes dades poden haver estat recollides de nens, ja que, si bé la política d'OpenAI estableix que "no recull de manera conscient informació personal de nens menors de 13 anys", no hi ha un control estricte d'edat. Això no funciona bé amb les normes de la UE, que prohibeixen la recollida de dades de persones menors de 13 anys i (en alguns països) requereixen el consentiment dels pares per als menors de 16 anys. Pel que fa a la sortida, el GPDP va dir que la manca de filtres d'edat de ChatGPT exposa els menors a "respostes absolutament inadequades en comparació amb el seu grau de desenvolupament i autoconsciència".
També la propensió de ChatGPT a proporcionar informació falsa pot ser un problema. La normativa GDPR estableix que totes les dades personals han de ser exactes, cosa que el GPDP va destacar en el seu anunci. Segons com vingui definit, podria significar problemes per a la majoria de generadors de text d'IA, que són propensos a " al·lucinacions “: Un bon terme de la indústria per a respostes realment incorrectes o irrellevants a una consulta. Això ja ha tingut algunes repercussions en el món real en altres llocs, com ho ha fet un alcalde regional australià va amenaçar amb demandar a OpenAI per difamació després que ChatGPT afirmés falsament que havia complert una pena de presó per corrupció.
La popularitat de ChatGPT i el domini actual del mercat de la IA el converteixen en un objectiu especialment atractiu, però no hi ha cap raó perquè els seus competidors i col·laboradors, com Google amb Bard o Microsoft amb la seva IA Azure basada en OpenAI, no s'enfrontin a un escrutini. Abans de ChatGPT, Itàlia va prohibir la plataforma de chatbot Replika per a la recollida d'informació sobre menors i fins ara ha continuat prohibit.
Tot i que el GDPR és un conjunt potent de lleis, no es va crear per abordar problemes específics d'IA. Regles això , tanmateix, poden estar a l'horitzó.
El 2021, la UE va presentar el seu primer esborrany delLlei d'Intel·ligència Artificial (AIA) , legislació que treballarà conjuntament amb el GDPR. La llei regula les eines d'IA en funció del risc percebut, des de "mínim" (coses com els filtres de correu brossa) a "alt" (eines d'IA per a l'aplicació de la llei o l'educació) o "inacceptable" i per tant prohibit (com un sistema de crèdit social). Després de l'explosió de grans models d'idioma com ChatGPT l'any passat, els legisladors ara s'estan lluitant per afegir regles per als "models bàsics" i els "sistemes d'intel·ligència artificial de propòsit general (GPAI)" (dos termes per a sistemes d'intel·ligència a escala artificial inclòs LLM) i potencialment. classificar com serveis d'alt risc.
legisladors de la UE han arribat a un acord provisional sobre la Llei d'IA el 27 d'abril. Una comissió votarà l'esborrany l'11 de maig, i la proposta final s'espera a mitjans de juny. Per tant, el Consell Europeu, el Parlament i la Comissió ho hauran de fer resoldre els conflictes restants abans d'aplicar la llei. Si tot va bé, es podria adoptar a la segona meitat del 2024, una mica per darrere de l'objectiu oficial de les eleccions europees de maig de 2024.
OpenAI encara té objectius per assolir. Hi ha fins al 30 de setembre per crear un límit d'edat més estricte per mantenir fora dels menors de 13 anys i requerir el consentiment dels pares per als adolescents menors d'edat. Si falla, es pot tornar a bloquejar. Però sí que va proporcionar un exemple del que Europa considera un comportament acceptable per a una empresa d'IA, almenys fins que s'aprovin noves lleis.
Ercole Palmeri
Es va realitzar una operació d'oftalmoplàstia amb el visualitzador comercial Apple Vision Pro a la Policlínica de Catània...
El desenvolupament de la motricitat fina a través del color prepara els nens per a habilitats més complexes com escriure. Per acolorir...
El sector naval és una veritable potència econòmica mundial, que ha navegat cap a un mercat de 150 milions...
Dilluns passat, el Financial Times va anunciar un acord amb OpenAI. FT autoritza el seu periodisme de classe mundial...
