గోప్యతా లూప్: గోప్యత మరియు కాపీరైట్ యొక్క చిక్కైన కృత్రిమ మేధస్సు

ఒకవైపు గోప్యత మరియు కాపీరైట్, మరోవైపు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మధ్య ఉన్న సున్నితమైన సంబంధాన్ని నేను ప్రస్తావించిన రెండు కథనాలలో ఇది మొదటిది.

సాంకేతిక పరిణామం చాలా వేగంగా నిరూపించబడుతున్న సమస్యాత్మక సంబంధం ఏదైనా నియంత్రణ సర్దుబాటు దాని మొదటి అప్లికేషన్ నుండి వాడుకలో లేదు.

ప్రజల హక్కులు మరియు వ్యక్తిగత డేటాకు సంబంధించిన విసుగు పుట్టించే సమస్యలను పరిష్కరించడానికి మన కాలపు మేధావులు మరియు నిపుణుల మధ్య శ్రద్ధ, సామర్థ్యం మరియు అనివార్యమైన చర్చ అవసరం. సాంకేతిక ఆవిష్కరణలు మనకు ఎదురయ్యే సవాళ్లకు సామాజిక నియమాలను స్వీకరించడంలో మేము తగినంత వేగంగా లేమని మేము కనుగొంటున్నాము. అభివృద్ధి చెందుతున్న సాంకేతికతలు తమ అప్లికేషన్‌ను పరిమితం చేసే నిబంధనలు పూర్తిగా లేనప్పుడు, నష్టం కలిగించడానికి ఉచితం మరియు అందువల్ల పూర్తిగా శిక్షార్హత లేకుండా చేయడం ద్వారా తమను తాము బహిరంగ క్షేత్రంలో ఎక్కువగా పనిచేస్తున్నాయి.

శాస్త్రీయ పరిశోధన మరియు దాని వ్యూహాత్మక లక్ష్యాలకు సాంకేతిక అభివృద్ధి యొక్క గొలుసును తిరిగి వెళ్ళే నియంత్రణను ఊహించడం సాధ్యమేనా?

వ్యక్తిగత స్వేచ్ఛల పట్ల దృఢమైన గౌరవాన్ని కొనసాగిస్తూనే మన జాతుల పరిణామాన్ని నియంత్రించడం సాధ్యమేనా?

గోప్యతా?

"మీరు ఎంత ఎక్కువ దాచడానికి ప్రయత్నిస్తారో, మీరు దృష్టిని ఆకర్షిస్తారు. మీ గురించి ఎవరికీ తెలియకపోవడం ఎందుకు చాలా ముఖ్యం? ” – ఆండ్రూ నికోల్ వ్రాసి దర్శకత్వం వహించిన “అనాన్” చిత్రం నుండి – 2018

సినిమాలో "అనన్” 2018 నాటి, భవిష్యత్ సమాజం ఒక చీకటి ప్రదేశం, ఈథర్ అనే ఒక భారీ కంప్యూటర్ సిస్టమ్ యొక్క ప్రత్యక్ష నియంత్రణలో ఉంది, దేశంలోని ప్రతి మూలను దానిని జనాభా కలిగిన అదే వ్యక్తుల దృష్టిలో గమనించడం ద్వారా పర్యవేక్షించగలదు. ప్రతి మానవుడు ఈథర్ తరపున పర్యవేక్షకుడు మరియు వారి మొదటి బాధ్యత, వాస్తవానికి, తమను మరియు వారి ప్రవర్తనను పర్యవేక్షించడం.

ఈథర్ అనేది పోలీసు బలగాల యొక్క ఉత్తమ మిత్రుడు: ఈథర్ ద్వారా, ఏజెంట్లు ఏ వ్యక్తి యొక్క అనుభవాన్ని వారి స్వంత కళ్లతో తిరిగి పొందడం ద్వారా మరియు ఏ రకమైన నేరాన్ని అయినా పరిష్కరించగలరు.

మీ గోప్యతను కాపాడుకోవడానికి మీరు ఎందుకు పోరాడాలని పోలీసు అధికారి సాల్ ఆశ్చర్యపోతున్నాడు: మీరు దాచడానికి ఎటువంటి కారణం లేనప్పుడు ప్రయోజనం ఏమిటి? అన్నింటికంటే, మా ఇళ్లు మరియు మా వీధుల భద్రతను పెంచడానికి మేము రూపొందించే సాంకేతికతలకు రక్షణ కోసం అడిగే వ్యక్తుల ప్రయోజనాల కోసం రికార్డింగ్, పర్యవేక్షణ మరియు ధృవీకరణ అవసరమయ్యే యుగంలో, మేము ఎలా హామీ ఇవ్వగలము వారి గోప్యత?

ఇతరుల జీవితాలకు ప్రాప్యత కలిగి ఉండటం ఎంత ప్రమాదకరమో ప్రదర్శించడానికి, హ్యాకర్ ఈథర్‌ను తన ఆధీనంలోకి తీసుకుంటాడు మరియు మిలియన్ల మంది ప్రజల జీవితాలపై భయంకరమైన పీడకల దిగుతుంది: చాలా మంది చిత్రాలను నిస్సహాయ ప్రేక్షకులుగా చూడవలసిన ముప్పు వారి జీవితంలోని వేదనకు గురైన క్షణాలు, నేరుగా వారి రెటీనాలోకి ప్రసారం చేయబడ్డాయి.

ది లూప్

Le కృత్రిమ నాడీ నెట్వర్క్లు ఇది ఆధునిక కృత్రిమ మేధస్సు యొక్క పనితీరుకు ఆధారం, మూడు ప్రధాన అంశాల చుట్టూ తిరుగుతుంది: ప్రాథమిక సమాచారం లేకుంటే కార్పస్ఒక అల్గోరిథం సమాచారం యొక్క సమీకరణ కోసం మరియు ఒకటి మెమరీ వారి కంఠస్థం కోసం.

అల్గోరిథం మెమరీలోకి సమాచారాన్ని సామాన్యంగా లోడ్ చేయడానికి మాత్రమే పరిమితం కాదు, ఇది ఒకదానికొకటి సంబంధం ఉన్న అంశాల కోసం దానిని స్కాన్ చేస్తుంది. డేటా మరియు సంబంధాల మిశ్రమం మెమరీకి బదిలీ చేయబడుతుంది, ఇది a టెంప్లేట్.

మోడల్‌లో, డేటా మరియు సంబంధాలు పూర్తిగా వేరు చేయలేవు, అందుకే శిక్షణ పొందిన న్యూరల్ నెట్‌వర్క్ నుండి అసలు శిక్షణ సమాచారం యొక్క కార్పస్‌ను పునర్నిర్మించడం దాదాపు అసాధ్యం.

కార్పస్‌లు పెద్ద మొత్తంలో డేటాను కలిగి ఉన్నప్పుడు ఇది ప్రత్యేకంగా వర్తిస్తుంది. అని పిలువబడే పెద్ద భాషా వ్యవస్థల విషయంలో ఇదే Large Language Models (సంక్షిప్తంగా LLM) అప్రసిద్ధ ChatGptతో సహా. శిక్షణలో ఉపయోగించిన పెద్ద మొత్తంలో సమాచారానికి వారు తమ ప్రభావానికి రుణపడి ఉన్నారు: ప్రస్తుతం మంచి శిక్షణకు కనీసం కొన్ని టెరాబైట్ల డేటా అవసరం మరియు ఒక టెరాబైట్ 90 బిలియన్ అక్షరాలు, సుమారు 75 మిలియన్ పేజీల టెక్స్ట్‌కు అనుగుణంగా ఉంటే, అక్కడ ఉందని సులభంగా అర్థం చేసుకోవచ్చు. చాలా సమాచారం అవసరం.

కానీ మోడల్‌లను డి-ఇంజనీరింగ్ చేయలేకపోతే, గోప్యతా ఉల్లంఘనల సమస్యను మనం ఎందుకు ప్రశ్నించుకోవాలి?

డేటా ఆధిపత్యం

"ఎవరైతే పిచ్చిగా ఉన్నారో వారు ఫ్లైట్ మిషన్ల నుండి మినహాయించమని అడగవచ్చు, కానీ ఫ్లైట్ మిషన్ల నుండి మినహాయించమని కోరేవాడు వెర్రివాడు కాదు." - జోసెఫ్ హెల్లర్ రాసిన "క్యాచ్ 22" నవల ఆధారంగా.

ఇన్నోవేషన్ వార్తాలేఖ

ఆవిష్కరణకు సంబంధించిన అత్యంత ముఖ్యమైన వార్తలను మిస్ చేయవద్దు. ఇమెయిల్ ద్వారా వాటిని స్వీకరించడానికి సైన్ అప్ చేయండి.

ChatGpt లేదా ఇతర సారూప్య ప్రాజెక్టుల సృష్టిని అనుమతించేంత పరిమాణంలో డేటా సేకరణ నేడు పెద్ద బహుళజాతి కంపెనీల ప్రత్యేక హక్కు, వారి డిజిటల్ కార్యకలాపాలతో, అతిపెద్ద సమాచార భాండాగారాన్ని పొందగలిగారు. ప్రపంచంలో: వెబ్.

గూగుల్ మరియు మైక్రోసాఫ్ట్, వెబ్‌ను స్కాన్ చేసే మరియు అపారమైన సమాచారాన్ని అందించే శోధన ఇంజిన్‌లను సంవత్సరాల తరబడి నిర్వహిస్తున్నాయి, ఇవి LLM యొక్క సృష్టికి మొదటి అభ్యర్థులుగా ఉన్నాయి, ఇవి పైన వివరించిన పరిమాణాల సమాచారాన్ని జీర్ణించుకోగల ఏకైక AI నమూనాలు.

నాడీ నెట్‌వర్క్‌కు శిక్షణ ఇవ్వడంలో కార్పస్‌గా ఉపయోగించే ముందు Google లేదా Microsoft వారి డేటాలో వ్యక్తిగత సమాచారాన్ని అస్పష్టం చేయగలదని నమ్మడం కష్టం. భాషా వ్యవస్థల విషయంలో సమాచారాన్ని అనామకీకరించడం అనేది కార్పస్‌లోని వ్యక్తిగత డేటాను గుర్తించడం మరియు నకిలీ డేటాతో భర్తీ చేయడం. మేము మోడల్‌కు శిక్షణ ఇవ్వాలనుకుంటున్న కొన్ని టెరాబైట్‌ల పరిమాణంలో కార్పస్‌ని ఊహించుకుందాం మరియు అది కలిగి ఉన్న డేటాను మాన్యువల్‌గా అనామకంగా మార్చడానికి ఎంత పని అవసరమో ఊహించడానికి ప్రయత్నిద్దాం: ఇది ఆచరణాత్మకంగా అసాధ్యం. కానీ మేము దీన్ని స్వయంచాలకంగా చేయడానికి ఒక అల్గారిథమ్‌పై ఆధారపడాలనుకుంటే, ఈ పనిని చేయగల సామర్థ్యం ఉన్న ఏకైక సిస్టమ్ అదే పెద్ద మరియు అధునాతన మోడల్.

మేము క్లాసిక్ క్యాచ్-22 సమస్యని కలిగి ఉన్నాము: “అనామక డేటాతో LLMకి శిక్షణ ఇవ్వడానికి, దానిని అనామకంగా మార్చగల సామర్థ్యం ఉన్న LLM అవసరం, అయితే డేటాను అనామకంగా మార్చగల సామర్థ్యం ఉన్న LLM ఉంటే, దాని శిక్షణ అనామక డేటాతో చేయలేదు. ."

GDPR వాడుకలో లేదు

ప్రజల గోప్యతను గౌరవించే నియమాలను ప్రపంచవ్యాప్తంగా నిర్దేశించే (దాదాపు) GDPR, ఈ అంశాల నేపథ్యంలో ఇది ఇప్పటికే పాత వార్తలు మరియు శిక్షణా సమితిలో ఉన్న వ్యక్తిగత డేటా రక్షణ గురించి ఆలోచించలేదు.

GDPRలో, సాధారణ సహసంబంధాలు మరియు కనెక్షన్‌లను నేర్చుకోవడం కోసం వ్యక్తిగత డేటాను ప్రాసెస్ చేయడం అనేది ఆర్టికల్ 22 ద్వారా పాక్షికంగా మాత్రమే నియంత్రించబడుతుంది: “డేటా సబ్జెక్ట్‌కు ప్రొఫైలింగ్‌తో సహా ఆటోమేటెడ్ ప్రాసెసింగ్‌పై ఆధారపడిన నిర్ణయానికి లోబడి ఉండకూడదనే హక్కు ఉంది. అతనిపై చట్టపరమైన ప్రభావాలను ఉత్పత్తి చేస్తుంది లేదా అదే విధంగా మరియు ముఖ్యమైన విధంగా అతనిని ప్రభావితం చేస్తుంది".

సబ్జెక్ట్‌పై ప్రత్యక్ష చట్టపరమైన ప్రభావాలను కలిగి ఉండే పూర్తి స్వయంచాలక నిర్ణయం తీసుకునే ప్రక్రియలో భాగంగా ఒక సబ్జెక్ట్ యొక్క వ్యక్తిగత డేటాను ఉపయోగించడాన్ని డేటా కంట్రోలర్‌లకు ఈ కథనం నిషేధాన్ని పరిచయం చేస్తుంది. కానీ స్వయంచాలక నిర్ణయం తీసుకునే ప్రక్రియలకు సులభంగా కలిసిపోయే న్యూరల్ నెట్‌వర్క్‌లు, ఒకసారి శిక్షణ పొందిన తర్వాత ప్రజల జీవితాలను ప్రభావితం చేసే స్వయంచాలక నిర్ణయాలు తీసుకునే సామర్థ్యాన్ని పొందుతాయి. కానీ ఈ నిర్ణయాలు ఎల్లప్పుడూ "తార్కికంగా" ఉండవు. శిక్షణ సమయంలో, వాస్తవానికి, ప్రతి న్యూరల్ నెట్‌వర్క్ సమాచారాన్ని ఒకదానితో ఒకటి అనుబంధించడం నేర్చుకుంటుంది, తరచుగా వాటిని ఒకదానికొకటి పూర్తిగా నాన్-లీనియర్ పద్ధతిలో సంబంధం కలిగి ఉంటుంది. మరియు "లాజిక్" లేకపోవడం వల్ల ప్రజల గోప్యతకు రక్షణ కవచాన్ని పెంచాలని కోరుకునే శాసనసభ్యుడికి పని సులభతరం కాదు.

ఎవరైనా కూడా అత్యంత నియంత్రణ విధానాన్ని వర్తింపజేయాలని ఎంచుకుంటే, ఉదాహరణకు యజమాని ద్వారా స్పష్టంగా అధికారం పొందకపోతే ఏదైనా సున్నితమైన డేటాను ఉపయోగించడాన్ని నిషేధించడం, న్యూరల్ నెట్‌వర్క్‌ల యొక్క చట్టపరమైన ఉపయోగం అసాధ్యమైనది. మరియు న్యూరల్ నెట్‌వర్క్ టెక్నాలజీలను వదులుకోవడం పెద్ద నష్టమే, ఒక నిర్దిష్ట వ్యాధి ద్వారా పాక్షికంగా ప్రభావితమైన జనాభా యొక్క విషయాల యొక్క క్లినికల్ డేటాతో శిక్షణ పొందిన విశ్లేషణ నమూనాల గురించి ఆలోచించండి. ఈ నమూనాలు డేటాలో ఉన్న మూలకాలకు మరియు వ్యాధికి మధ్య సహసంబంధాలను గుర్తించడం ద్వారా నివారణ విధానాలను మెరుగుపరచడంలో సహాయపడతాయి, వైద్యుల దృష్టిలో పూర్తిగా అశాస్త్రీయంగా కనిపించే ఊహించని సహసంబంధాలు.

అవసరాలను నిర్వహించడం

సంవత్సరాల తరబడి దాని సేకరణకు విచక్షణారహితంగా అధికారం ఇచ్చిన తర్వాత ప్రజల గోప్యతను గౌరవించే సమస్యను ప్రదర్శించడం కపటమైనది. GDPR దాని సంక్లిష్టతతో అనేక అవకతవకలకు బాధ్యత వహిస్తుంది, ఇది నిబంధనల యొక్క అస్పష్టతను మరియు అర్థం చేసుకోవడంలో కష్టాలను ఉపయోగించడం ద్వారా వ్యక్తిగత డేటాను ప్రాసెస్ చేయడానికి అధికారాన్ని పొందడాన్ని అనుమతిస్తుంది.

మాకు ఖచ్చితంగా చట్టాన్ని సరళీకృతం చేయడం అవసరం, దాని వర్తింపు మరియు వ్యక్తిగత సమాచారాన్ని స్పృహతో ఉపయోగించడంలో నిజమైన విద్యను అనుమతిస్తుంది.

నా ప్రతిపాదన ఏమిటంటే, కంపెనీలు తమ సేవల కోసం నమోదు చేసుకున్న వినియోగదారుల వ్యక్తిగత డేటాను తెలుసుకోవటానికి అనుమతించకూడదని, వారు చెల్లింపు సేవలు అయినప్పటికీ. ప్రైవేట్ వ్యక్తులు ఆన్‌లైన్ సిస్టమ్‌లను ఉపయోగించినప్పుడు నకిలీ వ్యక్తిగత డేటాను ఉపయోగించడం స్వయంచాలకంగా జరుగుతుంది. నిజమైన డేటా వినియోగం కేవలం కొనుగోలు ప్రక్రియకు మాత్రమే పరిమితం చేయబడాలి, ఇది ఎల్లప్పుడూ సేవా డేటాబేస్ నుండి పూర్తిగా వేరుగా ఉండేలా చూసుకోవాలి.

ఈ ప్రొఫైల్‌తో పేరు లేదా ముఖాన్ని అనుబంధించకుండా సబ్జెక్ట్ యొక్క అభిరుచులు మరియు ప్రాధాన్యతలను తెలుసుకోవడం అనేది అప్‌స్ట్రీమ్‌లో నిర్వహించబడే అనామకీకరణ యొక్క ఒక రూపంగా పని చేస్తుంది, ఇది కృత్రిమ మేధస్సు వంటి ఆటోమేషన్ సిస్టమ్‌లలో డేటా సేకరణ మరియు వాటి వినియోగాన్ని స్వయంచాలకంగా అనుమతిస్తుంది.

ఆర్టికోలో డి Gianfranco Fedele