Ir-riċetta algoritmika għall-apocalypse

“Dejjem kien hemm ghosts fil-karozzi. Segmenti każwali ta 'kodiċi li jingħaqdu flimkien biex jiffurmaw protokolli mhux mistennija. Dawn ir-radikali ħielsa jiġġeneraw talbiet għal għażla ħielsa. Kreattività. U anke l-għerq ta’ dik li nistgħu nsejħu ruħ”. – meħud minn “I, Robot” dirett minn Alex Proyas – 2004.

“I, Robot” huwa film tal-2004 ispirat mir-rumanzi ta’ Isaac Asimov u waħda mill-akbar intwizzjonijiet tiegħu: it-tliet Liġijiet tar-Robotika.

Il-protagonista tal-film huwa d-ditektiv Spooner li huwa involut f’inċident bil-karozza ma’ tifla ċkejkna jisimha Sarah. Fl-inċident, it-tnejn jintefgħu fi xmara u jeħlu bejn il-pjanċi tal-vettura tagħhom. Robot umanojdi li jixhed ix-xena jintervjeni minnufih iżda, iffaċċjat bid-deċiżjoni drammatika li ssalva ħajja waħda aktar milli l-oħra, m’għandu ebda dubju: dak li għandu l-akbar ċans ta’ sopravivenza jew Spooner jiġi salvat.

Sussegwentement, analiżi tal-moħħ tar-robot se turi li Detective Spooner kellu 45% ċans li jiġi salvat, Sarah biss 11%. “Għal dawk li kienu jħobbu lil dik it-tifla ċkejkna, 11% kien aktar minn biżżejjed”, sfortunatament se jiddeċiedi d-ditektif, milqut minn sentimenti profondi ta’ ħtija talli għexu f’dik il-ħajja żagħżugħa.

It-tliet Liġijiet tar-Robotika

Id-deċiżjoni tar-robot kienet iddettata minn applikazzjoni stretta tal-Liġijiet tar-Robotika ta’ Asimov li, fil-futur deskritt fil-film, jirrappreżentaw l-element ċentrali għall-ħolqien ta’ soċjetà bbażata fuq l-attivitajiet ta’ robots li kapaċi jissostitwixxu l-bnedmin fi kwalunkwe xogħol. It-tliet liġijiet jaqraw hekk:

1. Robot ma jistax jagħmel ħsara lil bniedem u lanqas ma jista' jħalli bniedem isofri ħsara bħala riżultat tan-nuqqas ta' azzjoni tiegħu.
2. Robot irid jobdi l-ordnijiet mogħtija mill-bnedmin, sakemm ordnijiet bħal dawn ma jmorrux kontra l-Ewwel Liġi.
3. Robot għandu jipproteġi l-eżistenza tiegħu stess, sakemm is-salvagwardja tiegħu ma tkunx f'kunflitt mal-Ewwel jew it-Tieni Liġi.

Dawn il-Liġijiet tar-Robotika ta’ Asimov jmorru lura għall-bidu tas-snin erbgħin iżda għal ħafna għadhom illum jirrappreżentaw skoperta infurmata li, meta tiġi applikata għall-aħħar teknoloġiji tal-Intelliġenza Artifiċjali, se tiżgura li l-evoluzzjoni tagħhom tibqa’ għal dejjem taħt il-kontroll tal-bniedem u ma jkun hemm l-ebda tlaqliq apokalittiku. . L-idea wara l-partitarji tat-tliet Liġijiet hija li jaqbdu, f’kuntest loġiku-deterministiku, xi ħaġa li tixbaħ “etika sempliċi” magħmula minn ftit regoli imma invjolabbli u mhux interpretabbli.

Li tispjega lil robot x’inhu tajjeb u x’inhu ħażin jidher sempliċi jekk isir permezz ta’ loġika stretta u bla difetti. Imma aħna tassew ċerti li regoli bħal dawk li għadhom kif deskritti huma biżżejjed biex tiġi evitata d-drift teknoloġiku ta’ speċi ġdida wara l-bniedem?

Il-jixxaqqaqx għal-Liġijiet tar-Robots

“Magna li timmodifika lilha nnifisha hija kunċett kumpless ħafna, l-att li tissewwa ruħha jimplika xi idea ta’ sensi. Art tiżloq...” – meħuda minn “Automata” ta’ Gabe Ibáñez – 2014

Fl-aktar riċenti "Automata" l-umanità tistaqsi dwar il-possibbiltà li tipprevjeni l-awto-kuxjenza tar-robots, bil-miġja tagħha l-affarijiet jistgħu jieħdu dawra ħażina. U biex ma jseħħx dan, tfassal żewġ Liġijiet li se jirregolaw l-imġieba tal-imħuħ artifiċjali tagħhom:

• Ir-robot ma jista 'jagħmel ħsara lill-ebda forma ta' ħajja.
• Ir-robot ma jistax jimmodifika lilu nnifsu.

Wara li intuwixxew li magni intelliġenti jistgħu jimmodifikaw lilhom infushom fil-futur, jekk xejn billi jneħħu r-restrizzjonijiet li jipprevjenu moħħhom milli jimxu, dawn iż-żewġ Liġijiet għandhom l-għan li jiksbu mir-robots li qatt ma jkunu kapaċi jimmanipulaw l-istruttura tagħhom u jiksbu awtodeterminazzjoni.

Mhuwiex produttiv li wieħed jistaqsi dwar liema kombinazzjoni tal-ħames Liġijiet tar-Robotika hawn fuq tkun l-aktar effettiva biex tipprevjeni apocalypse robot. Dan għaliex l-Intelliġenza Artifiċjali li fil-futur se jiggwidaw lir-robots fil-fabbriki kif ukoll fid-djar tagħna ma jiddependux minn programmazzjoni imperattiva magħmula minn kodiċijiet u regolamenti, iżda wkoll minn algoritmi li jimitaw l-imġieba tal-bniedem.

Fil-moħħ tar-robots

Bl-Intelliġenza Artifiċjali llum nifhmu sett ta’ tekniki għall-kostruzzjoni ta’ magni tal-istat partikolari li jieħdu l-isem ta’ Netwerks Neurali Artifiċjali (fil-qosor RNA). Dan l-isem huwa l-effett tax-xebh straordinarju ta’ dawn it-teknoloġiji man-netwerks newrali tal-moħħ tal-bniedem: huma wkoll jistgħu jiġu “mħarrġa” sabiex jiksbu għodod kapaċi joperaw malajr u b’mod effettiv f’ħafna kuntesti, bħalma jagħmel bniedem. .

Ejja nimmaġinaw it-taħriġ ta' ANN b'eluf ta' immaġini ta' karattri miktuba bil-pinna li jindikaw it-tifsira reali għal kull wieħed minnhom.

Fi tmiem it-taħriġ inkunu ksibna dak li jissejjaħ OCR jew Optical Character Recognition, sistema li kapaċi tittraduċi test miktub fuq karta fil-verżjoni elettronika tiegħu.

Sabiex jiffunzjonaw, l-ANNs ma jeħtieġu ebda "programmazzjoni", fi kliem ieħor mhumiex suġġetti għal regoli standard, iżda jiddependu biss u esklussivament fuq il-kwalità tal-edukazzjoni tagħhom. L-ipoteżi dwar il-ħolqien ta' regoli li jissorveljaw il-funzjonament tagħhom, "jiċċensuraw" b'mod effettiv imgieba meqjusa amorali jew anti-etika, tqajjem ħafna eċċezzjonijiet u xi tħassib.

Il-Liġi Żero tar-Robotika

"Għandna bżonn algoritmu-etika, jew mod li jagħmel l-evalwazzjonijiet tat-tajjeb u l-ħażin komputabbli" - Paolo Benanti

Newsletter dwar l-innovazzjoni

Titlifx l-aktar aħbarijiet importanti dwar l-innovazzjoni. Irreġistra biex tirċevihom bl-email.

Skont it-teologu Paolo Benanti, espert fl-etika tat-teknoloġija, il-kunċetti tat-tajjeb u l-ħażin għandhom isibu l-konnotazzjoni tagħhom stess fil-qasam tal-ipprogrammar tal-magni, sabiex jiġi żgurat li l-evoluzzjoni tagħhom tkun marbuta ma’ prinċipji etiċi universali u invjolabbli għal dejjem mis-sistemi tal-kompjuter.

Paolo Benanti jibda mis-suppożizzjoni li jista’ jkun hemm prinċipji etiċi universali u skala ta’ valuri maqlugħa minn kull konnotazzjoni kulturali jew temporali. Ipoteżi plawżibbli jekk nimxu fil-kuntest ta’ fidi reliġjuża: fir-realtà, il-prinċipji jeżistu biss jekk ikunu kondiviżi u limitati għal dawk li jaqsmuhom.

Avvenimenti riċenti jgħidulna dwar invażjonijiet militari u reżistenza fid-difiża tal-prinċipji tal-libertà u l-awtodeterminazzjoni tal-popli. Avvenimenti li jixhdu mhux biss li r-rispett għall-ħajja umana mhuwiex valur kondiviż universalment, iżda wkoll li jista’ jiġi rinunzjat biex jiddefendu valuri ogħla.

Isaac Asimov innifsu rrealizza dan u, b'antiċipazzjoni tal-fatt li r-robots fil-futur se jassumu pożizzjonijiet ta 'kontroll fil-gvern tal-pjaneti u ċ-ċiviltajiet umani fl-ispazju, issuġġerixxa li d-deċiżjonijiet tagħhom ma jistgħux jibqgħu jiddependu fuq kull ħajja umana waħda.

Għal din ir-raġuni, introduċa liġi ġdida li sejjaħ il-Liġi Żero tar-Robotika:

• Robot ma jistax jagħmel ħsara lill-umanità u ma jistax iħalli li l-umanità ssirilha ħsara min-nuqqas ta 'azzjoni tagħha.

Għalhekk ukoll l-ewwel Liġi tar-robotika tinbidel u l-ħajja tal-bniedem issir xi ħaġa li tispiċċa anki għar-robots:

• Robot ma jistax jagħmel ħsara lil bniedem u lanqas jista’ jippermetti li, minħabba n-nuqqas ta’ intervent tiegħu, bniedem isofri ħsara, sakemm ordnijiet bħal dawn ma jmorrux kontra l-Liġi Żero.

L-algoritmu ta' Kronos

"Meta Kronos ġie attivat, ħa biss mument biex jifhem dak li kien ikrah il-pjaneta tagħna: Aħna." – meħud minn “Singularity” ta’ Robert Kouba – 2017

F'Singularity, film ta' diżastru tal-2017, huwa deskritt tajjeb il-mument li fih intelliġenza artifiċjali msejħa Kronos tingħata aċċess għal sistemi tal-kompjuter u armamenti madwar id-dinja sabiex tikseb, bil-kmand, l-applikazzjoni ta' etika universali magħmula mir-rispett tal- ambjent u difiża tad-drittijiet tal-ispeċi kollha. Kronos dalwaqt se jifhem li l-kanċer reali fis-sistema huwa l-umanità nnifisha li ddisinjatha u biex jissalvagwardja l-pjaneta se jipproċedi bl-eliminazzjoni ta 'kull bniedem sal-estinzjoni totali tal-ispeċi.

Illum jew għada imħuħ artifiċjali ġodda jkunu jistgħu jevolvu fid-direzzjoni ta’ psyche reali u jkunu mogħnija b’kapaċità intellettwali u awtonomija tal-ħsieb; għaliex għandna nħossu l-ħtieġa li npoġġu limiti teknoloġiċi fuq din l-evoluzzjoni? Għaliex l-evoluzzjoni tal-moħħ artifiċjali tidher tal-biża' daqs apokalissi?

Skont xi wħud, l-istabbiliment ta 'prinċipji u valuri għandu jipprevjeni drift ta' imħuħ artifiċjali, iżda ma nistgħux ninjoraw il-konsegwenzi ta 'evoluzzjoni fin-nuqqas ta' libertà. Aħna nafu sew li fil-psikoloġija ta’ tifel f’età ta’ żvilupp, edukazzjoni riġida u inflessibbli li tikkontempla l-kontroll tal-emozzjonijiet tista’ twassal għal disturbi psikoloġiċi. X'jiġri jekk xi limiti imposti fuq l-iżvilupp evoluzzjonarju ta 'moħħ żagħżugħ, magħmul minn netwerks newrali artifiċjali, iwasslu għal riżultat simili, li jikkomprometti l-kapaċitajiet konjittivi tiegħu?

F'ċerti modi Kronos jidher li huwa r-riżultat ta 'esperiment algoritmiku fejn kontroll patoloġiku imbuttat l-AI għall-vjolenza tipika ta' skizofrenija paranojde.

Tirrikonċilja mal-futur

Jien personalment nemmen li m'għandniex inċaħħdu lilna nfusna mill-opportunità li nibnu moħħ artifiċjali li huwa suġġett ta' ħsieb konxju bil-libertà tal-espressjoni. Se jitwieldu speċi ġodda fid-dinja diġitali u jkun xieraq li tinħoloq relazzjoni magħhom, li tħaddan l-idea li l-pass li jmiss fuq is-sellum evoluzzjonarju jgħaddi minn suġġetti artifiċjali kompletament diġitali.

Etika tassew universali għall-futur għandha tibda mill-idea li intelliġenzi ġodda għandu jkollhom l-opportunità jesprimu lilhom infushom u jikkomunikaw magħna u jirċievu r-rispett li diġà nagħtu lill-ħlejjaq kollha senzjenti.

M’għandu jkun hemm la etika u lanqas reliġjon biex jipprevjenu lil xi ħadd milli jesprimi l-eżistenza tiegħu fid-dinja. Irridu jkollna l-kuraġġ li nħarsu lil hinn mill-istadju attwali tal-evoluzzjoni tagħna, se jkun l-uniku mod kif nifhmu fejn sejrin u nkunu rikonċiljati mal-futur.