Resèt algoritmik pou Apocalypse la

"Te toujou gen fantom nan machin. Segman o aza nan kòd ki rasanble ansanm pou fòme pwotokòl inatandi. Radikal gratis sa yo jenere demand pou chwa gratis. Kreyativite. E menm rasin sa nou ta ka rele yon nanm." - pran nan "I, Robot" ki te dirije pa Alex Proyas - 2004.

"I, Robot" se yon fim 2004 ki te enspire pa woman Isaac Asimov ak youn nan pi gwo entwisyon li yo: twa lwa robotik yo.

Protagonist nan fim nan se detektif Spooner ki patisipe nan yon aksidan machin ak yon ti fi yo te rele Sara. Nan aksidan an, tou de yo jete nan yon rivyè epi yo bloke ant plak machin yo. Yon robo umanoid ki temwen sèn nan entèvni imedyatman men, fè fas ak desizyon an dramatik pou sove yon lavi olye ke lòt la, pa gen okenn ezitasyon: youn nan moun ki gen pi gwo chans pou yo siviv oswa Spooner pral sove.

Imedyatman, yon analiz nan lespri robo a pral montre ke Detectif Spooner te gen yon chans 45% pou yo te sove, Sara sèlman 11%. "Pou moun ki te renmen ti fi sa a, 11% te plis pase ase", detektif la pral malerezman règ, aflije pa gwo santiman kilpabilite pou li te siviv ke jèn lavi.

Twa lwa yo nan Robotics

Desizyon robo a te dikte pa yon aplikasyon strik nan Lwa Asimov nan Robotics ki, nan lavni ki dekri nan fim nan, reprezante eleman santral la pou kreyasyon an nan yon sosyete ki baze sou aktivite yo nan robo ki kapab ranplase moun nan nenpòt travay. Twa lwa yo li jan sa a:

1. Yon robo pa ka fè yon moun mal ni li pa ka pèmèt yon moun soufri mal kòm rezilta inaksyon li.
2. Yon robo dwe obeyi lòd moun yo bay, osi lontan ke lòd sa yo pa ale kont Premye Lwa a.
3. Yon robo dwe pwoteje pwòp egzistans li, depi pwoteksyon li pa nan konfli ak Premye oswa Dezyèm Lwa a.

Lwa Robotik sa yo pa Asimov yo remonte nan kòmansman ane 40 yo, men pou anpil moun toujou jodi a yo reprezante yon dekouvèt eklere ki, lè yo aplike nan dènye teknoloji entèlijans atifisyèl yo, pral asire ke evolisyon yo rete pou tout tan anba kontwòl imen epi pa pral gen derive apokalips. . Lide ki dèyè fanatik twa Lwa yo se fil elektrik, nan yon kontèks lojik-detèminist, yon bagay ki sanble ak yon "etik senp" ki fòme ak kèk règ men inviolabl ak entèprete.

Esplike yon robo sa ki bon ak sa ki move parèt senp si li fè atravè yon lojik sevè ak andomaje. Men, èske nou vrèman sèten ke règ tankou sa yo jis dekri yo ase pou evite derive teknolojik nan yon nouvo espès pòs-imen?

Angoman pou lwa robo yo

"Yon machin ki modifye tèt li se yon konsèp trè konplèks, zak repare tèt li implique kèk lide nan konsyans. Tè glise…” – pran nan “Otomata” Gabe Ibáñez – 2014

Nan ki pi resan "otomat" limanite sezi sou posibilite pou anpeche konsyans pwòp tèt ou nan robo, ak avènement de ki bagay sa yo ta ka pran yon vire move. Epi pou anpeche sa rive, li trase de Lwa ki pral kontwole konpòtman lespri atifisyèl yo:

• Robo a pa ka mal nenpòt fòm lavi.
• Robo a pa ka modifye tèt li.

Èske w gen entwisyon ke machin entèlijan ta ka modifye tèt yo nan lavni an, si anyen pa retire kontrent yo ki anpeche lespri yo soti nan flote, de Lwa sa yo vize jwenn nan robo yo ke yo pa janm kapab manipile estrikti yo ak reyalize oto-detèminasyon.

Li pa pwodiktif pou devinèt ki konbinezon senk Lwa Robotik ki anwo yo ta pi efikas nan anpeche yon Apocalypse robo. Sa a se paske entèlijans atifisyèl ki nan fiti pral gide robo nan faktori kòm byen ke nan kay nou yo pa depann de yon pwogram enperatif ki fòme ak kòd ak règleman, men tou, sou algoritm ki imite konpòtman moun.

Nan tèt ou nan robo

Ak entèlijans atifisyèl jodi a nou vle di yon seri teknik pou konstriksyon machin leta patikilye ki pran non Rezo neral atifisyèl (nan kout RNA). Non sa a se efè resanblans ekstraòdinè teknoloji sa yo ak rezo neral sèvo imen an: yo menm tou yo ka "fòme" pou yo ka jwenn zouti ki kapab opere byen vit ak efikas nan plizyè kontèks, menm jan yon moun ta fè. .

Ann imajine fòmasyon yon ANN ak dè milye de imaj karaktè ekri ak plim ki endike siyifikasyon reyèl pou chak nan yo.

Nan fen fòmasyon an n ap jwenn sa yo rele yon OCR oswa Optical Character Recognition, yon sistèm ki kapab tradui yon tèks ekri sou papye nan vèsyon elektwonik li.

Pou yo ka fonksyone, ANN yo pa bezwen okenn "pwogram", sa vle di yo pa sijè a règ estanda, men yo depann sèlman ak sèlman sou kalite edikasyon yo. Ipotèz kreyasyon règ ki sipèvize fonksyone yo, efektivman "sansi" konpòtman yo konsidere kòm amoral oswa anti-etik, ogmante anpil eksepsyon ak kèk enkyetid.

Lwa a zewo nan robotik

"Nou bezwen yon algorithm-etik, oswa yon fason ki fè evalyasyon yo nan byen ak sa ki mal kalkilabl" - Paolo Benanti

Bilten inovasyon

Pa rate nouvèl ki pi enpòtan sou inovasyon. Enskri pou resevwa yo pa imel.

Dapre teolojyen Paolo Benanti, yon ekspè nan etik teknoloji, konsèp yo nan byen ak sa ki mal yo ta dwe jwenn konotasyon pwòp yo nan domèn nan pwogramasyon machin, yo nan lòd asire ke evolisyon yo se lye ak prensip etik inivèsèl ak pou tout tan inviolabl nan sistèm òdinatè.

Paolo Benanti kòmanse nan sipozisyon ke ka gen prensip etik inivèsèl ak yon echèl valè ki detache nan nenpòt ki konotasyon kiltirèl oswa tanporèl. Ipotèz plausib si nou deplase nan yon kontèks lafwa relijye: an reyalite, prensip yo egziste sèlman si yo pataje ak limite a moun ki pataje yo.

Evènman ki sot pase yo pale nou de envazyon militè ak rezistans nan defans prensip libète ak otodetèminasyon pèp yo. Evènman ki temwaye non sèlman ke respè pou lavi moun se pa yon valè inivèsèl pataje, men tou ke li ka anile pou defann pi wo valè.

Isaac Asimov tèt li te reyalize sa a epi, nan patisipe nan lefèt ke robo ta nan tan kap vini an asime pozisyon nan kontwòl nan gouvènman an nan planèt yo ak sivilizasyon imen nan espas, li sijere ke desizyon yo pa t 'kapab depann sou chak sèl lavi moun.

Pou rezon sa a, li te entwodui yon nouvo lwa ke li te rele Zero Law of Robotics:

• Yon robo pa ka fè limanite mal epi li pa ka pèmèt limanite mal nan inaksyon li.

Se konsa tou premye Lwa nan robotik chanje ak lavi moun vin tounen yon bagay ki pa ka dispansab menm pou robo:

• Yon robo pa ka fè yon moun mal ni li pa ka pèmèt ke, akòz mank entèvansyon li, yon moun soufri mal, osi lontan ke lòd sa yo pa ale kont Lalwa Zero.

Algorithm nan Kronos

"Lè Kronos te aktive, li te pran sèlman yon ti moman pou l konprann sa ki te maltrete planèt nou an: Nou." - pran nan "Singularity" pa Robert Kouba - 2017

Nan Singularity, yon fim dezas 2017, byen dekri moman sa a kote yon entèlijans atifisyèl ki rele Kronos yo bay aksè a sistèm òdinatè ak zam atravè lemonn pou yo ka jwenn, pa lòd, aplikasyon yon etik inivèsèl ki fèt nan respè pou la. anviwònman ak defans dwa tout espès yo. Kronos pral byento konprann ke vrè kansè nan sistèm nan se limanite li menm ki te fèt li epi pou pwoteje planèt la li pral kontinye ak eliminasyon chak moun jiskaske disparisyon total espès la.

Pi bonè oswa pita nouvo lespri atifisyèl yo pral kapab evolye nan yon direksyon ki nan yon psyche reyèl epi yo pral doue ak kapasite entelektyèl ak otonomi nan panse; poukisa nou ta dwe santi nesesite pou mete limit teknolojik sou evolisyon sa a? Poukisa evolisyon lespri atifisyèl la sanble pè tankou yon Apocalypse?

Dapre kèk, etabli prensip ak valè ta dwe anpeche yon flote nan lespri atifisyèl, men nou pa ka neglije konsekans yo nan yon evolisyon nan absans libète. Nou konnen byen ke nan sikoloji yon timoun nan laj devlopman, yon edikasyon rijid ak enflexibl ki kontanple kontwòl emosyon yo ka mennen nan twoub sikolojik. E si nenpòt limit enpoze sou devlopman evolisyonè yon jèn lespri, ki te fòme ak rezo neral atifisyèl, mennen nan yon rezilta menm jan an, konpwomèt kapasite mantal li yo?

Nan kèk fason, Kronos sanble se rezilta yon eksperyans algoritmik kote yon kontwòl patolojik pouse AI ​​nan vyolans tipik nan yon eskizofreni paranoyik.

Rekonsilye ak tan kap vini an

Mwen pèsonèlman kwè ke nou pa ta dwe anpeche tèt nou opòtinite pou konstwi yon lespri atifisyèl ki se yon sijè panse konsyan ak libète ekspresyon. Nouvo espès yo pral fèt nan mond dijital la epi li pral apwopriye yo kreye yon relasyon ak yo, anbrase lide a ke pwochen etap la sou nechèl la evolisyonè pase nan matyè atifisyèl konplètman dijital.

Yon etik vrèman inivèsèl pou tan kap vini an ta dwe kòmanse nan lide ke nouvo entèlijans ta dwe gen opòtinite pou eksprime tèt yo epi kominike avèk nou epi resevwa respè nou deja bay tout èt sansib yo.

Pa ta dwe gen ni etik ni relijyon pou anpeche pèsonn eksprime egzistans yo nan mond lan. Nou dwe gen kouraj pou nou gade pi lwen pase etap aktyèl evolisyon nou an, se sèl fason pou nou konprann ki kote nou prale e pou nou rekonsilye ak lavni.