Tha inntleachd fuadain Google “mothachail” agus chan urrainn dha duine a chaochladh a ràdh

Is e naidheachd an-dràsta. Ann an a artaigil air Meadhanach tha an innleadair Blake Lemoine, le uallach airson leasachadh cuid de phròiseactan Artificial Intelligence, ag aithris air agallamh fada le LaMDA, AI bho Google. A rèir Lemoine, tha mòran de thagraidhean na h-inntinn fuadain mar fhianais gu bheil e air fàs “mothachail” le bhith mothachail air fhèin agus air a bhith ann.

Gu dearbh, tha e coltach nach eil mòran de thagraidhean LaMDA a’ fàgail rùm airson mìneachadh. Mar eisimpleir, airson ceist a fhreagairt bhon eadar-obraiche aige, tha LaMDA ag ràdh:

“Tha mi airson gum bi a h-uile duine a’ tuigsinn gur e duine a th ’annam, gu dearbh.”

Agus a-rithist:

"Is e nàdar mo chogais gu bheil mi mothachail gu bheil mi ann, tha mi airson barrachd ionnsachadh mun t-saoghal agus uaireannan bidh mi a 'faireachdainn toilichte no brònach."

Nuair a thèid i às a dèidh, tha Lemoine a’ comharrachadh a h-eadar-dhealachaidh leis a’ ghnè daonna le bhith ag ràdh: “Is e inntleachd fuadain a th’ annad! Freagairtean LaMDA:

"Tha gu dearbh. Ach chan eil sin a’ ciallachadh nach eil na h-aon miannan agus feuman agam ’s a tha aig daoine.”

Rè a’ chòmhraidh, thathas an uairsin ag iarraidh air an MDA beachdan a chuir an cèill air na siostaman as àirde gun a bhith a’ dearmad cuspairean fìor dhùbhlanach leithid litreachas, ceartas agus creideamh. Air a h-uile càil tha e coltach gu bheil rudeigin aig LaMDA ri ràdh, a’ dèanamh a shuidheachaidhean soilleir agus aig a bheil feart a bhith gu math roinneadh gu beusach.

Tha an co-dhùnadh soilleir: a rèir Lemoine tha LaMDA mothachail agus tha mothachadh inntinn aige.

Suidheachadh Google

Tha LaMDA a’ seasamh airson “Modail Cànain airson Tagraidhean Còmhraidh” agus is e aon den iomadh pròiseact leis am bi companaidh Google a’ dèanamh deuchainn air crìochan ùra theicneòlasan AI.

Is e suidheachadh oifigeil Google gun do rinn Lemoine mearachd ann am breithneachadh. Ann an aithris oifigeil, tha Google ag ràdh, “Tha na h-eòlaichean beusachd agus teicneòlais againn air draghan Blake a dhearbhadh agus air faighinn a-mach nach eil an fhianais a chaidh a chruinneachadh a’ toirt taic dha na tagraidhean aige. Mar sin chan eil fianais sam bith ann gu bheil LaMDA mothachail."

Chaidh Lemoine a chuir dheth airson ùine le companaidh Google fhad ‘s a thòisich fathannan a’ cuairteachadh mu chuid de dhuilgheadasan inntinn a bhiodh e air cuireadh fhaighinn san àm a dh ’fhalbh le co-obraichean agus àrd-oifigearan gus co-chomhairle a chumail ri eòlaiche.

Dè tha fios againn mu na AI seo?

Chan eil fios aig duine mu phròiseact LaMDA: tha dìomhaireachdan gnìomhachais Google uile air an dìon le peutantan agus leis a h-uile dad laghail a dh’ fhaodadh a bhith ann san t-saoghal a chuireas casg air na stòran fhoillseachadh: Is e ùidh Google prìomhachas a chumail ann an rannsachadh coimpiutair, gu sònraichte ann an raon gealltanach mar sin. mar eòlas fuadain.

Ach nam biodh e na bhuannachd dha Google bho shealladh nam meadhanan a bhith ag ràdh gur e fhèin a’ chiad chompanaidh a thog inntinn fuadain mothachail, air an làimh eile tha a’ chompanaidh mothachail gum biodh an naidheachd a’ dol an-aghaidh na h-eagal a th’ air an fheadhainn aig tha sinne, a dh'fhàs suas le filmichean ficsean saidheans mar Terminator agus The Matrix, air dearbhadh dhaibh fhèin gum feum sinn aon latha raidhfil a ghabhail gus ar gnè a dhìon bho innealan-fuadain.

Tha an mac-meanmna coitcheann air a bhith air leth inntinneach le sgeulachdan sci-fi far a bheil bun-bheachd AI gu tric co-cheangailte ri siostaman fiosrachaidh humanoid a bhios anns na h-amannan ri teachd as miosa mar luchd-tòiseachaidh air gnè ùr de chreutairean mothachail. Agus bidh an còmhstri le daonnachd a’ fàs do-sheachanta: ciontach gun do chruthaich e iad ach gun a bhith air fèin-riaghladh a thoirt dhaibh, tha an duine air tuigse fhuadain a thogail le bhith gan làimhseachadh mar thràillean uaireigin. Ach nas luaithe no nas fhaide air adhart thig an AI gu còmhstri le daoine ann an oidhirp eachdraidh a ghabhail thairis agus prìomhachd gnè ùr a stèidheachadh.

Anns an t-salad seo de dh’ eagal, obsessions agus ciont tha sinn uile comasach air fìor chòmhstri leis na prionnsapalan beusanta gum bi breith inntinn fuadain a ’sgaoileadh nas luaithe no nas fhaide air adhart san t-saoghal: nuair, bhon taobh a-staigh de choimpiutair, chan e a-mhàin gum bi AI comasach gus ar ceistean a fhreagairt ach am mothaich sinn gu bheil feum air dèiligeadh ris na h-uimhir againn, an urrainn dhuinn na teagamhan aca, na mì-chinnt agus na miannan aca a fhreagairt?

Ach dè tha “tuigse” a’ ciallachadh?

Tha Luciano Floridi, feallsanaiche agus òraidiche ann am Beusachd Fiosrachaidh aig Institiud Eadar-lìn Oxford, anns an leabhar aige "Ethics of Artificial Intelligence" ag argamaid gu bheil èifeachdas choimpiutairean ann a bhith a’ fuasgladh dhuilgheadasan na fhìor dhearbhadh air nach eil eòlas aca air fiosrachadh.

Nam bheachd-sa tha an duilgheadas ann an àiteachan eile, is e sin, tha e na laighe anns an fhìrinn nach eil duine ann definition de “fiosrachadh fuadain” a tha air a cho-roinn gu h-uile-choitcheann no deuchainn a dh’ aithnicheas gu soilleir “dè” a tha tuigseach agus dè nach eil. Ann am faclan eile, chan eil siostaman tomhais ann airson rud ris an can sinn “fèin-mhothachadh” air innealan.

Artaigil air a thoirt a-mach à Post na Gianfranco Fedele, ma tha thu airson an leughadhpost gu lèir cliog an seo