Anns na beagan mhìosan a dh’ fhalbh, tha e iongantach cho luath sa tha modalan cànain mòra ùr-nodha air an leigeil ma sgaoil. San artaigil seo, còmhdaichidh sinn na prìomh rudan a tha coltach agus eadar-dhealaichte eadar GPT4 vs ChatGPT, a’ toirt a-steach dòighean trèanaidh, coileanadh, comasan agus crìochan.
Bidh GPT4 agus ChatGPT a’ togail air dreachan nas sine de mhodalan GPT le leasachaidhean air ailtireachd a’ mhodail, a’ cleachdadh dhòighean trèanaidh nas ionnsaichte, agus le àireamh nas àirde de pharamadairean trèanaidh.
Tha an dà dhealbhadh stèidhichte air ailtireachd cruth-atharrachaidh, a bhios a’ cleachdadh encoder gus sreathan cuir a-steach a phròiseasadh agus decoder gus sreathan toraidh a ghineadh. Tha an encoder agus an decoder ceangailte le uidheamachd, a leigeas leis an decoder aire nas mionaidiche a thoirt do na sreathan cuir a-steach as cudromaiche.
An aithisg theicnigeach GPT4 de OpenAI a’ tabhann glè bheag de shealladh air ailtireachd modail agus pròiseas cruthachadh GPT4, ag ainmeachadh an “competitive landscape and the safety implications of large-scale models“. Is e na tha fios againn gur dòcha gu bheil GPT4 agus ChatGPT air an trèanadh san aon dòigh, a tha gu math eadar-dhealaichte bho na dòighean trèanaidh a thathas a’ cleachdadh airson GPT-2 agus GPT-3. Tha fios againn tòrr a bharrachd mu dhòighean trèanaidh airson ChatGPT na GPT4, agus mar sin tòisichidh sinn an sin.
Tha ChatGPT air a thrèanadh le stòran-dàta còmhraidh, a’ toirt a-steach dàta demo, far am bi luchd-notaichean daonna a’ nochdadh an toradh ris a bheil dùil bho neach-cuideachaidh chatbot mar fhreagairt air iarrtasan sònraichte. Tha an dàta seo air a chleachdadh gus GPT3.5 a ghleusadh le ionnsachadh fo stiùir, a’ cruthachadh modail poileasaidh, a thèid a chleachdadh gus grunn fhreagairtean a ghineadh nuair a gheibhear iarrtasan. Bidh luchd-notaichean daonna an uairsin a’ seòrsachadh dè na freagairtean airson sgiobalta sònraichte a thug na toraidhean as fheàrr, a thathas a’ cleachdadh airson modal duais a thrèanadh. Bithear an uairsin a’ cleachdadh a’ mhodail duais gus am modail poileasaidh a mhion-atharrachadh a’ cleachdadh ionnsachadh neartachaidh.
Tha ChatGPT air a thrèanadh le bhith a’ cleachdadh Neartachadh Ionnsachadh bho Fios air ais Daonna (RLHF), dòigh air fios air ais bho dhaoine a thoirt a-steach gus modal cànain a leasachadh rè trèanadh. Leigidh seo le toradh a’ mhodail co-thaobhadh ris a’ ghnìomhachd a dh’ iarr an neach-cleachdaidh, seach a bhith dìreach a’ ro-innse an ath fhacal ann an seantans stèidhichte air buidheann de dhàta trèanaidh coitcheann, leithid GPT-3.
Chan eil OpenAI fhathast air mion-fhiosrachadh fhoillseachadh air mar a rinn e trèanadh GPT4. Chan eil an aithisg theicnigeach aca a’ toirt a-steach “details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar“. Is e na tha fios againn gu bheil GPT4 na mhodail ioma-mhodach ginealach le trèanadh cruth-atharrachaidh. An dà chuid air dàta a tha ri fhaighinn gu poblach agus air dàta treas-phàrtaidh le cead agus air a dheagh ghleusadh a’ cleachdadh RLHF. Gu inntinneach, cho-roinn OpenAI mion-fhiosrachadh mu na dòighean RLHF ùraichte aca gus freagairtean modail a dhèanamh nas cruinne agus nas dualtaiche gluasad taobh a-muigh rèilichean dìon.
Às deidh modal poileasaidh a thrèanadh (mar le ChatGPT), bidh RLHF air a chleachdadh ann an trèanadh nàimhdeil, pròiseas a bhios a’ trèanadh modail air eisimpleirean droch-rùnach a tha ag amas air a’ mhodail a mhealladh gus a dhìon an aghaidh eisimpleirean mar sin san àm ri teachd. A thaobh GPT4, bidh na h-eòlaichean a’ measadh freagairtean a’ mhodail phoilitigeach do na h-iarrtasan a tha an aghaidh a chèile. Tha na freagairtean sin an uairsin air an cleachdadh gus modalan duais a bharrachd a thrèanadh a bhios ag ùrachadh a’ mhodail poileasaidh, a’ leantainn gu modail nach eil cho dualtach freagairtean cunnartach, seachantach no mearachdach a thoirt seachad.
A thaobh comas-gnìomh, tha ChatGPT agus GPT4 nas coltaiche na diofar. Coltach ris an fhear a bh ’ann roimhe, bidh GPT-4 cuideachd ag eadar-obrachadh ann an stoidhle còmhraidh a tha ag amas air co-thaobhadh ris an neach-cleachdaidh. Mar a chì thu gu h-ìosal, tha na freagairtean eadar an dà mhodail airson ceist fharsaing glè choltach.
Tha OpenAI ag aontachadh gum faod an eadar-dhealachadh eadar modalan a bhith seòlta agus ag ràdh “thig an diofar a-mach nuair a ruigeas iom-fhillteachd na h-obrach ìre gu leòr”. Leis na sia mìosan de thrèanadh nàimhdeil a chaidh am modal bunaiteach GPT4 air adhart san ìre às dèidh trèanadh, is dòcha gur e caractar ceart a tha seo.
Eu-coltach ri ChatGPT, a tha a’ gabhail ri teacsa a-mhàin, tha GPT4 a’ gabhail ri molaidhean ìomhaigh is teacsa, a’ tilleadh freagairtean teacsa. A thaobh an sgrìobhaidh seo, gu mì-fhortanach, chan eil an comas cuir a-steach ìomhaighean a chleachdadh fhathast ri fhaighinn gu poblach.
Mar a chaidh ainmeachadh gu h-àrd, tha OpenAI ag aithris air adhartas mòr ann an coileanadh tèarainteachd airson GPT4, an coimeas ri GPT-3.5 (bhon deach ChatGPT a ghleusadh). Ach, chan eil e soilleir an-dràsta a bheil:
mar thoradh air a’ mhodail GPT4 fhèin no na deuchainnean contrarra a bharrachd.
A bharrachd air an sin, tha GPT4 a’ coileanadh nas fheàrr na CPT-3.5 anns a’ mhòr-chuid de dheuchainnean acadaimigeach agus proifeasanta a chaidh a thogail le daoine. Gu sònraichte, tha GPT4 a’ faighinn sgòran anns an 90mh sa cheud air an deuchainn Bàr Èideadh an coimeas ri GPT-3.5, a tha a’ faighinn sgòr anns an 10mh ceudad. Tha GPT4 cuideachd a’ coileanadh gu math nas fheàrr na bha roimhe air slatan-tomhais modail cànain traidiseanta agus modalan SOTA eile (ged a tha e uaireannan le glè bheag).
Tha crìochan agus cunnartan mòra aig ChatGPT agus GPT4. Tha duilleag siostam GPT-4 a’ toirt a-steach seallaidhean bho sgrùdadh mionaideach air na cunnartan sin a rinn OpenAI.
Seo dìreach cuid de na cunnartan co-cheangailte ris an dà mhodail:
Fhad ‘s a tha ChatGPT agus GPT-4 a’ strì leis na h-aon chuingealachaidhean agus chunnartan, tha OpenAI air oidhirpean sònraichte a dhèanamh, a ’toirt a-steach grunn dheuchainnean an-aghaidh, gus an lasachadh airson GPT-4. Ged a tha seo brosnachail, tha duilleag siostam GPT-4 aig a ’cheann thall a’ sealltainn cho so-leònte sa bha ChatGPT (agus is dòcha fhathast). Airson mìneachadh nas mionaidiche air builean cronail gun dùil, tha mi a’ moladh an duilleag siostam GPT-4 a leughadh, a tha a’ tòiseachadh air duilleag 38 den Aithisg theicnigeach GPT-4 .
Ged nach eil mòran fios againn mun ailtireachd mhodail, agus na dòighean trèanaidh air cùl GPT4, tha coltas ann gu bheil dreach ath-leasaichte de ChatGPT. Gu dearbh, an-dràsta tha GPT4 comasach air gabhail ri ìomhaighean agus cuir a-steach teacsa, agus tha na toraidhean nas sàbhailte, nas cruinne agus nas cruthachail. Gu mì-fhortanach, feumaidh sinn facal OpenAI a ghabhail air a shon, leis nach eil GPT4 ri fhaighinn ach mar phàirt den fho-sgrìobhadh ChatGPT Plus.
Tha e deatamach gun cùm sinn fios mu adhartas, cunnartan agus cuingeachaidhean nam modailean sin agus sinn a’ seòladh tron t-sealladh inntinneach seo de mhodalan cànain mòra a tha ag atharrachadh gu luath.
BlogInnovazione.it
Tha cumail suas ro-innse ag atharrachadh roinn na h-ola & gas, le dòigh-obrach ùr-ghnàthach agus for-ghnìomhach a thaobh riaghladh planntrais.…
Tha CMA na RA air rabhadh a chuir a-mach mu ghiùlan Big Tech anns a’ mhargaidh fiosrachaidh fuadain. An sin…
Tha an t-òrdugh “Taighean Uaine”, a chuir an Aonadh Eòrpach ri chèile gus èifeachdas lùtha thogalaichean a neartachadh, air a phròiseas reachdail a thoirt gu crìch le…
Aithisg air toraidhean ionmhasail teachd-a-steach bliadhnail companaidh Casaleggio Associati, Casaleggio Associati air E-Malairt san Eadailt. Aithisg leis an tiotal “AI-Commerce: crìochan e-malairt le Artificial Intelligence”.…
