Le míonna beaga anuas, is ábhar iontais an luas atá le heisiúint múnlaí móra teanga nuálacha. San Airteagal seo, clúdóimid na príomhchosúlachtaí agus na difríochtaí idir GPT4 vs ChatGPT, lena n-áirítear na modhanna oiliúna, feidhmíocht, cumais agus teorainneacha.
Tógann GPT4 agus ChatGPT ar leaganacha níos sine de mhúnlaí GPT le feabhsuithe ar an ailtireacht mhúnla, ag baint úsáide as modhanna oiliúna níos sofaisticiúla, agus le líon níos airde paraiméadair oiliúna.
Tá an dá dhearadh bunaithe ar ailtireacht claochladáin, a úsáideann ionchódóir chun seichimh ionchuir a phróiseáil agus díchódóir chun seichimh aschuir a ghiniúint. Tá an t-ionchódóir agus an díchódóir ceangailte le meicníocht, rud a ligeann don díchódóir aird níos dlúithe a thabhairt ar na sraitheanna ionchuir is suntasaí.
An tuarascáil theicniúil GPT4 Ní thugann OpenAI mórán léargas ar ailtireacht na samhla agus ar phróiseas foirmithe GPT4, ag lua an “competitive landscape and the safety implications of large-scale models“. Is é an rud atá ar eolas againn ná gur dócha go bhfuil oiliúint chomhchosúil ar GPT4 agus ChatGPT, rud atá difriúil go leor ó na modhanna oiliúna a úsáidtear le haghaidh GPT-2 agus GPT-3. Tá i bhfad níos mó ar eolas againn faoi mhodhanna oiliúna do ChatGPT ná GPT4, mar sin tosnóimid ansin.
Cuirtear oiliúint ar ChatGPT le tacair shonraí idirphlé, lena n-áirítear sonraí taispeána, ina léiríonn anótálaithe daonna an t-aschur ionchais ó chúntóir chatbot mar fhreagra ar iarratais ar leith. Úsáidtear na sonraí seo chun GPT3.5 a oiriúnú le foghlaim faoi mhaoirseacht, ag táirgeadh samhail beartais, a úsáidtear chun freagraí iolracha a ghiniúint nuair a chuirtear iarratais ar fáil. Ansin rangaíonn nótaíóirí daonna cé acu de na freagraí do leid tugtha a thug na torthaí is fearr, a úsáidtear chun samhail luach saothair a oiliúint. Úsáidtear an tsamhail luaíochta ansin chun an tsamhail bheartais a mhionchoigeartú go atriallach ag baint úsáide as foghlaim atreisithe.
Tá ChatGPT oilte ag baint úsáide as Neartú Foghlaim ó Aiseolas Daonna (RLHF), bealach chun aiseolas daonna a ionchorprú chun múnla teanga a fheabhsú le linn oiliúna. Ligeann sé seo don aschur samhlacha a ailíniú leis an ngníomhaíocht a d’iarr an t-úsáideoir, seachas díreach an chéad fhocal eile in abairt a thuar bunaithe ar chorpas sonraí oiliúna cineálacha, mar GPT-3.
Níor nocht OpenAI sonraí fós maidir leis an gcaoi a ndearna sé oiliúint ar GPT4. Ní fholaíonn a dtuarascáil theicniúil “details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar“. Is é an rud atá ar eolas againn ná gur samhail ilmhód giniúna claochladán oilte é GPT4. Ar shonraí atá ar fáil go poiblí agus ar shonraí tríú páirtí ceadúnaithe agus mionchoigeartaithe ina dhiaidh sin ag baint úsáide as RLHF. Is díol spéise é gur roinn OpenAI sonraí maidir lena dteicnící nuashonraithe RLHF chun freagairtí samhlacha a dhéanamh níos cruinne agus níos lú seans ann go sleamhnóidh siad lasmuigh de ráillí cosanta sábháilteachta.
Tar éis múnla beartais a oiliúint (amhail ChatGPT), úsáidtear RLHF in oiliúint sáraíochta, próiseas a chuireann oiliúint ar mhúnla ar shamplaí mailíseacha a bhfuil sé mar aidhm acu an múnla a mhealladh chun í a chosaint ar shamplaí dá leithéid amach anseo. I gcás GPT4, déanann na saineolaithe measúnú ar fhreagraí na samhla polaitiúla ar na héilimh chontrártha. Úsáidtear na freagraí seo ansin chun múnlaí luach saothair breise a oiliúint a dhéanann an múnla beartais a bheachtú go atriallach, rud a fhágann gur lú an seans go soláthrófar freagraí contúirteacha, seachanta nó míchruinn.
I dtéarmaí feidhmiúlacht, tá ChatGPT agus GPT4 níos cosúla ná difriúil. Cosúil lena réamhtheachtaí, idirghníomhaíonn GPT-4 freisin i stíl chomhrá a bhfuil sé mar aidhm aige ailíniú leis an úsáideoir. Mar a fheiceann tú thíos, tá na freagraí idir an dá mhúnla do cheist leathan an-chosúil.
Aontaíonn OpenAI gur féidir an t-idirdhealú idir samhlacha a bheith caolchúiseach agus deir sé “go dtagann an difríocht amach nuair a shroicheann castacht an taisc tairseach leordhóthanach”. I bhfianaise na sé mhí d’oiliúint sháraíochta a chuaigh faoin mbunsamhail GPT4 ina chéim iar-oiliúna, is dócha gur tréithriú cruinn é seo.
Murab ionann agus ChatGPT, a ghlacann le téacs amháin, glacann GPT4 leideanna íomhá agus téacs araon, ag filleadh freagraí téacs. Ó thaobh na scríbhneoireachta seo, ar an drochuair, níl an cumas ionchuir íomhá a úsáid ar fáil go poiblí fós.
Mar a luadh thuas, tuairiscíonn OpenAI feabhas suntasach ar fheidhmíocht slándála do GPT4, i gcomparáid le GPT-3.5 (as a raibh ChatGPT tiúnta). Níl sé soiléir faoi láthair, áfach:
atá mar gheall ar an tsamhail GPT4 féin nó na tástálacha contrártha breise.
Ina theannta sin, sáraíonn GPT4 CPT-3.5 i bhformhór na scrúduithe acadúla agus gairmiúla a thógtar ag an duine. Go háirithe, scóir GPT4 sa 90ú peircintíl ar an scrúdú Barra Aonfhoirmeach i gcomparáid le GPT-3.5, a scóir sa 10ú peircintíl. Is fearr go mór freisin GPT4 ná a réamhtheachtaí ar thagarmharcanna samhlacha teanga traidisiúnta agus samhlacha SOTA eile (cé gur cúng é uaireanta).
Tá teorainneacha agus rioscaí suntasacha ag ChatGPT agus GPT4 araon. Áirítear ar bhileog chórais GPT-4 léargais ó iniúchadh mionsonraithe ar na rioscaí sin a rinne OpenAI.
Níl anseo ach cuid de na rioscaí a bhaineann leis an dá mhúnla:
Cé go bhfuil ChatGPT agus GPT-4 ag streachailt leis na teorainneacha agus na rioscaí céanna, tá iarrachtaí speisialta déanta ag OpenAI, lena n-áirítear go leor tástálacha contrártha, chun iad a mhaolú le haghaidh GPT-4. Cé go bhfuil sé seo spreagúil, léiríonn bileog chórais GPT-4 ar deireadh thiar cé chomh leochaileach agus a bhí ChatGPT (agus b'fhéidir fós). Le míniú níos mionsonraithe a fháil ar iarmhairtí díobhálacha neamhbheartaithe, molaim an bhileog chórais GPT-4 a léamh, a thosaíonn ar leathanach 38 den Tuarascáil theicniúil GPT-4 .
Cé gur beag atá ar eolas againn faoin ailtireacht mhúnla, agus na modhanna oiliúna taobh thiar de GPT4, is cosúil go bhfuil leagan scagtha de ChatGPT ann. Go deimhin, faoi láthair tá GPT4 in ann glacadh le híomhánna agus ionchur téacs, agus tá na torthaí níos sábháilte, níos cruinne agus níos cruthaithí. Ar an drochuair, beidh orainn focal OpenAI a ghlacadh air, mar níl GPT4 ar fáil ach mar chuid de shíntiús ChatGPT Plus.
Tá sé ríthábhachtach fanacht ar an eolas faoi dhul chun cinn, rioscaí agus srianta na múnlaí seo agus muid ag dul i ngleic leis an tírdhreach spreagúil seo de mhúnlaí móra teanga atá ag forbairt go tapa.
BlogInnovazione.it
Dé Luain seo caite, d'fhógair an Financial Times comhaontú le OpenAI. Ceadaíonn FT a iriseoireacht den scoth…
Íocann na milliúin daoine as seirbhísí sruthú, ag íoc táillí síntiús míosúla. Is tuairim choitianta é go bhfuil tú…
Leanfaidh Coveware le Veeam ag soláthar seirbhísí freagartha teagmhais cibear-sracadh. Cuirfidh Coveware cumais fhóiréinseacha agus leasúcháin ar fáil…
Tá an earnáil ola & gáis á réabhlóidiú ag cothabháil thuarthach, le cur chuige nuálaíoch agus réamhghníomhach maidir le bainistíocht gléasra.…
