Feumaidh lìonra neural air a dhèanamh suas de bhilleanan no eadhon billeanan de pharamadairean goireasan anns na deichean mhilleanan de Euro.
Le cosgaisean cho mòr, is e na companaidhean ioma-nàiseanta na h-aon chleasaichean a tha comasach air deagh mhodail de dh’fhiosrachadh fuadain a thogail agus a thrèanadh.
Leis na feartan sin, tha cosgais sgrùdadh AI na bhacadh air faighinn a-steach.
Thairis air na beagan bhliadhnaichean a dh’ fhalbh tha sinn air a bhith a’ faicinn iomadachadh de mhodalan nas lugha agus nach eil cho iom-fhillte, ge-tà fada bho na modalan mòra cànain LLM.
Anns na bliadhnachan mu dheireadh tha sinn air tionndadh fhaicinn. Mar eisimpleir, foillseachadh Meta de OPT-175B (Open Pretrained Transformer), modail cànain air a thrèanadh le stòran-dàta poblach agus ri fhaighinn do luchd-rannsachaidh ann am modh fosgailte “quasi”.
Ach is e an naidheachd an-dràsta foillseachadh BLOOM LM le BigScience.
Tha BLOOM na mhodal cànain ioma-chànanach ruigsinneachd fosgailte anns a bheil paramadairean 176 billean agus a chaidh a thrèanadh airson 3,5 mìosan air 384 A100–80 GB GPUs.
Bidh àite-seicidh BLOOM a’ toirt suas 330GB de dh’ àite diosc, agus mar sin tha e coltach gu bheil e do-dhèanta am modail seo a ruith air coimpiutair deasg.
Ach, chan fheum thu ach àite diosc gu leòr, agus co-dhiù 16GB de RAM gus am modail seo a ruith air do choimpiutair.
Tha BLOOM na oidhirp cho-obrachail le còrr air 1.000 neach-saidheans.
Tha e cudromach gum bi modal ioma-chànanach cho farsaing ri fhaotainn do na h-uile.
Is e cànan modail adhbharach a th’ ann am BLOOM, a tha a’ ciallachadh gun deach a thrèanadh mar ro-innse air an ath chomharra.
Thathas air sealltainn gu bheil an ro-innleachd seo a tha coltach gu sìmplidh mu bhith a’ ro-innse an ath chomharra ann an seantans, stèidhichte air seata de chomharran roimhe, a’ glacadh ìre sònraichte de chumhachd reusanachaidh airson modalan cànain mòra.
Leigidh seo le BLOOM agus modalan coltach ri chèile grunn bhun-bheachdan a cheangal ann an seantans agus a bhith comasach air fuasgladh fhaighinn air duilgheadasan neo-thràth leithid àireamhachd, eadar-theangachadh agus prògramadh gu cothromach.
Bidh BLOOM a’ cleachdadh ailtireachd Transformer anns a bheil còmhdach in-ghabhail a-steach, 70 blocaichean Transformer, agus còmhdach modaladh cànan toraidh, mar a chithear san fhigear a leanas.
Artaigil air a thoirt a-mach à Post na Luca Sambucci, ma tha thu airson an leughadhNaidheachdan.AI
Chaidh gnìomhachd ophthalmoplasty a’ cleachdadh neach-seallaidh malairteach Apple Vision Pro a dhèanamh aig an Catania Polyclinic…
Le bhith a’ leasachadh sgilean motair mìn tro dhath, bidh clann ag ullachadh airson sgilean nas iom-fhillte leithid sgrìobhadh. Gus dath a…
Tha an roinn cabhlaich na fhìor chumhachd eaconamach cruinne, a tha air gluasad a dh’ ionnsaigh margaidh 150 billean ...
Diluain sa chaidh, dh’ ainmich an Financial Times aonta le OpenAI. Tha FT a’ ceadachadh a naidheachdas aig ìre cruinne…
