Lub network neural ua los ntawm ntau lab lossis ntau lab tus tsis muaj peev xwm xav tau cov peev txheej hauv kaum lab ntawm Euros.
Nrog rau cov nqi loj, tsuas yog cov neeg ua yeeb yam tuaj yeem tsim thiab cob qhia tus qauv zoo ntawm kev txawj ntse yog cov neeg sib tw.
Nrog rau cov yam ntxwv no, tus nqi ntawm AI kev tshawb fawb ua rau muaj kev cuam tshuam rau kev nkag.
Ob peb xyoos dhau los peb tau pom qhov kev loj hlob ntawm cov qauv me me thiab tsis yooj yim, txawm li cas los xij nyob deb ntawm cov qauv LLM loj.
Hauv xyoo tas los no peb tau pom qhov hloov pauv. Piv txwv li, Meta qhov kev tso tawm ntawm OPT-175B (Qhib Pretrained Transformer), ib hom lus uas tau kawm nrog cov ntaub ntawv pej xeem thiab ua rau cov neeg tshawb nrhiav hauv "quasi" qhib hom.
Tab sis cov xov xwm tam sim no yog kev tso tawm ntawm BLOOM LM los ntawm BigScience.
BLOOM yog tus qauv qhib nkag tau ntau hom lus uas muaj 176 billion tsis tau thiab tau txais kev cob qhia rau 3,5 lub hlis ntawm 384 A100-80 GB GPUs.
Lub chaw kuaj BLOOM siv 330GB ntawm qhov chaw disk, yog li nws zoo li tsis yooj yim sua kom khiav cov qauv no ntawm lub khoos phis tawj desktop.
Txawm li cas los xij, koj tsuas yog xav tau qhov chaw disk txaus, thiab tsawg kawg 16GB ntawm RAM los khiav cov qauv no hauv koj lub computer.
BLOOM yog kev sib koom tes ntawm ntau tshaj 1.000 tus kws tshawb fawb.
Nws yog ib qho tseem ceeb uas tus qauv uas muaj ntau hom lus yog qhib rau txhua tus.
BLOOM yog hom lus ua qauv lus, uas txhais tau hais tias nws tau raug cob qhia ua tus kwv yees ntawm lub cim tom ntej.
Qhov no zoo li yooj yim lub tswv yim ntawm kev kwv yees lub cim tom ntej hauv kab lus, raws li cov txheej txheem ntawm cov tokens yav dhau los, tau pom tias ntes tau qee qhov kev xav ntawm lub zog rau cov qauv lus loj.
Qhov no tso cai rau BLOOM thiab cov qauv zoo sib xws los txuas ntau lub ntsiab lus hauv kab lus thiab tuaj yeem daws cov teeb meem tsis tseem ceeb xws li lej lej, txhais lus thiab programming nrog qhov tseeb ncaj ncees.
BLOOM siv Transformer architecture uas muaj cov txheej txheem nkag, 70 Transformer blocks, thiab cov txheej txheem tsim cov lus tsim tawm, raws li pom hauv daim duab hauv qab no.
Cov ntawv luam tawm los ntawm Post of Luca Sambucci, yog koj xav nyeem covXov xwm.AI
Kev lag luam ophthalmoplasty siv Apple Vision Pro coj mus muag saib tau ua ntawm Catania Polyclinic…
Tsim kom muaj kev txawj tsav tsheb zoo los ntawm kev pleev xim npaj cov menyuam yaus rau kev txawj ntse ntau dua li kev sau ntawv. Rau xim…
Kev lag luam naval yog lub zog kev lag luam thoob ntiaj teb tiag tiag, uas tau taug kev mus rau 150 billion kev lag luam ...
Hnub Monday dhau los, Lub Sijhawm Nyiaj Txiag tau tshaj tawm kev pom zoo nrog OpenAI. FT tso cai nws cov ntawv xov xwm thoob ntiaj teb…
