Meta LLaMA моделин ишке киргизет, бул OpenAIдин GPT-3ке караганда күчтүүрөөк издөө куралы

Meta жакында LLaMA деп аталган жаңы AI тил генераторун чыгарды, бул жогорку инновациялык компаниянын ролун тастыктады.

"Бүгүн биз изилдөөчүлөргө алардын ишин илгерилетүүгө жардам берүү үчүн иштелип чыккан LLaMA деп аталган жаңы, заманбап AI чоң тил моделин чыгарып жатабыз", - деди башкы директор Марк Цукерберг Facebook баракчасында.

Эмне үчүн LLaMA

Чоң тилдүү моделдер технология дүйнөсүн бороон менен каптады. Алар жасалма интеллект куралдарын, мисалы GPT чат жана башка сүйлөшүү моделдери. Бирок, бул куралдарды колдонуу олуттуу тобокелдиктерди, акылга сыярлык, бирок жалган дооматтарды, уулуу мазмунду пайда кылууну жана AI окутуу маалыматтарына негизделген калпыстыкты туурайт. 

изилдөөчүлөр бул көйгөйлөрдү чечүүгө жардам берүү үчүн, жума күнү, февраль 25, Meta  чыгарылышын жарыялады деп аталган жаңы чоң тил моделинин LLaMA (Large Language Model Meta AI) . 

LLaMA деген эмне?

LLaMA а эмес chatbot, бирок бул Meta ai ылайык, тил моделдерине байланыштуу маселелерди чече турган издөө куралы AI. "LLaMA сыяктуу кичинекей, жакшыраак иштөөчү моделдер изилдөө коомчулугунда чоң көлөмдөгү инфраструктурага мүмкүнчүлүгү жок башка адамдарга бул моделдерди изилдөөгө мүмкүндүк берет, бул маанилүү жана тез өнүгүп жаткан тармакта жеткиликтүүлүктү андан ары демократиялаштырат", - деди Мета өзүнүн блогунда. расмий .

LLaMA 7Вдан 65Вга чейинки параметрлерге чейинки тил моделдеринин жыйындысы. Компания өзүнүн моделдерин триллиондогон токендерге үйрөтүп, коомдук маалымат топтомдорун колдонуу менен заманбап моделдерди үйрөтө аларын жана менчик, жетүүгө мүмкүн болбогон маалымат топтомуна таянбай турганын айтты.

LLaMA башкача

Метанын айтымында, LLaMA сыяктуу моделдик окутуу жаңы колдонуу учурларын сыноо, текшерүү жана изилдөө үчүн өтө аз эсептөө күчүн талап кылат. Негизги тил моделдери белгиленбеген маалыматтардын чоң блокторун үйрөтөт, бул аларды ар кандай тапшырмаларга ылайыкташтыруу үчүн идеалдуу кылат. 

Мета өзүнүн илимий макаласында LLaMA-13B OpenAIдин GPT-3 (175B) көпчүлүк көрсөткүчтөрүнөн ашып түшкөнүн жана LLaMA-65B мыкты моделдер менен атаандаша тургандыгын белгиледи. Chinchilla70B DeepMind тарабынан e Google'дан PaLM-540B. 

LLaMA учурда Meta ai өнүмдөрүнүн биринде колдонулбайт, бирок компания аны изилдөөчүлөргө жеткиликтүү кылууну пландап жатат. Компания буга чейин LLM OPT-175B чыгарды, бирок LLaMA анын эң өнүккөн системасы. 

Компания аны изилдөө иштерине багытталган коммерциялык эмес лицензиянын алкагында жеткиликтүү кылып жатат. Бул академиялык изилдөөчүлөр үчүн жеткиликтүү болот; мамлекеттик, жарандык коом жана академиялык уюмдар менен байланышы барлар; жана дуйне жузундегу енер жайлык илимий лабораториялар.

Ercole Palmeri