Meta は、OpenAI の GPT-3 よりも強力な検索ツールである LLaMA モデルを起動します

Meta は最近、LLaMA と呼ばれる新しい AI 言語ジェネレーターをリリースし、非常に革新的な企業の役割を確認しました。

CEOのマーク・ザッカーバーグはFacebookの投稿で、「本日、研究者が研究を進めるのを支援するために設計された、LLaMAと呼ばれる新しい最先端のAI大規模言語モデルをリリースします。

ラマが選ばれる理由

大きな言語モデルがテクノロジーの世界を席巻しました。 これらは、次のような人工知能ツールを強化します。 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 およびその他の会話モデル。 ただし、これらのツールの使用には重大なリスク、もっともらしいが虚偽の主張、有毒なコンテンツの生成、AI トレーニング データに根ざした偏見の模倣が伴います。 

研究者がこれらの問題を解決するのを助けるために、25 月 XNUMX 日金曜日、Meta  リリースを発表しました と呼ばれる新しい大規模言語モデルの ラマ (Large Language Model メタAI） . 

ラマとは？

LLaMA は チャットボット、しかし、メタアイによると、言語モデルに関する問題を解決する検索ツールです。 AI. 「LLaMA のような小型で高性能のモデルにより、大量のインフラストラクチャにアクセスできない研究コミュニティの他のユーザーがこれらのモデルを研究できるようになり、この重要で急速に進化している分野へのアクセスがさらに民主化されます」とメタ氏はブログで述べています。 公式 .

LLaMA は、7B から 65B のパラメーターに及ぶ言語モデルのコレクションです。 同社は、何兆ものトークンでモデルをトレーニングしていると述べ、公開データセットを使用して最先端のモデルをトレーニングでき、独自のアクセスできないデータセットに依存しないと述べています。

ラマは違う

Meta によると、LLaMA のようなモデル トレーニングでは、新しいユース ケースをテスト、検証、調査するために必要な計算能力はほとんどありません。 基本的な言語モデルは、ラベル付けされていないデータの大きなブロックでトレーニングされるため、さまざまなタスクへのカスタマイズに最適です。 

Meta 氏は研究論文の中で、LLaMA-13B がほとんどのベンチマークで OpenAI の GPT-3 (175B) を上回り、LLaMA-65B はトップモデルと競合できると述べました。 チンチラ70B by DeepMind e Google の PaLM-540B. 

LLaMA は現在、どの Meta ai 製品でも使用されていませんが、同社は研究者が利用できるようにする予定です。 同社はすでに LLM OPT-175B を発売していましたが、LLaMA は最も先進的なシステムです。 

同社は、研究ユースケースに焦点を当てた非商用ライセンスの下で利用できるようにしています。 学術研究者が利用できるようになります。 政府、市民社会、学術団体に所属する人々。 そして世界中の産業研究所。

Ercole Palmeri