Meta ra mắt mô hình LLaMA, một công cụ tìm kiếm mạnh hơn GPT-3 của OpenAI

Meta gần đây đã phát hành một trình tạo ngôn ngữ AI mới có tên LLaMA, khẳng định vai trò của một công ty có tính sáng tạo cao.

Giám đốc điều hành Mark Zuckerberg cho biết trong một bài đăng trên Facebook: “Hôm nay chúng tôi sẽ phát hành một mô hình ngôn ngữ lớn AI mới, tiên tiến có tên là LLaMA được thiết kế để giúp các nhà nghiên cứu thúc đẩy công việc của họ.

Tại sao LLaMA

Các mô hình ngôn ngữ lớn đã gây bão trong thế giới công nghệ. Họ cung cấp năng lượng cho các công cụ trí tuệ nhân tạo, chẳng hạn như ChatGPT và các mô hình đàm thoại khác. Tuy nhiên, việc sử dụng các công cụ này đi kèm với rủi ro đáng kể, các tuyên bố hợp lý nhưng sai sự thật, tạo ra nội dung độc hại và bắt chước thành kiến ​​bắt nguồn từ dữ liệu đào tạo AI. 

Để giúp các nhà nghiên cứu giải quyết những vấn đề này, vào thứ Sáu, ngày 25 tháng XNUMX, Meta  công bố phát hành của một mô hình ngôn ngữ lớn mới gọi là LLaMA (Large Language Model Siêu AI) . 

LLaMA là gì?

LLaMA không phải là một chatbot, nhưng nó là một công cụ tìm kiếm, theo Meta ai, sẽ giải quyết các vấn đề liên quan đến các mô hình ngôn ngữ AI. “Các mô hình nhỏ hơn, hoạt động tốt hơn như LLaMA cho phép những người khác trong cộng đồng nghiên cứu không có quyền truy cập vào số lượng lớn cơ sở hạ tầng để nghiên cứu các mô hình này, tiếp tục dân chủ hóa quyền truy cập vào lĩnh vực quan trọng và đang phát triển nhanh chóng này,” Meta cho biết trên blog của mình chính thức .

LLaMA là tập hợp các mô hình ngôn ngữ có tham số từ 7B đến 65B. Công ty cho biết họ đào tạo các mô hình của mình trên hàng nghìn tỷ mã thông báo, cho biết họ có thể đào tạo các mô hình tiên tiến bằng cách sử dụng bộ dữ liệu công khai và không dựa vào bộ dữ liệu độc quyền, không thể truy cập được.

LLaMA thì khác

Theo Meta, đào tạo mô hình như LLaMA yêu cầu rất ít sức mạnh tính toán để kiểm tra, xác thực và khám phá các trường hợp sử dụng mới. Các mô hình ngôn ngữ cơ bản đào tạo trên các khối dữ liệu lớn chưa được gắn nhãn, khiến chúng trở nên lý tưởng để tùy chỉnh cho các tác vụ khác nhau. 

Trong bài nghiên cứu của mình, Meta lưu ý rằng LLaMA-13B vượt trội hơn GPT-3 (175B) của OpenAI trên hầu hết các điểm chuẩn và LLaMA-65B có khả năng cạnh tranh với các mẫu hàng đầu, Chinchilla70B của DeepMind e PaLM-540B từ Google. 

LLaMA hiện không được sử dụng trên bất kỳ sản phẩm nào của Meta ai, tuy nhiên, công ty có kế hoạch cung cấp nó cho các nhà nghiên cứu. Công ty trước đây đã ra mắt LLM OPT-175B, nhưng LLaMA là hệ thống tiên tiến nhất của họ. 

Công ty đang cung cấp nó theo giấy phép phi thương mại tập trung vào các trường hợp sử dụng nghiên cứu. Nó sẽ có sẵn cho các nhà nghiên cứu hàn lâm; những người liên kết với chính phủ, xã hội dân sự và các tổ chức học thuật; và các phòng thí nghiệm nghiên cứu công nghiệp trên khắp thế giới.

Ercole Palmeri