4 Fakta Meta Rilis Llama 3.1, AI Tercanggih Saat Ini

Selain itu, Llama 3.1 405B juga mendukung penggunaan alat pihak ketiga. Dengan menggunakan Brave Search, model satu ini bisa menjawab pertanyaan mengenai kejadian terkini, memakai API Wolfram Alpha untuk query untuk Sains dan Matematika, dan Python untuk memverifikasi kode. 

Kemampuan-kemampuan itulah yang membuat Llama 3.1 menjadi lebih multifungsi untuk beragam aplikasi AI lainnya. Meski kuat, sumber daya yang dibutuhkannya sangatlah besar. 

Setidaknya 1 node server harus digunakan untuk menjalankan model ini. Tapi, sudah diklaim kalau biaya operasionalnya setengah GPT-4o ketika meta rilis Llama 3.1, sehingga bisa dijadikan pilihan terbaik dan lebih ekonomis untuk aplikasi skala besar. 

2. Llama 3.1 8B dan 70B, Varian yang Lebih Kecil

Selain 405B, Meta rilis Llama 3.1 varian lebih kecil, yaitu 8B dan 70B. Kedua model tersebut juga punya jendela konteks sebesar 128.000 token dan memiliki kemampuan 8 bahasa asing seperti di varian 405B.

Versi 8B punya 8 miliar parameter yang bertugas untuk merespon sistem yang cepat. Meski kemampuannya tidak luas, 8B juga tetap kompetitif dengan tugas-tugas yang lebih sederhana.

Sedangkan Llama 3.1 70B memberikan keseimbangan antara kecepatan respon dan kecerdasan. Adanya 70 miliar parameter, varian satu ini mampu menjalankan tugas yang lebih sulit dari 8B.