4 Fakta Meta Rilis Llama 3.1, AI Tercanggih Saat Ini

Teknodaily – Meta rilis Llama 3.1, merupakan rangkaian AI yang diklaim paling canggih saat ini. Dengan modelnya open source, hadir dengan 3 varian, yaitu 8B, 70B, dan 405B. 

Kemampuannya yang juga diklaim menandingi model AI populer lainnya, seperti GPT-4o dan Claude 3.5 Sonnet, Llama 3.1 menjadi era baru dalam kemajuan teknologi AI open source. 

Dikutip dari theverge.com, Llama 3.1 mengungguli OpenAI dan pesaing lainnya pada tolok ukur tertentu. Sekarang ini, Mark Zuckerberg memperkirakan asisten AI Meta akan melampaui penggunaan ChatGPT dalam beberapa bulan mendatang.

Langkah berani dari perusahaan asal Amerika Serikat ini tentunya berpotensi mengubah pandangan AI secara global. Llama 3.1 memberikan akses yang lebih luas di bidang teknologi AI untuk para developer dan peneliti di seluruh dunia. Berikut fakta-fakta Llama 3.1, mulai dari kemampuan, manfaat, dan fiturnya.

 1. 405B Jadi AI Open Source



Llama 3.1 Dibuat Secara Open Source

Photo :

• Unite.AI

Saat Meta rilis Llama 3.1, ada hal menarik yang menjadi sorotan utama, karena varian 405B diluncurkan sebagai model AI open source terbesar. Adanya 405 miliar parameter, varian ini sudah dilatih memakai lebih dari 16.000 GPU Nvidia H100. Tentu saja hal tersebut menjadi sebuah investasi luar biasa untuk sumber daya dunia komputer.

Bahkan dataset pelatihannya bisa sampai 15 triliun token, setara 750 miliar kata. Tidak sampai situ saja, kemampuannya juga mengesankan dengan konteks 128.000 token, setara buku tebal berhalaman 50. Adanya dataset seperti itu memungkinkan model ini dapat memahami sekaligus mengolah teks yang panjang, sehingga membuat kesempatan baru untuk menganalis dokumen serta percakapan yang kompleks. 

405B sudah mendukung 8 bahasa asing, yaitu, Jerman, Inggris, Perancis, Italia, Portugis, Thai, Hindi, dan Spanyol. Tidak heran nantinya model ini juga bisa dijadikan alat yang sangat berguna untuk berkomunikasi antar negara dan budaya. 

Dari performanya, Llama 3.1 405B sudah mengungguli GPT-4 di beberapa benchmark. Bisa dikatakan kalau model ini unggul saat mengeksekusi kode dan membuat plot daripada GPT-4o, walaupun kemampuan multibahasanya lebih lemah.

Selain itu, Llama 3.1 405B juga mendukung penggunaan alat pihak ketiga. Dengan menggunakan Brave Search, model satu ini bisa menjawab pertanyaan mengenai kejadian terkini, memakai API Wolfram Alpha untuk query untuk Sains dan Matematika, dan Python untuk memverifikasi kode. 

Kemampuan-kemampuan itulah yang membuat Llama 3.1 menjadi lebih multifungsi untuk beragam aplikasi AI lainnya. Meski kuat, sumber daya yang dibutuhkannya sangatlah besar. 

Setidaknya 1 node server harus digunakan untuk menjalankan model ini. Tapi, sudah diklaim kalau biaya operasionalnya setengah GPT-4o ketika meta rilis Llama 3.1, sehingga bisa dijadikan pilihan terbaik dan lebih ekonomis untuk aplikasi skala besar. 

2. Llama 3.1 8B dan 70B, Varian yang Lebih Kecil

Selain 405B, Meta rilis Llama 3.1 varian lebih kecil, yaitu 8B dan 70B. Kedua model tersebut juga punya jendela konteks sebesar 128.000 token dan memiliki kemampuan 8 bahasa asing seperti di varian 405B.

Versi 8B punya 8 miliar parameter yang bertugas untuk merespon sistem yang cepat. Meski kemampuannya tidak luas, 8B juga tetap kompetitif dengan tugas-tugas yang lebih sederhana.

Sedangkan Llama 3.1 70B memberikan keseimbangan antara kecepatan respon dan kecerdasan. Adanya 70 miliar parameter, varian satu ini mampu menjalankan tugas yang lebih sulit dari 8B.

Dari performanya, Llama 3.1 8B dan 70B masih kompetitif dengan model terbuka dan tertutup yang sudah memiliki parameter yang sama. Selain itu, aplikasi yang dapat dipakai pada 2 model tersebut juga cukup banyak.

Dapat dipakai untuk peningkatan asisten virtual, sistem otomatis tanya jawab, serta pemograman. Keunggulan utama kedua varian ini yaitu fleksibelitas dan efisiensi. Dengan 2 keunggulan tersebut, pastinya para developer dapat menyesuaikan modelnya dengan kebutuhannya tanpa harus memerlukan sumber daya komputer yang besar. 

3. Bersifat Open Source atau Bisa Diakses Siapapun

Langkah Meta rilis Llama 3.1 sebagai bagian dari open source telah menunjukkan komitmen perusahaan pada perkembangan AI. Open source merupakan sumber dan bobot model bisa diakses oleh siapa saja dan dimodifikasi kapan pun. 

Tentu saja hal tersebut akan membuka kesempatan lebih luas untuk para peneliti, developer, dan perusahaan agar bisa mempelajari, memakai, dan meningkatkan modelnya sesuai keperluan mereka. 

3 varian Llama 3.1 sudah bisa kamu unduh di situs resmi Meta (llama.meta.com) serta aplikasi Hugging Face. Kalau kamu membutuhkannya, kamu juga bisa mengunduh bobot model dan memakainya sesuai keperluanmu. 

Menariknya, Meta juga telah bekerja sama dengan perusahaan-perusahaan besar, seperti Google Cloude, Nvidia, AWS, Microsoft Azure, Databrick, Snowflake, dan masih banyak lagi lainnya sejak hari pertama Meta rilis Llama 3.1. 

Ada beberapa fitur untuk mendukung aksesibilitas, yaitu Llama Guard 3 dan Promt Guard. Llama Guard 3 berfungsi sebagai keamanan multibahasa, sedangkan Promt Guard sebagai penyaring masukan yang tidak diinginkan. 

4. Rencana Meta untuk Llama 3.1 Kedepannya

Meta rilis Llama 3.1 sebagai awal visi jangka panjang perusahaan untuk masa depan AI. Perusahaan yang dikepalai oleh Mark Zuckerberg tersebut juga sedang membuat model Llama yang mampu memahami dan menghasilkan suara, sekaligus mengenali video maupun gambar. 

Langkah itu telah diambil dengan adanya fitur Imagine Me untuk menyisipkan wajah pengguna ke dalam gambar AI. Bahkan Meta AI yang menjadi asisten berbasis Llama juga akan dihadirkan di banyak bahasa dan negara. 

Dengan Meta rilis Llama 3.1, perusahaan teknologi tersebut telah menjadikan era baru di mana AI tidak hanya dipakai oleh pengguna tertentu, tapi juga dapat diakses oleh siapapun. Sangat menarik bagaimana kemajuan Llama 3.1 membentuk pandangan AI di masa depannya nanti.