4 Fakta Meta Rilis Llama 3.1, AI Tercanggih Saat Ini

Saat Meta rilis Llama 3.1, ada hal menarik yang menjadi sorotan utama, karena varian 405B diluncurkan sebagai model AI open source terbesar. Adanya 405 miliar parameter, varian ini sudah dilatih memakai lebih dari 16.000 GPU Nvidia H100. Tentu saja hal tersebut menjadi sebuah investasi luar biasa untuk sumber daya dunia komputer.

Bahkan dataset pelatihannya bisa sampai 15 triliun token, setara 750 miliar kata. Tidak sampai situ saja, kemampuannya juga mengesankan dengan konteks 128.000 token, setara buku tebal berhalaman 50. Adanya dataset seperti itu memungkinkan model ini dapat memahami sekaligus mengolah teks yang panjang, sehingga membuat kesempatan baru untuk menganalis dokumen serta percakapan yang kompleks. 

405B sudah mendukung 8 bahasa asing, yaitu, Jerman, Inggris, Perancis, Italia, Portugis, Thai, Hindi, dan Spanyol. Tidak heran nantinya model ini juga bisa dijadikan alat yang sangat berguna untuk berkomunikasi antar negara dan budaya. 

Dari performanya, Llama 3.1 405B sudah mengungguli GPT-4 di beberapa benchmark. Bisa dikatakan kalau model ini unggul saat mengeksekusi kode dan membuat plot daripada GPT-4o, walaupun kemampuan multibahasanya lebih lemah.