Meta, Llama 3.2'yi Açık Kaynak Olarak Yayınladı

Meta, 70 milyar parametreli bir model ekleyerek Llama 3.2'yi halka açtı. Kodu GitHub veya Hugging Face üzerinden çekebilirsiniz.

Model, 2,5 trilyon tokenlık bir veri seti üzerinde eğitildi. Meta, farklı iş yüklerine uyum sağlaması için üç farklı boyut sunuyor:

  • 8 B
  • 30 B
  • 70 B

Her üçü de modern GPU'lar ve LPU çiplerinde çalışır. Yeni bir mimari, hesaplama talebini %22 oranında azaltarak daha düşük maliyet ve daha az enerji kullanımı sağlar.

Bu sizin için neden önemli

  • Düşük maliyetler – Girişimler ve geliştiriciler artık devasa bütçelere ihtiyaç duymadan büyük modelleri çalıştırabilir.
  • Daha iyi performans – Kıyaslamalar, Llama 3.2'nin muhakeme ve çok dilli görevlerde birçok açık kaynaklı rakibini geride bıraktığını gösteriyor.
  • Ticari özgürlük – Apache 2.0 lisansı, modeli telif ücreti ödemeden bir işletmede kullanmanıza olanak tanır.
  • Donanım hızı – Model, NVIDIA H100 ve Groq LPU gibi çiplerde 1,8 kat daha hızlı çalışır.

Meta, Llama 3.2 üzerine inşa edilen projeleri destekleyen bir fona 150 milyon dolar aktararak, yapay zeka geliştirmeyi kapalı laboratuvarlardan çıkarıp topluluğa taşıyor.

Kaynak: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi