Meta veröffentlicht Llama 3.2 als Open Source

Meta hat Llama 3.2 für die Öffentlichkeit freigegeben und ein Modell mit 70 Milliarden Parametern hinzugefügt. Sie können den Code von GitHub oder Hugging Face abrufen.

Das Modell wurde auf einem Datensatz mit 2,5 Billionen Token trainiert. Meta liefert drei Größen für unterschiedliche Arbeitslasten aus:

  • 8 B
  • 30 B
  • 70 B

Alle drei laufen auf modernen GPUs und LPU-Chips. Eine neue Architektur reduziert den Rechenbedarf um 22 %, was zu geringeren Kosten und einem niedrigeren Energieverbrauch führt.

Warum das für Sie wichtig ist

  • Geringere Kosten – Startups und Entwickler können nun große Modelle ohne massive Budgets betreiben.
  • Bessere Leistung – Benchmarks zeigen, dass Llama 3.2 mehrere Open-Source-Konkurrenten bei logischem Schlussfolgern und multilingualen Aufgaben übertrifft.
  • Kommerzielle Freiheit – Die Apache-2.0-Lizenz ermöglicht es Ihnen, das Modell in einem Unternehmen einzusetzen, ohne Lizenzgebühren zu zahlen.
  • Hardware-Geschwindigkeit – Das Modell läuft auf Chips wie NVIDIA H100 und Groq LPU 1,8-mal schneller.

Meta steckt 150 Millionen US-Dollar in einen Fonds, der Projekte unterstützt, die auf Llama 3.2 basieren, und treibt so die KI-Entwicklung aus geschlossenen Laboren direkt in die Community.

Quelle: https://dev.to/techpulse01239/meta-ai-unveils-llama-32-open-source-release-70b-model-3bhb

Optionale Lern-Community: https://t.me/GyaanSetuAi