Artık Kimse 70B Parametreli Modelinizi İstemiyor
Yapay zeka dünyası eskiden sadece ölçeğe odaklanırdı.
İnsanlar daha büyük modellerin, daha geniş bağlam pencerelerinin (context windows) ve daha büyük kıyaslama testlerinin (benchmarks) peşinden koşuyordu. Eğer modeliniz devasa değilse, oyunun içinde değildiniz demektir.
Bu dönem sona eriyor.
Devasa modeller etkileyicidir. Ancak çoğu insanın bu kadar güce ihtiyacı yok. Bir araç paneli asistanının şiir yazmasına gerek yoktur. "Klimayı kıs" komutunu anlaması ve bataryayı tüketmeden çalışması gerekir.
Küçük, özelleşmiş modeller beş ana nedenden dolayı sektörü ele geçiriyor:
- Cihaz içi kullanım: Telefonlar artık küçük modelleri yerel olarak çalıştırmak için donanıma sahip. Asistanınız bir tünelde veya internet olmayan bir uçuşta çalışabilir.
- Gizlilik ve düzenlem