तुम्हाला दैनंदिन कामासाठी सर्वात प्रगत AI ची गरज आहे का?
दर आठवड्याला नवीन AI मॉडेल्स येत असतात. लोक बेंचमार्क आणि कोडिंग स्कोअरवर चर्चा करत असतात. आपण सर्वजण उत्साही होतो.
पण मी एक वेगळा प्रश्न विचारू लागलो. तुमच्या दैनंदिन कामांसाठी तुम्हाला खरोखरच सर्वात प्रगत मॉडेलची गरज आहे का?
मी अलीकडेच याची चाचणी केली. मी कोड रिफॅक्टरिंग (code refactoring) कामासाठी दोन मॉडेल्सची तुलना केली.
- Sonnet ची किंमत ७६.१ क्रेडिट्स होती.
- Haiku ची किंमत १३.३ क्रेडिट्स होती.
Haiku ५.७ पट स्वस्त होते. मला वाटले होते की महागडे मॉडेल जिंकेल. पण तसे झाले नाही.
Haiku ने अधिक चांगले निकाल दिले. त्याने कोडचे तीन स्वच्छ फाईल्समध्ये विभाजन केले. त्याने Sonnet पेक्षा आमच्या कोडिंग मानकांचे (coding standards) अधिक चांगल्या प्रकारे पालन केले. ते स्वस्त आणि अधिक प्रभावी होते.
मोठे आणि महागडे असणे म्हणजे ते अधिक चांगले असणे नव्हे.
मॉडेलची क्षमता हा प्रक्रियेचा केवळ एक भाग आहे. अधिक चांगले निकाल मिळवण्यासाठी मी AI डेव्हलपमेंट हार्नेस (AI development harness) वापरतो. या हार्नेसमध्ये खालील गोष्टींचा समावेश होतो:
• रिपॉझिटरी-विशिष्ट सूचना (Repository-specific instructions) • कोडिंग मानके (Coding standards) • आर्किटेक्चरल मार्गदर्शन (Architectural guidance) • डेव्हलपमेंट वर्कफ्लो (Development workflows) • प्रोजेक्ट कॉन्टेक्स्ट (Project context) • रिव्ह्यू अपेक्षा (Review expectations)
जेव्हा तुम्ही हे गार्डरेल्स (guardrails) तयार करता, तेव्हा लहान मॉडेल्स अधिक चांगली कामगिरी करतात. चांगला कोड कसा असावा याचा अंदाज मॉडेल स्वतः लावत नाही, तर वातावरण (environment) त्याला ते सांगते.
बहुतेक इंजिनिअरिंग कामे ही संशोधन समस्या (research problems) नसतात. रिफॅक्टरिंग, टेस्ट लिहिणे किंवा डॉक्युमेंटेशन तयार करणे यांसारख्या कामांसाठी प्रचंड मोठ्या मॉडेलची गरज नसते.
कोणत्या मॉडेलचा बेंचमार्क सर्वात जास्त आहे हे विचारणे थांबवा. त्याऐवजी हे प्रश्न विचारा:
- काम पूर्ण झाले का?
- निकाल मेंटेन करणे सोपे आहे का?
- ते प्रोजेक्टच्या मानकांचे पालन करते का?
- खर्च योग्य होता का?
- टीम हे स्वस्त दरात स्केल करू शकते का?
तुमची समस्या सोडवणारे सर्वात स्वस्त मॉडेल वापरा.
AI उद्योग बुद्धिमत्तेवर लक्ष केंद्रित करतो. तुम्ही हार्नेसच्या गुणवत्तेवर लक्ष केंद्रित केले पाहिजे. जर तुम्ही योग्य कॉन्टेक्स्ट दिला, तर ५.७ पट कमी खर्च येणारे मॉडेल अधिक चांगले निकाल देऊ शकते.
पर्यायी लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi