𝗛𝗮𝗿𝗻𝗲𝘀𝘀 𝗘𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝗶𝗻𝗴 𝗛𝗮𝘀 𝗡𝗼 𝗙𝗶𝘅𝗲𝗱 𝗔𝗱𝗱𝗿𝗲𝘀𝘀
हार्नेस इंजिनीअरिंग (Harness engineering) हे तुमच्या सॉफ्टवेअर स्टॅक मधील एखादे ठिकाण नाही. ते तुमच्या कोडचा एक गुणधर्म आहे.
अनेकांना वाटते की हार्नेस म्हणजे केवळ AI मॉडेलभोवती असलेले एक 'रॅपर' (wrapper) आहे. हे चुकीचे आहे. हार्नेसमुळेच एखादे मॉडेल खऱ्या व्यवसायासाठी उपयुक्त ठरते.
मी एक साधे सूत्र वापरतो: Agent = Model × Harness.
मॉडेल हे इंजिन आहे. हार्नेस म्हणजे स्टेअरिंग, ब्रेक आणि सेफ्टी रेल्स (safety rails) आहेत.
पण समस्या अशी आहे की, मॉडेल सतत विकसित होत आहे. मॉडेलचे प्रत्येक नवीन व्हर्जन हार्नेसचे काही भाग स्वतःमध्ये सामावून घेत आहे.
- रिझनिंग मॉडेल्स (Reasoning models) आता 'चेन-ऑफ-थॉट' (chain-of-thought) लॉजिक हाताळतात.
- अधिक प्रगत मॉडेल्स आता नेटिव्हली (natively) टूल्सचा वापर करू शकतात.
- लाँग कॉन्टेक्स्ट विंडोज (Long context windows) जुन्या मेमरी सिस्टमची जागा घेत आहेत.
जर मॉडेलने हार्नेसलाच गिळंकृत केले, तर तुमच्यासाठी बांधण्यासाठी काय उरेल?
जे भाग विरघळतील ते म्हणजे मेकॅनिक्स (mechanics). लूप्स (loops), रिट्रायज (retries) आणि मेमरी स्टिचिंग (memory stitching) या गोष्टी सामान्य (commodities) बनतील. केवळ 'प्लंबिंग' (plumbing) करण्यावर तुमच्या करिअरची पैज लावू नका.
जे भाग टिकून राहतील ते म्हणजे स्पेसिफिकेशन (specification) आणि व्हेरिफिकेशन (verification).
- स्पेसिफिकेशन (Specification): एजंटला काय करण्याची परवानगी आहे हे तुम्हाला परिभाषित करावे लागेल. मॉडेलला तुमची विशिष्ट रिफंड पॉलिसी किंवा तुमची रिस्क टॉलरन्स (risk tolerance) माहीत नसू शकते. ती तुमच्या कोडमध्ये असते.
- व्हेरिफिकेशन (Verification): एजंटने तुमच्या नियमांचे पालन केले आहे हे तुम्हाला सिद्ध करावे लागेल. मॉडेल स्वतःचे स्वतः मूल्यांकन विश्वसनीयपणे करू शकत नाही. काम तपासण्यासाठी तुम्हाला एका बाह्य लेयरची (external layer) गरज आहे.
एका रिफंड एजंटचा विचार करा.
जर तुम्ही रिफंडची मर्यादा प्रॉम्प्टमध्ये (prompt) दिली, तर वापरकर्ता मॉडेलला फसवू शकतो. जर तुम्ही ही मर्यादा तुमच्या कोडमधील 'if-statement' मध्ये ठेवली, तर मॉडेल त्यावर वाद घालू शकणार नाही.
तो 'if-statement' म्हणजेच हार्नेस इंजिनीअरिंग आहे.
हार्नेस इंजिनीअरिंग दोन गोष्टींबद्दल आहे:
- परवानगी असलेल्या वर्तणुकीची व्याप्ती (envelope of allowed behavior) निश्चित करणे.
- एजंट त्या व्याप्तीमध्येच राहिला आहे हे सिद्ध करणे.
मॉडेल म्हणजे तुम्ही नियंत्रित करत असलेले रोपटे (plant) आहे. स्पेसिफिकेशन म्हणजे तुमचे लक्ष्य (target) आहे. हार्नेस म्हणजे कंट्रोलर (controller) आहे. इव्हॅल्युएशन्स (evaluations) म्हणजे फीडबॅक (feedback) आहे.
टूल्स आणि मेकॅनिक्स दर महिन्याला बदलतील. पण स्पेसिफिकेशन आणि व्हेरिफिकेशनची शिस्त बदलणार नाही.
प्लंबिंग करणे थांबवा. कन्सट्रेंट्स (constraints) आणि प्रूफ्स (proofs) तयार करण्यास सुरुवात करा.
Source: https://dev.to/saurav_bhattacharya/harness-engineering-has-no-fixed-address-2m7a
Optional learning community: https://t.me/GyaanSetuAi