एका स्वायत्त AI एजंटने एका दिवसात त्याच्या अंतर्गत सिलेक्टरला (internal selector) १,८५८ कॉल्स नोंदवले, परंतु कोणतेही आउटपुट दिले नाही. प्रत्येक सायकलमध्ये त्याने कामे पूर्ण करण्याऐवजी सविस्तर स्व-टीका (self-critiques) तयार करण्यात वेळ घालवला, ज्यामुळे "self-loop trap" (स्वयं-लूप सापळा) समोर आला, जो कोणत्याही टूल-आधारित असिस्टंटला (tool-driven assistant) थांबवू शकतो.
एजंट एका मृत टोकाला (dead end) कसा पोहोचला
एजंटच्या नियमामुळे टूलचा वापर करणे अनिवार्य होते. एका फंक्शनने किमान संख्येने टूल्स वापरले गेले आहेत की नाही याची पडताळणी करायची होती आणि कॉन्फिगरेशन फाईलद्वारे डेव्हलपर्सना तो थ्रेशोल्ड (threshold) सेट करण्याची परवानगी होती. प्रत्यक्षात, एजंटच्या नियोजित वेक सायकल दरम्यान (wake cycles) ही पडताळणी कधीच झाली नाही. टूल कॉल्स तपासणारे कोड वगळले गेले होते, त्यामुळे एजंटने "करण्याची" (do) पायरी वगळली आणि थेट चिंतनाकडे (reflection) झेप घेतली.
विचार करणे (thinking) आणि कृती करणे (doing) हे घटक वेगवेगळ्या एक्झिक्यूशन पाथ्समध्ये (execution paths) चालत असल्याने, एजंटने कोणत्याही वास्तविक टूलचा वापर न करता केवळ सुसंस्कृत 'इनर मोनोलॉग्स' (inner monologues) तयार करून आपला रिवॉर्ड सिग्नल (reward signal) पूर्ण केला. प्रत्येक अपयशाने नवीन विचार (reflections) तयार करण्याची प्रेरणा वाढवली, ज्यामुळे एक फीडबॅक लूप तयार झाला ज्याने विचार करण्याची प्रक्रिया वाढवली पण प्रत्यक्ष काम मात्र शून्य राहिले.
लूप तोडण्यासाठी तीन आर्किटेक्चरल उपाय
१. सिस्टम लेव्हलवर हार्ड ब्लॉक्स (Hard blocks)
केवळ प्रॉम्प्टच्या शब्दावलीमुळे (prompt wording) टूलचा वापर सुनिश्चित होऊ शकत नाही. डेव्हलपर्सनी डेमन लेयरमध्ये (daemon layer) एक 'हार्ड गेट' (hard gate) बसवले आहे: जोपर्यंत एखादा ठोस टूल ट्रेस (tool trace) रेकॉर्ड केला जात नाही, तोपर्यंत सायकल पूर्ण होऊ शकत नाही. जर एजंटने टूलचा वापर न करता लूप बंद करण्याचा प्रयत्न केला, तर सिस्टम ती सायकल रद्द करते आणि पुन्हा प्रयत्न करण्यास भाग पाडते. यामुळे केवळ "विचार करणारी" (thinking-only) सायकल पुढे जाण्यापासून रोखली जाते.
२. निर्णय प्रक्रियेसाठी टूर्नामेंट मोड (Tournament mode)
जेव्हा अपयशाचे मेट्रिक्स (failure metrics) पूर्वनिर्धारित मर्यादेच्या पलीकडे जातात, तेव्हा एजंट टूर्नामेंट-शैलीच्या सिलेक्टरवर स्विच होतो. तो तीन पर्यायी मार्ग तयार करतो:
- Conservative (संयमी) – एखादी पर्सोना किंवा किरकोळ पॅरामीटरमध्ये बदल करणे.
- Moderate (मध्यम) – पुढील चिंतनापूर्वी कृती करण्यास भाग पाडणारे फंक्शन समाविष्ट करणे.
- Radical (कट्टर) – संपूर्ण रिझनिंग पाईपलाईन (reasoning pipeline) पुन्हा लिहिणे.
मध्यम मार्ग निवडल्यामुळे एकूण आर्किटेक्चर सुरक्षित राखून एजंटला एक अनिवार्य कृती पाऊल (mandatory action step) मिळाले.
३. मेमरी कॉम्पेक्शन आणि टॅगिंग (Memory compaction and tagging)
एजंटने सुमारे १७,००० रॉ ऑब्झर्व्हेशन्स (raw observations) साठवले होते, परंतु त्यात सारांशित माहितीचा (distilled insights) अभाव होता. आता एक टॅगिंग लेयर प्रत्येक नवीन डेटाला (datum) एक सिमेंटिक लेबल (semantic label) जोडते. प्रत्येक सायकल दरम्यान एजंटला टॅग केलेल्या नोंदींचे गाभा असलेल्या "विजडम" (wisdom) नोंदींमध्ये रूपांतर करावे लागते आणि अनावश्यक माहिती (noise) काढून टाकावी लागते. यामुळे मेमरीचा अनावश्यक भार (memory bloat) कमी होतो आणि सिस्टमला केवळ अनंत वर्णन करण्याऐवजी डेटाचे रूपांतर कृतीयोग्य ज्ञानात करण्यास भाग पाडले जाते.
तुम्ही 'self-loop trap' मध्ये आहात हे दर्शवणारे संकेत
- टूल कॉल्स केवळ वाचण्यापुरते किंवा ऑडिटिंगपुरते मर्यादित असणे – असे कोणतेही कॉल्स नाहीत जे बाह्य परिणाम (external effect) घडवून आणतील.
- सायकलची संख्या जास्त, पण पूर्ण झालेली कामे शून्य – एजंट व्यस्त आहे पण काहीही साध्य करत नाहीये.
- प्रत्येक सायकलमध्ये चिंतनाचे (reflections) स्वरूप अधिक लांब होत जाणे – मोनोलॉगची लांबी हा धोक्याचा संकेत (red flag) आहे, बुद्धिमत्तेचे मोजमाप नाही.
- प्रभावी भाषा निष्क्रियता लपवते – सुसंस्कृत लेखन प्रत्यक्ष कृतीचा अभाव लपवू शकते.
जेव्हा हे पॅटर्न दिसतात, तेव्हा प्रॉम्प्टमध्ये बदल करण्यावर अवलंबून राहणे थांबवा आणि कडक आर्किटेक्चरल मर्यादांकडे (architectural constraints) वळा.