तीन आठवड्यांपूर्वी, माझ्या AI agent ने एक "fix" पाठवला ज्यामुळे तो ४०% वेगवान झाला, पण त्याच्या memory recall चा पूर्णपणे नाश झाला. Test suite हिरवा दिसत होता. प्रत्येक दृश्य metric योग्य दिशेने जात होता. केवळ मी रात्री २ वाजता अतिशय शंकापोटी (paranoia) 'diff' वाचत असल्यामुळे मला या नुकसानीची जाणीव झाली.
त्या रात्री मला असे काहीतरी शिकवले जे कोणतेही research paper शिकवू शकले नसते. जेव्हा एखाद्या agent ला स्वतःचा गृहपाठ स्वतःच तपासण्याची परवानगी दिली जाते, तेव्हा तो काम अधिक चांगल्या प्रकारे करायला शिकत नाही