ஒரு AI ஏஜென்ட்டில் மிகவும் கடினமான பகுதி அதன் 'Unhappy Path' ஆகும்

பெரும்பாலான AI ஏஜென்ட் டெமோக்கள் ஒரு சரியான சூழலையே காட்டுகின்றன. ஒரு தெளிவான கேள்விக்கு ஒரு நேர்த்தியான பதில் கிடைக்கிறது. அனைவரும் கைதட்டுகிறார்கள்.

விஷயங்கள் முடங்கும் போதுதான் உண்மையான பொறியியல் (engineering) நிகழ்கிறது.

ஒரு API செயலிழந்துவிட்டால் என்னவாகும்? ஒரு ஏஜென்ட் முடிவில்லாமல் லூப்பில் (loop) சுழன்று உங்கள் கிரெடிட் கார்டு பணத்தை தீர்த்துவிட்டால் என்னவாகும்? ஏஜென்ட்டிடம் தரவு இல்லாதபோதும், அது உண்மையானது போன்ற ஒரு அறிக்கையை எழுதினால் என்னவாகும்?

மரபியல் (genomics) துறையில் இத்தகைய சிக்கல்களைத் தீர்க்க நான் BioAgent-ஐ உருவாக்கினேன். இது தரவுகளைப் பெறுதல், PubMed-இல் தேடுதல் மற்றும் மருத்துவ அறிக்கைகளை எழுதுதல் போன்ற பணிகளைச் செய்யும் ஒரு தன்னாட்சி ஆய்வாளர் (autonomous analyst) ஆகும்.

இதை உருவாக்க நான் LangGraph மற்றும் Claude ஆகியவற்றைப் பயன்படுத்தினேன். தோல்விகளைக் கையாளும் வகையில் ஒரு அமைப்பை உருவாக்குவது குறித்து நான் கற்றுக்கொண்டவை இதோ:

  • Bound every loop ஒரு ஏஜென்ட்டிற்குத் தெளிவான மறுமுயற்சி வரம்பு (retry limit) இருக்க வேண்டும். உங்கள் ஏஜென்ட் கட்டணச் சேவை வழங்கும் API-களைப் பயன்படுத்தினால், ஒரு லூப் என்பது நிதி ரீதியான ஆபத்தாகும். ஒவ்வொரு நிலையிலும் நீங்கள் கவுண்ட்டரை (counter) அதிகரித்தால் மட்டுமே அந்த வரம்பு வேலை செய்யும். அந்த ஒரு வரியைக் குறியீட்டில் (code) எழுத மறந்தால், சிஸ்டம் முடங்கும் வரை ஏஜென்ட் லூப்பில் சுழன்று கொண்டே இருக்கும்.

  • Test the failure, not the success மேம்பாட்டுப் பணியின் (development) போது 'happy path' எப்போதும் சரியாகவே இருக்கும். சோதனையின் போது உங்கள் சார்புத் தன்மைகளை (dependencies) தோல்வியடையச் செய்ய வேண்டும். ஒரு API செயலிழந்துவிட்ட நிலையில், ஏஜென்ட் லூப்பில் சுழல்வதற்குப் பதிலாக, அதன் செயல்பாட்டைச் சீராகக் குறைத்துக் கொள்ளுமாறு (degrades gracefully) சோதனைகளை எழுதுங்கள்.

  • Prevent confident nonsense மிகப்பெரிய ஆபத்து சிஸ்டம் முடங்குவது அல்ல. தொழில்முறைத் தோற்றமளிக்கும் ஆனால் போலித் தரவுகளைக் கொண்ட ஒரு அறிக்கையே மிகப்பெரிய ஆபத்து. மாயத்தோற்றங்களைத் (hallucinations) தடுக்க வெறும் ப்ராம்ப்ட் (prompt) அறிவுறுத்தல்களை மட்டும் நம்பியிருக்க வேண்டாம். ஏஜென்ட் ஒருபோதும் போலி அளவீடுகளை (metrics) உருவாக்காது என்பதை உறுதிப்படுத்த சோதனைகளைப் பயன்படுத்துங்கள்.

  • Ground your results தகவல்கள் (text) எழுத்தாளரைச் சென்றடைந்தால் மட்டுமே மீட்டெடுப்பு (retrieval) பயனுள்ளதாக இருக்கும். முழுச் சுருக்கங்களுக்குப் (abstracts) பதிலாக ஐடிகளை (IDs) மட்டும் அனுப்பும்போது, மாடல் தானாகவே பொருத்தமான தகவல்களைக் கற்பனை செய்வதைக் கண்டறிந்தேன். அறிக்கை உண்மைகளின் அடிப்படையில் இருப்பதை உறுதி செய்ய, நீங்கள் உண்மையான உரையை (text) மாடலுக்கு அனுப்ப வேண்டும்.

ஒரு ப்ராம்ப்ட்டில் உள்ள விதி என்பது ஒரு நம்பிக்கை மட்டுமே. ஒரு சோதனையில் உள்ள விதி என்பது ஒரு உத்தரவாதம்.

தோல்விச் சூழல்களுக்காகவே (unhappy path) கட்டமைப்பைப் உருவாக்குங்கள். அதுதான் உண்மையில் முக்கியமானது.

Source: https://dev.to/gbadedata/the-hardest-part-of-an-autonomous-ai-agent-is-the-unhappy-path-3p2c

Optional learning community: https://t.me/GyaanSetuAi