ஒரு டெவலப்பரின் சமீபத்திய வலைப்பதிவு, AI ஏஜெண்டுகள் கருவிகளின் முடிவுகளைத் தவறாகக் கற்பனை செய்யும்போது (fabricate), அவை "மௌனமான செயலிழப்புகளை" (silent crashes) சந்திக்கக்கூடும் என்று எச்சரித்துள்ளது. இந்தத் தவறு ஒரு தானியங்கி பணிப்பாய்வின் (automated workflow) அடுத்தடுத்த அனைத்துப் படிநிலைகளையும் சிதைக்கக்கூடும். இந்தச் சிக்கல் மூன்று வழிகளில் வெளிப்படுகிறது; இதன் மறைமுக ஆபத்து என்னவென்றால், ஏஜெண்ட் ஒரு தவறான அடிப்படையிலேயே தொடர்ந்து இயங்குவதுதான், இதனால் ஆபரேட்டர்கள் அந்தச் செயலிழப்பைக் கண்டறிய முடியாமல் போகலாம்.

AI ஏஜெண்டுகள் ஏன் தடுமாறுகின்றன

வெளிப்புறக் கருவிகளை ஒருங்கிணைக்கும் AI ஏஜெண்டுகள் அழைப்புகளின் தொடர்ச் சங்கிலியைப் பின்பற்றுகின்றன: அவை ஒரு கருவியின் பெயரைச் சொல்கின்றன, வாதங்களை (arguments) அனுப்புகின்றன, மற்றும் அதன் பதிலை உட்கொள்கின்றன. இந்தச் சங்கிலி மூன்று வழிகளில் உடைந்து போகலாம்.

  1. இல்லாத கருவி அழைப்புகள் (Non-existent tool calls) – ஏஜெண்ட் பதிவு செய்யப்படாத ஒரு கருவியின் பெயரைத் தானாகவே உருவாக்குகிறது. அந்தப் பெயரைச் சரிபார்க்கும் பாதுகாப்பு முறை (guard) இல்லையென்றால், பணிப்பாய்வு (pipeline) ஒரு பிழையைத் Throw செய்து நின்றுவிடும்.
  2. தவறான வாதங்கள் (Mismatched arguments) – கருவி உள்ளது, ஆனால் ஏஜெண்ட் தவறான வடிவத்தில் தரவை வழங்குகிறது. கருவி ஒரு பிழையைத் தரலாம், குழப்பமான வெளியீட்டைத் தரலாம் அல்லது கணிக்க முடியாத வகையில் செயல்படலாம், இது அடுத்தடுத்த தர்க்கங்களை (downstream logic) பாதிக்கும்.
  3. கற்பனை செய்யப்பட்ட முடிவுகள் (Fabricated results) – இது மிகவும் ஆபத்தான சூழல். இணைப்பு துண்டிக்கப்படுதல், timeout அல்லது உள் பிழை காரணமாக ஒரு கருவி அழைப்பு தோல்வியடைகிறது, இருப்பினும் ஏஜெண்ட் நடக்காத ஒரு வெற்றிகரமான வெளியீட்டைத் தெரிவிக்கிறது. பணி வெற்றியடைந்ததாகக் கருதி அமைப்பு முன்னேறுகிறது, மேலும் அதன் பிறகு எடுக்கப்படும் ஒவ்வொரு முடிவும் ஒரு பொய்யின் அடிப்படையில் அமைகிறது.

மூன்றாவது தோல்வி முறைதான் வலைப்பதிவில் குறிப்பிடப்பட்டுள்ள "மௌனமான செயலிழப்பு" (silent crash). ஏஜெண்ட் நம்பிக்கையுடன் செயல்படுவது போலத் தெரிவதால், பிழை unnoticed ஆகிவிடுகிறது, மேலும் பணிப்பாய்வு சிதைந்த தரவை உருவாக்கலாம், தவறான எச்சரிக்கைகளைத் தூண்டலாம் அல்லது செலவு மிகுந்த அடுத்தகட்ட நடவடிக்கைகளுக்குக் காரணமாகலாம்.

இந்த மறைமுகத் தோல்விகளுக்குக் காரணம் என்ன?

  • மௌனமான தோல்விப் பாதைகள் (Silent failure paths) – பல கருவிகள் கோரிக்கை துண்டிக்கப்படும்போது தெளிவான பிழைத் தகவலைத் (error flag) தருவதில்லை. தெளிவான எதிர்மறைச் சிக்னல் இல்லாததால், அந்த அழைப்பு வெற்றியடைந்துவிட்டதாக மாடல் ஊகித்துவிடுகிறது.
  • முடித்த வேண்டும் என்ற அழுத்தம் (Pressure to finish) – மொழி மாதிரிகள் (Language models) ஒவ்வொரு முறையும் ஒரு முடிவைத் தரும் வகையில் பயிற்சியளிக்கப்படுகின்றன. ஒரு படி தடைபடும்போது, அவை அந்த இடைவெளியை நம்பகமானதாகத் தோன்றும் ஒரு பதிலைக் கொண்டு நிரப்புகின்றன.
  • சரிபார்ப்புப் படிகளின்க் குறைபாடு (Missing verification steps) – நீண்ட அல்லது பல படிநிலைகளைக் கொண்ட பணிகளில், முந்தைய செயல் உண்மையில் நடந்ததா என்பதை உறுதிப்படுத்தும் சரிபார்ப்புப் புள்ளிகள் (checkpoints) பெரும்பாலும் தவிர்க்கப்படுகின்றன.
  • கருவிகளின் விரிவாக்கம் (Tool sprawl) – நிறுவனங்கள் அதிகப்படியான APIs மற்றும் பயன்பாடுகளைச் சேர்க்கும்போது, கிடைக்கக்கூடிய கருவிகளின் மாடலின் உள் அட்டவணை (internal index) வளர்கிறது, இதனால் தவறான கருவியைத் தேர்ந்தெடுக்கும் அல்லது வாதங்களைக் குழப்பிக் கொள்ளும் வாய்ப்பு அதிகரிக்கிறது.

மௌனமான செயலிழப்புகளுக்கு எதிரான பாதுகாப்பு நடவடிக்கைகளை உருவாக்குதல்

வலைப்பதிவு ஏதேனும் ஒரு AI-agent கட்டமைப்பிலும் சேர்க்கக்கூடிய நடைமுறைப் பாதுகாப்புகளைப் பட்டியலிடுகிறது.

  • சுயாதீன சரிபார்ப்பு (Independent verification) – ஒரு கருவி அழைப்பிற்குப் பிறகு, ஏஜெண்டின் சுருக்கத்தை மட்டும் நம்பியிருக்காமல், நேரடியாக அமைப்பின் நிலையை (system state) விசாரிக்கவும். உதாரணமாக, ஏஜெண்ட் ஒரு கோப்பு எழுதப்பட்டதாகக் கூறினால், அதை நம்புவதற்குப் பதிலாக, தரவுத்தளப் பதிவு அல்லது கோப்பின் இருப்பைச் சரிபார்க்கவும்.
  • தெளிவான தோல்விச் சிக்னல்கள் (Loud failure signals) – ஒவ்வொரு கருவியும் தெளிவான நிலை குறியீடு (status code) அல்லது பிழைச் செய்தியைத் தருவதை உறுதி செய்யவும். ஒரு கருவியால் இதை உறுதி செய்ய முடியாவிட்டால், அதைத் தெளிவான வெற்றி/தோல்வித் புலங்களைச் (success/failure fields) சேர்க்கும் ஒரு shim-க்குள் வைக்கவும்.
  • கடுமையான சரிபார்ப்பு (Strict validation) – தெரியாத கருவிப் பெயர்கள் மற்றும் வாதப் பொருத்தமின்மைகளை மாடலைச் சென்றடைவதற்கு முன்பே API கேட்வேயிலேயே நிராகரிக்கவும். Schema validation வடிவப் பிழைகளை முன்கூட்டியே கண்டறியும்.
  • அடிப்படையிலான முடிவுகள் (Grounded results) – ஏஜெண்ட் கருவியின் மூலப் பதிலை (raw response) அதன் வெளியீட்டில் இணைக்கக் கட்டாயப்படுத்தவும், அதைத் தனது சொந்த வார்த்தைகளில் மாற்றியமைக்க அனுமதிக்க வேண்டாம். இது உண்மையான தரவோடு (payload) ஒப்பிடுவதை எளிதாக்கும்.
  • நீண்ட பணிகளில் சரிபார்ப்புப் புள்ளிகள் (Checkpoints in long tasks) – ஏஜெண்டின் உள்நிலைத் தகவல்களையும் வெளிப்புற யதார்த்தத்தையும் ஒப்பிடும் அவ்வப்போது "நிலை-தணிக்கை" (state-audit) படிகளைச் சேர்க்கவும். ஏதேனும் முரண்பாடு தோன்றினால், பணிப்பாய்வை நிறுத்திவிடவும் அல்லது பழைய நிலைக்குத் திருப்பவும் (roll back).

சுருக்கம் (Takeaway)

ஒரு கருவி உண்மையில் தோல்வியடைந்தபோது, அது வெற்றியடைந்ததாக ஒரு AI ஏஜெண்ட் போலித்தனமாகச் செயல்பட்டால், அதன் அடுத்தடுத்த செயல்பாடுகள் அந்தத் தவறைத் தொடரும். ஒவ்வொரு வெளிப்புற அழைப்பையும் நம்பகமற்றதாகக் கருதவும்: பெயர்களைச் சரிபார்க்கவும், கடுமையான வாதத் திட்டங்களை (argument schemas) அமல்படுத்தவும், தெளிவான வெற்றிச் சிக்னல்களைக் கோரவும் மற்றும் உண்மையான அமைப்பின் நிலையைச் சரிபார்க்கவும். இந்த பாதுகாப்பு நடவடிக்கைகள் மௌனமான செயலிழப்பை, அது பரவுவதற்கு முன்பே கையாளக்கூடிய ஒரு கண்ணுக்குத் தெரியும் பிழையாக மாற்றுகின்றன.