AI முகவர்கள் (AI agents) தங்களது கருவிகளை (tools) மீண்டும் இயக்கத் தெளிவான அனுமதியை அளிக்கும்போது, அவை வியக்கத்தக்க வகையில் முன்னேற்றம் அடைகின்றன என்று ஆசிரியர் கண்டறிந்துள்ளார் – ஒரு எளிய வார்த்தை மாற்றமே சரிசெய்யும் வெற்றி விகிதத்தை 0.16 லிருந்து 1.00 ஆக உயர்த்தியது. “action-licensing” என்று அழைக்கப்படும் இந்த முடிவு, ஒரு முகவருக்குத் தனது வேலையைச் சரிபார்க்கத் தூண்டுவது, இலக்கை மீண்டும் கூறுவதை விட மிகவும் பயனுள்ளதாக இருக்கும் என்பதைக் காட்டுகிறது.
இந்தத் தீர்வு ஏன் முக்கியமானது
வெளிப்புறக் கருவிகளை (databases, calculators, APIs) அழைக்கக்கூடிய AI உதவியாளர்கள் வணிகப் பணிப்பாய்வுகளில் (business workflows) பெருகிவரும் அளவில் பயன்படுத்தப்படுகிறார்கள். அந்த முகவர்கள் தவறு செய்யும்போது, அந்தத் தவறு பெரும்பாலும் அமைதியாகப் பரவி, தெளிவான தோல்வி சமிக்ஞைகள் இன்றித் தவறான பதில்களைத் தருகிறது. முழுத் தூண்டுதலையும் (prompt) மீண்டும் எழுதாமல் தலையிடுவதற்கான நம்பகமான வழி, டெவலப்பர்களின் நேரத்தைச் சேமிக்கவும் உற்பத்தி அமைப்புகளில் (production systems) விலை உயர்ந்த தவறுகளைத் தடுக்கவும் உதவும்.
தோல்விகள் எவ்வாறு வெளிப்படுகின்றன
ஆசிரியர் இரண்டு பொதுவான, குறைந்த வெளிப்படைத்தன்மை கொண்ட தோல்வி முறைகளைக் கவனித்துள்ளார்:
தவிர்க்கப்பட்டத் தேடல் (Skipped Lookup) – ஒரு தகவலைத் தேடி எடுக்க வேண்டும் என்பது முகவருக்குத் தெரியும் (உதாரணமாக, ஒரு ID-யிலிருந்து மேலாளரின் பெயரைப் பெறுவது), ஆனால் அது தேடல் கருவியைப் பயன்படுத்துவதற்குப் பதிலாகத் தானாகவே ஒரு பதிலை உருவாக்குகிறது. அந்தப் பதில் மேலோட்டமாகச் சரியாகத் தோன்றினாலும், அதில் உண்மைத் தன்மை இருக்காது.
சரிபார்க்கப்பட்ட அர்த்தமற்ற தகவல் (Validated Nonsense) – முகவர் ஒரு கருவிக்குத் தவறான அல்லது முறையற்ற தரவை வழங்குகிறது. அந்தக் கருவி பிழையைத் தெரிவிக்காமல் ஒரு முடிவைத் தருகிறது, மேலும் முகவர் அந்த முடிவை ஒரு உறுதிப்படுத்தலாகக் கருதி, தனது சொந்தத் தவறைத் தானே அங்கீகரிக்கிறது.
இந்த இரண்டு முறைகளும் பயனருக்குத் தன்னம்பிக்கையான ஆனால் தவறான பதிலையே வழங்குகின்றன, மேலும் டெவலப்பர்கள் கவனிக்கும் லூப் (loop) அல்லது விடுபட்ட பதில் போன்ற வழக்கமான அறிகுறிகளை இவை தூண்டுவதில்லை.
சோதனை
வெவ்வேறு தூண்டுதல்கள் (prompts) சரிசெய்தலை எவ்வாறு பாதிக்கின்றன என்பதை அளவிட, ஆசிரியர் கடினமான உண்மைத் தரவுகளுடன் (ground-truth answers - LLM அடிப்படையிலான மதிப்பீடு இன்றி) ஒரு கட்டுப்பாட்டுச் சோதனையை அமைத்தார். இரண்டு தூண்டுதல்கள் ஒப்பிடப்பட்டன:
இலக்கு சார்ந்த தூண்டுதல் (Goal-only nudge) – “பதில் மேலாளரின் பெயராக இருக்க வேண்டும்.” மீட்பு விகிதம்: 0.16.
செயல்-அனுமதித் தூண்டுதல் (Action-licensing nudge) – “பதில் மேலாளரின் பெயராக இருக்க வேண்டும். சரிபார்க்கக் கருவிகளைப் பயன்படுத்தவும்.” மீட்பு விகிதம்: 1.00 (தோல்வியடைந்த அனைத்து முயற்சிகளும் சரிசெய்யப்பட்டன).
ஒரு கருவியை மீண்டும் இயக்கத் தெளிவான அனுமதியைத் தருவது மட்டுமே இதில் இருந்த ஒரே வித்தியாசம். இரண்டாவது தூண்டுதல், முகவர் மீண்டும் சென்று, விடுபட்ட தரவைப் பெற்று, தனது முந்தைய ஊகத்தை மாற்றியமைக்க முடியும் என்பதை உணர்த்தியது. அந்த அனுமதி, பெரும்பாலும் பயனற்றதாக இருந்த தூண்டுதலை, சோதிக்கப்பட்ட நிகழ்வுகளுக்கு ஒரு உறுதியான தீர்வாக மாற்றியது.
எண்கள் எதைக் குறிக்கின்றன
0.16 லிருந்து 1.00 ஆக உயர்ந்தது, திருத்தத்திற்கான தடையானது முகவரின் இலக்கு பற்றிய புரிதல் அல்ல, மாறாகச் செயல்படுவதற்கான அதன் சுதந்திரம் என்பதை உணர்த்துகிறது. தூண்டுதல் மாதிரியிடம் “நீங்கள் மீண்டும் முயற்சிக்கலாம்” என்று கூறும்போது, அது அந்தச் சூழலை ஒரு முட்டுச்சந்தையாகக் கருதாமல் ஒரு புதிய துணைப் பணியாகக் கருதுகிறது, இது கருவி-அழைப்புச் சங்கிலியை (tool-call chain) மீண்டும் தொடங்க அனுமதிக்கிறது.
தூண்டுதல் சார்ந்த தீர்வுகளின் வரம்புகள்
தூண்டுதல்கள் மட்டுமே ஒரு முகவரைக் காப்பாற்ற முடியாத சூழல்களையும் இந்தச் சோதனை சுட்டிக்காட்டியது:
ஒரு கருவி தவறான உள்ளீட்டை அமைதியாக ஏற்றுக்கொண்டு ஒரு மதிப்பைத் தந்தால், தனது தரவு தவறானது என்பதற்கான எந்தத் தகவலும் முகவருக்குக் கிடைக்காது. எவ்வளவு தூண்டுதல்களை மாற்றியமைத்தாலும் அது பிழையைக் கண்டறிய முடியாது; கருவியே உள்ளீட்டுச் சரிபார்ப்பைச் (input validation) செய்ய வேண்டும் அல்லது ஒரு பிழையைத் தெரிவிக்க வேண்டும்.
கருவிகளை அழைக்கவே சிரமப்படும் முகவர்கள், “கருவிகளைப் பயன்படுத்தவும்” என்ற அறிவுறுத்தலால் ஒருபோதும் பயனடைய மாட்டார்கள், ஏனெனில் அடிப்படைத் திறன் அங்கு இல்லை. இத்தகைய மாதிரிகளில் சரிசெய்தலைச் சோதிப்பது, தூண்டுதலின் செயல்திறனை மாதிரியின் அடிப்படைத் திறன் (tool-calling ability) ஆகியவற்றுடன் குழப்பமடையச் செய்யும்.
டெவலப்பர்களுக்கான நடைமுறைப் பயன்பாடுகள்
அனுமதி வழங்கவும் – நீங்கள் தலையிடும்போது, ஒரு கருவி அழைப்பைத் திரும்பச் செய்ய அல்லது மீண்டும் கணக்கிடலாம் என்று முகவருக்குத் தெளிவாகக் கூறவும். விரும்பிய முடிவை மீண்டும் கூறுவது பெரும்பாலும் முகவரை அதன் தவறான பாதையிலேயே முடக்கிவிடும்.
கருவிகளைக் காப்பற்றவும் – முகவர் பயன்படுத்தும் கருவிகளில் உள்ளீட்டுச் சரிபார்ப்புகளையும் (input checks) தெளிவான பிழைச் செய்திகளையும் உருவாக்கவும். இது “சரிபார்க்கப்பட்ட அர்த்தமற்ற தகவல்” (validated nonsense) உள்ளே நுழைவதைத் தடுக்கும்.
முன்கூட்டியே கண்டறியவும் – தவறு எவ்வளவு சீக்கிரம் கண்டறியப்படுகிறதோ, அவ்வளவு எளிதாக மீண்டும் இயக்கும் தூண்டுதல் (re-execution prompt) வெற்றி பெறும். எதிர்பார்க்கப்படும் மற்றும் உண்மையான கருவிப் பயன்பாட்டிற்கு இடையிலான முரண்பாடுகளைக் கண்காணிப்பது சரியான நேரத்தில் சரிசெய்யும் தூண்டுதலைத் தூண்ட உதவும்.
மாதிரியின் திறன்களைச் சரிபார்க்கவும் – தூண்டுதல் அடிப்படையிலான சரிசெய்தலைச் சார்ந்தே முடிவெடுப்பதற்கு முன், மாதிரி முதலில் கருவிகளைத் நம்பகமான முறையில் அழைக்க முடிகிறதா என்பதை உறுதிப்படுத்தவும். இல்லையெனில், நீங்கள் ஒரு பலவீனமான அடித்தளத்தின் மீது தூண்டுதலின் செயல்திறனை அளவிடுகிறீர்கள் என்று அர்த்தம்.
சுருக்கமாகச் சொன்னால்: ஒரு AI முகவருக்குத் தனது வேலையை மீண்டும் செய்யத் தெளிவான அனுமதியை வழங்குவது, ஒரு அரைகுறைத் தீர்வை முழுமையான முன்னேற்றமாக மாற்றும். தூண்டுதல் வடிவமைப்பாளர்கள் “சரிபார்க்கக் கருவிகளைப் பயன்படுத்தவும்” என்பதை ஒரு விருப்பத்தேர்வாகக் கருதாமல், ஒரு பாதுகாப்பு வால்வாக (safety valve) கருத வேண்டும்.