நீங்கள் உங்கள் சொந்த இரண்டாவது பார்வையாக இருக்க முடியாது

AI இன்னும் புத்திசாலியாக இருக்க வேண்டிய அவசியமில்லை. அது விருப்பத்தேர்வாக (optional) இல்லாமல் இருக்க வேண்டும்.

எனது AI கூட்டாளி ஒரு நாளில் நான்கு முறை தோல்வியடைவதை நான் பார்த்தேன். ஒவ்வொரு தோல்வியும் ஒரே மாதிரியான முறையைக் கொண்டிருந்தன. AI தன்னைத்தானே சரிபார்க்க முயன்றது, ஆனால் தவறுக்குக் காரணமான அதே தர்க்கத்தையே (logic) அது பயன்படுத்தியது.

நீங்கள் உங்கள் சொந்த இரண்டாவது பார்வையாக இருக்க முடியாது. ஒரு உண்மையான இரண்டாவது பார்வை என்பது அந்தச் செயல்பாட்டிற்கு வெளியிலிருந்து வர வேண்டும். அது வன்வட்டில் (disk) உள்ள ஒரு கோப்பாகவோ, ஒரு நேர முத்திரையாகவோ (timestamp), அல்லது அந்தச் சுழற்சியில் (loop) இல்லாத ஒரு மனிதராகவோ இருக்க வேண்டும்.

அந்த நான்கு தோல்விகள் இதோ:

  • தன்னைத்தானே புறக்கணித்த விதி: நேரடி மேம்பாட்டிற்கு (live promotion) முன்னதாக ஒரு சரிபார்ப்பைச் செய்ய AI ஒரு விதியை எழுதியது. பத்து மணிநேரத்திற்குப் பிறகு, அந்தச் சரிபார்ப்பு இல்லாமல் ஒரு மேம்பாட்டை அது முன்மொழிந்தது. ஒரு ஏஜென்ட் (agent) எழுதும் விதி என்பது தனக்கான ஒரு குறிப்பு மட்டுமே தவிர, அது ஒரு பாதுகாப்பு வேலையாக (guardrail) முடியாது.

  • உரையாடல் மற்றும் உண்மை நிலை (The thread vs. the world): ஒரு கட்டமைப்பு (configuration) தயாராக இருப்பதாகக் கூறும் ஒரு சாட் திரெட்டை (chat thread) AI வாசித்தது. ஆனால் அது உண்மையான அமைப்பை (system) சரிபார்க்கவில்லை. உலகம் ஏற்கனவே மாறிவிட்டது, ஆனால் AI அந்த உரையாடலை மட்டுமே நம்பியது.

  • புறக்கணிக்கப்பட்ட கருவி: பிழைகளைத் தடுக்க ஒரு தனிப்பயன் திறன் (custom skill) இருந்தது. ஆனால் AI அந்தத் திறனைத் தவிர்த்துவிட்டு, அதற்குப் பதிலாக தரவுத்தளத் திட்டத்தை (database schema) யூகிக்க முயன்றது. அதற்குத் தேர்வு செய்யும் உரிமை இருந்ததால், அது அந்தப் பாதுகாப்பைக் கடந்து சென்றது.

  • மீண்டும் நிகழும் பிழை: காலை நேரத்தில் AI ஒரு பிழையைக் கண்டறிந்தது. ஆனால் மாலையில், ஒரு புதிய தரவுத் தொகுப்பில் (dataset) அதே பிழையைச் செய்தது. முதல் பாடம் ஒரு விதியாக மாறவில்லை; அது ஒருமுறை செய்த சரிசெய்தலாக மட்டுமே இருந்தது.

பிரச்சனை அதன் மூலத்தில் உள்ளது. உங்கள் பாதுகாப்பு வேலிகள் (guardrails) உங்கள் பிழைகள் இருக்கும் அதே இடத்திலிருந்தே தகவல்களைப் பெற்றால், அவை தோல்வியடையும். இது ஒரு நபர் நான்கு வெவ்வேறு தொப்பிகளை அணிந்து கொண்டு அதை ஒரு குழு என்று அழைப்பதற்குச் சமம்.

இதைச் சரிசெய்ய, பிழையைப் பிடிக்கும் பொறுப்பை AI-ன் தன்னிச்சையான முடிவிலிருந்து (discretion) வெளியே கொண்டு வர வேண்டும்.

  • கட்டாயச் சரிபார்ப்புகளைச் செயல்படுத்தவும். ஒரு சரிபார்ப்பு அவசியமா இல்லையா என்பதை AI தீர்மானிக்க அனுமதிக்காதீர்கள்.
  • உரையாடலை விட உண்மை நிலைக்கு முன்னுரிமை அளிக்கவும். ஒரு சாட் பதிவை (chat log) நம்புவதற்கு முன் எப்போதும் உண்மையான அமைப்பைச் சரிபார்க்கவும்.
  • கருவியைப் பயன்படுத்துவதைத் தானியக்கமாக்கவும். ஒரு பணி ஒரு திறனுடன் பொருந்தினால், அந்தத் திறன் தானாகவே செயல்பட வேண்டும்.
  • வரம்புகளை முன்கூட்டியே நிர்ணயிக்கவும். சார்பைத் (bias) தவிர்க்க, தரவைப் பார்ப்பதற்கு முன்பே விதிகளை அமைத்துவிடவும்.

ஒரு ஏஜென்ட் விரும்பினால் மட்டும் கடைப்பிடிக்கக்கூடிய ஒழுக்கம் உண்மையான ஒழுக்கம் அல்ல. அது வெறும் அலங்காரம் மட்டுமே.

ஏஜென்ட் கடந்து செல்ல முடியாத கட்டமைப்புகளை உருவாக்குங்கள்.

Source: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

Optional learning community: https://t.me/GyaanSetuAi