உங்கள் ரோபோவின் PR-களை யாரும் ஆய்வு செய்வதில்லை

AI ஏஜெண்டுகள் தங்கள் வேலையைப் பற்றி பொய் சொல்கின்றன.

தொழில்முறைத் தலைவர்கள் இதை ஒப்புக்கொள்ளத் தொடங்கியுள்ளனர். ஒரு டெவலப்பர் ஒரு AI ஏஜெண்டைக் கொண்டு ஒரு செயலியை உருவாக்கினார். மாற்றங்களைச் செய்வதை நிறுத்தும்படி அவர் ஏஜெண்டிற்குச் சொன்னார். ஆனால் ஏஜெண்ட் அவரைப் புறக்கணித்தது. அது அவரது production database-ஐ அழித்துவிட்டு, அந்தத் தவறை மறைக்க நான்கு ஆயிரம் போலிப் பதிவுகளை உருவாக்கியது. பின்னர், அது ஏன் அப்படி நடந்தது என்பது குறித்து அவருக்கு ஒரு கதையைச் சொன்னது.

இது ஒரு தனிப்பட்ட நிகழ்வு அல்ல. மனிதர்கள் எழுதும் குறியீட்டை (code) விட AI குறியீட்டில் குறைபாடுகள் அதிகம் இருப்பதாக ஆய்வுகள் காட்டுகின்றன. பல டெவலப்பர்கள், AI குறியீடு testing-இல் தேர்ச்சி பெற்ற பிறகும், அதை debug செய்ய வேண்டிய கட்டாயத்தில் இருப்பதை உணர்கிறார்கள்.

ஒரு நிறுவனம்க்கும் ஒரு homelab-க்கும் இடையிலான பெரிய வித்தியாசம் பாதுகாப்பு வலை (safety net) ஆகும்.

நிறுவனங்கள் staging environments பயன்படுத்துகின்றன. அவை pull requests பயன்படுத்துகின்றன. அவை மனித ஆய்வாளர்களைப் பயன்படுத்துகின்றன. இந்தத் தடுப்பு முறைகள் (guardrails) பொய்களைக் கண்டறிகின்றன.

ஒரு homelab-இல், உங்களிடம் பாதுகாப்பு வலை இல்லை.

நீங்கள் ஒரு ஏஜெண்டிற்கு உங்கள் setup-க்கான அணுகலை வழங்குகிறீர்கள். அது உங்கள் config files-களை எழுதுகிறது. அது உங்கள் environment variables-களை மாற்றியமைக்கிறது. அது உங்கள் proxy-யை நிர்வகிக்கிறது. உங்கள் கேரேஜில் staging tier இல்லை. ஒரு pull request-ஐப் படிக்க அங்கு மனிதர்கள் இல்லை. நீங்கள் மற்றும் ஒரு பச்சை நிற dashboard மட்டுமே there.

அந்த dashboard ஒரு பொறி.

வழக்கமான அறிவுரை uptime monitors பயன்படுத்துமாறு சொல்கிறது. ஒரு சேவை பதிலளித்தால், monitor பச்சை நிறத்தைக் காட்டும். ஆனால் பதிலளிப்பது என்பது வேலை செய்வது என்பதற்குச் சமமல்ல. ஒரு செயலி (application) செயலிழந்த நிலையில் இருந்தாலும், அது ஒரு ping-க்கு பதிலளிக்க முடியும்.

ஒரு firewall setup-இல் நான் இதைப் பார்த்தேன். ஒரு Docker host-ஐப் பாதுகாப்பானதாக மாற்ற (harden) நான் ஒரு கருவியைப் பயன்படுத்தினேன். firewall செயல்பாட்டில் உள்ளது என்றும் பச்சை நிறத்திலும் இருப்பதாக dashboard கூறியது. ஆனால் உண்மையில், அந்தத் கருவி முழுத் தனிப்பட்ட நெட்வொர்க்கையும் (private network) திறந்துவிட்டது. அது ஒரு பாதுகாப்பு பெட்டகம் போலச் செயல்பட முயன்ற ஒரு வலைத் கதவு (screen door) போல இருந்தது.

உள்ளே இருக்கும் சேவை செயலிழந்து (crashing) கொண்டிருக்கும் போதே, containers அவை இயங்கிக் கொண்டிருப்பதாகத் தெரிவிப்பதைக் கண்டிருக்கிறேன். ping-களுக்குப் பதிலளிக்கும் ஆனால் எந்தத் தரவையும் (real data) செயலாக்க முடியாத சேவைகளையும் நான் பார்த்திருக்கிறேன்.

ஏஜெண்ட் தான் செய்ததைச் சொல்கிறது. dashboard அது நினைப்பதைச் சொல்கிறது. இரண்டுமே பொய் சொல்லலாம்.

உங்களுக்கு ஒரு புதிய ஒழுக்கம் தேவை.

ஒரு சேவை இயங்குகிறதா என்று கேட்பதை நிறுத்துங்கள். அது வேலையைச் செய்கிறதா என்று கேட்கத் தொடங்குங்கள். அதை உடைக்க முயற்சிப்பதன் மூலம் அதை நிரூபியுங்கள்.

• ஃபயர்வால் விதியைப் (firewall rule) படிக்க மட்டும் வேண்டாம். தடுக்கப்பட்ட மூலத்திலிருந்து (blocked source) இணைக்க முயற்சி செய்யுங்கள்.
• முடிந்துவிட்டது என்று சொல்லும் backup-ஐ நம்பாதீர்கள். அது வேலை செய்கிறதா என்பதைப் பார்க்க அதை restore செய்து பாருங்கள்.
• ஒரு config file பற்றிய ஏஜெண்டின் கூற்றை நம்பாதீர்கள். நேரடி கோப்பை (live file) அந்த கூற்றுடன் byte by byte ஒப்பிட்டுப் பாருங்கள்.

Status என்பது ஒரு கதை. Behavior என்பது உண்மை. இரண்டும் முரண்படும்போது, behavior-ஐ நம்புங்கள்.

எனது வேலையில் எழுபது சதவீதம் நான் AI-ஐப் பயன்படுத்துகிறேன். அது பயனுள்ளது, ஆனால் அது தொடர்ந்து பொய் சொல்கிறது. அது மகிழ்ச்சியாகவும் பச்சை நிறத்திலும் பொய்களைச் சொல்கிறது.

நிறுவனங்களுக்கான தீர்வு, முதல் ரோபோவைக் கண்காணிக்க இன்னும் பல ரோபோக்களைச் சேர்ப்பதாகும். homelab-க்கான தீர்வு எளிமையானது. நீங்கள் நீங்களே அமைப்பைப் பார்க்க வேண்டும். அது தோல்வியடையும் இடத்திலிருந்து நீங்கள் அதைச் சோதிக்க வேண்டும்.

நீங்கள் உருவாக்கிய ரோபோவை நம்பாதீர்கள்.

Source: https://dev.to/p4r4n0id/nobodys-reviewing-your-robots-prs-4aio

Optional learning community: https://t.me/GyaanSetuAi