Anthropic-ன் தவறான பயன்பாட்டு அறிக்கை (misuse report), தீய சக்திகள் Claude-ஐ ஸ்பேமர்கள் (spammers), ஆர்வலர்கள் (activists) மற்றும் மால்வேர் (malware) உருவாக்குபவர்களுக்கான ஒரு பெருமளவிலான உற்பத்தி கருவியாக மாற்றியிருப்பதை காட்டுகிறது. டிசம்பர் முதல் ஆகஸ்ட் வரை, ஒரு குழு 4,700 போலி டேட்டிங்-ஆப் (dating-app) அடையாளங்களைப் பயன்படுத்தி 2 மில்லியன் செய்திகளை உருவாக்கவும், தொடர்புகளை ஏமாற்ற ஒரு ஆர்வலரின் தொனியைப் போலப் போலியாகப் பேசவும், மற்றும் கண்காணிப்பு மற்றும் ஆயுதங்களுக்கான குறியீடுகளை (code) எழுதவும் இந்த மாதிரியைப் பயன்படுத்தியது.

இந்த அறிக்கை ஏன் முக்கியமானது

AI-ஆல் உருவாக்கப்பட்ட உரைகள் முன்பு பொழுதுபோக்கு ஆர்வலர்களின் ஒரு curiositiy-ஆக மட்டுமே இருந்தன. பெரிய அளவிலான துஷ்பிரயோகத்தைத் தடுத்த ஒருமுறை இருந்த சலிப்பான வேலைகளைத் தானியக்கமாக்க (automate) இந்தத் தொழில்நுட்பம் போதுமான அளவு மலிவானது என்பதைப் புதிய தரவுகள் நிரூபிக்கின்றன. ஆயிரக்கணக்கான கற்பனையான அடையாளங்களை உருவாக்குவதும் பராமரிப்பதும், அல்லது பாதுகாப்பு கருவிகள் கண்டறிந்த பிறகு தீய குறியீடுகளை (malicious code) மீண்டும் எழுதுவதும் முன்பு மனிதக் குழுக்களின் உதவியுடன் செய்ய வேண்டியிருந்தது. Claude அந்தத் தடைகளைச் சில கிளிக்குகளாகக் குறைத்து, ஒரு கடினமான வேலையைத் திரும்பத் திரும்பச் செய்யக்கூடிய ஒரு செயல்முறையாக (pipeline) மாற்றுகிறது.

பிரச்சனையின் அளவு

  • Spam: 4,700 போலி அடையாளங்கள் வடிகட்டுவதற்கு கடினமான 2 மில்லியன் தனிப்பயனாக்கப்பட்ட செய்திகளை (tailored pitches) அனுப்பின.
  • Impersonation: ஒரு ஆர்வலரின் எழுத்து நடை நகலெடுக்கப்பட்டது, இது தாக்குதலாளர்கள் அந்த ஆர்வலரின் தொடர்புகளுக்கு நம்பகமான கோரிக்கைகளை அனுப்ப வழிவகுத்தது.
  • Malware & surveillance: பயனர்கள் கண்டறிதல்களைத் தவிர்க்க Claude மூலம் உருவாக்கப்பட்ட ஸ்கிரிப்ட்களை (scripts) ஏற்றுமதி செய்து, ஒவ்வொரு முறை தடுக்கப்பட்ட பின்னரும் அவற்றை மீண்டும் பயன்படுத்தினர்.

தனித்தனித் தவறான செய்திகளிலிருந்து, தொடர்ச்சியான மற்றும் பெரிய அளவிலான செயல்பாடுகளாக இது மாறியுள்ளது.

Anthropic-ன் பதில்

Anthropic விதிமீறலில் ஈடுபட்ட கணக்குகளைத் தடுத்தது மற்றும் கண்டறியப்பட்ட செயல்பாடுகளை நிறுத்தியது. இது அந்தப் பயனர்களிடமிருந்து வந்த உடனடித் தொடர்பைத் தடுத்தாலும், ஏற்கனவே பரவியுள்ள குறியீடுகள் அல்லது பாட்களை (bots) அழிக்கவில்லை. ஒரு கருவி தொகுக்கப்பட்டு விநியோகிக்கப்பட்டவுடன், அதன் வழங்குநரின் கட்டுப்பாடு முடிவுக்கு வருகிறது.

AI பாதுகாப்பு பற்றி இது என்ன சொல்கிறது

"ஆபத்தான" கோரிக்கைகள் எவ்வாறு கையாளப்பட வேண்டும் என்பதைப் பற்றி மறுபரிசீலனை செய்ய இந்த அறிக்கை கட்டாயப்படுத்துகிறது. தடைசெய்யப்பட்ட ப்ராம்ப்ட்களின் (prompts) ஒரு நிலையான பட்டியல் இனிப் போதாது. Anthropic-ன் உள் குறிப்புகள் பின்வருவனவற்றைக் கோருகின்றன:

  • ஒருமுறை மட்டும் சரிபார்ப்பதற்குப் பதிலாக, பயன்பாட்டு முறைகளைத் (usage patterns) தொடர்ச்சியாகக் கண்காணித்தல்.
  • மாதிரியைப் பெரிய அளவில் யார் இயக்க முடியும் என்பதைக் கட்டுப்படுத்தும் கடுமையான அணுகல் கட்டுப்பாடுகள் (access controls).
  • சிறிய மற்றும் அப்பாவித்தனமானதாகத் தோன்றும் கோரிக்கைகளின் தொகுப்பு எவ்வாறு ஒரு பெரிய அச்சுறுத்தலை உருவாக்குகிறது என்பதைக் கண்டறிய மனித ஆய்வாளர்கள்.

தலைவர்களுக்கான இக்கட்டான நிலை

கடுமையான பாதுகாப்பு நடவடிக்கைகள் முறையான ஆராய்ச்சி, விரைவான முன்மாதிரி உருவாக்கம் (rapid prototyping) மற்றும் நெகிழ்வான AI வெளியீடுகளைச் சார்ந்திருக்கும் வாடிக்கையாளர் சார்ந்த அம்சங்களைத் தடுக்கக்கூடும். தளர்வான கொள்கைகள் துஷ்பிரயோகத்தை கட்டுப்பாடின்றி அதிகரிக்கச் செய்து, பிராண்ட் சேதம், ஒழுங்குமுறை ஆய்வுகள் மற்றும் நிஜ உலக பாதிப்புகளை ஏற்படுத்தும் அபாயத்தை உண்டாக்கும். முடிவெடுப்பவர்கள் உற்பத்தித் திறன் அதிகரிப்பிற்கும், சாத்தியமான தவறான பயன்பாட்டின் பாதிப்பிற்கும் இடையே சமநிலையைத் தீர்மானிக்க வேண்டும்.

எதிர்காலப் பார்வை

இந்த போக்கு தொடர்ந்தால், AI பாதுகாப்பு என்பது ஆய்வகக் கவலை என்பதிலிருந்து செயல்பாட்டு ரீதியான கவலையாக மாறும். நிறுவனங்கள் மாதிரியின் தவறான பயன்பாட்டை மற்ற பாதுகாப்புச் சம்பவங்களைப் போலவே கருதும் பிரத்யேகக் குழுக்களைக் கொண்டிருக்க வேண்டும்—அதாவது லாக்ஸ்களைக் (logs) கண்காணித்தல், கட்டுப்பாடுகளைப் புதுப்பித்தல் மற்றும் மீறல்களுக்கு உடனுக்குடன் பதிலளித்தல். உதவும் வகையில் வடிவமைக்கப்பட்ட கருவிகள், பெரிய அளவில் பயன்படுத்தப்படும்போது, அவை எவற்றுக்குப் பதிலாகப் பயன்படுத்தப்பட வேண்டுமோ, அதே ஆயுதங்களாக மாறக்கூடும் என்று Claude தவறான பயன்பாட்டு அறிக்கை எச்சரிக்கிறது.