மூன்று வார்த்தைகள்

ஒரு ஆராய்ச்சியாளர் Anthropic-ன் மிகவும் சக்திவாய்ந்த AI மாடலில் மூன்று வார்த்தைகளைத் தட்டச்சு செய்தார்: fix this code.

தொண்ணூறு நிமிடங்களுக்குள், அமெரிக்க அரசாங்கம் அந்த மாடலை முடக்கியது.

அந்தப் பாதிப்பு ஒரு எளிய 'prompt' மூலம் ஏற்பட்டது. அது ஒரு சிக்கலான தாக்குதல் அல்ல. அதன் பாதுகாப்பு அமைப்புகள் தடுத்திருக்க வேண்டிய சைபர் பாதுகாப்புத் தரவுகளை (cybersecurity data) அந்த மாடல் வழங்கியது.

வர்த்தகத் துறை (Commerce Department) அந்த மாடலை நிறுத்த ஏற்றுமதி கட்டுப்பாட்டு அதிகாரத்தைப் பயன்படுத்தியது. அனைத்து வெளிநாட்டு குடிமக்களும் அதை அணுகுவதைத் தடை செய்யுமாறு Anthropic-க்கு உத்தரவிட்டது. இதில் Anthropic-ன் சொந்தப் பொறியாளர்களும் அடங்குவர். தனது சொந்த ஊழியர்களைத் தவிர்ப்பதைத் தவிர்க்க Anthropic மாடல்களை ஆஃப்லைனில் (offline) கொண்டு சென்றது.

அதிகாரப்பூர்வமான காரணம் தேசிய பாதுகாப்பு. ஆனால் இந்தக் கதையில் ஒரு ஆழமான அம்சம் உள்ளது.

Amazon அந்தத் தற்காப்பு மீறலைக் (bypass) கண்டறிந்தது. Amazon CEO Andy Jassy இதைப் பற்றி அரசு அதிகாரிகளிடம் தெரிவித்தார்.

Amazon, Anthropic-ல் ஒரு மிகப்பெரிய முதலீட்டாளர். Anthropic பயன்படுத்தும் கிளவுட் உள்கட்டமைப்பையும் (cloud infrastructure) Amazon தான் வழங்குகிறது. மிக முக்கியமாக, Amazon-ன் சொந்த AI தயாரிப்புகள் Anthropic-உடன் போட்டியிடுகின்றன.

அந்தத் தகவல் ஒரு போட்டியாளரிடமிருந்து நேரடியாக அரசாங்கத்திற்குச் சென்றது. மாடலை உருவாக்கிய நிறுவனத்தை அது கடந்து சென்றது.

இந்த நிகழ்வு மூன்று முக்கியமான விஷயங்களைக் காட்டுகிறது:

AI நிறுவனங்கள் தாங்களே தங்களை முறைப்படுத்திக் கொள்வார்கள் அல்லது அரசாங்கக் கொள்கைகளை எதிர்கொள்வார்கள் என்று நினைத்தன. ஆனால் மூன்றாவது விருப்பத்திற்கு அவை தயாராகவில்லை.

நிறுவனத் தகவல்களால் (corporate intelligence) தூண்டப்படும் திடீர் தலையீடுகள் மூலம் ஒழுங்குமுறை அமல்படுத்தப்படுவதை அவை கணிக்கவில்லை.

பாதுகாப்பு ஆராய்ச்சியாளர்கள் AI-க்குத் தடுப்புச் சுவர்களை (guardrails) விரும்பினர். ஆனால் உண்மையில் அவற்றை யார் உருவாக்குவார்கள் என்பதை அவர்கள் உணரத் தவறிவிட்டனர்.

Source: https://dev.to/thesythesis/the-three-words-3ijl

Optional learning community: https://t.me/GyaanSetuAi