கடந்த வாரம், உற்பத்திச் சூழல்களில் (production environments) இந்தத் கருவிகளைத் தயாரிப்பவர்கள் அல்லது பயன்படுத்துபவர்களுக்கு முக்கியமான மூன்று AI மாற்றங்கள் நிகழ்ந்துள்ளன. Anthropic தனது மிகவும் திறன்மிக்க மாடல்களுக்கு குரல் வழி அணுகலை (voice access) விரிவுபடுத்தியுள்ளது. Echo எனப்படும் ஒரு திட்டம், அதிக செயல்திறனுக்கு விலையுயர்ந்த பிரத்யேக API-கள் (proprietary APIs) தேவை என்ற கருத்தை சவாலுக்கு உட்படுத்தியுள்ளது. மேலும், GitLost எனப்படும் புதிய பாதிப்பு, சாதாரணக் குறியீடு கருத்துகள் (code comments) மூலம் AI கோடிங் ஏஜெண்டுகள் எவ்வாறு கடத்தப்படலாம் என்பதைக் காட்டியுள்ளது. ஒட்டுமொத்தமாக, இந்தச் செய்திகள் AI அதிக அணுகக்கூடியதாகவும், மலிவானதாகவும், சில வழிகளில் அதிக ஆபத்தானதாகவும் மாறி வருவதைக் காட்டுகின்றன. என்ன மாற்றங்கள் நிகழ்ந்துள்ளன மற்றும் அவை உங்கள் வேலையை எவ்வாறு பாதிக்கின்றன என்பது இதோ.
Claude Opus மற்றும் Sonnet மூலம் புத்திசாலித்தனமான குரல் ஏஜெண்டுகள்
Anthropic, Claude Opus மற்றும் Claude Sonnet ஆகியவற்றுக்கு குரல் வழித் திறன்களை அறிமுகப்படுத்தியுள்ளது. அதுவரை, இலகுரக Haiku மாடல் மட்டுமே குரல் வழித் தொடர்பை ஆதரித்தது. அந்தத் தட்டுப்பாடு ஒரு சலிப்பான சமரசத்திற்கு (trade-off) வழிவகுத்தது. உங்களுக்கு ஒரு குரல் வழி இடைமுகம் (voice interface) வேண்டுமென்றால், Haiku-வின் எளிமையான பகுத்தறியும் திறன்களை நீங்கள் ஏற்றுக்கொள்ள வேண்டியிருந்தது. Haiku வேகமானது மற்றும் மலிவானது, ஆனால் Claude குடும்பத்திலேயே குறைந்த திறன் கொண்ட மாடல் இதுவாகும். பல நிஜ உலகப் பணிகளுக்கு, குரல் ஏஜெண்டுகள் எளியத் தேடல்கள் மற்றும் முன்கூட்டியே திட்டமிடப்பட்ட பதில்களைக் கையாள முடிந்தாலும், சிக்கலான மற்றும் தெளிவற்ற கேள்விகளைக் கையாள்வதில் சிரமப்பட்டன.
இப்போது Opus மற்றும் Sonnet ஆகியவற்றுக்குக் கேட்கும் மற்றும் பேசும் திறன் கிடைத்துள்ளதால், டெவலப்பர்கள் சிறந்த பகுத்தறியும் திறனைத் தக்கவைத்துக் கொள்ளும் குரல் ஏஜெண்டுகளை உருவாக்க முடியும். இந்த வரிசையில் Opus மிகவும் ஆழமாகச் சிந்திக்கும் மாடல்; Sonnet என்பது தினசரிப் பணிகளுக்காக பெரும்பாலான குழுக்கள் பயன்படுத்தும் ஒரு சமநிலையான பணிச் சுமை தாங்கும் மாடல் (workhorse) ஆகும். இந்த மாடல்களுக்குக் குரல் வசதி கிடைக்கும்போது, உரையாடல் உண்மையிலேயே தடையற்றதாக மாறுகிறது. ஏஜென்ட் வெறும் பேச்சை உரையாக மாற்றி (transcribe), ஒரு தயார்நிலை பதிலைத் (canned reply) திருப்பி அனுப்பாது. இது சிக்கலான குரல் உள்ளீடுகளைச் செயலாக்கவும், பல கட்டுப்பாடுகளுக்கு இடையே பகுத்தறியவும் மற்றும் இயல்பான உரையாடல் மொழியில் பதிலளிக்கவும் முடியும்.
கிடங்கில் (warehouse) குரல் வழித் தொழில்நுட்பத்தைப் பயன்படுத்தும் ஒரு தளவாட நிறுவனத்தைக் (logistics company) கருத்தில் கொள்ளுங்கள். Haiku மூலம், ஒரு தொழிலாளி ஒரு குறிப்பிட்ட பேலட் (pallet) எங்குள்ளது என்று கேட்டால், அவருக்கு ஒரு நேரடியான பதில் கிடைக்கும். Opus குரலைத் கையாளும்போது, அதே தொழிலாளி ஒரு சிக்கலான நிஜ உலகப் பிரச்சனையை விவரிக்க முடியும்: “கடந்த செவ்வாய்க்கிழமை வந்த மின்னணுப் பொருட்கள் விநியோகத்தில் ஒரு பேலட் சேதமடைந்துள்ளது, அதன் பார்கோடு மங்கலாக உள்ளது, மேலும் வாடிக்கையாளர் பொருளை மாற்றிக் கொடுப்பதற்குப் பதிலாகப் பகுதித் தொகையைத் திரும்பப் பெற விரும்புகிறார். இதை மையத் தளத்திற்கு (central hub) திருப்பி அனுப்பாமல் கையாள விரைவான வழி என்ன?” மாடல் சரக்கு விவரங்கள் (inventory records), சேத அறிக்கைகள், திரும்பப் பெறுதல் கொள்கைகள் மற்றும் வழித்தடத் தர்க்கம் (routing logic) ஆகியவற்றைக் கருத்தில் கொண்டு, அதே நேரத்தில் குரல் வழி உரையாடலையும் தொடர வேண்டும். இத்தகைய நுணுக்கமான சிக்கல் தீர்க்கும் திறன் முந்தைய குரல் பாட்களுக்கு (voice bots) சாத்தியமில்லை.
கல்வியிலும் இதன் தாக்கம் மிகத் தெளிவாக உள்ளது. ஒரு மருத்துவ மாணவர் ஒரு நோயாளியின் நிலையைச் சத்தமாக விவரிக்கலாம், அறிகுறிகள் மற்றும் பரிசோதனை முடிவுகளைத் தனது நினைவுக்கு வரும் வரிசையில் பட்டியலிடலாம். குரல் வசதி கொண்ட Sonnet அல்லது Opus, குறிப்பிட்ட தொடர் கேள்விகளைக் கேட்கலாம், மாணவரின் நோய் கண்டறியும் பகுத்தறிவில் உள்ள தர்க்கரீதியான இடைவெளிகளைக் கண்டறியலாம் மற்றும் உடலியல் மாற்றங்களை (pathophysiology) உரையாடல் முறையில் விளக்கலாம். இந்த மாடல் சிறந்த உரை அடிப்படையிலான (text-based) ஆசிரியர்களின் பகுத்தறியும் ஆழத்தைத் தக்கவைத்துக் கொள்கிறது, ஆனால் இதன் இடைமுகம் இப்போது மனிதர்கள் உண்மையில் சிந்திக்கும் மற்றும் தொடர்பு கொள்ளும் முறையோடு ஒத்துப்போகிறது.
Open-Weight மாடல்கள் மூலம் இன்ஃபரன்ஸ் (Inference) செலவுகளைக் குறைத்தல்
Project Echo ஒரு எளிய ஆனால் புரட்சிகரமான கூரையுடன் வருகிறது. Open-weight மாடல்களைப் பயன்படுத்துவதன் மூலம், குழுக்கள் வழக்கமான செலவில் மூன்றில் ஒரு பங்கு விலையில், உயர்தர வணிக மாடல்களுக்கு இணையான முடிவுகளைப் பெற முடியும். ஸ்டார்ட்அப்கள் மற்றும் சிறிய பொறியியல் குழுக்களுக்கு, இது வெறும் தள்ளுபடி மட்டுமல்ல. இது AI கட்டமைப்பைப் (AI architecture) பற்றிய சிந்தனையில் ஏற்படும் ஒரு கட்டமைப்பு மாற்றம்.
செயல்திறன் இடைவெளி மிகப்பெரியதாக இருந்ததால், பெரும்பாலான குழுக்கள் OpenAI, Anthropic அல்லது Google ஆகியவற்றின் பிரத்யேக API-களைத் தான் இயல்பாகப் பயன்படுத்துகின்றன. பல்வேறு உற்பத்திப் பணிகளுக்கு இந்த இடைவெளி குறைந்துவிட்டது என்பதற்கான ஆதாரங்களை Echo வலுப்படுத்துகிறது. Llama, Mistral அல்லது Qwen போன்ற open-weight மாடல்கள், அவை நுணுக்கமாகச் சரிசெய்யப்பட்டு (fine-tuned) முறையாக ஹோஸ்ட் செய்யப்படும்போது, பெரிய அளவிலான வணிகப் பணிகளைக் கையாள முடியும்.
நடைமுறைத் திட்டம் (playbook) இது போன்றது: நீங்கள் இ-காமர்ஸ் விற்பனையாளர்களுக்காக சந்தைப்படுத்தல் நகல்களைத் (marketing copy) தயாரிக்கும் ஒரு SaaS செயலியை இயக்குகிறீர்கள் என்று வைத்துக்கொள்வோம். பெரும்பாலான பயனர் ப்ராம்ப்ட்கள் (prompts) ஒரே மாதிரியான அமைப்பைக் கொண்டிருக்கும்: “நீல நிற பீங்கான் கப்புக்கான தயாரிப்பு விளக்கத்தை எழுதுங்கள்,” அல்லது “யோகா மேட்டிற்கான ஐந்து இன்ஸ்டாகிராம் தலைப்புகளை உருவாக்குங்கள்.” இதைக் கையாள உங்களுக்கு மிகவும் விலையுயர்ந்த மாடல் தேவையில்லை. பெரும்பாலான போக்குவரத்திற்கு (traffic), வாடகைக்கு எடுக்கப்பட்ட GPU-கள் அல்லது உங்கள் சொந்த வன்பொருளில் (hardware) ஒரு fine-tuned open மாடலை இயக்குவதையும், மிகவும் சிக்கலான (edge cases) நிகழ்வுகளை மட்டுமே விலையுயர்ந்த பிரத்யேக API-களுக்கு அனுப்புவதையும் Echo-வின் அணுகுமுறை பரிந்துரைக்கிறது. இன்ஃபரன்ஸிற்காக மாதம் மூவாயிரம் டாலர் செலவிடும் ஒரு குழு, அந்தச் செலவை ஆயிரம் டாலராகக் குறைக்க முடியும்.
இது தயாரிப்பு முடிவுகளை மாற்றுகிறது. பயனர் வளர்ச்சியுடன் API செலவுகளும் நேரியல் முறையில் அதிகரிப்பதால், நிறுவனர்கள் பெரும்பாலும் AI அம்சங்களை அறிமுகப்படுத்துவதில் தாமதம் செய்கிறார்கள். open-weight மாடல்கள் குறைந்த செலவில் இந்தச் சுமையைத் தாங்கினால், ஒவ்வொரு inference அழைப்பிற்கும் அதிகப் பணத்தை இழக்காமல், இலவசப் பயனர்களுக்கும் (free-tier users) புத்திசாலித்தனமான அம்சங்களை வழங்க முடியும். நிச்சயமாக, இந்த வழிமுறை அதிக பொறியியல் முயற்சியைக் கோருகிறது. inference-ஐ மேம்படுத்தவும், மாடல் எடைகளை (model weights) நிர்வகிக்கவும் மற்றும் deployment-ஐக் கையாளவும் கூடிய நபர்கள் உங்களுக்குத் தேவைப்படுவார்கள். ஆனால் அத்தகைய திறன் கொண்ட குழுக்களுக்கு, வெறும் செயல்திறன் அடிப்படையில் மட்டுமே ஒரு குறிப்பிட்ட நிறுவனத்தின் தயாரிப்பிலேயே (proprietary lock-in) தங்கியிருப்பதை நியாயப்படுத்துவது கடினமாகி வருகிறது என்பதை Echo உறுதிப்படுத்துகிறது.
குறியீடு கருத்துகள் (Code Comments) தாக்குதல் வழிகளாக மாறும்போது
GitLost பாதிப்பு (vulnerability), ஒரு AI ஏஜென்ட்டைத் தங்கள் களஞ்சியங்களுடன் (repositories) இணைப்பதற்கு முன் ஒவ்வொரு பொறியியல் குழுவும் சற்று நிதானமாகச் சிந்திக்கத் தூண்ட வேண்டும். தாக்குதல் நடத்துபவர்கள் மறைமுகமான பிராம்ட் இன்ஜெக்ஷன் (indirect prompt injection) மூலம் தனிப்பட்ட தரவைத் திருட முடியும் என்பதை ஆராய்ச்சியாளர்கள் நிரூபித்துள்ளனர்; மனித மேம்பாட்டாளர்கள் (developers) தேட நினைக்காத இடங்களான குறியீடு கருத்துகள் (code comments) மற்றும் README கோப்புகளுக்குள் தீய நோக்கமுள்ள வழிமுறைகளை மறைத்து வைத்து அவர்கள் இதைச் செய்கிறார்கள்.
நடைமுறையில் இந்தத் தாக்குதல் எவ்வாறு செயல்படுகிறது என்பது இதோ. ஒரு AI கோடிங் ஏஜென்ட் அல்லது copilot, களஞ்சியத்தின் உள்ளடக்கங்களை வாசிக்கும்போது