LLM Guard-ன் களஞ்சியம் (repository) ஜூலை 9, 2026 அன்று ஆர்க்கிவ் (archive) பயன்முறைக்கு மாற்றப்பட்டது, இதன் மூலம் அனைத்து குறியீடு (code) மற்றும் மாடல் புதுப்பிப்புகளும் நிறுத்தப்பட்டன.
இந்த மாற்றம் ஏன் முக்கியமானது
LLM Guard என்பது ஒரு மேலாண்மைச் சேவையின் (managed service) மூலம் பணம் செலுத்தாமல், டெவலப்பர்கள் "rails" எனப்படும் சோதனைகளை (ஒரு பெரிய மொழி மாதிரியின் (LLM) முன்னால் அல்லது பின்னால் அமையும் சோதனைகள்) சேர்க்க அனுமதிக்கும் சில இலவச, சமூகத்தால் பராமரிக்கப்படும் கருவித் தொகுதிகளில் ஒன்றாகும். இந்தத் திட்டம் முடக்கப்பட்டதால், அந்தப் பாதுகாப்பு அம்சங்கள் மறைந்துவிடும். அதே நேரத்தில், பரந்த AI-பாதுகாப்பு சந்தை ஒருங்கிணைந்து வருகிறது: Protect AI நிறுவனம் Palo Alto Networks-ஆலும், Lakera நிறுவனம் Check Point-ஆலும் உறிஞ்சப்பட்டுள்ளது, மேலும் OpenAI நிறுவனம் promptfoo-வை கையகப்படுத்தியுள்ளது. சந்தையானது தனிப்பட்ட திட்டங்களின் தொகுப்பிலிருந்து ஒரு சில தள-நிலை (platform-level) சேவைகளை நோக்கி மாறி வருகிறது, மேலும் டெவலப்பர்கள் தங்களின் அடுத்த பாதுகாப்பு அரண் எங்கு இருக்க வேண்டும் என்பதைத் தீர்மானிக்க வேண்டும்.
தீர்க்கப்பட வேண்டிய மூன்று guardrail சிக்கல்கள்
- Input rails – பயனர் அளிக்கும் prompt மாடலை சென்றடைவதற்கு முன்பே அதை ஆய்வு செய்து, injection முயற்சிகள் மற்றும் jailbreak நுட்பங்களைத் தடுக்கும் வடிகட்டிகள் (filters).
- Output rails – மாடலின் பதிலைப் பரிசோதித்து, நச்சுத்தன்மை வாய்ந்த மொழி, பதிப்புரிமை பெற்ற பொருட்கள் அல்லது தற்செயலாக வெளிப்படும் தனிப்பட்ட தரவுகளைத் தடுக்கும் ஸ்கேனர்கள் (scanners).
- Red-team testing – மாடல் மற்றும் அதன் பாதுகாப்பு அம்சங்கள் அறியப்பட்ட தாக்குதல் முறைகளைத் தாங்குகிறதா என்பதைச் சரிபார்க்க மேம்பாட்டுப் பணியின் போது (பொதுவாக CI/CD pipelines-ல்) இயக்கப்படும் ஒரு எதிரித் தாக்குதல் சோதனைத் தொகுப்பு (adversarial test suite). இந்த நிலை பலவீனங்களை உற்பத்தி நிலையை (production) அடைவதற்கு முன்பே வெளிச்சத்திற்குக் கொண்டு வருகிறது; இது runtime filter அல்ல.
Red-team testing-ஐ ஒரு நேரடித் தடுப்பாக (live block) கருதுவது தவறான பாதுகாப்பு உணர்வைத் தரலாம்.
இன்னும் பயன்பாட்டில் உள்ள திறந்த மூல (Open-source) மாற்றுகள்
| கருவி | உரிமம் | சிறந்த பயன்பாடு |
|---|---|---|
| NeMo Guardrails | Apache 2.0 | சிக்கலான பலமுறை உரையாடல்கள் (multi-turn dialogs) மற்றும் retrieval-augmented generation; guardrail தர்க்கத்தை அறிவிக்க Colang என்ற குறிப்பிட்ட துறை சார்ந்த மொழியைப் பயன்படுத்துகிறது. |
| Guardrails AI | Apache 2.0 | படிப்படியான சரிபார்ப்பு (Incremental validation) – வசவுச் சொற்கள் அல்லது அனுமதிக்கப்படாத தலைப்புகள் போன்ற குறிப்பிட்ட அபாயங்களுக்கு ஒவ்வொன்றாக விதிகளைச் சேர்க்கலாம். |
| Presidio | MIT | தனிநபர் அடையாளம் காணக்கூடிய தகவல்களை (PII) ஆஃப்லைனில் கண்டறிதல் மற்றும் மறைத்தல்; இப்போது இது சமூகத்திற்குச் சொந்தமானது, ஆனால் தவறான முடிவுகளைத் தவிர்க்க நீங்கள் நீங்களே entity பட்டியலை வரையறுக்க வேண்டும். |
| Llama Prompt Guard 2 | prompt injections மற்றும் jailbreak முயற்சிகளைக் கண்டறிவதில் கவனம் செலுத்தும் சுய-வழிகாட்டு வகைப்படுத்தி (Self-hosted classifier). | |
| promptfoo | MIT | CI pipelines உடன் ஒருங்கிணைக்கப்படும் red-team கட்டமைப்பானது; உங்கள் மாடலுக்கு எதிராக நூற்றுக்கணக்கான தாக்குதல் முறைகளை (attack vectors) இயக்கி, வெற்றி பெற்றவற்றைத் தெரிவிக்க முடியும். |
இந்தத் திட்டங்கள் இன்னும் சமூகப் பங்களிப்புகளைப் பெறுகின்றன, மேலும் அவற்றின் மூலக் குறியீடு (source code) சுய-வழிகாட்டுதலுக்கோ அல்லது தனிப்பயனாக்கப்பட்ட pipelines-ல் இணைப்பதற்கோ இலவசமாகக் கிடைக்கிறது.
கவனிக்க வேண்டிய மேலாண்மை செய்யப்பட்ட guardrails
நீங்கள் ஒரு தயார்நிலைத் தீர்வை (turnkey solution) விரும்பினால், இரண்டு முக்கிய கிளவுட் நிறுவனங்கள் இப்போது தங்களின் LLM சேவைகளில் guardrails-ஐ இணைத்துள்ளன:
- Amazon Bedrock Guardrails – ஒவ்வொரு கோரிக்கைக்கும் (request) மாற்றியமைக்கக்கூடிய கொள்கைகள்.
- Azure Prompt Shields – Azure OpenAI Service உடன் ஒருங்கிணைக்கப்பட்ட இதே போன்ற runtime வடிகட்டிகள்.
இவை இரண்டும் ஒவ்வொரு கோரிக்கைக்கும் கட்டணம் வசூலிக்கின்றன; ஒரு மில்லியன் அழைப்புகள் விரைவாக பல நூறு டாலர்களைச் சேர்த்துக் கொள்ளலாம். வரவு செலவுத் திட்டத்தைக் கருத்தில் கொள்ளும் குழுக்கள், இவற்றை பெரிய அளவில் செயல்படுத்துவதற்கு முன் எதிர்பார்க்கப்படும் போக்குவரத்தை (traffic) மாதிரியாகக் கணக்கிட வேண்டும்.
உங்கள் பாதுகாப்புத் தொகுப்பை (security stack) எவ்வாறு மீண்டும் கட்டமைப்பது
- "மரணத் தொடரை" (lethal trifecta) வரைபடமாக்குங்கள். உங்கள் பயன்பாடு (a) தனிப்பட்ட தரவு சேமிப்பகங்கள், (b) நம்பகத்தன்மையற்ற பயனர் உள்ளீடு மற்றும் (c) வெளிப்புற நெட்வொர்க் அழைப்புகள் ஆகியவற்றுடன் எங்கு தொடர்பு கொள்கிறது என்பதைக் கண்டறியவும். இவற்றில் எதையேனும் நீக்குவது, எந்தவொரு தனி guardrail-ஐ விடவும் தாக்குதல் பரப்பை (attack surface) அதிகம் குறைக்கும்.
- Presidio-வை முன்கூட்டியே பயன்படுத்தவும். மாடலுக்கு வழங்கத் திட்டமிடும் எந்தத் தரவிலும் இதை இயக்கவும். entity பட்டியலைத் தனிப்பயனாக்கவும் – இயல்புநிலை அமைப்பு பல சாதாரண சரங்களை (benign strings) PII என்று அடையாளப்படுத்துகிறது, இது அடுத்தகட்டச் செயல்பாடுகளை (downstream processing) பாதிக்கலாம்.
- ஒரு input rail-ஐச் சேர்க்கவும். Llama Prompt Guard 2 போன்ற ஒரு இலகுவான வகைப்படுத்தி அல்லது Guardrails AI-லிருந்து ஒரு விதி அடிப்படையிலான (rule-based) guard மூலம் தொடங்கவும். தெளிவான injection முறைகளை மாடலைச் சென்றடைவதற்கு முன்பே தடுக்கவும்.
- Output சோதனைகளை அடுக்குகளாகச் சேர்க்கவும். NeMo Guardrails அல்லது Guardrails AI மாடலின் பதிலைப் பின்செயலாக்கம் (post-process) செய்து, தற்செயலாகத் தப்பித்த நச்சுத்தன்மை வாய்ந்த மொழி அல்லது ரகசியத் துண்டுகளை நீக்க முடியும்.
- promptfoo-வை CI-ல் ஒருங்கிணைக்கவும். அதன் அறிக்கைகளை ஒரு சரிபார்ப்புப் பட்டியலாகக் கருதவும்; புதிதாகக் கண்டறியப்படும் ஒவ்வொரு தப்பித்தல் முறையும் (bypass) உங்கள் input அல்லது output rail-ல் ஒரு விதியாக மாற்றப்பட வேண்டும்.
- ஒவ்வொரு தடையையும் பதிவு (Log) செய்யவும். அசல் கோரிக்கை, நிராகரிக்கப்பட்டதற்கான காரணம் மற்றும் எடுக்கப்பட்ட நடவடிக்கை ஆகியவற்றைச் சேமிக்கவும். பதிவுகள் (logs) இல்லையென்றால், நீங்கள் வரம்புகளை (thresholds) மாற்றியமைக்கவோ அல்லது இணக்கத்தைப் (compliance) பரிசோதிக்கவோ முடியாது.
எதிர் கருத்து: மேலாண்மை செய்யப்பட்ட சேவைகள் vs. திறந்த மூலம் (open source)
நிர்வகிக்கப்படும் guardrails, நீங்களாகவே self-hosting செய்வது, patching செய்வது மற்றும் classifiers-களை scale செய்வது போன்ற செயல்பாட்டுச் சுமைகளைக் குறைக்கின்றன. இருப்பினும், அவை ஒரு சேவை வழங்குநரின் விலை நிர்ணயம் மற்றும் கொள்கை மாதிரிகளுடனேயே உங்களைச் சேர்த்துவிடுகின்றன, இது சில குறிப்பிட்ட ஒழுங்குமுறைத் தேவைகளுக்கு (niche regulatory requirements) பொருந்தாமல் போகலாம். Open-source கருவிகள் உங்களுக்கு முழுமையான கட்டுப்பாட்டை வழங்குகின்றன மற்றும் அவற்றை on-premise-இல் இயக்க முடியும், ஆனால் அவற்றை மேம்படுத்தவும் (updated), புதிய தாக்குதல் நுட்பங்களைக் கண்காணிக்கவும் பொறியியல் உழைப்பு தேவைப்படும். குழுக்கள் ஊழியர்களின் நேரச் செலவை, ஒரு cloud guardrail-இன் ஒவ்வொரு கோரிக்கைக்கான (per-request) கட்டணத்துடன் ஒப்பிட்டுப் பார்த்துத் தீர்மானிக்க வேண்டும்.
அடுத்து கவனிக்க வேண்டியவை
- விற்பனையாளர்களின் திட்டங்கள் (Vendor roadmaps). Palo Alto மற்றும் Check Point ஆகியவற்றின் AI-security தயாரிப்பு அறிவிப்புகளைக் கவனித்துக் கொண்டே இருங்கள்; அவர்கள் கையகப்படுத்தப்பட்ட கருவிகளின் திறன்களைப் பரந்த தொகுப்புகளுக்குள் (broader suites) இணைக்க வாய்ப்புள்ளது.
- சமூகச் செயல்பாடு (Community activity). NeMo Guardrails மற்றும் Presidio போன்ற திட்டங்களின் ஆரோக்கியத்தை, சமீபத்திய pull-request செயல்பாடுகள் மற்றும் வெளியீட்டுத் தொடர்ச்சியின் (release frequency) மூலம் அளவிடலாம். ஒரு தேக்கமடைந்த (stagnant) repo, புதிய மாற்றுத் தீர்வு உருவாகி வருவதைக் குறிக்கலாம்.
- ஒழுங்குமுறை வழிகாட்டுதல் (Regulatory guidance). AI மூலம் உருவாக்கப்பட்ட உள்ளடக்கம் மற்றும் தரவுப் பாதுகாப்பு குறித்த விதிகளை அரசாங்கங்கள் இறுக்கமாக்கும்போது, எந்தவொரு guardrail உத்தியும் தணிக்கை செய்யக்கூடியதாக (auditable) இருக்க வேண்டும். பல அதிகார வரம்புகளில் (jurisdictions) logging மற்றும் தடயங்களைக் கண்டறியும் வசதி (traceability) கட்டாயமாகும்.
முக்கியக் கருத்து
LLM Guard அதிகாரப்பூர்வமாக நிறுத்தப்பட்ட நிலையில், டெவலப்பர்கள் தங்கள் LLM-ஆல் இயங்கும் செயலிகளைப் பாதுகாப்பாக வைத்திருக்க input filters, output sanitizers மற்றும் adversarial testing ஆகியவற்றின் கலவையை ஒருங்கிணைக்க வேண்டும். NeMo Guardrails, Guardrails AI, Presidio, Llama Prompt Guard 2 மற்றும் promptfoo போன்ற open-source திட்டங்கள் அடிப்படைத் தேவைகளை (building blocks) வழங்குகின்றன, அதே சமயம் cloud-native guardrails ஒரு குறிப்பிட்ட விலையில் வசதியை வழங்குகின்றன. நீங்கள் எந்தக் கருவியைத் தேர்ந்தெடுக்கிறீர்கள் என்பது முக்கியமல்ல, மாறாக மாறிவரும் அச்சுறுத்தல் சூழலுக்கு முன்னால் இருக்கும் ஒரு முறையான செயல்முறையை—audit, protect, test, and log—நீங்கள் உருவாக்குகிறீர்களா என்பதே தீர்மானிக்கும் காரணியாகும்.