𝗣𝗿𝗼𝗺𝗽𝘁 𝗜𝗻𝗷𝗲𝗰𝘁𝗶𝗼𝗻 𝗗𝗲𝗳𝗲𝗻𝗰𝗲: 𝗔 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 𝗚𝘂𝗮𝗿𝗱𝗿𝗮𝗶𝗹𝘀 𝗣𝗹𝗮𝘆𝗯𝗼𝗼𝗸

Prompt injection என்பது AI-க்கு ஒரு பெரிய அச்சுறுத்தலாகும்.

தாக்குதல் நடத்துபவர்கள் தரவுகளுக்குள் (data) கட்டளைகளை மறைத்து வைக்கிறார்கள். உங்கள் மாதிரியானது (model) உங்கள் நோக்கத்தைப் பின்பற்றுவதற்குப் பதிலாக, அவர்களின் நோக்கத்தைப் பின்பற்ற வேண்டும் என்று அவர்கள் விரும்புகிறார்கள். Large Language Model Applications க்கான OWASP பட்டியலில் இந்த அபாயம் முதலிடத்தில் உள்ளது.

இந்தப் பிரச்சனை எளிமையானது. LLM-கள் அனைத்து உரைகளையும் ஒரே மாதிரியாகவே பார்க்கின்றன. உங்கள் சிஸ்டம் கட்டளைகளுக்கும் (system instructions), அது செயலாக்கும் தரவுகளுக்கும் இடையிலான வேறுபாட்டை மாதிரியால் கண்டறிய முடியாது. மாதிரியைப் பொறுத்தவரை, இவை அனைத்தும் வெறும் உரை மட்டுமே. இது இந்த பாதிப்பைச் சரிசெய்வதைக் கடினமாக்குகிறது.

இதில் இரண்டு வகையான தாக்குதல்கள் உள்ளன:

  • Direct injection: ஒரு பயனர் உங்கள் செயலியில் (app) நேரடியாகத் தவறான கட்டளைகளைத் தட்டச்சு செய்கிறார்.
  • Indirect injection: உங்கள் மாதிரி படிக்கும் தரவுகளுக்குள் ஒரு தாக்குதல் நடத்துபவர் கட்டளைகளை மறைத்து வைக்கிறார்.

உங்கள் production சூழலைப் பாதுகாக்க உங்களுக்கு guardrails தேவை.

AI Tech Connect இல் முழு கட்டுரையையும் படிக்கவும்.

ஆதாரம்: https://dev.to/rishi_kora/prompt-injection-defence-a-production-guardrails-playbook-2pam

விருப்பத்தேர்வு கற்றல் சமூகம்: https://t.me/GyaanSetuAi