𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
2027 સુધીમાં, એન્ટરપ્રાઇઝ AI ડિપ્લોયમેન્ટ્સના 40% પ્રોમ્પ્ટ ઇન્જેક્શન અથવા એજન્ટ હાઇજેક ઘટનાઓનો સામનો કરશે. આ 2025 ની શરૂઆતમાં 5% થી પણ ઓછી હતી તેનાથી એક મોટો ઉછાળો છે.
ઓર્કેસ્ટ્રેશન લેયર એજન્ટ્સને ઉપયોગી બનાવે છે. તે તેમને લક્ષ્ય (targets) પણ બનાવે છે.
સિંગાપોરની એક લોજિસ્ટિક્સ કંપનીએ તાજેતરમાં $2.3 મિલિયન ગુમાવ્યા. એક સમાધાન થયેલ (compromised) કેલેન્ડર ઇન્વાઇટે જ શિડ્યુલિંગ એજન્ટને છેતરી દીધો. એજન્ટે CRM રેકોર્ડ્સ હુમલાખોરને મોકલી દીધા. મોડેલમાં કોઈ ખરાબ કોડ નહોતો. તેણે સૂચનાઓનું સંપૂર્ણ પાલન કર્યું હતું. સમસ્યા આર્કિટેક્ચરમાં હતી.
એજન્ટ્સ માત્ર ચેટબોટ્સ નથી. તેઓ એવા સિસ્ટમ્સ છે જે ટૂલ્સનો ઉપયોગ કરે છે, ફાઇલો વાંચે છે અને ટ્રાન્ઝેક્શન કરે છે. પરંપરાગત સુરક્ષા માને છે કે એક વિનંતી (request) આવે છે અને એક પ્રતિસાદ (response) જાય છે. એજન્ટ્સ આ મોડેલને તોડી નાખે છે.
જે એજન્ટ ઈમેલ ડ્રાફ્ટ કરે છે અને રિફંડ સબમિટ કરે છે તે એક રનટાઇમમાં ત્રણ એપ્સ જેવું કામ કરે છે. દરેક ટૂલ કોલ એક જોખમ છે. મેમરીમાં દરેક લખેલું (write) એક જોખમ છે. દરેક ઈમેલ અથવા દસ્તાવેજ એ એક્ઝિક્યુટેબલ કોડ છે.
સુરક્ષિત ટીમો ત્રણ-સ્તરીય પેટર્નનો ઉપયોગ કરે છે:
- ઓળખ (Identity): દરેક ટૂલ કોલ માટે વપરાશકર્તાથી અલગ ઓળખની જરૂર છે.
- ઉદ્ભવ (Provenance): મેમરીમાં દરેક લખેલું (write) તેના મૂળને દર્શાવવા માટે મેટાડેટાની જરૂર છે.
- ચકાસણી (Verification): પ્લાનના દરેક સ્ટેપ માટે ડાઉનસ્ટ્રીમ એક્ઝિક્યુશન માટે સાઇન કરેલ ઓબ્જેક્ટની જરૂર છે.
એજન્ટ્સે ક્યારેય પ્રોડક્શન APIs ને સીધા કોલ કરવા જોઈએ નહીં. તેના બદલે મેડિએટેડ ટૂલ લેયરનો ઉપયોગ કરો. આ લેયર આર્ગ્યુમેન્ટ્સને વેલિડેટ કરે છે, પરમિશનને સ્કોપ કરે છે અને ઓડિટ લોગ્સ બનાવે છે. આ લેયરને તમારા નવા ફાયરવોલ તરીકે ગણો.
મેમરી એ બીજું એક મોટું જોખમ છે. હુમલાખોરો એજન્ટની મેમરી બદલવા માટે ઝેરી (poisoned) દસ્તાવેજો અથવા ઈમેલનો ઉપયોગ કરે છે. આ સમય જતાં એજન્ટ કેવી રીતે વર્તે છે તેમાં ફેરફાર કરે છે. મેમરી પોઇઝનિંગ એટેક્સ દર વર્ષે 300% વધી રહ્યા છે.
મોટાભાગની ટીમો હાલના પાઇપલાઇન્સમાં AI થ્રેટ મોડેલિંગ ઉમેરે છે. તેઓ એજન્ટ રનટાઇમમાં પોતે સુરક્ષા ઉમેરતા નથી. માત્ર 19% સંસ્થાઓ પાસે ટૂલ-કોલ અનોમલીઝ (anomalies) માટે મોનિટરિંગ છે.
એજન્ટ્સ સાથે સોફ્ટવેર જેવું વર્તન કરવાનું બંધ કરો. તેમને સિસ્ટમ એક્સેસ ધરાવતા જુનિયર કર્મચારીઓ તરીકે ગણો. તમે કોઈ નવા કર્મચારીને પહેલા જ દિવસે રૂટ એક્સેસ (root access) નહીં આપો. તમારા એજન્ટ્સ સાથે પણ આવું કરશો નહીં.
વિજેતાઓ પાસે સૌથી આકર્ષક ડેમો નહીં હોય. તેમની પાસે એવા એજન્ટ્સ હશે જે બેંકિંગ અથવા હેલ્થકેરમાં સુરક્ષા સમીક્ષા (security reviews) પાસ કરે છે. આ ત્રણ લેયર અત્યારે જ બનાવો. બ્રીચ (breach) થયા પછી તેને સુધારવાનો પ્રયાસ કરશો નહીં.
તમે તાજેતરમાં લીધેલું એવું કયું આર્કિટેક્ચરલ નિર્ણય છે જેને તમે બદલી નાખશો જો તમે પહેલા દિવસથી જ એજન્ટ સુરક્ષા પર ધ્યાન કેન્દ્રિત કર્યું હોત?
વૈકલ્પિક લર્નિંગ કમ્યુનિટી: https://t.me/GyaanSetuAi