જયક વિલિયમ્સ, એક સુરક્ષા સંશોધક, આ અઠવાડિયે CUSTODY ફ્રેમવર્ક રજૂ કર્યો છે, જે એન્ટરપ્રાઇઝને કોર્પોરેટ નેટવર્ક્સની અંદર કામ કરતા AI એજન્ટ્સ માટે સ્પષ્ટ રનટાઇમ પરમિશન અને સીમાઓ નક્કી કરવાની રીત આપે છે. આ સાધન મહત્વનું છે કારણ કે પરંપરાગત સોફ્ટવેરથી વિપરીત, AI એજન્ટ્સ ડાયનેમિકલી ડેટા મેળવી શકે છે, સેવાઓનો ઉપયોગ કરી શકે છે અને મોડલ્સમાં ફેરફાર કરી શકે છે—તે પણ કોઈ સ્પષ્ટ, અમલી નીતિ વિના—જે એક એવી ખામી છોડે છે જેનો હુમલાખોરોએ પહેલેથી જ ઉપયોગ કરવાનું શરૂ કરી દીધું છે.

AI એજન્ટ્સને સુરક્ષા કવચ (fence) ની જરૂર કેમ છે

એન્ટરપ્રાઇઝ AI સ્ટેક્સમાં હવે ચેટ-બોટ્સ, રેકમેન્ડેશન એન્જિન, સ્વાયત્ત નિર્ણય લેનારાઓ અને ડઝનબંધ બેકગ્રાઉન્ડ એજન્ટ્સનો સમાવેશ થાય છે જે આંતરિક APIs અથવા થર્ડ-પાર્ટી સેવાઓમાંથી ડેટા મેળવે છે. હાલના સિક્યુરિટી સુટ્સ પેરિમીટર ફાયરવોલ, એન્ડપોઈન્ટ પ્રોટેક્શન અને નેટવર્ક સેગ્મેન્ટેશન પર ધ્યાન કેન્દ્રિત કરે છે, પરંતુ તેમની પાસે "આ એજન્ટ ગ્રાહક રેકોર્ડ વાંચી શકે છે પરંતુ ફાઇનાન્સ ડેટાબેઝમાં લખી શકતો નથી" એમ કહેવાની કોઈ પ્રમાણિત પદ્ધતિ નથી. આવા રનટાઇમ કંટ્રોલ્સના અભાવે પહેલેથી જ એવી ઘટનાઓ બની છે જ્યાં સમાધાન કરાયેલા (compromised) એજન્ટ્સનો ઉપયોગ ડેટા ચોરી કરવા અથવા મોડલ વેટ્સને બગાડવા માટે કરવામાં આવ્યો હતો.

CUSTODY કેવી રીતે આ ખામીને પૂરી કરે છે

CUSTODY એક નિયમ-આધારિત ભાષા રજૂ કરે છે જે વર્ણવે છે કે એકવાર નેટવર્ક સાથે કનેક્ટ થયા પછી AI એજન્ટને શું કરવાની મંજૂરી છે. નીતિઓ (Policies) નીચેની બાબતો સ્પષ્ટ કરી શકે છે:

  • રિસોર્સ એક્સેસ (Resource access) – કયા ડેટાબેઝ, ફાઇલ સ્ટોર્સ અથવા APIs એજન્ટ ક્વેરી કરી શકે છે.
  • એક્શન લિમિટ્સ (Action limits) – શું એજન્ટ ફક્ત વાંચી શકે છે, અથવા લખી, ડિલીટ અથવા ડાઉનસ્ટ્રીમ જોબ્સ ટ્રિગર પણ કરી શકે છે.
  • એક્ઝિક્યુશન કોન્ટેક્સ્ટ (Execution context) – કમ્પ્યુટ એન્વાયરમેન્ટ પરના નિયંત્રણો, જેમ કે CPU ક્વોટા અથવા કન્ટેનર આઇસોલેશન.

રનટાઇમ પર, આ ફ્રેમવર્ક એજન્ટના કોલ્સને ઇન્ટરસેપ્ટ કરે છે અને તેને સેટ કરેલી પોલિસી સામે તપાસે છે, અને વ્યાખ્યાયિત સીમાઓની બહારના કોઈપણ ઓપરેશનને બ્લોક કરે છે. આ રીતે, હાઇજેક કરેલ એજન્ટને કોર્પોરેટ એન્વાયરમેન્ટમાં અનિયંત્રિત રીતે ફરતા અટકાવે છે.

CUSTODY ને હાલના સ્ટેક્સમાં જોડવું

આ ફ્રેમવર્ક વર્તમાન સિક્યુરિટી ટૂલ્સની સાથે કામ કરે છે. તે લોકપ્રિય ઓર્કેસ્ટ્રેશન પ્લેટફોર્મ્સ, કન્ટેનર રનટાઇમ્સ અને API ગેટવે સાથે જોડાઈ શકે છે, પરંતુ ચોક્કસ પગલાં અન્ડરલાઇંગ એજન્ટ પ્લેટફોર્મ મુજબ અલગ-અલગ હોય છે. સંસ્થાઓએ તેમના AI ઇન્વેન્ટરીનું મેપિંગ કરવું જોઈએ, દરેક પ્રકારના એજન્ટ માટે પોલિસી ફાઇલો લખવી જોઈએ, અને સંપૂર્ણ ડિપ્લોયમેન્ટ પહેલા એન્ફોર્સમેન્ટ લેયરનું પરીક્ષણ કરવું જોઈએ. મોડલ્સ વિકસિત થતા જાય તેમ નિયમોને અપ-ટૂ-ડેટ રાખવા માટે ડઝનબંધ એજન્ટ્સમાં આ પોલિસીઓને સ્કેલ કરવા માટે સમર્પિત ઓપરેશનલ પ્રયાસોની જરૂર પડશે.

સાવચેતીઓ અને વિરોધ

ટીકાકારો નોંધે છે કે CUSTODY પોલિસીઓ આપમેળે જનરેટ કરતું નથી; સિક્યુરિટી ટીમોએ તેને મેન્યુઅલી તૈયાર કરવી પડે છે, જે મહેનત માંગી લે તેવું હોઈ શકે છે. જો દરેક કોલનું રિયલ ટાઇમમાં નિરીક્ષણ કરવામાં આવે, તો ખાસ કરીને હાઇ-થ્રુપુટ ઇન્ફરન્સ સેવાઓ માટે, પર્ફોર્મન્સ ઓવરહેડનું જોખમ પણ છે. છેલ્લે, ફ્રેમવર્કની અસરકારકતા વ્યાપક સ્વીકૃતિ પર આધારિત છે—જો કોઈ વેન્ડરનું AI પ્લેટફોર્મ જરૂરી હૂક્સ (hooks) પ્રદાન કરી શકતું નથી, તો CUSTODY ના કંટ્રોલ્સને બાયપાસ કરી શકાય છે.

આગળ શું જોવું

  • વેન્ડર પ્રતિસાદ – શું મુખ્ય AI પ્લેટફોર્મ પ્રદાતાઓ CUSTODY-સુસંગત હૂક્સ ઇમ્બેડ કરશે અથવા તેમના પોતાના રનટાઇમ-પોલિસી એન્જિન ઓફર કરશે.
  • સ્ટાન્ડર્ડાઇઝેશન – AI એજન્ટ પરમિશન માટે ઉદ્યોગ-व्यापी વિશિષ્ટતાઓ તરફનું કોઈપણ પગલું CUSTODY ને એક ડી-ફેક્ટો બેઝલાઇનમાં ફેરવી શકે છે.
  • કમ્યુનિટી ફીડબેક – પ્રારંભિક એડોપ્ટર્સ વાસ્તવિક દુનિયાની પોલિસી જટિલતા અને પર્ફોર્મન્સ ઇમ્પેક્ટને ઉજાગર કરશે, જે ભવિષ્યના વર્ઝનને આકાર આપશે.

જે એન્ટરપ્રાઇઝ AI એજન્ટ્સ પર આધાર રાખે છે તેમણે અત્યારે જ CUSTODY નું મૂલ્યાંકન કરવું જોઈએ, તે તેમના સિક્યુરિટી સ્ટેકમાં ક્યાં ફિટ થાય છે તેનું મેપિંગ કરવું જોઈએ, અને AI-સંચાલિત હુમલાઓની આગામી લહેર તેમના નેટવર્કમાં પહોંચે તે પહેલાં પોલિસીઓના પાયલોટિંગ શરૂ કરવું જોઈએ.