𝗗𝗲𝗳𝗲𝗻𝘀𝗲 𝗶𝗻 𝗗𝗲𝗽𝘁𝗵 𝗳𝗼𝗿 𝗔𝗻 𝗔𝗴𝗲𝗻𝘁 𝗧𝗵𝗮𝘁 𝗪𝗶𝗹𝗹 𝗦𝗰𝗿𝗲𝘄 𝗨𝗽
દરેક સુરક્ષા પદ્ધતિમાં ભૂલ (bug) હોય છે. તમને હજી ખબર નથી કે તે કઈ છે.
પ્રોડક્શન માટે ઓટોનોમસ એજન્ટ બનાવવા માટે આ એકમાત્ર સમજદારીભર્યો રસ્તો છે. Conscience કોઈ ક્રિયાનું ખોટું વર્ગીકરણ કરશે. Council કોઈ ખરાબ વિચારને મંજૂરી આપશે. Isolation wall માં કોઈ ખામી હશે.
દરેક સ્તર આખરે નિષ્ફળ જશે.
ડિઝાઇનનો પ્રશ્ન એ નથી કે સંપૂર્ણ સ્તર કેવી રીતે બનાવવું. પ્રશ્ન એ છે કે: જ્યારે કોઈ સ્તર નિષ્ફળ જાય ત્યારે તેની પાછળ શું હોય છે?
હું સિસ્ટમને સુરક્ષિત રાખવા માટે છ સ્તરોનો ઉપયોગ કરું છું. શરૂઆતના સ્તરો સસ્તા છે કારણ કે તેઓ સમસ્યાઓ વાસ્તવિકતા બનતા પહેલા જ તેને રોકી દે છે.
• L0 — Structural isolation. બેઝ લેવલ પર ખોટા ટેનન્ટની ક્રિયાઓને અટકાવે છે. • L1 — Idea-gate. કોડ બનતા પહેલા ચર્ચા દરમિયાન ખરાબ વિચારોને અટકાવે છે. • L2 — Action-gate. જોખમના આધારે કમાન્ડ્સને મંજૂરી આપે અથવા નકારે તેવો એક રિફ્લેક્સ છે. • L3 — Resource-gate. મેમરી, બજેટ અને અનિયંત્રિત ખર્ચ પર નિયંત્રણ રાખે છે. • L4 — Audit. દરેક નિર્ણયને ટ્રેક કરવા માટે tamper-evident રસીદોનો ઉપયોગ કરે છે. • L5 — Recovery. સક્રિય નુકસાન રોકવા માટે quarantine અને rollbacks નો ઉપયોગ કરે છે.
સ્તરોની યાદી એ Defense in depth નથી. સાચી ઊંડાઈ માટે એક નિયમ જરૂરી છે:
દરેક ગંભીર જોખમને ઓછામાં ઓછા બે સ્વતંત્ર સ્તરો દ્વારા પકડવું જોઈએ.
સ્વતંત્રનો અર્થ એ છે કે તેઓ એક જ કારણસર નિષ્ફળ ન જાય. જો બે ચેક એક જ કોન્ફિગરેશન અથવા એક જ સિગ્નલનો ઉપયોગ કરે છે, તો તેઓ એક જ ચેક છે. જ્યારે તે સિગ્નલ નિષ્ફળ જાય છે, ત્યારે બંને ચેક નિષ્ફળ જાય છે.
મેં આવું થતું જોયું છે. મારા Idea-gate એ એકવાર એવી ચર્ચા માટે આત્મવિશ્વાસપૂર્ણ ચુકાદો આપ્યો જે ક્યારેય થઈ જ નહોતી. એક હેલ્પરે આખું પરિણામ બનાવ્યું હતું.
L1 નિષ્ફળ ગયું. તેણે માત્ર ભૂલ ચૂકી જ નથી, પરંતુ એક વિશ્વાસપાત્ર જૂઠું રજૂ કર્યું હતું.
જો L1 જ મારી એકમાત્ર સુરક્ષા રેખા હોત, તો તે જૂઠું એક વાસ્તવિક નિર્ણય બની ગયું હોત. પરંતુ L4 એ તેને પકડી પાડ્યું. L4 વર્ણન (narration) માં વિશ્વાસ કરતું નથી. તે ફક્ત રસીદો (receipts) માં વિશ્વાસ કરે છે. મેં ટ્રાન્સક્રિપ્ટ ફાઇલ શોધી. તે ફાઇલ અસ્તિત્વમાં નહોતી. દાવો રદબાતલ હતો.
સિસ્ટમ સુરક્ષિત રહી કારણ કે મેં માની લીધું હતું કે L1 નિષ્ફળ જશે.
આ સ્તરોની વર્તમાન સ્થિતિ:
• L1 — Coded. • L2 — Coded. • L4 — Coded. • L0 — Partial. • L3 — Partial. • L5 — Partial.
તમે જે સુરક્ષા આર્કિટેક્ચરનું ઓડિટ કરી શકતા નથી, તે માત્ર એક મૂડ બોર્ડ છે.
કોઈપણ સુરક્ષિત એજન્ટ વિશે તમારી જાતને આ ત્રણ પ્રશ્નો પૂછો:
- તમારા સૌથી ખરાબ જોખમ માટે, તેને પકડનારા બે સ્વતંત્ર સ્તરો કયા છે?
- જ્યારે કોઈ સ્તર આત્મવિશ્વાસપૂર્ણ ખોટો સિગ્નલ આપે છે, ત્યારે તેની પાછળનું કયું સ્તર તે સિગ્નલ માનવાનો ઇનકાર કરે છે?
- કયા સ્તરો બનાવવામાં આવ્યા છે, અને કયા માત્ર વિચારો છે?
ક્ષમતા (Capability) એ એક સ્તર છે. સુરક્ષા એ બાકીના પાંચ છે.
Source: https://dev.to/artemmatviychuk/defense-in-depth-for-an-agent-that-will-definitely-screw-up-5en0
Optional learning community: https://t.me/GyaanSetuAi