AI ડેવલપર ટીમોમાં ક્ષમતાઓ (Capabilities), પરવાનગીઓ (Permissions) અને મંજૂરીના દરવાજા (Approval Gates)

ઘણા AI સાધનો શોર્ટકટ આપે છે.

તમે કોઈ સાધન અથવા ઇન્ટિગ્રેશન કનેક્ટ કરો છો. ઇન્ટરફેસ જણાવે છે કે એજન્ટ હવે ફાઇલો, કાર્યો અથવા કમાન્ડ્સ સાથે કામ કરી શકે છે.

ગંભીર ટીમો માટે, આ પૂરતું નથી.

ટેકનિકલ ક્ષમતા એ પરવાનગી સમાન નથી. કોઈ ક્રિયા શક્ય હોઈ શકે છે પરંતુ તે માટે હજુ પણ માનવીય નિર્ણયની જરૂર પડી શકે છે.

NexFlow આ ત્રણ સ્તરોને અલગ પાડે છે:

• Capability (ક્ષમતા): કોઈ એક્ટર ટેકનિકલી શું કરી શકે છે? • Permission (પરવાનગી): શું કોઈ ચોક્કસ વિષયને તે ક્ષમતાનો ઉપયોગ કરવાની મંજૂરી છે? • Approval Gate (મંજૂરીનો દરવાજો): શું તે ક્રિયા માટે પહેલા કોઈ માણસે 'હા' કહેવી જરૂરી છે?

આ શબ્દોમાં મૂંઝવણ સુરક્ષા જોખમો તરફ દોરી જાય છે.

એક skill (કૌશલ્ય) ભૂમિકાનું વર્ણન કરે છે, જેમ કે ડોક્યુમેન્ટેશન લખવું. એક capability (ક્ષમતા) ક્રિયાનું વર્ણન કરે છે, જેમ કે create_pull_request. એક permission (પરવાનગી) એ પોલિસી છે, જેમ કે allow અથવા deny. એક approval gate એ વ્યક્તિ અથવા સિસ્ટમ છે જેણે મંજૂરી આપવી આવશ્યક છે.

એક એજન્ટ પાસે કોડ રિવ્યુ કરવાની skill હોઈ શકે છે. એક ઇન્ટિગ્રેશન pull request બનાવવાની capability ઓફર કરી શકે છે. પરંતુ તે ચોક્કસ એજન્ટ તે સાધનનો ઉપયોગ કરી શકે છે કે નહીં તેનો નિર્ણય પરવાનગી (permission) દ્વારા લેવો જોઈએ. ત્યારબાદ, મનુષ્યે તેની સમીક્ષા કરવી જોઈએ કે નહીં તેનો નિર્ણય approval gate દ્વારા લેવામાં આવે છે.

આ તફાવત તમારા પ્રોજેક્ટનું રક્ષણ કરે છે. તે "connected tool" ની સમસ્યાને અટકાવે છે જ્યાં એજન્ટને તમે ઈચ્છતા હોવ તેના કરતા વધુ સત્તા મળી જાય છે.

NexFlow એક સાવચેતીપૂર્વકનું સુરક્ષા મોડેલ વાપરે છે:

  • એક્ટર પાસે જાહેર કરેલી capability છે કે નહીં તે તપાસો.
  • પરવાનગીના નિયમો શોધો.
  • 'explicit deny' એ સૌથી મજબૂત નિયમ છે.
  • approval_required સ્ટેટસ જ્યાં સુધી માણસ મંજૂરી ન આપે ત્યાં સુધી ક્રિયાને બ્લોક કરે છે.
  • 'allow' ફક્ત નિર્ધારિત સ્કોપની અંદર જ કામ કરે છે.
  • જો કોઈ પરવાનગી ન હોય, તો ક્રિયાને નકારી કાઢો.

આ અમલદારશાહી નથી. તે જોખમને દૃશ્યમાન બનાવે છે. તમે એક પણ એજન્ટ ચલાવતા પહેલા તમારી પોલિસીઓની સમીક્ષા કરી શકો છો.

તમે જોઈ શકો છો:

  • કઈ જોખમી ક્ષમતાઓ અસ્તિત્વમાં છે.
  • કોણ તમારું રિપોઝિટરી વાંચી શકે છે.
  • કોણ ફાઇલો લખી શકે છે.
  • ક્યાં મનુષ્યે ક્રિયા રોકવી જોઈએ.

એજન્ટ શું કરી શકે છે તે પૂરતું નથી. મહત્વનું એ છે કે તમારો પ્રોજેક્ટ તેમને શું કરવા દે છે.

Source: https://dev.to/alexander_iwizard/capabilities-permissions-and-approval-gates-in-ai-developer-teams-2cc4

Optional learning community: https://t.me/GyaanSetuAi