ડેવલપર્સને આ ત્રણ નિયંત્રણો વિના AI ટૂલ્સ ન આપો

તમારી ટીમને AI ટૂલ્સ આપવા સરળ લાગે છે. તમે એક મોડેલ સેટ કરો છો, કોન્ફિગમાં એક શેર કરેલી કી (shared key) નાખો છો, અને તેને મોકલી દો છો.

તે જવાબદારીભર્યું લાગે છે. પણ વાસ્તવમાં તે જોખમી છે.

શેર કરેલી કી અને લોગ્સ (logs) વગરની સમસ્યાઓ પહેલા દિવસે દેખાતી નથી. કંઈપણ તૂટતું નથી. ટૂલ્સ કામ કરે છે. સમસ્યાઓ ત્યાં સુધી છુપાયેલી રહે છે જ્યાં સુધી તે કટોકટીમાં ન બદલાઈ જાય.

જો તમે AI ને સુરક્ષિત રીતે સ્કેલ કરવા માંગતા હોવ, તો તમારે પ્રથમ કમિટ (commit) થી જ ત્રણ વસ્તુઓ બનાવવી જોઈએ:

  • યુઝર દીઠ કી (Per-user keys)
  • ઓડિટ લોગિંગ (Audit logging)
  • ખર્ચ નિયંત્રણ (Cost controls)

શેર કરેલી કી એક જાળ છે. જો કોઈ ડેવલપર છોડી દે અથવા સ્ક્રીનશોટમાં કી લીક થઈ જાય, તો તમારે એક પસંદગીનો સામનો કરવો પડે છે. કાં તો તમે કી બદલો (rotate) અને એકસાથે દરેકના ટૂલ્સ બંધ કરી દો. અથવા, તમે કંઈ ન કરો અને ભૂતપૂર્વ કર્મચારીને તમારા મોડેલ્સનો ઉપયોગ કરવા દો.

યુઝર દીઠ કી (Per-user keys) આ પ્રક્રિયાને સરળ બનાવે છે. કોઈ વ્યક્તિ છોડી દે, તમે એક કી નિષ્ક્રિય કરો, અને બીજા કોઈને ખબર પણ નહીં પડે. દરેક રિક્વેસ્ટની એક ઓળખ હોય છે. તમે તરત જ જવાબ આપી શકો છો કે "આ કોણે કર્યું".

ઓડિટ લોગિંગ એ તમારો વીમો છે. તમે ભૂતકાળનું ઓડિટ પાછળથી કરી શકતા નથી. જો તમે શરૂઆતથી લોગિંગ ન કરો, તો જ્યારે સિક્યુરિટી અથવા કમ્પ્લાયન્સ (compliance) પ્રશ્નો પૂછે ત્યારે તમારી પાસે કોઈ પુરાવા હોતા નથી.

ડિફોલ્ટ તરીકે દરેક પ્રોમ્પ્ટ (prompt) અથવા કમ્પ્લીશન (completion) ને લોગ ન કરો. તે નવો સિક્યુરિટી રિસ્ક ઊભો કરે છે. તેના બદલે મેટાડેટા (metadata) લોગ કરો: કોણે, ક્યારે, કયું મોડેલ અને ખર્ચ કેટલો.

ખર્ચ નિયંત્રણ આકસ્મિક ખર્ચને અટકાવે છે. AI નો ખર્ચ અનિયમિત (spiky) હોય છે. લૂપમાં ફસાયેલું એજન્ટ કલાકોમાં તમારું બજેટ ખતમ કરી શકે છે. યુઝર દીઠ મર્યાદા (caps) અને બજેટ એલર્ટનો ઉપયોગ કરો. આ એક મોટા ઇન્વોઇસને એક સાધારણ નોટિફિકેશનમાં બદલી નાખશે.

આ ત્રણ નિયંત્રણો અલગ-અલગ ફીચર્સ નથી. તેઓ સાથે મળીને કામ કરે છે. જો તમે વ્યક્તિને ઓળખી શકતા નથી, તો તમે વ્યક્તિ દીઠ ખર્ચને ટ્રેક કરી શકતા નથી.

કેટલાક લોકો આને 'ગોલ્ડ-પ્લેટિંગ' (gold-plating) કહે છે. તે નથી.

ગોલ્ડ-પ્લેટિંગ એ અનુમાનિત કામ છે. આ નિયંત્રણો ચોક્કસતા છે. કોઈ છોડીને જશે. કી લીક થશે. બિલ વધી જશે.

આ કામ અત્યારે કરવા માટે માત્ર એક બપોરનો સમય લાગશે. તેને પછીથી કરવા માટે એક વિશાળ અને ભારે દબાણવાળી માઈગ્રેશન (migration) કરવી પડશે.

તેને સસ્તું બનાવો. તેને પહેલા બનાવો.

Source: https://dev.to/azeemsidd3/if-youre-giving-developers-ai-tools-you-need-per-user-keys-audit-logging-and-cost-controls-on-47ia

Optional learning community: https://t.me/GyaanSetuAi