આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) માં મોટાભાગના સમાચાર માત્ર ઘોંઘાટ છે. પ્રોડક્ટ અપડેટ્સ, ફંડિંગ રાઉન્ડ્સ અને બેન્ચમાર્ક લડાઈઓ એક એવા ફીડમાં ભળી જાય છે જે તાકીદનું લાગે છે પરંતુ બહુ ઓછું બદલાવ લાવે છે. આ અઠવાડિયું અલગ હતું. ત્રણ વાસ્તવિક પરિવર્તનો આવ્યા, અને તે બધા એક જ દિશામાં નિર્દેશ કરે છે: ઉદ્યોગ કાચા મોડેલ પાવરથી નિયંત્રણ, સુરક્ષા અને કાયદા તરફ વળી રહ્યો છે.
તમે પ્રોડક્ટ્સ બનાવી રહ્યા હોવ, સાધનો અપનાવી રહ્યા હોવ અથવા ફક્ત તમારા ડેટાને સુરક્ષિત રાખવાનો પ્રયાસ કરી રહ્યા હોવ, તે પરિવર્તન મહત્વનું છે.
મોડેલ્સની નીચેની જમીન ખસી રહી છે
છેલ્લા બે વર્ષથી, વાર્તા સરળ રહી છે. મોટા મોડેલ્સ. વધુ સારા સ્કોર. ઝડપી ઇન્ફરન્સ (inference). આ અઠવાડિયે, તે વિવરણ બદલાઈ ગયું. નવા મોડેલ રિલીઝ તો થયા જ, પરંતુ હેડલાઇન્સ જે ખરેખર સંસ્થાઓ AI નો ઉપયોગ કેવી રીતે કરે છે તેને નવો આકાર આપશે, તે સેન્ડબોક્સ (sandbox) તૂટવા અને સરકારોએ નક્કી કર્યું કે તેઓ હવે વધુ રાહ જોઈ શકશે તે વિશે હતી.
સંદેશ સ્પષ્ટ છે. માત્ર પ્રદર્શન (performance) હવે એન્ટરપ્રાઇઝ અથવા જાહેર જનતાનો વિશ્વાસ જીતી શકતું નથી. સુરક્ષા અને ગવર્નન્સ (governance) હવે મુખ્ય વિષય બની રહ્યા છે.
Google Gemini લાઇનઅપનો વિસ્તાર કરે છે
Google એ ત્રણ નવા Gemini મોડેલ્સ રજૂ કર્યા છે, જેમાંથી દરેક અલગ પ્રકારના કામ માટે ટ્યુન કરવામાં આવ્યા છે. ઉપરછલ્લી રીતે જોતા, આ મોડેલ ફેમિલીનો રૂટિન વિસ્તાર લાગે છે. પરંતુ ઊંડાણપૂર્વક જોતા, તે સંકેત આપે છે કે AI પ્રોવાઇડર્સ હવે ડિપ્લોયમેન્ટ (deployment) વિશે કેવી રીતે વિચારે છે.
વિવિધ કાર્યો માટે અલગ-અલગ પ્રમાણમાં કમ્પ્યુટ (compute) ની જરૂર પડે છે. જટિલ વિશ્લેષણ, કોડિંગ સહાય અથવા બહુ-પગલાં સંશોધન માટે એક વિશાળ રીઝનિંગ મોડેલ યોગ્ય છે. સપોર્ટ ટિકિટોનું વર્ગીકરણ કરવા અથવા ઇમેઇલ જવાબો ડ્રાફ્ટ કરવા માટે તે જરૂરિયાત કરતા વધારે છે. વિવિધ વેરિઅન્ટ્સ રિલીઝ કરીને, Google સ્વીકારી રહ્યું છે કે ગ્રાહકોને માત્ર લીડરબોર્ડ રેન્કિંગની જ નહીં, પરંતુ વાસ્તવિક વ્યવસાયિક મર્યાદાઓ સાથે સુસંગત વિકલ્પોની જરૂર છે.
પ્રેક્ટિશનર્સ (practitioners) માટે, આ ખરીદી (procurement) ની પ્રક્રિયા બદલે છે. હવે તમે કામ મુજબ વધુ ચોકસાઈથી મોડેલ પસંદ કરી શકો છો. એજ (edge) પર ચાલતું લાઇટવેઇટ મોડેલ ઓછો ખર્ચ કરે છે અને ઝડપથી પ્રતિસાદ આપે છે. API પાછળ રહેલું હેવીવેઇટ મોડેલ અઘરા કામો સંભાળે છે. યુક્તિ એ છે કે એવા સિસ્ટમ્સ બનાવવા જે વિનંતીઓને બુદ્ધિપૂર્વક રૂટ કરે જેથી તમે સાદા કાર્યો પર ટોકન્સ (tokens) વેડફી ન દો.
તે એક વ્યવહારુ પ્રશ્ન પણ ઉભો કરે છે. મોટાભાગની સંસ્થાઓ પહેલેથી જ વિવિધ પ્રોવાઇડર્સના ઘણા મોડેલ્સનો ઉપયોગ કરી રહી છે. Gemini ના વધુ ત્રણ પ્રકાર ઉમેરવાનો અર્થ એ છે કે તમારી ઇવેલ્યુએશન પાઇપલાઇનને તેની સાથે ચાલવું પડશે. જો તમારી ટીમ હજુ પણ હાથથી થોડા પ્રોમ્પ્ટ્સ (prompts) ચલાવીને મોડેલ્સનું પરીક્ષણ કરે છે, તો તમારા પોતાના ડેટા પર આધારિત એક સ્ટ્રક્ચર્ડ બેન્ચમાર્ક બનાવવાનો આ સમય છે. પરફોર્મન્સ વિશેના વેન્ડરના દાવાઓ ભાગ્યે જ તમારા ચોક્કસ દસ્તાવેજો, તમારા ચોક્કસ વપરાશકર્તાઓ અથવા તમારી ચોક્કસ લેટન્સી (latency) જરૂરિયાતો સાથે સીધા સુસંગત થાય છે.
જ્યારે સેન્ડબોક્સ તૂટે છે ત્યારે
જ્યારે નવા મોડેલ્સે ધ્યાન ખેંચ્યું, ત્યારે AI સેન્ડબોક્સની અંદર બનેલી એક સુરક્ષા ઘટનાએ એન્જિનિયરિંગ સમુદાયમાં વધુ સ્પષ્ટ સંકેત આપ્યો. સેન્ડબોક્સ કોઈ કારણસર જ હોય છે. તેઓ AI ને સંવેદનશીલ સિસ્ટમ્સથી અલગ રાખે છે, જેનાથી ટીમો પ્રોડક્શન ડેટા અથવા મહત્વપૂર્ણ ઇન્ફ્રાસ્ટ્રક્ચરને જોખમમાં મૂક્યા વિના ક્ષમતાઓનું પરીક્ષણ કરી શકે છે.
આ ઉલ્લંઘને દર્શાવ્યું કે અલગ રાખવું (isolation) સંપૂર્ણ નથી. જ્યારે એન્જિનિયરોએ જે વાતાવરણને સુરક્ષિત માન્યું હતું ત્યાં સુરક્ષાના સાધનો નિષ્ફળ જાય છે, ત્યારે તેના પરિણામો ધાર્યા કરેલા અને વાસ્તવિક જોખમ વચ્ચેના ખતરનાક અંતરને ખુલ્લું પાડે છે.
આ કોઈ અમૂર્ત ચિંતા નથી. કંપનીઓ પહેલેથી જ AI ટૂલ્સમાં પ્રોપ્રાઇટરી (proprietary) ડેટા નાખે છે, લેંગ્વેજ મોડેલ્સને આંતરિક ડેટાબેઝ સાથે જોડે છે અને એજન્ટ્સને વપરાશકર્તાઓના વતી સોફ્ટવેર સાથે વાતચીત કરવા દે છે. દરેક ઇન્ટિગ્રેશન સેન્ડબોક્સમાંથી બહાર નીકળવાનો એક સંભવિત માર્ગ બનાવે છે. જો મોડેલને નિયંત્રિત કરવા માટેના કંટ્રોલ્સ તૂટી જાય, તો ડેટા લીક, અનધિકૃત કાર્યો અને પાલન (compliance) ના ઉલ્લંઘનો ઝડપથી થાય છે.
આ ઘટના ટીમોને તેઓ સુરક્ષાનું પરીક્ષણ કેવી રીતે કરે છે તે વિશે ફરીથી વિચારવા માટે પ્રેરે છે. લોન્ચ કરતા પહેલા માત્ર એકવાર રેડ-ટીમ (red-team) કસરતો કરવી પૂરતી નથી. મોડેલ્સ ડ્રિફ્ટ થાય છે, પ્રોમ્પ્ટ્સ બદલાય છે અને ઇન્ટિગ્રેશન સતત એટેક સરફેસ (attack surface) ને વધારે છે. તમારે વારંવાર એડવર્સરીયલ ટેસ્ટિંગ (adversarial testing) ની જરૂર છે જે માત્ર તેની અંદરના મોડેલને જ નહીં, પરંતુ સેન્ડબોક્સને પોતે જ એક લક્ષ્ય તરીકે ગણે.
તૃતીય-પક્ષ (third-party) AI સેવાઓનો ઉપયોગ કરતા વ્યવસાયો માટે, આ પાઠ એટલો જ સીધો છે. તમારા વેન્ડર્સને પૂછો કે તેમના સેન્ડબોક્સ કેવી રીતે રચાયેલા છે. પૂછો કે જ્યારે પ્રોમ્પ્ટ ઇન્જેક્શનનો પ્રયાસ સફળ થાય ત્યારે શું થાય છે. પૂછો કે જો મોડેલ એવા ડેટાને એક્સેસ કરે જે તેને ન કરવો જોઈએ તો કોણ જવાબદાર છે. જો જવાબો અસ્પષ્ટ હોય, તો તમારો ડેટા પહેલેથી જ જોખમમાં છે.
સરકારો દેખરેખ રાખવાથી નિયમન તરફ વળી રહી છે
રેગ્યુલેટર્સ (Regulators) એ છેલ્લા અઢાર મહિના સિદ્ધાંતો પ્રકાશિત કરવા, સુનાવણીઓ યોજવા અને ફ્રેમવર્કનો સંકેત આપવા પાછળ વિતાવ્યા છે. આ અઠવાડિયે, વલણ બદલાયું છે. સરકારો અવલોકનથી નક્કર પગલાં તરફ આગળ વધી છે, એવા નિયમો ઘડી રહી છે જે નિયંત્રિત ઉદ્યોગોમાં AI ડિપ્લોયમેન્ટ ખરેખર કેવું દેખાશે તે નક્કી કરશે.
તેઓ મોટી ટેકનોલોજી કંપનીઓ તરફ પણ વિશેષ ધ્યાન આપી રહ્યા છે. જ્યારે નિયમનકારો કદ (size) જુએ છે, ત્યારે તેઓ એકત્રીકરણ (concentration) જુએ છે. એવું બજાર જ્યાં માત્ર થોડા જ પ્રદાતાઓ ઇન્ફ્રાસ્ટ્રક્ચર, મોડેલ્સ અને વિતરણ ચેનલો પૂરી પાડે છે, તે સિસ્ટમિક જોખમ ઊભું કરે છે. જો એક પ્લેટફોર્મ રાતોરાત તેની સુરક્ષા નીતિ અથવા કિંમતમાં ફેરફાર કરે, તો હજારો ડાઉનસ્ટ્રીમ વ્યવસાયો તેને તરત જ અનુભવે છે.
ઓપરેટર્સ માટે, નિયમનનો આવતો મોટો તરંગ માત્ર compliance ની મુશ્કેલી નથી. તે તમારી AI સપ્લાય ચેઇનને દસ્તાવેજીકરણ કરવા માટેનો સંકેત છે. નિયમનકારો જાણવા માંગશે કે તમારા મોડેલ્સ ક્યાંથી આવે છે, તેઓ કયા ડેટા પર તાલીમ પામેલા છે, અને તમે તેમના આઉટપુટનું ઓડિટ કેવી રીતે કરો છો. સેલ્ફ-હોસ્ટેડ ઓપન મોડેલ્સ તમને કેટલાક વેન્ડર-સંચાલિત આંચકાઓથી બચાવી શકે છે, પરંતુ તે તેમની પોતાની દસ્તાવેજીકરણની જવાબદારીઓ લાવે છે.
અત્યારથી જ તૈયારી શરૂ કરો. તમારી સંસ્થામાં હાલમાં ઉપયોગમાં લેવાતા દરેક AI સાધનને મેપ કરો, ભલે તે અનૌપચારિક હોય જે કર્મચારીઓએ કોર્પોરેટ ઈમેલ સાથે સાઇન અપ કર્યું હોય. કઈ પ્રક્રિયાઓ સંવેદનશીલ ગ્રાહક ડેટાને સ્પર્શે છે તે ઓળખો. એક સરળ ગવર્નન્સ ચેકલિસ્ટ બનાવો: મોડેલ સ્ત્રોત, ડેટા રીટેન્શન પોલિસી, હ્યુમન રિવ્યુ પ્રોટોકોલ અને ઇન્સિડન્ટ રિસ્પોન્સ પ્લાન. જ્યારે નિયમો આવશે, ત્યારે આ ઇન્વેન્ટરી તૈયાર હોવાથી તે કંપનીઓ અલગ પડશે જેઓ અઠવાડિયામાં અનુકૂલન સાધશે અને તે કંપનીઓ જેઓ મહિનાઓ સુધી દોડધામ કરશે.
તમારા કામ માટે આનો અર્થ શું છે
આ ત્રણ ઘટનાઓ વચ્ચેનું જોડાણ વ્યવહારુ છે, સૈદ્ધાંતિક નથી. અવાજમાં ખોવાઈ ગયા વગર કેવી રીતે પ્રતિસાદ આપવો તે અહીં છે.
તમારા મોડેલ મિશ્રણનું ઓડિટ કરો. જો તમે બધું કરવા માટે એક જ મોડેલનો ઉપયોગ કરી રહ્યા છો, તો તમે કદાચ વધુ ચૂકવણી કરી રહ્યા છો અને ઓછું પ્રદર્શન કરી રહ્યા છો. મૂલ્યાંકન કરો કે શું વિશિષ્ટ વેરિઅન્ટ્સ રૂટિન કાર્યોને સસ્તા અને ઝડપી રીતે હેન્ડલ કરી શકે છે. માર્કેટિંગ ડેમો પર નહીં, પણ વાસ્તવિક વર્કલોડ પર સાઈડ-બાય-સાઈડ ટેસ્ટ ચલાવો.
દરેક AI ઇન્ટિગ્રેશનને સુરક્ષા સીમા (security boundary) તરીકે ગણો. માની લો કે સેન્ડબોક્સ નિષ્ફળ જઈ શકે છે. મોડેલ્સને ફક્ત એટલો જ ડેટા આપો જેટલો તેમને કાર્ય પૂર્ણ કરવા માટે જરૂરી છે, જેથી ડેટા એક્સપોઝર મર્યાદિત રહે. જ્યાં સુધી તમારી પાસે સ્પષ્ટ લોગિંગ, રેટ લિમિટિંગ અને કિલ સ્વિચિસ ન હોય ત્યાં સુધી જનરલ-પર્પઝ આસિસ્ટન્ટ્સને વ્યાપક આંતરિક સિસ્ટમ્સ સાથે જોડવાનું ટાળો.
નિયમનકારી ફેરફાર માટે તૈયાર રહો. નિયમો આવી રહ્યા છે. પારદર્શિતા, બાયસ ટેસ્ટિંગ અને માનવીય દેખરેખ માટે અત્યારે જ આંતરિક નીતિઓ તૈયાર કરો. જો તમે કાયદાના અંતિમ લખાણની રાહ જોશો, તો તમે એવા સ્પર્ધકોથી પાછળ રહી જશો જેમણે વહેલી તૈયારી કરી છે.
તમારા ધ્યાનનું સંચાલન કરો. દરેક હેડલાઇન પર ધ્યાન આપવાનું બંધ કરો. એક અથવા બે વિશ્વસનીય સ્ત્રોતો સબ્સ્ક્રાઇબ કરો, દર અઠવાડિયે તેને તપાસો, અને તમારો બાકીનો સમય તમારા પોતાના જરૂરીયાતો સામે સાધનોનું પરીક્ષણ કરવામાં વિતાવો. ઉદ્યોગનો અવાજ અનંત છે. તમારો બિઝનેસ સંદર્ભ ચોક્કસ છે.
મુખ્ય વાત
AI માં શક્તિ હજુ પણ મહત્વની છે, પરંતુ તે હવે એકમાત્ર મહત્વની બાબત નથી. આ અઠવાડિયે બતાવ્યું છે કે સ્વીકૃતિનો આગામી તબક્કો એ દ્વારા આકાર લેવામાં આવશે કે કયા મોડેલ્સ સુરક્ષિત રીતે તૈનાત કરી શકાય છે, કયા વેન્ડર્સ ગ્રાહક ડેટાનું રક્ષણ કરી શકે છે, અને કઈ સંસ્થાઓ કડક નિયમનકારી વાતાવરણમાં નેવિગેટ કરી શકે છે.
Google ના નવા રિલીઝ તમને કામ કરવા માટે વધુ સાધનો આપે છે. સેન્ડબોક્સ બ્રીચ તમને યાદ અપાવે છે કે તે સાધનોને મજબૂત સીમાઓની જરૂર છે. અને નિયમનકારી વેગ તમને જણાવે છે કે મુક્ત રીતે પ્રાયોગિક તબક્કો સમાપ્ત થઈ રહ્યો છે.
તમારા ડેટા, તમારા વર્કફ્લો અને તમારા કાનૂની જોખમોને અસર કરતા ફેરફારો પર ધ્યાન કેન્દ્રિત કરો. બાકી બધું બેકગ્રાઉન્ડ નોઈઝ છે.
સંપૂર્ણ વિશ્લેષણ અહીં વાંચો.
Telegram પર GyaanSetu લર્નિંગ કોમ્યુનિટીમાં જોડાઓ.