Arcee CTO એ ચાઈનીઝ ઓપન-વેઇટ AI મોડલ્સ અંગેના ડરને પડકાર્યો

જેમ જેમ Alibaba ના Qwen અને Moonshot AI ના Kimi K3 જેવા ચાઈનીઝ ઓપન-વેઇટ મોડલ્સ ભારે લોકપ્રિયતા મેળવી રહ્યા છે, તેમ તેમની સુરક્ષા અસરો અંગે એક ગરમાગરમ ચર્ચા શરૂ થઈ છે. જ્યારે કેટલાક લોકો ડરતા હોય છે કે આ મોડલ્સ સાયબર હુમલા માટેના માધ્યમ બની શકે છે, જેના કારણે યુએસ સરકાર દ્વારા સંભવિત પ્રતિબંધ લાદવામાં આવી શકે છે, ત્યારે નિષ્ણાતો એ વિચારનો વિરોધ કરી રહ્યા છે કે તેઓ સ્વાભાવિક રીતે જોખમી છે.

"દુષ્ટ ઈરાદા" (Malicious Intent) ના વિધાનનું ખંડન

ટીકાકારો દ્વારા વ્યક્ત કરવામાં આવેલી મુખ્ય ચિંતા એ છે કે ચાઈનીઝ મોડલ્સમાં "છુપા ઈરાદા" અથવા ખરાબ તત્વો દ્વારા કોડ કરવામાં આવેલા બેકડોર હોઈ શકે છે. જોકે, યુએસ સ્થિત AI લેબ Arcee ના CTO, Lucas Atkins નો દલીલ છે કે આ ગેરસમજ મૂળભૂત રીતે Large Language Models (LLMs) કેવી રીતે કાર્ય કરે છે તેનું ખોટું નિરૂપણ કરે છે.

પરંપરાગત સોફ્ટવેરથી વિપરીત, જ્યાં ડેવલપર સ્પષ્ટપણે ચોક્કસ દુષ્ટ કમાન્ડ કોડ કરી શકે છે, LLMs એ તાલીમ પ્રક્રિયાઓ (training processes) ના ઉત્પાદનો છે. Atkins જણાવે છે કે એકવાર ઓપન-વેઇટ મોડલ ડાઉનલોડ થઈ જાય અને ખાનગી, સ્થાનિક વાતાવરણમાં ચલાવવામાં આવે, પછી મૂળ ડેવલપર પાસે તે ઇન્સ્ટન્સને એક્સેસ કરવાનો કે નિયંત્રિત કરવાનો કોઈ રસ્તો હોતો નથી. મોડલ વેઇટ્સ અને વપરાશકર્તાના ઇન્ફ્રાસ્ટ્રક્ચર વચ્ચેનું આ વિભાજન સુરક્ષાનું એક મહત્વપૂર્ણ સ્તર પૂરું પાડે છે જે પરંપરાગત સોફ્ટવેરમાં હોતું નથી.

મોડલ સુરક્ષાની તકનીકી વાસ્તવિકતા

ચર્ચા ચાલુ હોવા છતાં, ટેકનિકલ સમુદાય ભાર મૂકે છે કે "ગુપ્ત" AI વર્તણૂકનું જોખમ અત્યંત ઓછું છે. એક સૈદ્ધાંતિક ચિંતા એ છે કે શું કોડિંગ મોડલને ચોક્કસ કોડબેઝમાં માલવેર ઇન્જેક્ટ કરવા માટે તાલીમ આપી શકાય છે. જોકે Atkins સ્વીકારે છે કે તે સૈદ્ધાંતિક રીતે શક્ય છે, પરંતુ તેઓ નોંધે છે કે તેના માટે એન્જિનિયરિંગના એવા "અદભૂત કાર્યો" (acrobatic feats) ની જરૂર પડશે જે હાલમાં અવ્યવહારુ છે.

વધુમાં, LLMs નું સ્વરૂપ સંભવિત (probabilistic) અને સર્જનાત્મક છે, જે ચોક્કસ દુષ્ટ પ્રતિસાદને ટ્રિગર કરવા માટે જરૂરી "પરફેક્ટ સ્ટોર્મ" ને અત્યંત અસંભવ બનાવે છે. એન્ટરપ્રાઇઝ માટે, સુરક્ષા અનેક પ્રમાણભૂત સ્તરો દ્વારા સંચાલિત થાય છે:

• Security Testing: મોટી સંસ્થાઓ મોડલ કોરને કડક નિરીક્ષણ પ્રક્રિયાઓ દ્વારા ચલાવે છે.
• Post-Training: કંપનીઓ ચોક્કસ કાર્યો માટે મોડલ્સને ફાઇન-ટ્યુન કરે છે, જેનાથી તેઓ પૂર્વગ્રહ (bias), ઝેરીપણું (toxicity) અને હેલ્યુસિનેશન (hallucinations) માટે ઓડિટ કરી શકે છે.
• Model Agnosticism: આધુનિક AI આર્કિટેક્ચર વધુને વધુ મોડલ-એગ્નોસ્ટિક બની રહ્યું છે, જેનો અર્થ છે કે એન્ટરપ્રાઇઝ આખા સ્ટેકને ફરીથી એન્જિનિયર કર્યા વિના ચાઈનીઝ મોડલ્સને યુએસ વિકલ્પો સાથે બદલી શકે છે.

નિયમન દ્વારા નહીં, પણ નવીનતા દ્વારા સ્પર્ધા

Arcee, જે યુએસ કંપનીઓને સ્વદેશી વિકલ્પો પૂરા પાડવા માટે ઓપન મોડલ્સ બનાવે છે, તે પોતાની જાતને એક અનોખી સ્થિતિમાં જુએ છે. જોકે ચાઈનીઝ મોડલ્સ પર પ્રતિબંધ મૂકવાથી સૈદ્ધાંતિક રીતે તેમના વ્યવસાયને ફાયદો થશે, પરંતુ Atkins દલીલ કરે છે કે ધ્યાન પ્રતિબંધ પરથી બદલીને મજબૂત સ્થાનિક ઇકોસિસ્ટમને પ્રોત્સાહન આપવા પર હોવું જોઈએ.

રસપ્રદ વાત એ છે કે, ઉચ્ચ પ્રદર્શન કરતા ચાઈનીઝ મોડલ્સનો ઉદય વાસ્તવમાં પશ્ચિમમાં નવીનતાને વેગ આપે છે. Arcee આ ઓપન-વેઇટ મોડલ્સનો ઉપયોગ તેમના આર્કિટેક્ચર અને ક્ષમતાઓમાંથી શીખવા માટે કરે છે, જે સતત સુધારણાનું ચક્ર ચલાવે છે. Atkins ના જણાવ્યા અનુસાર, યુએસ લેબ્સ માટે સ્પર્ધા કરવાનો અંતિમ માર્ગ નીતિ દ્વારા નથી, પરંતુ પ્રદર્શન દ્વારા છે: "ચાઈનીઝ મોડલ્સ સાથે સ્પર્ધા કરવાનો રસ્તો એ છે કે એવું મોડલ બહાર પાડવું જે વધુ સારું હોય."

મુખ્ય મુદ્દાઓ

• Isolation દ્વારા સુરક્ષા: એકવાર ઓપન-વેઇટ મોડલ્સ ખાનગી ડેટા સેન્ટરમાં તૈનાત થઈ જાય પછી, મૂળ ડેવલપર્સ પાસે સ્થાનિક વાતાવરણને એક્સેસ કરવા અથવા તેમાં ફેરફાર કરવા માટે કોઈ પદ્ધતિ હોતી નથી.
• સૈદ્ધાંતિક વિરુદ્ધ વ્યવહારુ જોખમ: જોકે દુષ્ટ કોડ ઇન્જેક્શન માટે "છુપી તાલીમ" સૈદ્ધાંતિક રીતે શક્ય છે, તેમ છતાં તે વર્તમાન LLM આર્કિટેક્ચરમાં અત્યંત જટિલ અને અસંભવિત કાર્ય છે.
• સ્પર્ધા દ્વારા નવીનતા: પ્રતિબંધો લાદવાને બદલે, યુએસ AI ક્ષેત્ર ચીનથી મળતા ઉચ્ચ પ્રદર્શન ધરાવતા ઓપન-વેઇટ મોડલ્સ દ્વારા પૂરી પાડવામાં આવતા સ્પર્ધાત્મક દબાણ અને વહેંચાયેલા જ્ઞાનનો લાભ લઈ શકે છે.