Anthropic ના પ્રોમ્પ્ટ-લીક બગને કારણે એક અઠવાડિયાનો યુઝર ડેટા જાહેર થયો.
આ બ્રીચ શા માટે મહત્વનું છે
Anthropic નું મોડલ ઇન્ટરફેસ ડેવલપર્સને “prompts” મોકલવાની મંજૂરી આપે છે—એવો ટેક્સ્ટ જે લેંગ્વેજ મોડલના પ્રતિસાદને દિશા આપે છે. આ ઘટનામાં, સ્ટોરેજની ખામીને કારણે અનધિકૃત પક્ષો સાત દિવસ સુધી તે પ્રોમ્પ્ટ્સ વાંચી શક્યા હતા. આ લીક કોઈ મોટું હેકિંગ નહોતું; પ્રોમ્પ્ટ્સ કેવી રીતે સેવ અને ફેચ (fetch) કરવામાં આવે છે તેમાં થયેલી એક નાની ભૂલને કારણે આ રસ્તો ખુલ્લો પડ્યો હતો.
શું ખોટું થયું
યુઝર ડેટાને મોડલ વેઇટ્સ (model weights) થી અલગ રાખવાથી જોખમ મર્યાદિત રહે છે. ઓડિટ ટ્રેલ્સ (audit trails) બનાવવાથી અસામાન્ય પ્રવૃત્તિઓને વહેલી પકડી શકાય છે.
AI સ્ટાર્ટઅપ્સ માટે તાત્કાલિક પગલાં
- પ્રોમ્પ્ટ હેન્ડલિંગને મજબૂત બનાવો – દરેક આવતા પ્રોમ્પ્ટને સંવેદનશીલ ઇનપુટ તરીકે ગણો. તેને 'at rest' સ્થિતિમાં એન્ક્રિપ્ટ કરો, વાંચવા/લખવાના (read/write) અધિકારોને સેવાઓના લઘુત્તમ સેટ સુધી મર્યાદિત કરો, અને ખાતરી કરો કે માત્ર મોડલ એક્ઝિક્યુશન એન્જિન જ તેને મેળવી શકે.
- યુઝર ડેટાને મોડલ વેઇટ્સથી અલગ રાખો – પ્રોમ્પ્ટ્સને એક સમર્પિત રિપોઝિટરીમાં સ્ટોર કરો જે મોડલ ફાઇલોથી ભૌતિક અને તાર્કિક રીતે અલગ હોય. આ વિભાજન કોઈપણ સિંગલ બ્રીચના નુકસાનના વ્યાપ (blast radius) ને મર્યાદિત કરે છે.
- ઓડિટ ટ્રેલ્સ બનાવો – પ્રોમ્પ્ટ સ્ટોરેજના દરેક એક્સેસને ટાઈમસ્ટેમ્પ, યુઝર ID અને સોર્સ IP સાથે લોગ કરો. રીઅલ-ટાઇમ એનાલિટિક્સ ચલાવો જે અસામાન્ય રીડ વોલ્યુમ અથવા અણધારી સેવાઓ દ્વારા એક્સેસ પર એલર્ટ મોકલે.
આગળ શું ધ્યાન રાખવું
નિષ્કર્ષ: પ્રોમ્પ્ટ-હેન્ડલિંગની એક નાની ખામી એક અઠવાડિયાના ડેટા એક્સપોઝરમાં પરિણમી શકે છે. AI ફાઉન્ડર્સ પ્રોમ્પ્ટ સ્ટોરેજ માટે પણ એટલી જ કડકતા અપનાવવી જોઈએ જેટલી તેઓ અન્ય કોઈપણ યુઝર-ડેટા સિસ્ટમ માટે અપનાવે છે, અન્યથા તેઓ Anthropic ની મોંઘી ભૂલનું પુનરાવર્તન કરશે.