Anthropic మరియు OpenAI 각각 కొత్త పరిశోధనా మార్గాలను (research tracks) ప్రారంభించాయి, ఇవి ధృవీకరించబడిన (vetted) సెక్యూరిటీ టీమ్‌లు ఎక్కువ సేఫ్టీ ఫిల్టర్లు లేని AI మోడల్స్‌తో కలిసి పనిచేయడానికి అనుమతిస్తాయి. Anthropic యొక్క “Cyber Verification Program” మరియు OpenAI యొక్క “Trusted Access for Cyber” ఆమోదించబడిన పరిశోధకులకు పరిమితులు లేని కోడ్, ప్రాంప్ట్‌లు మరియు సూచనలను రూపొందించగల శక్తివంతమైన లాంగ్వేజ్ మోడల్స్‌కు నేరుగా ప్రాప్యతను అందిస్తాయి. ఈ చర్య AI సప్లై చైన్‌లో ఒక స్పష్టమైన విభజనను (fork) సృష్టిస్తుంది: కొద్దిమంది ఇన్‌సైడర్లు బలహీనమైన వెర్షన్లను పరీక్షించగలరు, అయితే మిగిలిన ప్రపంచం బలమైన గార్డ్‌రైల్స్ (guardrails) వెనుక ఉంటుంది.

ఈ ప్రోగ్రామ్‌లు ఎందుకు వచ్చాయి

తమ సేవలకు వ్యతిరేకంగా ఆయుధాలుగా మార్చబడే అవకాశం ఉన్న లోపాలను (vulnerabilities) వేగంగా కనుగొనడమే ఈ కార్యక్రమాల లక్ష్యమని రెండు సంస్థలు చెబుతున్నాయి. నియంత్రిత నిపుణుల బృందానికి తక్కువ పరిమితులు ఉన్న సాండ్‌బాక్స్ (sandbox) అందించడం ద్వారా, దుర్మార్గపు వ్యక్తులు (malicious actors) వాటిని కనుగొనే ముందే అటాక్ వెక్టర్లను (attack vectors) బయటపెట్టాలని వారు ఆశిస్తున్నారు. ఈ విధానం సాంప్రదాయ సాఫ్ట్‌వేర్ సెక్యూరిటీని పోలి ఉంటుంది, ఇక్కడ డెవలపర్లు ఎంపిక చేసిన వ్యక్తులకు మాత్రమే “bug-bounty” బిల్డ్‌లను విడుదల చేస్తారు.

డిఫెండర్ల కోసం కొత్త రిస్క్ కాలిక్యులస్ (risk calculus)

దీని రెండో వైపు, ప్రతి సంస్థ “పరిశోధకుడు” మరియు “హ్యాకర్” మధ్య ఒక గీతను గీయవలసి వచ్చే రెండు-స్థాయిల (two-tier) యాక్సెస్ మోడల్. ఆ గీత ఇప్పుడు ఒక సంభావ్య అటాక్ సర్ఫేస్‌గా మారుతుంది. ఒక అటాకర్ క్రెడెన్షియల్స్‌ను దొంగిలించినా, ఇన్‌సైడర్ యాక్సెస్‌ను దుర్వినియోగం చేసినా లేదా వెట్టింగ్ ప్రక్రియను మోసం చేసినా, వారు మెజారిటీ వినియోగదారులను రక్షించే గార్డ్‌రైల్స్‌ను దాటగలరు. ఒకసారి లోపలికి ప్రవేశించిన తర్వాత, పరిమితులు లేని మోడల్‌ను ఈ క్రింది వాటి కోసం ఉపయోగించవచ్చు:

  • గుర్తింపును తప్పించుకునే ఫిషింగ్ స్క్రిప్ట్‌లను (phishing scripts) రూపొందించడం
  • వివరణాత్మక కోడ్ స్నిప్పెట్‌లతో జీరో-డే ఎక్స్‌ప్లాయిట్‌లను (zero-day exploits) తయారు చేయడం
  • నిర్దిష్ట లక్ష్యాలకు అనుగుణంగా నమ్మదగిన సోషల్-ఇంజనీరింగ్ ప్రాంప్ట్‌లను ఉత్పత్తి చేయడం

AI అవుట్‌పుట్‌లు ఎల్లప్పుడూ ఫిల్టర్ చేయబడతాయనే ఊహతో రక్షణ వ్యవస్థలను నిర్మించిన సెక్యూరిటీ టీమ్‌లు ఇప్పుడు ఆ ప్రాతిపదికను పునరాలోచించుకోవాలి.

డిఫెండర్లు ఎలా స్పందించవచ్చు

  • ఈ ప్రోగ్రామ్‌లను ఒక థ్రెట్ వెక్టర్‌గా పరిగణించండి. శత్రువులు వెట్టింగ్ పైప్‌లైన్‌లోకి చొరబడటానికి ప్రయత్నిస్తారని భావించి, AI ప్లాట్‌ఫారమ్‌లపై అసాధారణ లాగిన్ ప్యాటర్న్‌లను పర్యవేక్షించండి.
  • క్లౌడ్‌కు మించి డిటెక్షన్‌ను విస్తరించండి. అవుట్‌బౌండ్ ట్రాఫిక్‌లో, ముఖ్యంగా ప్రివిలేజ్డ్ అకౌంట్ల నుండి వచ్చే AI-జనరేటెడ్ కోడ్ లేదా టెక్స్ట్‌ను గమనించండి.
  • పాలసీ కంట్రోల్స్‌ను కఠినతరం చేయండి. బాహ్య AI సేవలను అంతర్గతంగా ఉపయోగించేటప్పుడు కఠినమైన “least-privilege” నియమాలను అమలు చేయండి మరియు రాజీపడిన క్రెడెన్షియల్స్ ద్వారా చేరుకోగలిగే ఎన్విరాన్‌మెంట్లను వేరు చేయండి (segment).
  • వెండర్లతో కలిసి పనిచేయండి. యాక్సెస్ ప్రమాణాలలో మార్పులు లేదా కనుగొనబడిన దుర్వినియోగాల గురించి అలర్ట్‌లను పొందడానికి Anthropic మరియు OpenAI యొక్క సెక్యూరిటీ లిజైజన్ ఛానెల్‌లతో నిరంతరం సంప్రదింపుల్లో ఉండండి.

వ్యతిరేక వాదన

లోతైన పరిశోధన కోసం సురక్షితమైన మార్గం లేకపోతే, లోపాలు బయటకి వచ్చే వరకు అవి దాగి ఉంటాయని మద్దతుదారులు వాదిస్తున్నారు. అందువల్ల, ఈ ప్రోగ్రామ్‌లు లోపాలను ముందుగానే బయటపెట్టడం ద్వారా మొత్తం అటాక్ సర్ఫేస్‌ను తగ్గించగలవు. అయితే, దీని వల్ల కలిగే నష్టం ఏమిటంటే, “తక్కువ రక్షణ ఉన్న” స్థాయి దుర్వినియోగానికి దారితీస్తుంది.

గమనించవలసినవి

  • రెండు కంపెనీల నుండి వెట్టింగ్ ప్రక్రియలో వచ్చే అప్‌డేట్‌లు
  • ఈ ప్రోగ్రామ్‌ల వల్ల కలిగే దుర్వినియోగం గురించిన నివేదికలు
  • AIకి సంబంధించిన అటాక్ సర్ఫేస్‌లను వర్గీకరించే విధానంలో పరిశ్రమవ్యాప్త మార్పులు

ముగింపు ఏమిటంటే: ఈ కొత్త పరిశోధనా మార్గాలు సెక్యూరిటీ పరిశోధకులకు శక్తివంతమైన సాధనాలను అందిస్తాయి, కానీ గేటును దాటగలిగే ఎవరికైనా అదే సాధనాలను అందిస్తాయి. డిఫెన్సివ్ టీమ్‌లు ఈ ప్రోగ్రామ్‌లను అవగాహన కోసం ఒక వనరుగా మరియు దాడులకు ఒక కొత్త మార్గంగా కూడా పరిగణించాలి.