Anthropic యొక్క Fable మరియు Mythos మోడళ్లపై అమెరికా విధించిన నిషేధానికి సైబర్ సెక్యూరిటీ నిపుణుల నిరసన

Anthropic యొక్క అత్యంత అధునాతన AI మోడళ్లను లక్ష్యంగా చేసుకుని అమెరికా ప్రభుత్వం ఇటీవల జారీ చేసిన ఎగుమతి నియంత్రణ ఉత్తర్వుపై 76 మంది ప్రముఖ సైబర్ సెక్యూరిటీ నిపుణుల కూటమి హెచ్చరికలు జారీ చేస్తోంది. ఈ సాధనాలపై యాక్సెస్‌ను పరిమితం చేయడం ద్వారా, శత్రువులు ముందుకు సాగుతున్న తరుణంలో ప్రభుత్వం తెలియకుండానే డిజిటల్ రక్షకులను నిరాయుధులను చేస్తోందని ఈ సమూహం వాదిస్తోంది.

సంఘర్షణ: జాతీయ భద్రత వర్సెస్ రక్షణ సామర్థ్యం

వెల్లడించని జాతీయ భద్రతా ఆందోళనలను పేర్కొంటూ, అమెరికా ప్రభుత్వం Anthropic యొక్క Fable మరియు Mythos మోడళ్లపై ఎగుమతి నియంత్రణ ఉత్తర్వును జారీ చేయడంతో ఈ ఉద్రిక్తత మొదలైంది. ఈ ఉత్తర్వుకు అనుగుణంగా, Anthropic ఈ మోడళ్లకు ప్రపంచవ్యాప్త యాక్సెస్‌ను నిలిపివేసింది.

Mythos మోడల్‌ను ప్రాథమికంగా లోపాలను (vulnerabilities) కనుగొనడంలో అత్యున్నత స్థాయి సామర్థ్యాలతో రూపొందించారు, అందుకే Anthropic మొదట్లో 15 దేశాలకు చెందిన సుమారు 150 సంస్థలకు మాత్రమే దీని యాక్సెస్‌ను పరిమితం చేసింది. ప్రజల కోసం రూపొందించిన Fable వెర్షన్, బయాలజీ, కెమిస్ట్రీ మరియు సైబర్ సెక్యూరిటీ రంగాలలో దుర్వినియోగాన్ని నిరోధించడానికి కఠినమైన నియంత్రణలను (guardrails) కలిగి ఉండాలని ఉద్దేశించబడింది. అయితే, ప్రభుత్వ జోక్యం వల్ల ఇంటర్నెట్‌ను సురక్షితంగా ఉంచే బాధ్యత కలిగిన వ్యక్తులకు ఈ శక్తివంతమైన సాధనాల వినియోగం ఆగిపోయింది.

"Jailbreak" వివాదం మరియు అమెజాన్ పేపర్

సేఫ్టీ గార్డ్‌రైల్స్‌ను దాటవేయడానికి ఉపయోగించే పద్ధతులైన "jailbreaking" పట్ల ఉన్న ఆందోళనల వల్ల వైట్ హౌస్ ఉత్తర్వు వచ్చి ఉండవచ్చని Anthropic సూచిస్తోంది. ఈ ఆందోళన అమెజాన్ పరిశోధకులు రాసిన ఒక గోప్యమైన పరిశోధనా పత్రం (research paper) నుండి వచ్చిందని సమాచారం.

వినియోగదారులు Mythos స్థాయి సామర్థ్యాలను పొందడానికి Fable యొక్క భద్రతా పరిమితులను దాటవేయవచ్చని ఆ పత్రం సూచించింది. అయితే, Katie Moussouris (Luta Security వ్యవస్థాపకురాలు) తో సహా సైబర్ సెక్యూరిటీ నిపుణులు, ఇది AI ఉపయోగంపై ఉన్న ప్రాథమిక అపోహ అని వాదిస్తున్నారు. వివరించబడిన "jailbreak" అనేది కేవలం మోడల్ తన ఉద్దేశిత పనిని చేయడం మాత్రమేనని, అంటే తెలిసిన లోపాలు ఉన్న ఓపెన్-సోర్స్ కోడ్‌ను సరిదిద్దడమేనని Moussouris వాదిస్తున్నారు.

Moussouris ప్రకారం, ఒక బగ్‌ను సరిదిద్దమని, ఆ ప్యాచ్‌ను వివరించమని మరియు ఒక టెస్ట్‌ను రాయమని AIని అడగడం అనేది భద్రతా ఉల్లంఘన కాదు; ఇది ఆధునిక రక్షణ భద్రతను నిర్వచించే "find, fix, and test loop". ఇటువంటి ప్రవర్తనలను అడ్డుకోవడానికి ప్రయత్నించడం వల్ల సాఫ్ట్‌వేర్‌ను రక్షించే మోడల్ సామర్థ్యం ప్రాథమికంగా దెబ్బతింటుంది.

కీలక సంతకందారులు మరియు పరిశ్రమపై ప్రభావం

ఈ బహిరంగ లేఖకు సెక్యూరిటీ కమ్యూనిటీలోని దిగ్గజాల మద్దతు ఉంది, ఇందులో మాజీ ఫేస్‌బుక్ సెక్యూరిటీ చీఫ్ Alex Stamos, Bugcrowd వ్యవస్థాపకుడు Casey Ellis, మరియు ప్రసిద్ధ క్రిప్టోగ్రాఫర్ Jon Callas ఉన్నారు. వారి వాదన ఒక కీలకమైన అసమతుల్యతపై కేంద్రీకృతమై ఉంది: రక్షకులు (defenders) అత్యాధునిక LLMలను ఉపయోగించుకోవడానికి అనుమతి లేకుండా చేస్తూ, శత్రువులు (adversaries) ఎటువంటి ఆంక్షలు లేని మోడళ్లను ఉపయోగిస్తే, ప్రపంచ భద్రతా స్థితి బలహీనపడుతుంది.

Fableలో కనిపిస్తున్న లోపం కేవలం Anthropic కి మాత్రమే పరిమితం కాదని నిపుణులు కూడా పేర్కొన్నారు. ఇటువంటి "లోపాలు" OpenAI’s GPT-5.5, Anthropic యొక్క Claude Opus 4.8 మరియు Sonnet, మరియు అంతర్జాతీయ మోడళ్లైన Kimi 2.7 లలో కూడా కనిపించవచ్చని ఆ లేఖ సూచిస్తోంది.

ప్రయోజనం కంటే నష్టమే ఎక్కువగా కలిగించే విస్తృతమైన, ప్రతిచర్యత్మక నిషేధాల కంటే, పారదర్శక పరిశోధనలపై ఆధారపడే ప్రజాస్వామ్యబద్ధమైన, శాస్త్ర ఆధారిత నియంత్రణ ప్రక్రియ కోసం ఈ సమూహం పిలుపునిస్తోంది.

ముఖ్య అంశాలు