US ప్రభుత్వం vs Anthropic: హ్యాక్ చేయలేని LLMల కోసం అసాధ్యమైన డిమాండ్

Fable 5 మోడల్ విడుదల తర్వాత అమెరికా ప్రభుత్వం మరియు Anthropic మధ్య విభేదాలు పెరుగుతున్నాయి, ఇది AI భద్రత మరియు నియంత్రణ పర్యవేక్షణపై చర్చను రేకెత్తిస్తోంది. ఎగ్జిక్యూటివ్ ఆర్డర్‌లను ఉల్లంఘించినట్లు అధికారులు AI ల్యాబ్‌ను నిందిస్తుండగా, లోతైన సాంకేతిక ఉద్రిక్తత బయటపడుతోంది: అదే "హ్యాక్ చేయలేని" (unhackable) ఫ్రంటియర్ మోడళ్ల కోసం ప్రభుత్వం చేస్తున్న డిమాండ్.

Fable 5 మరియు సైబర్ ఆదేశాలపై వివాదం

ఇటీవలి ట్రంప్ ప్రభుత్వం యొక్క సైబర్ ఎగ్జిక్యూటివ్ ఆర్డర్ ద్వారా ఆదేశించబడిన ప్రభుత్వ క్లియరింగ్ హౌస్ (clearinghouse) పూర్తిగా అందుబాటులోకి రాకముందే, Anthropic తన తాజా మోడల్ Fable 5ని విడుదల చేయాలని నిర్ణయించుకోవడమే ఈ ఉద్రిక్తతకు కారణం. ఆ ఆర్డర్ స్వచ్ఛంద పర్యవేక్షణను కోరినప్పటికీ, Anthropic ఆ ఆదేశాల ఉద్దేశాన్ని విస్మరించిందని ప్రభుత్వ అధికారులు వాదిస్తున్నారు, దీనివల్ల ఆ కంపెనీ ఒక "చెడ్డ పాత్ర" (bad actor) అని ఆరోపణలు వస్తున్నాయి.

వాణిజ్య శాఖ (Department of Commerce), CIA మరియు సైన్స్ అడ్వైజర్ మైఖేల్ క్రాట్సియోస్ (Michael Kratsios) మధ్య జరుగుతున్న ప్రస్తుత చర్చలు ఒక భారీ కమ్యూనికేషన్ గ్యాప్‌ను నొక్కి చెబుతున్నాయి. "జైల్‌బ్రేక్" (jailbreak) ప్రమాదం ఉందని తెలిసినప్పటికీ Anthropic ముందుకు వెళ్ళిందని అధికారులు ఆందోళన వ్యక్తం చేశారు—అమెజాన్ మరియు ఇతర టెక్ పరిశ్రమ భాగస్వాములు ఈ సమాచారాన్ని అందించారని నివేదికలు చెబుతున్నాయి. అయితే, ఈ ఘర్షణ సాంకేతిక భద్రత కంటే నియంత్రణ సమయం (regulatory timing) గురించి ఎక్కువగా ఉన్నట్లు కనిపిస్తోంది.

సాంకేతిక వాస్తవం: LLMలు ఎప్పటికీ హ్యాక్ చేయలేనంత సురక్షితంగా ఉండగలవా?

సంభావ్య జైల్‌బ్రేక్‌లను విస్మరించడం ద్వారా Anthropic "తప్పుడు మార్గాన్ని ఎంచుకుంది" అనే ప్రభుత్వ విమర్శ, లార్జ్ లాంగ్వేజ్ మోడల్ (LLM) ఆర్కిటెక్చర్ యొక్క ప్రాథమిక వాస్తవాన్ని విస్మరిస్తోంది. AI పరిశ్రమలో, సంపూర్ణ భద్రత అనేది ప్రస్తుతం అసాధ్యమని అందరూ ఏకీభవిస్తున్నారు. ప్రాంప్ట్ ఇంజెక్షన్ (prompt injection) వంటి లోపాలను ఎప్పటికీ పూర్తిగా పరిష్కరించలేకపోవచ్చు అని OpenAI కూడా అంగీకరించింది.

బయోలజీ లేదా టెక్నాలజీ వంటి సున్నితమైన రంగాలలో జైల్‌బ్రేక్ జరిగితే అది "జీవన మరణాల" (life or death) సమస్యగా మారవచ్చని, అయితే ఈ ప్రమాదాలను ఎలా తగ్గించాలో పరిశ్రమ ఇంకా ఎదుర్కొంటోందని Anthropic CEO డారియో అమోడై (Dario Amodei) గతంలో పేర్కొన్నారు. అంతర్జాతీయంగా పంపిణీ చేయడానికి ముందే మోడల్స్ ప్రాథమికంగా హ్యాక్ చేయలేనంత సురక్షితంగా ఉండాలని అమెరికా ప్రభుత్వం డిమాండ్ చేయడం వల్ల ఆవిష్కరణలకు ఆటంకం కలిగే అవకాశం ఉంది, ఎందుకంటే ఏ ఫ్రంటియర్ మోడల్ (GPT-5.5 లేదా Kimi 2.7 తో సహా) కూడా పరిపూర్ణమైన భద్రతా కవచాన్ని కలిగి ఉండదు.

పరిశ్రమ నుండి వ్యతిరేకత మరియు ఎగుమతి నియంత్రణ చర్చ

పెరుగుతున్న ఉద్రిక్తతలకు ప్రతిస్పందనగా, Alex Stamos మరియు Rachel Tobac వంటి పరిశ్రమ అనుభవజ్ఞులతో సహా 100 మందికి పైగా సైబర్ సెక్యూరిటీ నిపుణులు మరియు కార్యనిర్వాహకులు, వాణిజ్య కార్యదర్శి Lutnick మరియు నేషనల్ సైబర్ డైరెక్టర్ Cairncrossలకు ఒక బహిరంగ లేఖను సమర్పించారు. Anthropic యొక్క Fable మరియు Mythos మోడళ్లపై ఉన్న ఎగుమతి నియంత్రణలను ఎత్తివేయాలని వారు కోరుతున్నారు.

Fable సాఫ్ట్‌వేర్ లోపాలను గుర్తించడంలో అత్యంత సమర్థవంతమైనప్పటికీ, అది Opus లేదా Sonnet వంటి ఇతర మోడళ్లతో పోలిస్తే ప్రత్యేకంగా ప్రమాదకరమైనది కాదని నిపుణులు వాదిస్తున్నారు. ముఖ్యంగా, కఠినమైన ఎగుమతి నియంత్రణలు వాస్తవానికి పాశ్చాత్య రక్షకులను బలహీనపరుస్తున్నాయని వారు హెచ్చరిస్తున్నారు. అత్యున్నత స్థాయి U.S. మోడళ్ల వినియోగాన్ని పరిమితం చేయడం ద్వారా, ప్రభుత్వం అనుకోకుండా చైనా ఓపెన్-వెయిట్ మోడళ్లకు అనుకూలతను కల్పించవచ్చు; ఈ చైనా మోడళ్లు అమెరికాలోని అగ్రగామి ఫ్రంటియర్ మోడళ్ల కంటే కేవలం కొన్ని నెలల వెనుక మాత్రమే ఉన్నట్లు సమాచారం.

ముఖ్య అంశాలు