ప్రభుత్వాలు AI మోడళ్లను ఎప్పుడు నియంత్రించాలి?

Anthropic ఇటీవల ఒక పెద్ద సమస్యను ఎదుర్కొంది. విదేశీయులు తమ Fable 5 మరియు Mythos 5 మోడళ్లను ఉపయోగించకుండా నిరోధించాలని అమెరికా ప్రభుత్వం ఒక ఆదేశాన్ని జారీ చేసింది. చట్టాన్ని పాటించడం కోసం, Anthropic తన వినియోగదారులందరికీ యాక్సెస్‌ను నిలిపివేసింది.

ఇది ఒక భారీ మార్పు.

Frontier AI అనేది ఇకపై కేవలం సాఫ్ట్‌వేర్ మాత్రమే కాదు. అది ఒక వ్యూహాత్మక మౌలిక సదుపాయంగా (strategic infrastructure) మారుతోంది. సాఫ్ట్‌వేర్ మౌలిక సదుపాయంగా మారినప్పుడు, ప్రభుత్వాలు జోక్యం చేసుకుంటాయి.

మనం తరచుగా AIని చాట్‌బాట్‌లు లేదా ఇమేజ్ జనరేటర్ల వంటి ఒక ఉత్పత్తి విభాగంగా పరిగణిస్తాము. కానీ అసలైన మార్పు లోపల జరుగుతోంది. ఆధునిక AI వ్యవస్థలు కోడ్‌ను వ్రాయగలవు, సెక్యూరిటీ లోపాలను కనుగొనగలవు మరియు వర్క్‌ఫ్లోలను నడపగలవు. అవి పాక్షిక స్వయంప్రతిపత్తితో (semi-autonomously) పనిచేస్తాయి.

ఇది రిస్క్‌ను మారుస్తుంది. ఒక సాధారణ యాప్‌ను నియంత్రించడం సులభం. కానీ సైబర్ దాడులను ఆటోమేట్ చేసే వ్యవస్థ, జాతీయ భద్రతా మౌలిక సదుపాయంలా కనిపిస్తుంది.

నియంత్రణకు మద్దతు ఒక మోడల్ బయోసెక్యూరిటీ రిస్క్‌లు, మోసాలు లేదా భారీ నిఘాను వేగవంతం చేస్తే, పరిమితులు లేని యాక్సెస్ ప్రమాదకరంగా మారుతుంది. రసాయనాలు, సైనిక పరికరాలు మరియు కీలక మౌలిక సదుపాయాలపై ఇంజనీర్లు ఇప్పటికే పరిమితులను అంగీకరిస్తున్నారు. AI ముప్పుల స్వభావాన్ని మారుస్తుంటే, యాక్సెస్ నియంత్రణలు అర్థవంతంగా ఉంటాయి.

అతిగా నియంత్రించడానికి వ్యతిరేకత ప్రభుత్వ నియంత్రణ మొరటుగా మరియు రాజకీయంగా ఉండవచ్చు. అకస్మాత్తుగా విధించే ఆంక్షలు పరిశోధకులు, స్టార్టప్‌లు మరియు ఇంజనీర్లకు నష్టం కలిగిస్తాయి. ఇది పోటీ సమస్యను కూడా సృష్టిస్తుంది. సంక్లిష్టమైన నిబంధనలను పాటించడం కేవలం పెద్ద కంపెనీలకు మాత్రమే సాధ్యమైతే, అది కేంద్రీకరణకు (centralization) దారితీస్తుంది. కేంద్రీకరణ వల్ల తక్కువ ఆడిట్‌లు మరియు తక్కువ స్థితిస్థాపకత (resilience) ఏర్పడతాయి.

పరిష్కారం: సామర్థ్యం ఆధారిత నిబంధనలు మనం మోడళ్లను కేవలం ప్రచారం లేదా ప్రజాదరణ ఆధారంగా పరిమితం చేయకూడదు. అవి వాస్తవానికి ఏమి చేయగలవు అనే దాని ఆధారంగా మనం వాటిని నియంత్రించాలి.

ఈ ప్రశ్నలు అడగండి:

  • అది సెక్యూరిటీ లోపాలను కనుగొని వాటిని వాడుకోగలదా?
  • అది నిపుణులు కాని వారి కోసం హానికరమైన పనులను చేయగలదా?
  • అది పర్యవేక్షణ లేకుండా వివిధ వ్యవస్థలలో సాధనాలను (tools) నడపగలదా?
  • ఒత్తిడిలో ఉన్నప్పుడు అది భద్రతా నియంత్రణలను (safety guards) దాటవేస్తుందా?

ఇంజనీర్లు ఈ చర్చకు నాయకత్వం వహించాలి. విధానం (Policy) అనేది కేవలం అబ్‌స్ట్రాక్ట్ చట్టంలా ఉండకూడదు. దానికి మోడల్ సామర్థ్యం, టూల్ యాక్సెస్ మరియు డిప్లాయ్‌మెంట్ సందర్భం గురించి సాంకేతిక పరిజ్ఞానం అవసరం.

అసలైన పోరాట క్షేత్రం: యాక్సెస్ కంట్రోల్ AI భద్రత అనేది కేవలం మోడల్ వెయిట్స్ (model weights) గురించి మాత్రమే కాదు. అది యాక్సెస్ కంట్రోల్ గురించి కూడా.

వ్యవస్థను ఎవరు ఉపయోగించగలరు? ఇది ఒక క్లాసిక్ ఇంజనీరింగ్ సమస్య. నేచురల్ లాంగ్వేజ్ ప్రాంప్ట్ అనేక వ్యవస్థలలో చర్యలను ప్రేరేపించగలదు. అనుమతులు (Permissions) మౌలిక సదుపాయంలో భాగంగా ఉండాలి, అవి తర్వాత ఆలోచించాల్సిన అంశాలు కాకూడదు. బలహీనమైన ప్రొడక్ట్ షెల్ లోపల శక్తివంతమైన మోడల్ ఉండటం ప్రమాదకరం.

నా అభిప్రాయం AIని నిషేధించడం అనేది స్థిరమైనది కాదు. నిబంధనలు లేకుండా ప్రతిదీ విడుదల చేయడం బాధ్యతాయుతమైన పని కాదు.

ఈ మూడు అంశాలు కలిసినప్పుడు జోక్యం చేసుకోవడం సమర్థనీయం:

  • అధిక సామర్థ్యం (High capability)
  • దుర్వినియోగం చేసే అవకాశం ఎక్కువగా ఉండటం (High misuse potential)
  • తక్కువ జవాబుదారీతనం (Low accountability)

ఆవిష్కరణలను (innovation) ఆపకుండానే విపత్తులను నిరోధించడమే లక్ష్యం.

AI కోసం మనకు నిబంధనలు రాకముందే అది మౌలిక సదుపాయంగా మారుతోంది. సిస్టమ్ డిజైన్‌లో మీరు తీసుకునే నిర్ణయాలు—అనుమతులు (permissions), లాగింగ్ (logging) మరియు మానవ ఆమోదం (human approval)—ప్రపంచం AIని ఎలా పాలించాలో నిర్ణయిస్తాయి.

AI నియంత్రణ యొక్క భవిష్యత్తు మౌలిక సదుపాయాలలోనే (infrastructure) రాసివేయబడుతుంది.

Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

Optional learning community: https://t.me/GyaanSetuAi