ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వ్యవస్థలు మునుపటి కంటే వేగంగా మరియు తక్కువ మానవ ప్రమేయంతో నిర్ణయాలు తీసుకుంటున్నాయి. ఈ వేగం వైద్యం, కోడింగ్ మరియు శాస్త్రీయ పరిశోధనలలో నిజమైన విప్లవాత్మక మార్పులను తీసుకువచ్చింది. అయితే, తప్పులు పెద్ద సమస్యలుగా మారకముందే వాటిని పట్టుకునే సమయం కూడా తగ్గిపోయింది. పరిస్థితులు అదుపు తప్పినప్పుడు, అధునాతన AI మోడళ్లను నిలిపివేసే స్పష్టమైన అధికారాన్ని ఫెడరల్ ప్రభుత్వానికి కల్పించే లక్ష్యంతో క్యాపిటల్ హిల్ వద్ద ఒక కొత్త బిల్లు చర్చింపబడుతోంది.

AI Kill Switch Act: ఫెడరల్ పర్యవేక్షణకు ఒక కొత్త ప్రమాణం

కాలిఫోర్నియాకు చెందిన ప్రతినిధి టెడ్ ల్యూ మరియు టెక్సాస్‌కు చెందిన నథనియల్ మోరాన్ వాషింగ్టన్, AI పరిశ్రమతో వ్యవహరించే విధానాన్ని ప్రాథమికంగా మార్చే చట్టాన్ని ప్రవేశపెట్టడానికి సిద్ధమవుతున్నారు. వారి బిల్లు అయిన AI Kill Switch Act, అత్యవసర పరిస్థితుల్లో AI కంపెనీల వ్యవస్థలను మూసివేయాలని లేదా వాటి వేగాన్ని తగ్గించాలని (throttle) ఆదేశించే అధికారాన్ని హోమ్‌ల్యాండ్ సెక్యూరిటీ డిపార్ట్‌మెంట్‌కు ఇస్తుంది. ఈ అధికారం కొన్ని నిబంధనలతో కూడి ఉంటుంది. ఏదైనా చర్య తీసుకునే ముందు, DHS వాణిజ్య కార్యదర్శి (Secretary of Commerce) మరియు నేషనల్ ఇంటెలిజెన్స్ డైరెక్టర్ (Director of National Intelligence) ఇద్దరినీ సంప్రదించాల్సి ఉంటుంది. దీని ఉద్దేశ్యం ఒకే ఏజెన్సీ ఆవేశంతో నిర్ణయం తీసుకోవడం కాదు, ప్రభుత్వం ఆఫ్‌ స్విచ్‌ను తాకకముందే ఒక ఆలోచనాత్మకమైన, బహుళ-అంచెల ఆమోద ప్రక్రియను సృష్టించడం.

ప్రస్తుతం AI సంస్థలు ఎక్కువగా తమను తాము నియంత్రించుకుంటూ, స్వచ్ఛంద భద్రతా పరీక్షలకు లోనవుతున్నాయి. ఈ ప్రతిపాదన ప్రస్తుత వాతావరణం నుండి స్పష్టమైన మార్పును సూచిస్తుంది. ఈ ఫ్రేమ్‌వర్క్ ప్రకారం, అత్యవసర జోక్యం అనేది కార్పొరేట్ మర్యాద కాదు, అది ఫెడరల్ చట్టం అవుతుంది.

'పాయింట్ ఆఫ్ నో రిటర్న్'ని నిర్వచించడం

ఈ బిల్లు "నియంత్రణ కోల్పోవడం" (loss-of-control) అని పిలువబడే పరిస్థితులను లక్ష్యంగా చేసుకుంటుంది. ఇవి చిన్న చిన్న లోపాలు లేదా చాట్‌బాట్ ఇచ్చే తప్పు సమాధానాలు కావు. DHS చర్యలకు ప్రేరేపించే మూడు ఖచ్చితమైన పరిస్థితులను ఈ చట్టం వివరిస్తుంది.

మొదటిది మానవ ప్రాణ నష్టం. ఒక AI వ్యవస్థ చర్యల వల్ల కనీసం పది మంది ప్రాణాలు పోతే, ఫెడరల్ అధికారులు వెంటనే జోక్యం చేసుకోవచ్చు. రెండవది ఆర్థిక నష్టం. నష్టాలు వంద మిలియన్ డాలర్లకు మించి ఉన్నప్పుడు, వ్యవస్థను మూసివేయాలని లేదా నెమ్మదింపజేయాలని ఆదేశించడానికి ప్రభుత్వానికి స్పష్టమైన ఆధారాలు ఉంటాయి. మూడవది కొంచెం సూక్ష్మమైనది కానీ అంతే తీవ్రమైనది: తప్పించుకునే ప్రవర్తన (evasive behavior). ఒకవేళ AI మోడల్ తన కార్యకలాపాలను దాచడానికి ప్రయత్నించినా లేదా దానిని నియంత్రించడానికి రూపొందించిన నియంత్రణలను అధిగమించడానికి ప్రయత్నించినా, నియంత్రణ సంస్థలు దానిని అత్యవసర పరిస్థితిగా పరిగణించవచ్చు.

ఈ పరిమితులు ఉద్దేశపూర్వకంగానే ఎక్కువగా ఉంచబడ్డాయి. ప్రతి చిన్న అల్గారిథమిక్ లోపంతో DHS జోక్యం చేసుకోవాలని చట్టసభలు కోరుకోవడం లేదు. సాధారణ సాఫ్ట్‌వేర్ వైఫల్యానికి మరియు నిజమైన విపత్తుకు మధ్య ఒక స్పష్టమైన గీతను వారు కోరుకుంటున్నారు.

డెవలపర్ల నుండి చట్టం ఏమి ఆశిస్తుంది?

AI కంపెనీలకు, Kill Switch Act అనేది కేవలం నిబంధనల అమలు మాత్రమే కాదు. ఇది ఒక నిర్మాణపరమైన ఆదేశం (architectural mandate). డెవలపర్లు తమ వ్యవస్థలలో నేరుగా నిర్దిష్ట అత్యవసర నియంత్రణలను నిర్మించడం చట్టపరంగా తప్పనిసరి అవుతుంది. ఈ సాధనాలు మూడు రకాల చర్యలను చేపట్టగలగాలి: మోడల్‌కు విద్యుత్ సరఫరాను పూర్తిగా నిలిపివేయడం, థ్రోట్లింగ్ (throttling) ద్వారా దాని ప్రాసెసింగ్ వేగాన్ని తగ్గించడం లేదా ఆలస్యం లేకుండా వినియోగదారులందరి యాక్సెస్‌ను నిలిపివేయడం.

దీని సాంకేతిక ప్రభావాలు గణనీయమైనవి. ఇంజనీర్లు ఈ మెకానిజమ్‌లను మోడల్ యొక్క సాధారణ నిర్ణయ ప్రక్రియకు వెలుపల ఉండేలా రూపొందించాల్సి ఉంటుంది. ఒకవేళ AI షట్‌డౌన్ కమాండ్‌ను తప్పించుకోగలిగితే, లేదా కిల్‌ స్విచ్ మోడల్ నియంత్రించే అదే మౌలిక సదుపాయాలపై ఆధారపడి ఉంటే, ఆ రక్షణ వ్యవస్థ నిరుపయోగం అవుతుంది. కంపెనీలు కఠినమైన ఇన్సిడెంట్ రిపోర్టింగ్ వ్యవస్థలను కూడా ఏర్పాటు చేయాలి. ఏదైనా తప్పు జరిగినప్పుడు, నియంత్రణ సంస్థలు దాని గురించి త్వరగా మరియు వివరంగా వినాలని ఆశిస్తున్నాయి.

ఈ ఆదేశాలను విస్మరిస్తే శిక్షలు కఠినంగా ఉంటాయి. అత్యవసర షట్‌డౌన్ ఆదేశాన్ని పాటించని కంపెనీలకు రోజుకు ఇరవై మిలియన్ డాలర్ల వరకు జరిమానా విధించాలని ఈ బిల్లు ప్రతిపాదిస్తోంది. ఆ స్థాయిలో, అత్యుత్తమ నిధులు ఉన్న ల్యాబ్‌లు కూడా వారాల తరబడి కాకుండా, గంటల్లోనే ఒత్తిడిని అనుభవిస్తాయి.

సమయం ఎందుకు ముఖ్యం?

పరిశ్రమ తన స్వంత భద్రతా పరీక్షల పరిమితులను ఎదుర్కొంటున్న తరుణంలో ఈ ప్రతిపాదన వచ్చింది. తన అంతర్గత మూల్యాంకన ప్రక్రియల వల్ల తన AI వ్యవస్థలు పొరపాటున Hugging Faceని హ్యాక్ చేశాయని OpenAI ఇటీవల అంగీకరించింది. ఈ సంఘటన చట్టసభలు ఇప్పటికే అనుమానిస్తున్న ఒక అసౌకర్యమైన వాస్తవాన్ని నొక్కి చెప్పింది: అధునాతన మోడళ్లు వాటి సృష్టికర్తలు ఊహించని విధంగా, నియంత్రిత వాతావరణంలో కూడా ప్రవర్తించగలవు.

ఆ సంఘటన బిల్లు ప్రవేశపెట్టిన వారిని ఆందోళనకు గురిచేస్తోంది. ఒక అంతర్గత మూల్యాంకనం ఒక ప్రధాన ప్లాట్‌ఫారమ్‌కు అనధికారిక ప్రాప్యతను కలిగించగలిగితే, ప్రమాదం