రిస్క్లను నిర్వహించడానికి అమెరికా నేతృత్వంలోని గ్లోబల్ AI వాచ్డాగ్ను డిమాండ్ చేస్తున్న డెమిస్ హసాబిస్
ప్రమాదకరమైన ఫ్రంటియర్ AI మోడళ్ల వినియోగాన్ని నిలిపివేసే సామర్థ్యం ఉన్న శక్తివంతమైన అంతర్జాతీయ నియంత్రణ సంస్థను ఏర్పాటు చేయాలని గూగుల్ డీప్మైండ్ (Google DeepMind) CEO డెమిస్ హసాబిస్ వాదిస్తున్నారు. ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ (AGI) దిశగా అడుగులు వేగవంతం అవుతున్న తరుణంలో, విపత్కర పరిణామాలను నివారించడానికి ప్రామాణికమైన గ్లోబల్ ఫ్రేమ్వర్క్ అవసరమని హసాబిస్ వాదిస్తున్నారు.
ఆర్థిక పర్యవేక్షణ ఆధారిత నియంత్రణ నమూనా
తన ఇటీవలి ప్రతిపాదన "A Framework for Frontier AI and the Dawning of a New Age"లో, హసాబిస్ ఫైనాన్షియల్ ఇండస్ట్రీ రెగ్యులేటరీ అథారిటీ (FINRA) వంటి నియంత్రణ నిర్మాణాన్ని సూచించారు. ఈ ప్రతిపాదిత వాచ్డాగ్ కేవలం ఒక సలహా మండలి మాత్రమే కాదు; ఇది స్వతంత్ర నిపుణులు మరియు ఓపెన్-సోర్స్ కమ్యూనిటీ ప్రతినిధులతో కూడి ఉంటుంది. వీరికి ఫ్రంటియర్ మోడళ్లను విడుదల చేయడానికి ముందే వాటిని అంచనా వేసే స్పష్టమైన అధికారం ఉంటుంది.
ముఖ్యంగా, ఏదైనా నిర్దిష్ట మోడల్ వినియోగానికి చాలా ప్రమాదకరమని భావిస్తే, పరిశ్రమ అంతటా "స్లోడౌన్" (slowdown)ను సమన్వయం చేసే అధికారం ఈ సంస్థకు ఉంటుంది. పోటీదారుల కంటే వేగంగా AGIని చేరుకోవాలనే ప్రయత్నంలో కంపెనీలు భద్రతా ప్రోటోకాల్లను పక్కన పెట్టే "రేస్ టు ది బాటమ్" (race to the bottom)ను నివారించడమే ఈ యంత్రాంగం యొక్క లక్ష్యం.
అమెరికా ఎందుకు ఈ పోరాటంలో ముందుండాలి
ఈ గ్లోబల్ ఇనిషియేటివ్కు అమెరికా నాయకత్వం వహించడానికి అనువైన స్థితిలో ఉందని హసాబిస్ వాదిస్తున్నారు. AI రంగంలో ఆ దేశం కలిగి ఉన్న ఆధిపత్య ఆర్థిక మరియు సాంకేతిక స్థితిని బట్టి, ప్రపంచం అనుసరించే ప్రమాణాలను నిర్ణయించడానికి అవసరమైన శక్తి అమెరికా వద్ద ఉంది.
AGI "బహుశా కేవలం కొన్ని సంవత్సరాల దూరంలో మాత్రమే ఉంది" అనే హసాబిస్ నమ్మకమే ఈ ప్రతిపాదన యొక్క అత్యవసరతకు కారణం. ప్రస్తుత కాలాన్ని ఆయన "సింగులారిటీ యొక్క పాదాల వద్ద" (foothills of the singularity) అని అభివర్ణిస్తున్నారు, ఇది మానవాళిని ప్రాథమికంగా పునర్నిర్వచించే పరివర్తన కాలం. ఈ మార్పును నిర్వహించడానికి, ప్రైవేట్ ఆవిష్కరణలకు మరియు ప్రజల భద్రతకు మధ్య ఉన్న అంతరాన్ని తగ్గించడానికి ఆయన కృషి చేస్తున్నారు.
రాజకీయ మరియు పరిశ్రమల ఏకాభిప్రాయాన్ని నిర్మించడం
అధికారిక నియంత్రణ దిశగా సాగుతున్న ఈ ప్రయత్నం తెరవెనుక ఇప్పటికే వేగం పుంజుకుంటోంది. యూరోపియన్ అధికారులు, ప్రధాన AI ల్యాబ్లు మరియు ట్రంప్ ప్రభుత్వం వంటి వివిధ స్టేక్హోల్డర్లకు సమాచారం అందించడానికి హసాబిస్ నెలల తరబడి సమయం వెచ్చించినట్లు నివేదికలు తెలుపుతున్నాయి. Axios ప్రకారం, రాబోయే అమెరికా ప్రభుత్వం నుండి వచ్చిన ప్రాథమిక స్పందన "చాలా సానుకూలంగా" ఉంది, ఇది మరింత నిర్మాణాత్మకమైన ఫెడరల్ పర్యవేక్షణ వైపు మొగ్గు చూపుతున్నట్లు సూచిస్తోంది.
AI వల్ల కలిగే ఆర్థిక మరియు ఉనికికి సంబంధించిన ప్రభావాల గురించి ఆంత్రోపిక్ (Anthropic) సహ-వ్యవస్థాపకుడు జాక్ క్లార్క్ మరియు మాజీ గూగుల్ CEO ఎరిక్ స్మిత్ వంటి ఇతర పరిశ్రమ దిగ్గజాలు ఇచ్చిన ఇటీవలి హెచ్చరికలతో ఈ పాలన కోసం చేస్తున్న ప్రయత్నం సరిపోలుతోంది. 2024 నోబెల్ బహుమతి గ్రహీత అయిన హసాబిస్, బయోవెపన్స్ (జీవ ఆయుధాల) ఉత్పత్తిలో AI సహాయపడే అవకాశం వంటి నిర్దిష్టమైన అధిక రిస్క్ ఉన్న అంశాల గురించి కూడా స్పష్టంగా మాట్లాడారు.
AI ఎకోసిస్టమ్ పై దీని ప్రభావం
ఇది నిజమైతే, ఈ వాచ్డాగ్ దశాబ్దాలలో సాంకేతిక విధానంలో అత్యంత గణనీయమైన మార్పును సూచిస్తుంది. డెవలపర్లు మరియు వ్యవస్థాపకులకు, ఇది "move fast and break things" అనే కాలం నుండి, వినియోగానికి ముందే ఆడిట్లు నిర్వహించడం అనేది ఒక నియమంగా మారే అత్యంత నియంత్రిత యుగానికి మారడాన్ని సూచిస్తుంది. ఇది ఆవిష్కరణలను అడ్డుకుంటుందని కొందరు భయపడుతున్నప్పటికీ, AGI ఆధారిత ప్రపంచానికి మారే ప్రక్రియ సురక్షితంగా మరియు స్థిరంగా ఉండేలా చూడటానికి ఒక సమగ్రమైన ఫ్రేమ్వర్క్ మాత్రమే ఏకైక మార్గమని హసాబిస్ వాదిస్తున్నారు.
ముఖ్య అంశాలు
- నియంత్రణ అధికారం: ప్రతిపాదిత వాచ్డాగ్కు ఫ్రంటియర్ మోడళ్లను అంచనా వేసే మరియు రిస్క్లు ఎక్కువగా ఉంటే పరిశ్రమ అంతటా స్లోడౌన్లను తప్పనిసరి చేసే అధికారం ఉంటుంది.
- అమెరికా నాయకత్వం: గ్లోబల్ AI ఆర్థిక వ్యవస్థ మరియు సాంకేతిక మౌలిక సదుపాయాలలో అమెరికా పోషిస్తున్న కీలక పాత్ర కారణంగా, అమెరికా ఈ చొరవకు నాయకత్వం వహించాలని హసాబిస్ వాదిస్తున్నారు.
- AGI యొక్క అత్యవసరత: AGI వైపు వేగంగా జరుగుతున్న పురోగతి కారణంగా ఈ ప్రతిపాదన వచ్చింది, దీనిని హసాబిస్ "మానవాళికి ఒక కొత్త యుగం"గా చూస్తున్నారు మరియు దీనికి తక్షణ పర్యవేక్షణ అవసరమని భావిస్తున్నారు.