జెన్సన్ హువాంగ్ ఈ భయంకరమైన కథలతో విసిగిపోయారు. AI పరిశ్రమను నడిపిస్తున్న వారు సైన్స్ ఫిక్షన్ విపత్తుల గురించి ప్రజలను హెచ్చరించడానికే ఎక్కువ సమయం కేటాయిస్తున్నారని, ఫ్యాక్టరీ ఫ్లోర్‌లలో, కోడ్‌బేస్‌లలో మరియు ఎంటర్‌ప్రైజ్ వర్క్‌ఫ్లోలలో ఈ సాంకేతికత నిజంగా ఏమి చేస్తుందో వివరించడానికి తగినంత సమయం కేటాయించడం లేదని Nvidia CEO భావిస్తున్నారు. ఆయన దృష్టిలో, ఆధునిక AI యొక్క శక్తి అనేది నాటకీయంగా వెల్లడించాల్సిన రహస్యం కాదు. ఈ వ్యవస్థలు సామర్థ్యం కలిగినవని మనకు తెలుసు. మనకు ఇప్పుడు కావాల్సింది ఉత్పత్తి వాస్తవికత (production reality) గురించి ఒక కఠినమైన చర్చ—ఈ మోడల్స్‌ను నిజమైన ఉత్పత్తులలో అనుసంధానించినప్పుడు అవి ఎలా ప్రవర్తిస్తాయి, అవి విఫలమైనప్పుడు ఎవరు బాధ్యత వహిస్తారు మరియు లోడ్ ఉన్నప్పుడు గార్డ్‌రైల్స్ (guardrails) నిజంగా ఎలా ఉంటాయి అనే విషయాలపై చర్చ.

హువాంగ్ వైఖరి స్పష్టంగా ఉంది: AIని ఒక విధిగా కాకుండా, ఒక సాధనంగా (tool) పరిగణించండి. ఇది కేవలం తాత్వికమైన చర్చ కాదు. కంపెనీలు ఎలా నిర్మిస్తాయి, నియంత్రణ సంస్థలు ఎలా స్పందిస్తాయి మరియు కొనుగోలుదారులు ఎలా నిర్ణయాలు తీసుకుంటాయనే అంశాలను ఇది ప్రభావితం చేస్తుంది. కథనం వినాశనం (apocalypse) నుండి పరికరాల వినియోగం (instrumentation) వైపు మారుతున్నప్పుడు, అనేక ఆచరణాత్మక అంశాలు మారుతాయి.

విశ్వసనీయత కోల్పోవడం (The Credibility Tax)

AI నాయకులు రెండు రకాల మాటలు మాట్లాడే అలవాటును పెంచుకున్నారు. కాన్ఫరెన్స్ వేదికలపై మరియు సెనేట్ విచారణల్లో, వారు స్వయంప్రతిపత్తి కలిగిన వ్యవస్థలు మానవాళిని మించిపోయే అస్తిత్వ ప్రమాదాలు (existential risks) మరియు సినిమాటిక్ భవిష్యత్తుల గురించి వివరిస్తారు. మరుసటి రోజు ఉదయం, అదే నాయకులు ఎంటర్‌ప్రైజ్ వర్క్‌ఫ్లోలను తమ కీలకమైన పనులను అప్పగించమని కోరుతూ ప్రొడక్ట్ రోడ్‌మ్యాప్‌లను ప్రచురిస్తారు—అదే సాంకేతికతను వారు ఇప్పుడే నాగరికత అంతం చేసే ప్రమాదం ఉన్నదిగా చిత్రీకరించారు. ఈ వైరుధ్యం వల్ల ఒక ఖర్చు ఎదురవుతుంది.

కొనుగోలుదారులు గమనిస్తారు. నియంత్రణ సంస్థలు గమనిస్తాయి. ఒకే వ్యక్తులు వినాశనం గురించి మరియు సేల్స్ పిచ్ గురించి మారుతూ మాట్లాడుతున్నప్పుడు, పరిశ్రమ విశ్వసనీయతను కోల్పోతుంది. ఎంటర్‌ప్రైజ్ కస్టమర్లు హెచ్చరికలను మరియు వాగ్దానాలను ఒకేలా తక్కువగా అంచనా వేయడం ప్రారంభిస్తారు. ఈ అస్తిత్వ చర్చ అనేది ధరలను పెంచడానికి చేసే మార్కెటింగ్ నాటకం అని కొనుగోలు బృందాలు భావిస్తాయి. ప్రభుత్వ సంస్థలు స్పష్టమైన ప్రమాణాల కంటే, విస్తృతమైన మరియు ప్రతిచర్యత్మకమైన (reactive) పరిమితులను రూపొందించడం ద్వారా స్పందిస్తాయి. ఈ అస్పష్టత వల్ల అసలైన సమాచారం కనుమరుగవుతుంది మరియు మోడల్ ప్రవర్తన గురించి అడిగే సరైన ప్రశ్నలు కూడా అతిశయోక్తితో కలిపి చూడబడతాయి. స్థిరత్వం (consistency) ముఖ్యం అనేది హువాంగ్ చెప్పే పాయింట్. AI ఒక సాధనం అయితే, మీరు ఒక కొత్త డేటాబేస్ ఆర్కిటెక్చర్ లేదా సప్లై-చైన్ ప్లాట్‌ఫారమ్‌ను చూసినంత ప్రాక్టికల్ మరియు గంభీరతతో దాని గురించి చర్చించండి.

ఆందోళన కంటే ఇంజనీరింగ్‌కే ప్రాధాన్యత

భయం ఆధారిత రోడ్‌మ్యాప్‌లు, సామర్థ్యం ఆధారిత రోడ్‌మ్యాప్‌ల కంటే భిన్నంగా ఉంటాయి. భయంపై ఆధారపడి పనిచేసే సంస్థ భారీ మరియు కేంద్రీకృత నియంత్రణలను నిర్మిస్తుంది. ప్రతి ఫీచర్‌కు కమిటీ ఆమోదం అవసరం. స్వయంప్రతిపత్తి గురించి సిద్ధాంతాలు ఉంటాయి కానీ ఎప్పుడూ అమలు చేయబడవు, ఎందుకంటే రిస్క్ పట్ల ఆ సంస్థ యొక్క సహనం సున్నాకి పడిపోతుంది. దీని ఫలితం భద్రత కాదు; అది పక్షవాతం (paralysis).

దీనికి విరుద్ధంగా, సామర్థ్యం ఆధారిత రోడ్‌మ్యాప్‌లు స్వయంప్రతిపత్తిని జాగ్రత్తగా అమలు చేస్తాయి. అవి తప్పు జరిగితే నష్టం తక్కువగా ఉండే చిన్న పరిధిలతో ప్రారంభమవుతాయి. ముఖ్యమైన చర్యల కోసం వారు 'హ్యూమన్-ఇన్-ది-లూప్' (human-in-the-loop) డిజైన్‌ను ఒక తాత్కాలిక పద్ధతిగా కాకుండా, ఒక శాశ్వత ఆర్కిటెక్చరల్ లేయర్‌గా insist చేస్తారు. వారు పరికరాల పరిమితులను స్పష్టంగా నిర్వచిస్తారు: ఈ ఏజెంట్ ఒక ఇన్వెంటరీ APIని క్వెరీ చేయగలదు, కానీ అది కొనుగోలు ఆర్డర్‌లను అమలు చేయలేదు. వారు ఆడిట్ లాగ్‌లను కేవలం టెక్స్ట్ ఫైల్స్‌లా కాకుండా, క్వెరీ చేయగల మరియు నిర్మాణాత్మకమైన (structured) పద్ధతిలో నిర్మిస్తారు. అన్నిటికంటే ముఖ్యంగా, వారు రియల్ ప్రొడక్షన్ లోడ్ కింద 'కిల్ స్విచ్‌లను' (kill switches) పరీక్షిస్తారు, ఎందుకంటే ల్యాబ్‌లో పనిచేసి, ట్రాఫిక్ పెరిగినప్పుడు పనిచేయని స్టాప్ బటన్ కేవలం అలంకారం మాత్రమే.

ఈ నియంత్రణలు ఆకర్షణీయంగా ఉండకపోవచ్చు. ఇవి కీనోట్ స్లైడ్లలో గొప్పగా కనిపించకపోవచ్చు. కానీ ఇవే ఒక డెమోకు మరియు ఒక నిజమైన ఉత్పత్తికి మధ్య ఉన్న తేడా. ఇంజనీరింగ్ క్రమశిక్షణ మాత్రమే కస్టమర్లతో సంబంధం ఉన్నప్పుడు నిలిచి ఉండే నిజమైన భద్రత అని హువాంగ్ వాదన సూచిస్తుంది.

భయం యొక్క నిజమైన ధర

అతివాద వాదనలు కేవలం వార్తల్లోనే ఉండవు. అవి లీగల్ రివ్యూ సైకిల్స్, ప్రొక్యూర్‌మెంట్ చెక్‌లిస్ట్‌లు మరియు బోర్డ్‌రూమ్ చర్చల్లోకి కూడా చొచ్చుకుపోతాయి. AIని ఒక అస్తిత్వ ప్రమాదంగా చిత్రీకరించినప్పుడు, ఎంటర్‌ప్రైజ్ సంస్థలు అదనపు కౌన్సెల్, బాహ్య ఎథిక్స్ ఆడిట్‌లు మరియు సుదీర్ఘమైన పైలట్ దశలను అమలు చేయడం ద్వారా స్పందిస్తాయి. దీనివల్ల ఘర్షణ పెరుగుతుంది. స్థిరమైన APIలు, ఇన్స్ట్రుమెంటెడ్ సిస్టమ్స్, స్పష్టమైన యూనిట్ ఎకనామిక్స్ వంటి సాధారణ మార్గాలను పక్కన పెట్టి, నాటకీయమైన జాగ్రత్తల వైపు మొగ్గు చూపుతారు.

బిల్డర్లు బదులుగా నిజమైన ఖర్చుల కేంద్రాలను (cost centers) ట్రాక్ చేయాలి. సిలికాన్ మరియు ఇంధన ఖర్చులు మోడల్ పరిమాణం మరియు ట్రాఫిక్‌తో పెరుగుతాయి. పైప్‌లైన్‌లు, ఎవాల్యుయేషన్ సూట్‌లు మరియు డేటా ఫ్లోలు అభివృద్ధి చెందుతున్న కొద్దీ ఇంజనీరింగ్ మెయింటెనెన్స్ కూడా పెరుగుతుంది. మానవ పర్యవేక్షణ ఉచితం కాదు; దానికి సిబ్బంది, శిక్షణ మరియు ఆపరేటర్లు మోడల్ అవుట్‌పుట్‌ను కేవలం సంతకం చేయడమే కాకుండా, నిజంగా నియంత్రణలో ఉండేలా చేసే ఇంటర్‌ఫేస్ డిజైన్ అవసరం. స్విచ్‌ఓవర్ రిస్క్ (switchover risk)—అంటే సిస్టమ్ తప్పుగా పనిచేసినప్పుడు ఆటోమేటెడ్ నిర్ణయం నుండి తిరిగి మానవ ప్రక్రియకు మారే ఖర్చు—మొదటి రోజు నుండే బడ్జెట్‌లో ఉండాలి.

ఈ అంశాలలో దేనినీ మెరుగుపరచకుండా, కేవలం ప్రాముఖ్యతను పెంచి చూపే అతిశయోక్తి మాటలు 'మార్కెటింగ్ డెట్' (marketing debt) వంటివి. ఇది భవిష్యత్తు నుండి దృష్టిని అప్పుగా తీసుకుంటూనే, వర్తమానాన్ని క్లిష్టమైన ప్రక్రియలతో మరియు నెమ్మదైన ఇటరేషన్లతో (iteration) భారంగా మారుస్తుంది.

అసలైన భద్రత ఎలా ఉంటుంది

నిజమైన భద్రత అనేది గమనించదగినది మరియు సాదాసీదాగా ఉంటుంది. ఇది కేవలం సాధారణ జ్ఞాన బెంచ్‌మార్క్‌లకే పరిమితం కాకుండా, నిర్దిష్ట డొమైన్‌కు సంబంధించిన ఎడ్జ్ కేస్‌లను (edge cases) పరీక్షించే మెరుగైన మూల్యాంకనాల ద్వారా కనిపిస్తుంది. ఇది సూక్ష్మమైన టూల్ అనుమతులలో (granular tool permissions) కనిపిస్తుంది, ఇక్కడ ఒక AI వ్యవస్థ తన పనికి అవసరమైన కనీస యాక్సెస్‌ను మాత్రమే పొందుతుంది, అంతకంటే ఎక్కువ కాదు. ఇది ప్రొడక్షన్ బౌండరీస్‌లో కనిపిస్తుంది: రేట్ లిమిట్స్, ఇన్‌పుట్ శానిటైజేషన్, అవుట్‌పుట్ ఫిల్టరింగ్ మరియు విపరీతంగా విఫలం కాకుండా, క్రమంగా సామర్థ్యాన్ని తగ్గించుకునే (degrade gracefully) సర్క్యూట్ బ్రేకర్స్ వంటివి.

హెచ్చరికల గురించి హువాంగ్ చేసిన హెచ్చరిక, అంతిమంగా కార్యాచరణ నిజాయితీ (operational honesty) కోసం చేసిన విన్నపం. భయాన్ని అమ్మడం ఆపండి. పనిచేసే నియంత్రణలను (operable controls) నిర్మించడం ప్రారంభించండి. తమ భద్రతకు సంబంధించిన కథనాన్ని, అతిశయోక్తి కథనం నుండి వేరు చేసే నిర్మాతలు, షిప్ చేయడానికి, ఇటరేట్ చేయడానికి మరియు మెరుగుపరచడానికి అవసరమైన నమ్మకాన్ని పొందుతారు. అలా చేయని వారు, తమ స్వంత హెచ్చరికలు కేవలం నేపథ్య శబ్దాలుగా (background noise) మారిపోవడాన్ని గమనిస్తారు—మరియు వారి ఉత్పత్తులు నిజమైన స్థాయికి చేరుకోకముందే నిలిచిపోతాయి.

Source: https://dev.to/james_lin/jensen-huangs-warning-about-warnings-when-ai-rhetoric-becomes-an-engineering-risk-8gn

Optional learning community: https://t.me/GyaanSetuAi