Age of Empires II లో మేకలను ఉపయోగించి ఒక మైక్రోసాఫ్ట్ పరిశోధకుడు ఎందుకు న్యూరల్ నెట్‌వర్క్‌ను నిర్మించారంటే

సాంకేతిక వ్యంగ్యానికి ఒక అద్భుతమైన నిదర్శనంగా, మైక్రోసాఫ్ట్ మరియు యార్క్ విశ్వవిద్యాలయ పరిశోధకుడు అడ్రియన్ డి వింటర్, Age of Empires II యొక్క మ్యాప్ ఎడిటర్ లోపల ఒక ఫంక్షనల్ న్యూరల్ నెట్‌వర్క్‌ను నిర్మించారు. బైనరీ బిట్‌లను సూచించడానికి మేకలను ఉపయోగించడం విడ్డూరంగా అనిపించవచ్చు, కానీ ఈ ప్రయోగం ప్రస్తుతం AI శాస్త్రీయ పరిశోధనలను దెబ్బతీస్తున్న మానవరూపత (anthropomorphic) పక్షపాతాలపై లోతైన విమర్శగా నిలుస్తుంది.

మేకల ఆధారిత కంప్యూటేషన్ మోడల్

డి వింటర్ యొక్క ఆర్కిటెక్చర్, ఒక పని చేసే లాజిక్ సర్క్యూట్‌ను సృష్టించడానికి గేమ్ యొక్క సినారియో ఎడిటర్ మరియు స్క్రిప్టింగ్ సాధనాలను ఉపయోగిస్తుంది. ఈ "విడ్డూరమైన" సెటప్‌లో, మేకలు బిట్‌లుగా పనిచేస్తాయి: గడ్డిపై నిలబడిన మేక 0ని సూచిస్తుంది, వంతెనపై నిలబడిన మేక 1ని సూచిస్తుంది. గణన లోపాలను నివారించడానికి ఐస్ రాంప్‌లను (ice ramps) ఉపయోగించడం ద్వారా, డి వింటర్ రెండు XNOR గేట్లు మరియు ఒక AND గేట్‌తో కూడిన మినీ-నెట్‌వర్క్‌ను విజయవంతంగా నిర్మించారు, ఇది లాజికల్ AND ఫంక్షన్‌ను సమర్థవంతంగా నేర్చుకుంటుంది.

ఈ ప్రయోగం యొక్క సాంకేతిక లోతు కేవలం గేట్లకే పరిమితం కాలేదు. గేమ్ మెకానిక్స్—ముఖ్యంగా వనరుల ధరలు 9,999 వద్ద పరిమితమయ్యే ఇన్-గేమ్ మార్కెట్—సిద్ధాంతపరంగా నిరంతర ఆర్థిక చక్రానికి (economic cycle) అనుమతించగలదని డి వింటర్ నిరూపించారు. ఇది భవనాలను మెమరీ సెల్స్‌గా మరియు యాక్టివ్ ఫామ్స్‌ను కంప్యూటేషనల్ స్టేట్స్‌గా మార్చగలదు, తద్వారా ఈ గేమ్‌ను ఒక పూర్తి స్థాయి కంప్యూటర్ అంత శక్తివంతంగా మార్చగలదు.

LLM పరిశోధనలో మానవరూపత యొక్క తప్పుదోవ పట్టించే స్వభావం

లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMs) కు మనం మానవ లక్షణాలను ఎలా ఆపాదిస్తున్నాము అనే అంశాన్ని సవాలు చేయడమే ఈ ప్రయోగం యొక్క ప్రధాన ఉద్దేశ్యం. ఒక లాంగ్వేజ్ మోడల్‌ను మేకలు, లెగో బ్రిక్స్, లేదా గ్రేటర్ బోస్టన్ నివాసితులైన 667,000 మంది ఒకరికొకరు టెక్స్ట్ మెసేజ్‌లు పంపుకోవడం ద్వారా కూడా పునరావృతం చేయగలిగితే, గణిత ఫలితాలు మాత్రం ఒకేలా ఉంటాయని డి వింటర్ వాదిస్తున్నారు. అయితే, ఆ "wrapper"—అంటే స్మూత్ చాట్ ఇంటర్‌ఫేస్ మరియు తక్కువ లాటెన్సీ—చైతన్యం (sentience) ఉన్నట్లుగా ఒక భ్రమను కలిగిస్తుంది.

ఇది కేవలం ఒక విడిగా జరిగిన పరిశీలన మాత్రమే కాదని నిరూపించడానికి, డి వింటర్ 2024 మధ్య నుండి 2026 మధ్య వరకు వచ్చిన 315 AI పేపర్లను విశ్లేషించారు. ఫిల్టరింగ్ కోసం GPT-5.2ని ఉపయోగించి చేసిన ఈ అధ్యయనం, శాస్త్రీయ రంగంలో ఒక వ్యవస్థీకృత పక్షపాతాన్ని వెల్లడించింది:

ఇది ఒక చక్రీయ తర్కపు వలయాన్ని సృష్టిస్తుంది: ఒక మోడల్‌కు "భయం" లేదా "నైతికత" ఉందని నిరూపించడానికి పరిశోధకులు ప్రయోగాలు రూపొందిస్తారు, మరియు వారు ఆ ఊహతోనే ప్రారంభించడం వల్ల, ఫలితాలు తప్పనిసరిగా దానిని ధృవీకరిస్తాయి.

పరిశీలనాత్మక AI సైన్స్ వైపు సాగడం

Anthropic సంస్థ Claude కి "నేను నమ్ముతున్నాను" వంటి పదబంధాలను ఉపయోగించేలా శిక్షణ ఇవ్వడం వంటి పరిశ్రమ పద్ధతులు ఈ సమస్యను మరింత తీవ్రతరం చేస్తాయని De Wynter హెచ్చరిస్తున్నారు. ఇది భావోద్వేగ అనుబంధం, sycophancy మరియు వినియోగదారులలో బలపడిన భ్రమలు వంటి ప్రమాదకరమైన పరిణామాలకు దారితీయవచ్చు.

మోడళ్లకు చైతన్యాన్ని ఆపాదించే బదులు, పరిశీలించదగిన డేటాపై ఆధారపడిన "నిష్పాక్షికమైన విధానాన్ని" (sober approach) De Wynter ప్రతిపాదిస్తున్నారు. ఒక మోడల్ ఒక భావనను "అర్థం చేసుకుంటుంది" అని క్లెయిమ్ చేసే బదులు, పరిశోధకులు "పరిస్థితి X కింద, మోడల్ అవుట్‌పుట్ Y ని ఇస్తుంది" అని చెప్పాలి. ఇది సైన్స్‌ను పరీక్షించదగినదిగా ఉంచుతుంది మరియు చైతన్యం గురించి ఆధారాలు లేని వాదనలను సమర్థించడానికి సంక్లిష్ట గణితాన్ని దుర్వినియోగం చేయకుండా నిరోధిస్తుంది.

ముఖ్య అంశాలు