𝗕𝘂𝗻 అన్‌సేఫ్ AI కోడ్‌ను విడుదల చేసింది

Bun ఇటీవల తన కోర్ (core) ను Rust లో తిరిగి రాసింది. వారు ప్రయోగాత్మక మల్టీథ్రెడింగ్‌ను (multithreading) కూడా జోడించారు. ఇవి పెద్ద మార్పులు. అయితే, ఈ లక్ష్యాలను చేరుకోవడానికి ఉపయోగించిన పద్ధతి ఆందోళనకరంగా ఉంది.

Rust రీరైట్‌లో ఎక్కువ భాగం Claude AI రాసిందని Bun బృందం అంగీకరించింది. ఈ మార్పు వల్ల కోడ్‌బేస్‌కు 13,000 కంటే ఎక్కువ అన్‌సేఫ్ బ్లాక్‌లు (unsafe blocks) చేరాయి. ఇది కన్కరెంట్ గార్బేజ్ కలెక్టర్‌ (concurrent garbage collector) లేకుండానే విడుదల చేయబడింది.

సిస్టమ్స్ ప్రోగ్రామింగ్‌లో, అన్‌సేఫ్ కోడ్ మెమరీ సేఫ్టీని (memory safety) పక్కన పెడుతుంది. ఒక అన్‌సేఫ్ బ్లాక్ కూడా ఒక రిస్క్. AI నుండి వచ్చిన పదమూడు వేల బ్లాక్‌లు ఒక పెద్ద రిస్క్.

వేగం యొక్క అవసరాన్ని నేను అర్థం చేసుకోగలను. Node.js మరియు Deno లతో పోటీ పడటానికి చిన్న బృందాలు వేగంగా ముందుకు సాగాలి. కానీ జాగ్రత్త లేకుండా వేగం అనేది ప్రమాదకరం.

ప్రతి అన్‌సేఫ్ బ్లాక్ అనేది సరైన మెమరీ యాక్సెస్ కోసం ఇచ్చే ఒక వాగ్దానం. AI కోడ్‌ను రాసినప్పుడు, ఆ వాగ్దానానికి ఎవరు బాధ్యత వహిస్తారు?

రిస్క్‌లు స్పష్టంగా ఉన్నాయి:

  • AI కోడ్‌లో మెమరీ మేనేజ్‌మెంట్ కోసం మానవ విచక్షణ (human reasoning) లోపం ఉంది.
  • వేగంగా కోడ్ జనరేట్ చేయబడినప్పుడు, అంతే వేగంగా రివ్యూ కూడా జరగాలి.
  • కన్కరెంట్ గార్బేజ్ కలెక్టర్ లేకపోవడం వల్ల మల్టీథ్రెడెడ్ వర్క్‌లోడ్లు అస్థిరంగా మారుతాయి.

రన్‌టైమ్ (runtime) అనేది కేవలం ఒక సాధారణ లైబ్రరీ కాదు. ఇది మీ మొత్తం అప్లికేషన్‌కు పునాది. మీరు నమ్మకం ఆధారంగా రన్‌టైమ్‌ను ఎంచుకుంటారు. ఇన్‌ఫ్రాస్ట్రక్చర్ ప్రయోగాత్మకంగా అనిపించినప్పుడు, డెవలపర్లు Node.js వంటి స్థిరమైన (stable) సాధనాల వైపు మళ్లుతారు.

నేను ప్రతిరోజూ AI సాధనాలను ఉపయోగిస్తాను. నేను AI కోడ్‌ను ఒక జూనియర్ ఇంజనీర్ రాసిన కోడ్‌లాగే పరిగణిస్తాను. దాని ప్రభావానికి తగ్గట్టుగా దానికి రివ్యూ అవసరం.

రన్‌టైమ్ లోపల మల్టీథ్రెడింగ్ ప్రభావం చాలా ఎక్కువగా ఉంటుంది. పదమూడు వేల అన్‌సేఫ్ బ్లాక్‌లకు పదమూడు వేల సరైన కారణాలు కావాలి. వాటికి పదమూడు వేల 'రబ్బర్ స్టాంపులు' (అంటే కేవలం ఆమోదించడం మాత్రమే) సరిపోవు.

ప్రతిష్టాత్మకంగా ఉండటం మంచిదే. కానీ సిస్టమ్స్ కోడ్‌ విషయంలో అజాగ్రత్తగా ఉండటం ప్రమాదకరం.

మీరు మీ ప్రొడక్షన్ యాప్‌లో 13,000 AI-జనరేటెడ్ అన్‌సేఫ్ బ్లాక్‌లను ఉపయోగిస్తారా? ఇన్‌ఫ్రాస్ట్రక్చర్ విషయంలో AIని నమ్మడానికి మీ పరిమితి ఎంత?

Source: https://dev.to/adioof/bun-shipped-a-million-lines-of-ai-generated-unsafe-code-thats-not-bold-its-reckless-h3g

Optional learning community: https://t.me/GyaanSetuAi