లూప్ ఇంజనీరింగ్ వివరణ (Loop Engineering Explained)

కోడింగ్ ఏజెంట్లకు ప్రాంప్టింగ్ చేయడం ఆపండి. లూప్‌లను డిజైన్ చేయడం ప్రారంభించండి.

OpenAI మరియు Anthropic లోని టాప్ ఇంజనీర్లు ఒక మార్పును గమనిస్తున్నారు. మాన్యువల్ చాట్-ఆధారిత ప్రాంప్టింగ్ అంతరించిపోతోంది. లూప్ ఇంజనీరింగ్ (Loop Engineering) కొత్త ప్రమాణం.

చాలా మంది లూప్ అంటే కేవలం ఒక సాధారణ రిపీట్ కమాండ్ అని అనుకుంటారు. AIలో, లూప్ అనేది ఒక క్లోజ్డ్-లూప్ కంట్రోల్ సిస్టమ్ (closed-loop control system).

ఒక టోస్టర్ మరియు థర్మోస్టాట్ మధ్య తేడాను గమనించండి. టోస్టర్ అనేది ఓపెన్ లూప్. బ్రెడ్ స్థితితో సంబంధం లేకుండా అది నిర్ణీత సమయం పాటు నడుస్తుంది. థర్మోస్టాట్ అనేది క్లోజ్డ్ లూప్. ఇది ఉష్ణోగ్రతను కొలుస్తుంది, వేడిని అందిస్తుంది మరియు ఫీడ్‌బ్యాక్ ఆధారంగా సర్దుబాటు చేస్తుంది.

LLMలు స్టోకాస్టిక్ (stochastic). అవి ప్రాబబిలిస్టిక్ (probabilistic). మీరు ఒకే ప్రశ్నను ఐదుసార్లు అడిగితే, మీకు ఐదు వేర్వేరు సమాధానాలు వస్తాయి. కేవలం ప్రాంప్ట్‌లతో మాత్రమే సాఫ్ట్‌వేర్‌ను నిర్మించడం అనేది తడి మట్టిపై ఇల్లు కట్టినట్లు ఉంటుంది.

లూప్ ఇంజనీరింగ్ దీనిని సరిచేస్తుంది. ఇది ఒక నాన్-డిటర్మినిస్టిక్ ఇంజిన్‌ను (non-deterministic engine) ఒక డిటర్మినిస్టిక్ స్టేట్ మెషీన్ (deterministic state machine) లోపల ఉంచుతుంది. LLM తెలివితేటలను అందిస్తే, లూప్ గణితపరమైన ధృవీకరణను (mathematical verification) అందిస్తుంది.

ప్రొడక్షన్ లూప్‌లోని ఐదు దశలు:

• డిస్కవర్ (Discover): ఏజెంట్ వాతావరణం మరియు ఫైళ్లను చదువుతుంది. • ప్లాన్ (Plan): సిస్టమ్ దశలవారీగా ఒక మ్యాప్‌ను రూపొందిస్తుంది. • ఎగ్జిక్యూట్ (Execute): ఏజెంట్ పనిని పూర్తి చేస్తుంది. • వెరిఫై (Verify): ఒక ఆబ్జెక్టివ్ టెస్ట్ (కంపైలర్ లేదా లీంటర్ వంటివి) పనిని తనిఖీ చేస్తుంది. • ఇటరేట్ (Iterate): ఒకవేళ టెస్ట్ విఫలమైతే, ఆ లోపం మళ్ళీ మొదటి దశకు వెళ్తుంది.

ఇది గతంలో చాలా ఖరీదైనదిగా ఉండేది. లూప్‌లు టోకెన్లను ఎక్కువగా ఉపయోగిస్తాయి. ఒకే డీబగ్గింగ్ టాస్క్ కోసం వందల వేల టోకెన్లు ఖర్చయ్యేవి.

కొత్త, తక్కువ ఖర్చుతో కూడిన మోడల్స్ ఈ లెక్కలను మార్చేశాయి. సరైన పరిష్కారాన్ని కనుగొనడానికి ఒక మెషిన్ పదిసార్లు విఫలమైనా ఇప్పుడు మీరు భరించగలరు. స్వయంప్రతిపత్తి (autonomy) యొక్క ఖర్చు దాదాపు సున్నాకి పడిపోయింది.

గోల్డెన్ రూల్ (The Golden Rule): కోడ్‌ను రాసే మోడల్, దానిని ధృవీకరించే మోడల్ కాకూడదు.

నిర్మించడానికి ఒక క్రియేటివ్ మోడల్‌ను, తనిఖీ చేయడానికి ఒక పెడాంటిక్ (pedantic) మోడల్‌ను ఉపయోగించండి. ఇది ఏజెంట్ తప్పుడు లాజిక్ సరైనదని నమ్మేలా తనను తాను ఒప్పించుకోకుండా నిరోధిస్తుంది.

ఉద్యోగ మార్కెట్ రెండు పాత్రలుగా విడిపోతోంది:

ప్రాంప్ట్ ఇంజనీర్ (The Prompt Engineer):

  • సంభాషణాత్మక ఇన్‌పుట్‌ను ఉపయోగిస్తారు.
  • లోపాలను మాన్యువల్‌గా కాపీ చేస్తారు.
  • సింగిల్ అవుట్‌పుట్‌లపై దృష్టి పెడతారు.

లూప్ ఇంజనీర్ (The Loop Engineer):

  • స్టేట్ మెషీన్‌లను ఉపయోగిస్తారు.
  • ఆటోమేటెడ్ వెరిఫికేషన్ గేట్‌లను నిర్మిస్తారు.
  • మొత్తం వర్క్‌ఫ్లోలను ఆర్కిటెక్ట్ చేస్తారు.

సుత్తితో కొట్టే వ్యక్తిగా ఉండటం ఆపండి. అసెంబ్లీ లైన్‌ను డిజైన్ చేసే ఆర్కిటెక్ట్‌గా మారండి.

Source: https://dev.to/itsmeramc/loop-engineering-explained-simply-with-diy-python-snippets-4ah2

Optional learning community: https://t.me/GyaanSetuAi