మీ AIకి జాగ్రత్తగా ఉండమని చెప్పడం ఆపండి
మీ AIకి జాగ్రత్తగా ఉండమని చెప్పడం ఆపండి. దానికి నిన్నటి గురించి ఎలాంటి జ్ఞాపకం ఉండదు.
నా AI ఏజెంట్ తప్పులు చేయకుండా ఉండటానికి నేను ఒకసారి భారీ నియమాల ఫైల్ను రూపొందించాను. అది విఫలమైన ప్రతిసారీ నేను కొత్త సూచనలను జోడిస్తూనే ఉన్నాను. ఆ ఫైల్ 56,000 అక్షరాల వరకు పెరిగింది. ఆ తర్వాత ఆ ఏజెంట్ పనిచేయడం ఆగిపోయింది.
నేను దాని దృష్టిని మరీ ఎక్కువగా విస్తరించేశాను. నేను నియమాలను 1,200 అక్షరాలకు తగ్గించాను. తక్కువ నియమాలతోనే ఆ ఏజెంట్ మెరుగ్గా పనిచేసింది.
నేను ఒక కఠినమైన పాఠాన్ని నేర్చుకున్నాను. నియమాలను జోడించడం అనేది నమ్మకమైన AIని నిర్మించే మార్గం కాదు.
చాలా మంది AIని ఒక మానవ సహచరుడిలా భావిస్తారు. ఈరోజు చేసే సవరణ రేపు AIకి సహాయపడుతుందని వారు అనుకుంటారు. కానీ AI అనేది stateless. ప్రతి సెషన్ కొత్తగా ప్రారంభమవుతుంది. ఇది మీ పాత ఉపన్యాసాలను గుర్తుంచుకోదు.
ఒక నియమాన్ని తెలుసుకోవడానికి మరియు ఆ నియమాన్ని పాటించడానికి మధ్య చాలా తేడా ఉంది.
ప్రాంప్ట్లో ఒక నియమాన్ని ఉంచడం అనేది కేవలం ఒక సూచన మాత్రమే. మోడల్ దానిని చూస్తుంది, కానీ పనిని పూర్తి చేయడానికి దానిని విస్మరించవచ్చు. ఒకవేళ ఏజెంట్ ఆగాలని మీరు కోరుకుంటే, కేవలం మంచి వాక్యాన్ని రాయడం వల్ల ఉపయోగం లేదు. మీ కోడ్లో ఒక భౌతిక గేటును (physical gate) నిర్మించండి. ఒక తనిఖీ (check) విజయవంతం కానంత వరకు ముందుకు వెళ్లడానికి నిరాకరించే స్క్రిప్ట్ను ఉపయోగించండి.
AIని మరింత ఖచ్చితంగా ఎలా చేయాలి అని అడగడం ఆపండి. తప్పులు జరిగినప్పుడు వాటి నష్టాన్ని ఎలా తగ్గించుకోవాలి అని అడగడం ప్రారంభించండి.
డేటా ప్రకారం ఖచ్చితత్వం మాత్రమే సరిపోదు: • కేవలం 4% కంపెనీలు మాత్రమే generative AI అంచనాలను మించిందని చెబుతున్నాయి (JUAS). • కేవలం 5% enterprise AI pilots మాత్రమే productionకు చేరుకుంటాయి (MIT). • చాలా మంది AI వినియోగదారులు తక్కువ పని చేయడం కంటే, ఎక్కువ ఓవర్టైమ్ చేస్తున్నారు (Persol).
విజేతల వద్ద మరింత ఖచ్చితమైన మోడల్స్ ఉండవు. వారి వద్ద మెరుగైన నిర్మాణాలు (structures) ఉంటాయి.
మరిన్ని నియమాలను రాసే బదులు ఈ మూడు పద్ధతులను ఉపయోగించండి:
- విభేదాన్ని ఒక సంకేతంగా ఉపయోగించండి. ఒకే పనిని మూడు వేర్వేరు మోడల్స్ ద్వారా చేయించండి. అవి విభేదిస్తే, దానిని మనిషికి పంపండి. అవి ఏకీభవిస్తే, దానిని పంపండి.
- Escalation criteria రాయండి. ఏజెంట్కు స్పష్టమైన ఎగ్జిట్ పాయింట్లు ఇవ్వండి. అది రెండు నిమిషాల్లో ఒక సమస్యను పరిష్కరించలేకపోతే, ఆగి మనిషిని అడగమని చెప్పండి.
- ఏజెంట్కు ఒక నిర్దిష్ట బాధ్యతను ఇవ్వండి. సహాయం చేయమని అస్పష్టమైన ఆదేశాలు ఇవ్వకండి. మీటింగ్ మినిట్స్ డ్రాఫ్ట్ చేయడం వంటి ఒక నిర్దిష్టమైన పనిని మాత్రమే ఇవ్వండి. పని పరిధి తక్కువగా ఉంటే, తప్పు జరిగినా దాని ప్రభావం తక్కువగా ఉంటుంది.
నిజమైన guardrails మిమ్మల్ని నెమ్మదింపజేయడానికి కాదు. ఏజెంట్ ఎక్కడ ఆగాలో మీకు ఖచ్చితంగా తెలుసు కాబట్టి, అవి మిమ్మల్ని వేగంగా ముందుకు వెళ్లడానికి సహాయపడతాయి.
మీ AIకి ఉపన్యాసాలు ఇవ్వడం ఆపండి. AI తప్పు చేసినప్పుడు కూడా పనిచేసేలా ఒక నిర్మాణాన్ని నిర్మించండి.
Optional learning community: https://t.me/GyaanSetuAi