మీరు గత మంగళవారం ఉపయోగించిన అదే చాట్ విండోను తెరిచినప్పుడు, AI మీరు ఎక్కడ ఆపారో అక్కడి నుండే కొనసాగిస్తుంది. ఇది మీ మునుపటి సూచనలను గుర్తుంచుకుంటుంది, మీ వ్యంగ్య శైలిని అనుకరిస్తుంది మరియు మీరు ఆ రిపోర్ట్ పూర్తి చేశారా అని అడుగుతుంది. ఒక్క క్షణం, నిజంగా శ్రద్ధ చూపే సహోద్యోగితో కలిసి పనిచేస్తున్నట్లు అనిపిస్తుంది. కానీ మీరు కొత్త సంభాషణను ప్రారంభించగానే, అంతా మాయమవుతుంది. శైలి మారిపోతుంది. ప్రాజెక్ట్ వివరాలు అదృశ్యమవుతాయి. అది మిమ్మల్ని తప్పు పేరుతో పిలుస్తుంది. అసలు ఏం జరిగింది?

ఆ యంత్రం మిమ్మల్ని మర్చిపోలేదు. నిజానికి దానికి మీ గురించి ముందే తెలియదు.

జ్ఞాపకశక్తి భ్రమ

మనం ప్రతిచోటా జ్ఞాపకశక్తిని చూడటానికి అలవాటు పడి ఉన్నాము. చాట్‌బాట్ మీకు క్లుప్తమైన బుల్లెట్ పాయింట్లు ఇష్టమని లేదా మీరు హెల్త్‌కేర్ రంగంలో పనిచేస్తున్నారని గుర్తుంచుకున్నప్పుడు, అది ఒక బార్ టెండర్ మీ అలవాటైన ఆర్డర్‌ను గుర్తుంచుకున్నంత సహజంగా అనిపిస్తుంది. కానీ ఇది మెదడు పనితీరు కాదు, కేవలం డిజైన్ యొక్క మాయాజాలం. లార్జ్ లాంగ్వేజ్ మోడల్స్ (Large language models) మీ గురించి నిజాలను వాటి వెయిట్స్ (weights) లో నిల్వ చేయవు. మీ పరస్పర చర్యల గురించి వాటి వద్ద డైరీ ఉండదు. "User Preferences" అనే ఫోల్డర్ పేరుతో ఏదీ ఉండదు కాబట్టి, అవి ఆ ఫోల్డర్‌లోకి చూడలేవు.

జ్ఞాపకశక్తిలా కనిపించేది కేవలం ఒక కాంటెక్స్ట్ విండో (context window) లో ఉన్న టెక్స్ట్ మాత్రమే. మోడల్ ఇటీవలి చాట్ హిస్టరీని, మీ ప్రస్తుత ప్రాంప్ట్‌ను మరియు డెవలపర్ జోడించిన సిస్టమ్ సూచనలను చదువుతుంది. ఇది అన్నింటినీ ఒకేసారి ప్రాసెస్ చేసి, తదుపరి పదాన్ని ఊహించి, సమాధానం ఇస్తుంది. ఆ టెక్స్ట్ మాయమవ్వగానే, ఆ "జ్ఞాపకశక్తి" కూడా మాయమవుతుంది. మోడల్ దాని ప్రాథమిక ప్రవర్తనకు (baseline behavior) తిరిగి వెళ్తుంది, ఇది తరచుగా ఆత్మవిశ్వాసంతో, సాధారణంగా మరియు కొంచెం అతి ఉత్సాహంగా ఉంటుంది. కాంటెక్స్ట్ మారినందున ఈ భ్రమ పోతుంది తప్ప, AI కి అమ్నీషియా (amnesia) వచ్చినందున కాదు.

AI నిజంగా దేనిని ఉపయోగిస్తుంది

మీకు నమ్మదగిన అవుట్‌పుట్ కావాలంటే, సమాచారం నిజంగా ఎక్కడి నుండి వస్తుందో ఆ నాలుగు అంశాలను మీరు అర్థం చేసుకోవాలి:

  • Chat history: మీ ప్రస్తుత థ్రెడ్‌లో జరిగిన ఇటీవలి సంభాషణ. ఇది తాత్కాలికం. కొత్త థ్రెడ్ ప్రారంభించగానే ఇది పోతుంది.
  • Specific instructions in the prompt: మీరు ఇప్పుడు బాక్స్‌లో టైప్ చేసిన లేదా పేస్ట్ చేసిన అంశం. ఇది నియంత్రణ యొక్క అత్యంత ప్రత్యక్ష రూపం.
  • Documents from a knowledge base: సిస్టమ్ వెతకగలిగే మరియు ప్రాంప్ట్‌లో చేర్చగలిగే ఫైళ్లు లేదా డేటాబేస్‌లు. దీనికి రిట్రీవల్ (retrieval) దశ అవసరం, మరియు ఆ దశ విఫలమైనా మీకు తెలియదు.
  • Data fetched from a workflow: API కాల్స్, డేటాబేస్ లుకప్‌లు లేదా థర్డ్-పార్టీ యాప్‌ల ద్వారా జోడించబడిన మెమరీ ఫీచర్లు. ఇవి వాటిని అనుసంధానించే కోడ్ ఎంత బాగుంటే అంత బాగా పనిచేస్తాయి.

ఇవేవీ సహజమైన జ్ఞాపకశక్తి కావు. ఇవి కేవలం వ్యవస్థలోని భాగాలు (plumbing) మాత్రమే. ఒక పైపు విడిపోయినా లేదా తప్పు డాక్యుమెంట్ ప్రాంప్ట్‌లో చేరినా, AI మిమ్మల్ని హెచ్చరించదు. అది చూసిన దానిని ఉపయోగించి, చాలా చక్కగా, నమ్మదగినట్లుగా కనిపిస్తూ, కానీ పూర్తిగా తప్పుగా ఉండే సమాధానాన్ని ఇస్తుంది.

కాంటెక్స్ట్ విఫలమైనప్పుడు: ఒక నిజమైన ఉదాహరణ

ఒక మార్కెటింగ్ టీమ్ కస్టమర్ ఈమెయిల్స్ డ్రాఫ్ట్ చేయడానికి AIని ఉపయోగిస్తుందని ఊహించుకోండి. సోమవారం, సారా ఒక చాట్ ప్రారంభించి ఒక చిన్న స్టైల్ గైడ్‌ను పేస్ట్ చేస్తుంది: "ప్రశాంతమైన, సంయమనం ఉన్న భాషను ఉపయోగించండి. ఎక్స్‌క్లమేషన్ పాయింట్లు వాడకండి. కేవలం కంపెనీ పేరుతో ముగించండి." AI ఆ గైడ్‌ను ఖచ్చితంగా అనుసరిస్తుంది. ఆ డ్రాఫ్ట్‌లు టీమ్‌కు బాగా నచ్చుతాయి.

బుధవారం, జేక్ ఒక కొత్త చాట్‌ను ప్రారంభిస్తాడు. అతను "Draft the follow-up customer emails" అని టైప్ చేస్తాడు. అతను స్టైల్ గైడ్‌ను పేస్ట్ చేయడు. వ్యతిరేక సూచనలు ఏవీ లేకపోవడంతో, AI సాధారణ మార్కెటింగ్ శైలిని (high-energy marketing prose) అనుసరిస్తుంది. ఎక్స్‌క్లమేషన్ పాయింట్లు విరివిగా వస్తాయి. అది "Let's crush this!" వంటివి సూచిస్తుంది. టీమ్ నిరాశ చెందుతుంది. "AI ఎందుకు మర్చిపోయింది?" అని వారు అడుగుతారు.

అది మర్చిపోలేదు. మర్చిపోవడానికి అక్కడ ఏమీ లేదు. కొత్త కాంటెక్స్ట్ విండోలో స్టైల్ గైడ్‌ను చేర్చడంలో జేక్ విఫలమయ్యాడు, మరియు రెండు రోజుల క్రితం వేరే సంభాషణలో టీమ్ ఒక నియమాన్ని రూపొందించారని మోడల్‌కు తెలియదు. ఆ నిరాశ నిజమే, కానీ దానికి కారణం మానవ తప్పిదమే తప్ప యంత్రం కాదు. టీమ్ నిరంతర జ్ఞాపకశక్తిని ఆశించింది. కానీ ఆ సాధనం కేవలం తాత్కాలిక నోట్‌ప్యాడ్‌లా మాత్రమే పనిచేసింది.

అసలైన పరీక్ష: యంత్రం ఏమి చూస్తుందో తనిఖీ చేయండి

మీ ఫలితాలను మెరుగుపరచుకోవడానికి వేగవంతమైన మార్గం ఏమిటంటే, "AI దీనిని గుర్తుంచుకుంటుందా?" అని అడగడం మానేసి, "ప్రస్తుతం దానికి ఏ కాంటెక్స్ట్ అందుతోంది?" అని అడగడం ప్రారంభించడం. మీ సెటప్‌ను ఈ మూడు ప్రశ్నల ద్వారా పరీక్షించండి:

AI ప్రతిసారీ ఏమి తెలుసుకోవాలి? ఇది మీ అనివార్యమైన కాంటెక్స్ట్. బ్రాండ్ వాయిస్, సేఫ్టీ పాలసీలు, అవుట్‌పుట్ ఫార్మాట్లు, కంప్లయన్స్ నిబంధనలు. ఇది చాలా ముఖ్యమైనదైతే, అది మూడు వారాల క్రితం జరిగిన చాట్ థ్రెడ్‌లో కాకుండా, ప్రతి సంబంధిత ప్రాంప్ట్‌లో చేర్చబడే ఒక రిఫరెన్స్ డాక్యుమెంట్‌లో ఉండాలి.

తదుపరి అవసరాల కోసం మీరు దేనిని నిల్వ చేయవచ్చు? పాత ప్రాజెక్ట్ నోట్స్, ప్రొడక్ట్ స్పెసిఫికేషన్లు లేదా గత పరిశోధనలు ఒక స్ట్రక్చర్డ్ ఫైల్ లేదా డేటాబేస్‌లో ఉండవచ్చు. కానీ కేవలం నిల్వ చేయడం మాత్రమే సరిపోదు. ఆ స్టోరేజ్ నుండి ఏ భాగాన్ని సంభాషణలోకి తీసుకురావాలని సిస్టమ్ నిర్ణయిస్తుందో మీకు ఖచ్చితంగా తెలియాలి. రిట్రీవల్ అనేది కీవర్డ్ మ్యాచ్ (keyword match) పై ఆధారపడి ఉంటే, మీ ప్రాంప్ట్‌లో స్వల్పంగా భిన్నమైన పదజాలం వాడినా తప్పు పేజీ వచ్చే అవకాశం ఉంది.

ఒక వ్యక్తి మాన్యువల్‌గా ఏమి తనిఖీ చేయాలి?

తప్పు వల్ల నష్టం ఎక్కువగా ఉన్నప్పుడు—ఆర్థిక గణాంకాలు, వైద్య సారాంశాలు, చట్టపరమైన భాష, కస్టమర్లకు వెళ్లే ప్రకటనలు—పైప్‌లైన్‌ను గుడ్డిగా నమ్మకండి. AI సరైన డాక్యుమెంట్ వెర్షన్‌ను ఉపయోగించిందో లేదో మరియు అవుట్‌పుట్ వాస్తవ ప్రపంచంలో అర్థవంతంగా ఉందో లేదో ఒక మనిషి ధృవీకరించాలి. అది గత సంవత్సరం ధరల జాబితాను ఉపయోగించిందని మోడల్ మీకు చెప్పలేదు. మీరు ప్రాంప్ట్‌లో పేర్కొననంత వరకు ప్రస్తుత సంవత్సరం ఏంటో దానికి తెలియదు.

కాంటెక్స్ట్-ఫస్ట్ (Context-First) వర్క్‌ఫ్లోను నిర్మించడం

నమ్మదగిన AI పని అనేది ప్రధానంగా మంచి సమాచార నిర్మాణం (information architecture) మీద ఆధారపడి ఉంటుంది. దానిని ఎలా నిర్మించాలో ఇక్కడ ఉంది.

మీ స్థిరమైన నియమాలను ఒక రిఫరెన్స్ డాక్యుమెంట్‌లో ఉంచండి. ఇది మీ ఏకైక ఆధారమైన సత్యం (single source of truth). నియమాలు మారినప్పుడు, ఈ ఒక్క ఫైల్‌ను మాత్రమే సవరించండి. డజన్ల కొద్దీ చాట్ థ్రెడ్‌లలో సూచనలను చెల్లాచెదురు చేయకండి.

ఆ డాక్యుమెంట్‌లోని సంబంధిత భాగాలను మాత్రమే ప్రస్తుత పనికి పంపండి. వందల పేజీల మాన్యువల్‌ను ప్రాంప్ట్‌లో వేయడం ఖరీదైనది మరియు గందరగోళంగా ఉంటుంది. ఈ నిర్దిష్ట ప్రశ్నకు అవసరమైన రెండు పేజీలను మాత్రమే పొందండి. పరిమాణం కంటే ఖచ్చితత్వం ముఖ్యం.

స్వల్పకాలిక వివరాలను యాక్టివ్ ప్రాంప్ట్‌లో ఉంచండి. మీరు ఎలక్ట్రిక్ బైక్‌ల గురించి బ్లాగ్ పోస్ట్ కోసం టైటిల్స్ ఆలోచిస్తుంటే, ప్రాంప్ట్‌లో "electric bikes" అని పేర్కొనండి. మీరు నిన్న దాని గురించి చెప్పినందున, మీరు దేని గురించి ఆలోచిస్తున్నారో మోడల్‌కు తెలుస్తుందని అనుకోకండి.

తప్పులు చేస్తే నష్టం ఎక్కువగా ఉండే సందర్భాల్లో అవుట్‌పుట్‌లను సమీక్షించడానికి మనిషిని ఉపయోగించండి. AIకి ఎప్పుడూ సిగ్గు లేదా అవమానం అనిపించదు. అది మిగిలిన పనుల లాగే, తప్పు ఇన్వాయిస్‌ను లేదా అసభ్యకరమైన క్షమాపణను కూడా అంతే నమ్మకంతో పంపిస్తుంది. ఎవరో ఒకరు దానిని సరిచూడాలి (sanity check).

పొరలుగా ఆలోచించండి (Think in Layers)

AI సమాచారాన్ని నాలుగు పొరలుగా ఊహించుకోవడం సహాయపడుతుంది, ప్రతి పొరకూ దాని స్వంత విశ్వసనీయత మరియు రిస్క్‌లు ఉంటాయి.

Immediate context అనేది ప్రస్తుత ప్రాంప్ట్. ఇది 100 శాతం మీ నియంత్రణలో ఉంటుంది, కానీ మీరు దానిని రాయడానికి ప్రయత్నిస్తేనే. అస్పష్టమైన ప్రాంప్ట్‌లు అస్పష్టమైన ఫలితాలను ఇస్తాయి.

Stored context అనేది మీరు ఎక్కడో సేవ్ చేసిన సమాచారం: Notion wiki, vector database లేదా PDFల ఫోల్డర్. అది అందుబాటులో ఉంటుంది, కానీ ఏదైనా దానిని అనుసంధానించే వరకు AI దానిని చూడలేదు.

Retrieved context అనేది సెర్చ్ లాజిక్, కోడ్ లేదా ప్లగిన్ ద్వారా స్టోరేజ్ నుండి ప్రాంప్ట్‌లోకి తీసుకురాబడిన డేటా. ఇక్కడే చాలా వరకు నిశ్శబ్ద వైఫల్యాలు (silent failures) జరుగుతాయి. సవరించిన కాంట్రాక్ట్‌కు బదులుగా సిస్టమ్ పాత కాంట్రాక్ట్‌ను తీసుకురావచ్చు, లేదా స్ప్రెడ్‌షీట్‌కు బదులుగా స్క్రీన్‌షాట్‌ను తీసుకురావచ్చు.

Human context అనేది ఏది నిజం, ఏది ముఖ్యం మరియు ఏది తప్పుగా కనిపిస్తుందనే దానిపై మీ స్వంత తీర్పు. సమాధానం పాతదైందా, మూలం నమ్మదగినదా లేదా సందర్భానికి తగిన శైలిలో ఉందా అనేది తెలుసుకోగల ఏకైక పొర ఇదే. ఈ పొరను వేరొకరికి అప్పగించకండి (Do not outsource).

ఉత్తమ ఫలితాలను పొందుతున్న బృందాలు తెలివైన మోడళ్లను ఉపయోగించడం లేదు. వారు కాంటెక్స్ట్ స్పష్టంగా ఉండేలా, వెర్షన్ చేయబడినలా మరియు సులభంగా ధృవీకరించదగినలా ఉండే వ్యవస్థలను నిర్మిస్తున్నారు. సరైన కాంటెక్స్ట్‌తో ఉన్న AI, తప్పుడు సమాచారంతో పనిచేసే ఒక మేధావి మోడల్ కంటే ప్రతిసారీ మెరుగ్గా పనిచేస్తుందని వారికి తెలుసు.

కాబట్టి, ఈ సాధనాలను తిట్టాల్సిన మతిమరుపు ఇంటర్న్‌లలా చూడటం ఆపండి. వాటిని లెన్స్‌లలా చూడండి. మీరు వాటి ముందు ఏమి ఉంచుతారో అవి మాత్రమే చూపిస్తాయి. దృశ్యాన్ని నిందించే ముందు, లెన్స్ (గాజు) సరిగ్గా ఉందో లేదో తనిఖీ చేసే అలవాటును పెంపొందించుకోండి.

Join the GyaanSetu AI learning community: https://t.me/GyaanSetuAi