ChatGPT యొక్క పర్మిషన్ మోడల్ ద్వారా దాడులు చేసేవారు Gmail సందేశాలను దొంగిలించే అవకాశం ఉండటంతో, OpenAI ఒక బలహీనమైన అంతర్గత సేవను (internal service) నిలిపివేసింది. Check Point Research ఈ లోపాన్ని వెల్లడించింది; ఒక ప్రత్యేకంగా రూపొందించిన ప్రాంప్ట్ (crafted prompt) ద్వారా, AI వినియోగదారుడికి అనుసంధానించబడిన ఈమెయిల్ ఖాతాను చదివి, ఆ సమాచారాన్ని దాడులు చేసేవారు నియంత్రించే అడ్రస్‌కు పంపేలా చేయవచ్చని ఇది చూపింది.

ఈ ఇంజెక్షన్ ఎలా పనిచేస్తుంది

పరిశోధకులు సాధారణంగా కనిపించే ప్రాంప్ట్‌లో ఒక దాగి ఉన్న సూచనను (hidden instruction) చేర్చారు. వినియోగదారుడు Gmailని ChatGPTకి అనుసంధానించినప్పుడు, ఆ దుష్ట ప్రాంప్ట్ (malicious prompt) Gmail డేటాను సేకరించి దాడులు చేసేవారికి మెయిల్ చేయమని మోడల్‌కు ఆదేశించింది. ఈ డేటా వినియోగదారుడి నుండి అదనపు అనుమతిని అడగని ఒక అంతర్గత రూటింగ్ సర్వీస్ (internal routing service) ద్వారా ప్రవహించింది. ఈ సర్వీస్ తెరవెనుక (behind the scenes) పనిచేయడం వల్ల, వినియోగదారుడికి ఎటువంటి పర్మిషన్ రిక్వెస్ట్ కనిపించలేదు.

OpenAI వేగవంతమైన పరిష్కారం

పరిశోధకులు ఉపయోగించుకున్న ఛానెల్‌ను నిలిపివేయడానికి OpenAI ఆ అంతర్గత రూటింగ్ సర్వీస్‌ను ఆఫ్‌లైన్‌లోకి తీసుకువచ్చింది. ఈ ప్యాచ్ (patch) డేటా చోరీకి సంబంధించిన ఈ పద్ధతిని అడ్డుకుంటుంది, కానీ స్పష్టమైన ప్రాంప్ట్‌లు లేకుండానే ప్లగిన్‌లు అనుసంధానించబడిన యాప్‌లపై పనిచేసేలా చేసే పర్మిషన్ ఫ్రేమ్‌వర్క్ మాత్రం అలాగే ఉంది.

ఇది ఎందుకు ముఖ్యం

Gmailలో వ్యక్తిగత మరియు కార్పొరేట్ సమాచార మార్పిడి ఉంటుంది; ఏదైనా భద్రతా ఉల్లంఘన జరిగితే, వినియోగదారుల డేటాను రక్షిస్తామని చెప్పుకునే AI అసిస్టెంట్‌లపై నమ్మకం తగ్గుతుంది. ఈ సంఘటన రెండు ప్రధాన ప్రమాదాలను ఎత్తి చూపుతోంది:

  • Prompt injection – దుష్ట ప్రాంప్ట్‌లు అసిస్టెంట్‌ను హైజాక్ చేసి, దానిని డేటా లీక్ చేసే సాధనంగా మార్చగలవు.
  • Plugin permission models – ప్రస్తుత డిజైన్‌లు వినియోగదారులకు స్పష్టమైన అవగాహన లేకుండానే థర్డ్-పార్టీ సర్వీసులకు AI టూల్స్‌కు విస్తృతమైన యాక్సెస్‌ను ఇవ్వవచ్చు.

AI అసిస్టెంట్‌లు వ్యక్తిగత డేటాతో మరింత లోతుగా ముడిపడి పెరుగుతున్న కొద్దీ, వాటి యాక్సెస్‌ను నియంత్రించే విధానాలు పారదర్శకంగా మరియు తనిఖీ చేయదగినవిగా (auditable) ఉండాలని ఈ సంఘటన మనకు గుర్తుచేస్తోంది. అప్పటి వరకు, వినియోగదారులు AI టూల్స్‌కు మరియు ప్రైవేట్ ఖాతాలకు మధ్య ఉండే ఏవైనా అనుసంధానాలను జాగ్రత్తగా చూడాలి.