ఓపెన్-సోర్స్ AI ఒక విస్తృతమైన ఎకోసిస్టమ్గా ఎదిగింది, ఇక్కడ ఒకే ఉత్పత్తి డజన్ల కొద్దీ రిపోజిటరీల నుండి కోడ్ను తీసుకోవచ్చు, బహుళ వనరుల నుండి శిక్షణ డేటాను (training data) పొందవచ్చు మరియు చాలా తక్కువ బృందాలకు మాత్రమే పూర్తిగా తెలిసిన ప్రత్యేక హార్డ్వేర్ కాన్ఫిగరేషన్లపై నడవవచ్చు. ఈ డిపెండెన్సీలను ట్రాక్ చేయడం కష్టం. ఆ స్టాక్లోని ఏ భాగాలు ఇంటర్నెట్కు అందుబాటులో ఉన్నాయో అర్థం చేసుకోవడం ఇంకా కష్టం. Current AI విడుదల చేసిన Open Source AI Gap Map v0.1 ఆ గందరగోళానికి కొంత క్రమబద్ధతను తీసుకురావడానికి ప్రయత్నిస్తుంది, మరియు సెక్యూరిటీ టీమ్లు దీనిని తప్పనిసరిగా చదవాల్సిన అంశంగా పరిగణించాలి.
ఈ ఇండెక్స్ 421 ఓపెన్-సోర్స్ AI ఉత్పత్తులను వర్గీకరిస్తుంది. వాటిని నాలుగు రకాలుగా విభజించింది: AI మోడల్స్, డేటాసెట్లు, సాఫ్ట్వేర్ టూల్స్ మరియు హార్డ్వేర్. దీని వెనుక ఉన్న మొత్తం ప్రాజెక్ట్ 16,000 కంటే ఎక్కువ GitHub రిపోజిటరీలను ట్రాక్ చేసే 1,184 YAML ఫైళ్లపై నడుస్తుంది. 421 ఉత్పత్తులు మరియు 16,000 రిపోజిటరీల మధ్య ఉన్న ఆ వ్యత్యాసం ఒక కథను చెబుతుంది. చాలా AI అప్లికేషన్లు స్వతంత్రంగా (self-contained monoliths) ఉండవు. అవి ఇన్ఫరెన్స్ ఇంజన్లు, ఫైన్-ట్యూనింగ్ స్క్రిప్ట్లు, డేటా లోడర్లు, ఎవాల్యుయేషన్ బెంచ్మార్క్లు మరియు డ్రైవర్ లేయర్ల కలయికలు. వీటిలో ప్రతిదీ దాని స్వంత రిపోజిటరీ, మెయింటైనర్లు, కమిట్ హిస్టరీ మరియు వల్నరబిలిటీ ప్రొఫైల్లతో విడివిడిగా ఉంటుంది.
Current AI ఈ డేటాసెట్ను MIT లైసెన్స్ కింద ప్రచురించింది మరియు దానిని పూర్తిగా పబ్లిక్గా అందుబాటులోకి తెచ్చింది. ఆ బహిరంగత వెనుక ఉన్న ఉద్దేశ్యం ఇదే. ఎవరైనా దీనిని డౌన్లోడ్ చేసుకోవచ్చు, YAMLని విశ్లేషించవచ్చు మరియు దానిపై టూలింగ్ను నిర్మించవచ్చు. రక్షణ కల్పించే వారికి (defenders), ఈ అందుబాటు ఒక అవకాశం. దాడి చేసే వారికి (attackers), ఇది అంతే అనుకూలమైనది.
ఈ మ్యాప్ నిజంగా దేనిని ట్రాక్ చేస్తుంది
AIని ఉపయోగిస్తున్న చాలా సంస్థలకు తాము ఏమి ఉపయోగించామో (deployed) స్పష్టమైన ఇన్వెంటరీ ఉండదు. ఒక బృందం ఒక పాపులర్ హబ్ నుండి లాంగ్వేజ్ మోడల్ను డౌన్లోడ్ చేసుకోవచ్చు, దానిని నడపడానికి కొన్ని Python ప్యాకేజీలను ఇన్స్టాల్ చేయవచ్చు మరియు పని పూర్తయిందని భావించవచ్చు. కానీ ఆ సరళమైన వర్క్ఫ్లో వెనుక అనేక డిపెండెన్సీలు ఉంటాయి. మోడల్ వెయిట్స్ ఒక రిపోజిటరీ నుండి వస్తాయి. టోకనైజర్ కాన్ఫిగరేషన్ మరొక దాని నుండి వస్తుంది. ఇన్ఫరెన్స్ ఫ్రేమ్వర్క్ మూడవ ప్రాజెక్ట్ యొక్క ఫోర్క్ (fork) కావచ్చు. CUDA డ్రైవర్లు మరియు కంటైనర్ ఇమేజ్లు ఇంకా మరికొన్ని వనరుల నుండి వస్తాయి.
Gap Map ఈ 1,184 YAML ఫైళ్లను 421 విభిన్న AI ఉత్పత్తుల చుట్టూ క్రమబద్ధీకరించడం ద్వారా దీనిని క్యాప్చర్ చేస్తుంది. ఇక్కడ మ్యాప్ చేయబడిన 16,000 కంటే ఎక్కువ GitHub రిపోజిటరీలు ఆ ఉత్పత్తులు పనిచేయడానికి అవసరమైన అసలు కోడ్, కాన్ఫిగరేషన్లు మరియు ఆర్టిఫాక్ట్లను సూచిస్తాయి. ఎంట్రీలను మోడల్స్, డేటాసెట్లు, సాఫ్ట్వేర్ టూల్స్ మరియు హార్డ్వేర్లుగా వేరు చేయడం ద్వారా, ఈ ఇండెక్స్ ఒక ప్రాథమిక ప్రశ్నను విసురుతుంది: మీ సిస్టమ్లు నిజంగా ఈ నాలుగు పొరలలో దేనిని తాకుతున్నాయో మీకు తెలుసా?
మీరు ప్రొడక్షన్లో ఓపెన్-సోర్స్ లార్జ్ లాంగ్వేజ్ మోడల్ను ఉపయోగిస్తుంటే, మీరు బహుశా ఈ నాలుగు పొరలను కూడా ఉపయోగిస్తుంటారు. మీరు మోడల్ వెయిట్స్ మరియు ఆర్కిటెక్చర్పై ఆధారపడతారు. మీరు వాటిని నేరుగా డౌన్లోడ్ చేయకపోయినా, ప్రీ-ట్రైనింగ్ లేదా ఫైన్-ట్యూనింగ్ కోసం ఉపయోగించిన డేటాసెట్లపై ఆధారపడతారు. మోడల్ను కన్వర్ట్ చేయడానికి, క్వాంటైజ్ చేయడానికి లేదా సర్వ్ చేయడానికి మీరు సాఫ్ట్వేర్ టూల్స్పై ఆధారపడతారు. మరియు మీరు GPUs లేదా ప్రత్యేక యాక్సిలరేటర్లపై నడుపుతుంటే, మీరు హార్డ్వేర్ కేటగిరీ కిందకు వచ్చే ఫర్మ్వేర్ మరియు డ్రైవర్ స్టాక్లపై ఆధారపడతారు.
సెక్యూరిటీ యొక్క రెండు వైపుల కత్తి
ఈ డేటాసెట్ రెండు పక్షాలకు సేవ చేస్తుంది, మరియు సెక్యూరిటీ లీడర్లు రెండు వైపులా అర్థం చేసుకోవాలి.
రక్షణ (defensive) పరంగా, Gap Map మీ AI సప్లై చైన్ కోసం ఒక ఫోన్ బుక్ లాగా పనిచేస్తుంది. మీ సంస్థ ఆధారపడే రిపోజిటరీలు మరియు టూల్స్ను ఈ ఇండెక్స్తో పోల్చి చూసి, మీ విజిబిలిటీలో ఉన్న లోపాలను గుర్తించవచ్చు. ఒక కీలకమైన రిపోజిటరీ మ్యాప్లో కనిపిస్తే కానీ మీ సాఫ్ట్వేర్ బిల్ ఆఫ్ మెటీరియల్స్ (SBOM)లో లేకపోతే, మీరు బహుశా షాడో AI ఇన్ఫ్రాస్ట్రక్చర్ను కనుగొన్నారని అర్థం. శత్రువు దానిని కనుగొనే ముందే మీరు దానిని తెలుసుకోవడం మంచిది.
దాడి చేసే (offensive) పరంగా, ఈ డేటాసెట్ నిఘా (reconnaissance) కోసం ఒక గొప్ప వనరు. దాడి చేసేవారు నిరంతరం ఎక్స్పోజ్ చేయబడిన AI ఇన్ఫ్రాస్ట్రక్చర్, మోడల్ సర్వింగ్ ఎండ్పాయింట్లు మరియు పాపులర్ ML పైప్లైన్లలోని బలహీనమైన డిపెండెన్సీల కోసం వెతుకుతుంటారు. Gap Map వారికి వారు ఆశించే కేటగిరీల ప్రకారం క్రమబద్ధీకరించబడిన టార్గెట్ల యొక్క మెషిన్-రీడబుల్, స్ట్రక్చర్డ్ జాబితాను అందిస్తుంది. ఒకే YAML పార్సర్ వేల సంఖ్యలో రిపోజిటరీ URLలను సేకరించగలదు, అక్కడి నుండి దాడి చేసే వ్యక్తి తెలిసిన వల్నరబిలిటీలను సరిపోల్చవచ్చు, తప్పుగా కాన్ఫిగర్ చేయబడిన పబ్లిక్ ఇన్స్టెన్స్ల కోసం వెతకవచ్చు లేదా డిపెండెన్సీ కన్ఫ్యూజన్ దాడుల కోసం హై-వాల్యూ టార్గెట్లను గుర్తించవచ్చు.
ఈ డేటా MIT-లైసెన్స్ కలిగి మరియు పబ్లిక్గా ఉన్నందున, దీనిని ఉపయోగించడానికి ఎటువంటి అడ్డంకులు లేవు. ఎటువంటి సబ్స్క్రిప్షన్ లేదు, ఎటువంటి ఆమోద ప్రక్రియ లేదు. ఈ డిజైన్ ఎంపిక పరిశోధకులు మరియు రక్షకులకు ఉపయోగకారిగా ఉన్నప్పటికీ, ఇది బెదిరింపు క్రియేటర్లకు (threat actors) కూడా అంతే ఉపయోగకరంగా ఉంటుంది. మీ స్టాక్ను బలోపేతం చేయడానికి సహాయపడే అదే ఫైల్, మరొకరు టార్గెట్ జాబితాను రూపొందించడానికి కూడా సహాయపడుతుంది.
ఈ సమాచారంతో ఏమి చేయాలి
ఈ డేటాసెట్ను ఒక థ్రెట్ ఇంటెలిజెన్స్ ఫీడ్లాగా పరిగణించండి. దీనిని బుక్మార్క్ చేసి మర్చిపోకండి. మీ ఎన్విరాన్మెంట్పై యాక్టివ్ చెక్ నిర్వహించండి.
మీ బృందాలు ప్రస్తుతం ఉపయోగిస్తున్న ప్రతి ఓపెన్-సోర్స్ AI కాంపోనెంట్ యొక్క జాబితాను సేకరించడం ద్వారా ప్రారంభించండి. స్పష్టంగా కనిపిస్తున్న వాటికి మించి చూడండి. మీ టోకనైజర్లు (tokenizers), మీ ఎవాల్యుయేషన్ స్క్రిప్ట్లు (evaluation scripts), మీ క్వాంటైజేషన్ లైబ్రరీలు (quantization libraries) మరియు మీ కంటైనర్ బేస్ ఇమేజ్లను (container base images) ఏ రిపోజిటరీలు అందిస్తున్నాయో అడగండి. ఆ తర్వాత, ఆ రిపోజిటరీలను Gap Mapలో ట్రాక్ చేయబడిన 16,000 రిపోజిటరీలతో సరిపోల్చండి. ఒకవేళ మీకు సరిపోలికలు కనిపిస్తే, మీ డిపెండెన్సీలు ఓపెన్-సోర్స్ AI ప్రపంచంలో అత్యంత ప్రముఖంగా ఇండెక్స్ చేయబడిన విభాగాలలో ఒకటిగా ఉన్నాయని మీరు నిర్ధారించుకున్నట్లు. ఆ ప్రాముఖ్యత రెండు వైపులా ప్రభావం చూపుతుంది. ఇది సాధారణంగా యాక్టివ్ మెయింటెనెన్స్ మరియు కమ్యూనిటీ పర్యవేక్షణను సూచిస్తుంది, కానీ దాడి చేసేవారు కూడా ఈ రిపోజిటరీలు ఉన్నాయని తెలుసు అని కూడా అర్థం.
తర్వాత, YAML నిర్మాణాన్ని చూడండి. 1,184 ఫైళ్లలో ప్రతి ఒక్కటి ఉత్పత్తులను వాటి ప్రాథమిక రిపోజిటరీలతో ఒక ప్రామాణిక ఫార్మాట్లో అనుసంధానిస్తుంది. మీ డిపెండెన్సీ మేనిఫెస్ట్లు, ప్యాకేజీ జాబితాలు లేదా SBOM ఎగుమతులను ఈ మ్యాపింగ్లతో పోల్చడానికి మీరు ఒక సాధారణ స్క్రిప్ట్ను వ్రాయవచ్చు. మీ ప్రొడక్షన్ స్టాక్ మీకు తెలియని రిపోజిటరీలపై ఆధారపడి ఉందని మీరు కనుగొంటే, మరింత లోతుగా పరిశోధించండి. తెలియని డిపెండెన్సీలే సప్లై చైన్ దాడులు (supply chain attacks) దాగి ఉండే చోటు.
హార్డ్వేర్ లేయర్పై ప్రత్యేక శ్రద్ధ వహించండి. సెక్యూరిటీ టీమ్లు తరచుగా సాఫ్ట్వేర్ మరియు మోడల్స్పై దృష్టి పెడతాయి, అదే సమయంలో డ్రైవర్లు మరియు ఫర్మ్వేర్లను అంతగా పట్టించుకోవు. Gap Map స్పష్టంగా హార్డ్వేర్కు సంబంధించిన రిపోజిటరీలను ఇండెక్స్ చేస్తుంది, ఇది GPU డ్రైవర్ స్టాక్లు, కంపైలర్ టూల్చైన్లు మరియు యాక్సిలరేటర్ ఫర్మ్వేర్లు కూడా కోడ్ అని మీకు గుర్తు చేయాలి. వాటిలో బగ్స్ ఉంటాయి. అవి అప్డేట్ చేయబడతాయి. మరియు అవి పాతవి అయినప్పుడు, అవి మీ పైప్లైన్లో అత్యంత సులభంగా దెబ్బతినే లక్ష్యంగా మారవచ్చు.
చివరగా, ఉపయోగించండి