మీరు ప్రొడక్షన్లోకి పంపే ప్రతి కోడ్ లైన్, ఒక అల్గారిథమ్ ఎలా ప్రవర్తించాలో నేర్పిస్తుంది. ఆ ప్రవర్తన బయట ప్రపంచంపై ప్రభావం చూపుతుంది. ఎవరి లోన్ ఆమోదించబడాలి, ఏ మెడికల్ స్కాన్కు ప్రాధాన్యత ఇవ్వాలి మరియు వినియోగదారుని ఫీడ్లో ఏ కంటెంట్ నింపాలి అనేది అది నిర్ణయిస్తుంది. ఒక డెవలపర్గా, మీరు కేవలం ఫీచర్లను మాత్రమే రూపొందించడం లేదు. ఈ వ్యవస్థలు మానవ జీవితాలతో ఎలా పరస్పర చర్య జరుపుతాయో మీరు రూపొందిస్తున్నారు.
ఆ బాధ్యత కేవలం పని చేసే సాఫ్ట్వేర్ను అందించడం కంటే చాలా లోతైనది. సాంకేతికతను నిర్మించడం మాత్రమే సరిపోదు. మీరు దానిని బాధ్యతాయుతంగా నిర్మించాలి. నైతిక అల్గారిథమ్లు కేవలం బెంచ్మార్క్లలో బాగా పనిచేయడమే కాకుండా, హానిని నిరోధిస్తాయి మరియు కాలక్రమేణా వాటిని ఉపయోగించే ప్రజల నుండి నమ్మకాన్ని పొందుతాయి. ఆ నమ్మకం చాలా సున్నితమైనది. ట్రైనింగ్ పైప్లైన్లో చేసిన ఒక చిన్న అజాగ్రత్త లేదా అస్పష్టమైన ప్రైవసీ సెట్టింగ్ దానిని దెబ్బతీయవచ్చు. మీ కోడ్ సమాజాన్ని రూపొందిస్తుంది. మీ నిర్ణయాలు చాలా కీలకం.
మీరు నిర్మించే దాని వెనుక ఉన్న బాధ్యత
డెవలపర్లు AI భవిష్యత్తును నిర్మిస్తారు. ఈ వ్యవస్థలు ఎలా ప్రవర్తించాలో మీరు నిర్ణయిస్తారు. మీరు డీబగ్గింగ్ మోడ్లో ఉండి, loss curves మరియు latency metricsలను చూస్తున్నప్పుడు ఆ శక్తిని మర్చిపోవడం సులభం. కానీ మీరు ట్రైన్ చేసే మోడల్స్ మౌలిక సదుపాయాలుగా (infrastructure) మారుతాయి. అవి నియామక నిర్ణయాలు, క్రెడిట్ స్కోరింగ్, నేరపూరిత రిస్క్ అంచనాలు మరియు విద్యాపరమైన ప్లేస్మెంట్లను ప్రభావితం చేస్తాయి.
దీనిని స్ట్రక్చరల్ ఇంజనీరింగ్తో పోల్చండి. ఒక వంతెన నిర్మించే వ్యక్తి, కేవలం మెటీరియల్స్ అందుబాటులో ఉన్నాయి మరియు లెక్కలు సరిగ్గా ఉన్నాయి అని చెప్పలేడు. ఆ డిజైన్ వాస్తవ ప్రపంచ ఒత్తిడిని తట్టుకుంటుందా, దానిపై నడిచే ప్రజలు సురక్షితంగా ఉన్నారా అని వారు అడగాలి. ఇక్కడ కూడా అదే ప్రమాణం వర్తిస్తుంది. నియంత్రిత ప్రయోగంలో (controlled experiment) ఖచ్చితంగా పనిచేసే అల్గారిథమ్ కూడా, వాస్తవ మానవ పరిస్థితులను ఎదుర్కొన్నప్పుడు నష్టాన్ని కలిగించవచ్చు. ఆ నష్టాన్ని నివారించడం అనేది ఉద్యోగంలో ఒక భాగం. అది తర్వాత ఆలోచించాల్సిన విషయం కాదు, లేదా లీగల్ టీమ్ సమస్య కాదు. అది ఆ వృత్తికి సంబంధించిన ప్రధాన అంశం.
డేటా ప్రైవసీ మరియు సెక్యూరిటీ
మీరు మోడల్కు అందించే డేటాతోనే ప్రారంభించండి. డేటా ప్రైవసీ మరియు సెక్యూరిటీ అనేది ప్రొడక్ట్ విడుదల చేసిన తర్వాత పూర్తి చేయాల్సిన కేవలం కంప్లయన్స్ చెక్బాక్స్లు మాత్రమే కాదు. అవి మీరు ప్రారంభంలోనే తీసుకునే ఆర్కిటెక్చరల్ నిర్ణయాలు.
డేటా సేకరణ సమయంలో కఠినమైన ప్రశ్నలు అడగండి. మోడల్ను మెరుగుపరచడానికి మీకు నిజంగా వినియోగదారుల ముడి సంభాషణలను (raw conversations) నిల్వ చేయాలా, లేదా గుర్తింపులను తొలగించి (strip identifiers) సేకరించిన నమూనాలను (aggregated patterns) ఉపయోగించవచ్చా? మీరు సున్నితమైన ఇన్పుట్లను ఎంత కాలం ఉంచుతారు? డేటా తొలగింపు అభ్యర్థనలను (deletion requests) గౌరవించేలా మీరు ఏదైనా మార్గాన్ని రూపొందించారా, లేదా ఎవరూ పర్యవేక్షించని బకెట్లో డేటా అలాగే ఉండిపోతుందా?
AI వ్యవస్థల సెక్యూరిటీకి దాని స్వంత ప్రత్యేక రిస్క్లు ఉన్నాయి. Prompt injection attacks మోడల్ను దాని రక్షణ చర్యలను విస్మరించేలా మోసం చేయగలవు. మోడల్ ట్రైనింగ్ సమయంలో overfit అయితే, training data extraction attacks ద్వారా ప్రైవేట్ సమాచారాన్ని వెలికితీయవచ్చు. మీరు ఒక ప్రత్యర్థిలా (adversary) ఆలోచించాలి. డేటాను at rest మరియు in transit దశల్లో ఎన్క్రిప్ట్ చేయండి. ట్రైనింగ్ డేటాసెట్లకు యాక్సెస్ను పరిమితం చేయండి. ప్రొడక్షన్ మోడల్లను ఎవరు క్వెరీ చేయగలరో ఆడిట్ చేయండి మరియు వారు ఏమి అడుగుతున్నారో లాగ్ చేయండి. ఇవి సాధారణ పనులు కావచ్చు, కానీ ఇవి వినియోగదారు నమ్మకానికి మరియు డేటా బ్రీచ్ గురించి వచ్చే వార్తలకు మధ్య ఉన్న అడ్డుకట్ట.
ట్రైనింగ్ సెట్స్లో బయాస్ నివారణ
మోడల్స్ మీరు చూపించే నమూనాలను నేర్చుకుంటాయి. ట్రైనింగ్ డేటా చారిత్రక అసమానతలను ప్రతిబింబిస్తే, మోడల్ ఆ అసమానతలను భయంకరమైన వేగంతో మరియు స్థాయిలో ఆటోమేట్ చేస్తుంది. ట్రైనింగ్ సెట్స్లో బయాస్ నివారణ అనేది మొదటి డేటా సేకరణ నుండి చివరి డిప్లాయ్మెంట్ వరకు నిరంతర నిఘాను కోరుతుంది.
అంటే కేవలం మొత్తం ఖచ్చితత్వాన్ని (aggregate accuracy) చూడటం మాత్రమే కాదు. ఒక మెడికల్ డయాగ్నోస్టిక్ మోడల్ మొత్తం మీద మంచి స్కోరు సాధించినప్పటికీ, ముదురు రంగు చర్మం (darker skin) ఉన్న చిత్రాల విషయంలో నిరంతరం విఫలం కావచ్చు. ట్రైనింగ్ డేటా దశాబ్దాల కాలం నాటి ఏకరీతి ప్రమోషన్ చరిత్రల నుండి వస్తే, ఒక హైరింగ్ టూల్ పాత పక్షపాతాలను పునరావృతం చేయవచ్చు. మీరు డెమోగ్రాఫిక్ రిప్రజెంటేషన్ను ఆడిట్ చేయాలి. కేవలం మొత్తం జనాభాపైనే కాకుండా, వివిధ ఉప సమూహాల (subgroups) పై కూడా ఎర్రర్ రేట్లను పరీక్షించాలి. సబ్జెక్టివ్ లేబుల్స్ అందరూ ఒకే కోణంలో రాకుండా ఉండటానికి వైవిధ్యమైన అనోటేషన్ టీమ్లను నియమించుకోండి.
బయాస్ నివారణ అనేది సందర్భం (context) గురించి కూడా. ఉత్తర అమెరికా మూలాల నుండి వచ్చిన ఇంగ్లీష్ టెక్స్ట్పై శిక్షణ పొందిన మోడల్, ముంబై లేదా లాగోస్ యొక్క జాతీయ పదాల (idioms) విషయంలో ఇబ్బంది పడుతుంది. అది ఆర్కిటెక్చర్లో లోపం కాదు, అది డేటాసెట్లో లోపం. మూలాలను విస్తరించడం, తక్కువ ప్రాతినిధ్యం ఉన్న డేటాకు ప్రాధాన్యత ఇవ్వడం మరియు విడుదల చేయడానికి ముందు adversarial testsలను నిర్వహించడం ద్వారా దీనిని సరిచేయండి. ఫెయిర్నెస్ (fairness) ను మీరు ట్రాక్ చేసే, ప్రాధాన్యత ఇచ్చే మరియు పరిష్కరించే ఒక బగ్ (bug) లాగా పరిగణించండి.
నిర్ణయం తీసుకోవడంలో పారదర్శకత
ప్రజలు తాము ఒక యంత్రంతో మాట్లాడుతున్నామని తెలుసుకోవడానికి అర్హులు, మరియు ఆ యంత్రం వారి గురించి ఏదైనా నిర్ణయం తీసుకున్నప్పుడు దానికి వివరణ కూడా వారికి లభించాలి. నిర్ణయం తీసుకోవడంలో పారదర్శకత అంటే, లోపల ఏం జరుగుతుందో వినియోగదారులకు చెప్పేంత గౌరవాన్ని వారికి ఇవ్వడం.
డెవలపర్ల కోసం, ఇది ఆచరణాత్మక ఉత్పత్తి ఎంపికలుగా మారుతుంది. ఒక AI లోన్ను నిరాకరిస్తే, దరఖాస్తుదారు కేవలం సాధారణ తిరస్కరణ సందేశాన్ని కాకుండా, ఆ నిరాకరణ వెనుక ఉన్న కీలక అంశాలను చూడగలగాలి. ఒక కంటెంట్ మోడరేషన్ సిస్టమ్ పోస్ట్ను తొలగిస్తే, ఏ నియమం ఉల్లంఘించబడిందో వినియోగదారుడు అర్థం చేసుకోవాలి. ఉద్దేశించిన వినియోగ సందర్భాలు, తెలిసిన పరిమితులు మరియు వివిధ వర్గాల మధ్య పనితీరును వివరించే మోడల్ కార్డ్స్ను ప్రచురించండి. కీలకమైన నిర్ణయాలు ఎలా తీసుకున్నారో ఆడిటర్లు గుర్తించేలా లాగింగ్ను రూపొందించండి.
పారదర్శకత అంటే స్క్రీన్పై ముడి ప్రాబబిలిటీ వెయిట్స్ను కుమ్మరించడం కాదు. అది నిజాయితీగా సమాచారాన్ని అందించే ఇంటర్ఫేస్లను రూపొందించడం గురించి. ఒక స్పందన AI ద్వారా రూపొందించబడిందా లేదా అనేది వినియోగదారులు ఊహించాల్సిన అవసరం లేదు. సిస్టమ్ ఏదైనా తప్పు చేసినప్పుడు వారు ఒక బ్లాక్ బాక్స్తో పోరాడాల్సిన అవసరం ఉండకూడదు.
మోడల్ అవుట్పుట్ల కోసం జవాబుదారీతనం
ప్రశ్నించలేని మోడల్ అనేది నమ్మలేని మోడల్. మోడల్ అవుట్పుట్ల కోసం జవాబుదారీతనం అంటే, సిస్టమ్ విఫలమైనప్పుడు ఎక్కడో ఒకచోట ఎవరో ఒకరు బాధ్యత వహించగలగడం.
పరిణామం కలిగించే నిర్ణయాల కోసం మానవ పర్యవేక్షణను ఏర్పాటు చేయండి. ఒక అల్గారిథమ్ లావాదేవీని మోసపూరితమైనదిగా గుర్తించవచ్చు, కానీ ఆ ఫ్రీజ్ ప్రక్రియ జరగకముందే ఒక వ్యక్తి దానిని సమీక్షించాలి. ఒక AI చట్టపరమైన భాషను రూపొందించవచ్చు, కానీ ఒక అర్హత కలిగిన నిపుణుడు దానిని ఆమోదించాలి. వినియోగదారులు లోపాలను నివేదించడానికి మరియు మీరు సవరణ రేట్లను కొలవడానికి వీలుగా ఫీడ్బ్యాక్ లూప్స్ను సృష్టించండి. ఎప్పుడు... కోసం స్పష్టమైన ఎస్కలేషన్ మార్గాలను ఏర్పాటు చేయండి.