నియామకం యొక్క భవిష్యత్తు స్వయంచాలకంగా ఉన్నట్లు అనిపిస్తుంది. దరఖాస్తుదారులు ఇప్పుడు వేల సంఖ్యలో జాబ్ లిస్టింగ్‌లకు దరఖాస్తు చేసుకోవడానికి కృత్రిమ మేధస్సు బాట్‌లను ఉపయోగించవచ్చు. మరియు కంపెనీలు – ప్రక్రియ యొక్క సుదీర్ఘ స్వయంచాలక భాగాలను కలిగి ఉన్నాయి – ఇప్పుడు ఉద్యోగ వివరణలను వ్రాయడానికి, రెజ్యూమ్‌లను మరియు స్క్రీన్ దరఖాస్తుదారులను పరీక్షించడానికి తాజా AI పెద్ద భాషా నమూనాలను అమలు చేస్తున్నాయి. ఫార్చ్యూన్ 500 కంపెనీలలో 99% మంది ఇప్పుడు తమ నియామక ప్రక్రియలో కొన్ని రకాల ఆటోమేషన్‌లను ఉపయోగిస్తున్నారని అంచనా.
ఈ ఆటోమేషన్ సామర్థ్యాన్ని పెంచుతుంది మరియు కొంతమంది ఇది నియామక ప్రక్రియను తక్కువ వివక్షకు గురిచేస్తుందని పేర్కొన్నారు. కానీ కొత్త యూనివర్శిటీ ఆఫ్ వాషింగ్టన్ పరిశోధనలో మూడు స్టేట్ ఆఫ్ ది ఆర్ట్ లార్జ్ లాంగ్వేజ్ మోడల్స్ లేదా LLMలు రెజ్యూమ్‌లకు ఎలా ర్యాంక్ ఇచ్చాయి అనేదానిలో ముఖ్యమైన జాతి, లింగం మరియు ఖండన పక్షపాతాన్ని కనుగొంది. పరిశోధకులు 550కి పైగా వాస్తవ-ప్రపంచ రెజ్యూమ్‌లలో తెలుపు మరియు నల్లజాతి పురుషులు మరియు స్త్రీలతో అనుబంధించబడిన వివిధ పేర్లను కనుగొన్నారు మరియు LLMలు 85% సమయం తెలుపు-సంబంధిత పేర్లను ఇష్టపడతారని, స్త్రీ-సంబంధిత పేర్లు 11% మాత్రమే మరియు నల్లజాతి పురుషులను ఎన్నడూ ఇష్టపడలేదని కనుగొన్నారు. – తెలుపు పురుష-సంబంధిత పేర్లపై అనుబంధిత పేర్లు.
బృందం తన పరిశోధనను అక్టోబర్ 22న శాన్ జోస్‌లో జరిగిన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్, ఎథిక్స్ మరియు సొసైటీపై AAAI/ACM కాన్ఫరెన్స్‌లో సమర్పించింది.
“నియామక ప్రక్రియల కోసం AI సాధనాల ఉపయోగం ఇప్పటికే విస్తృతంగా ఉంది మరియు ఇది మనం నియంత్రించగలిగే దానికంటే వేగంగా విస్తరిస్తోంది” అని ఇన్ఫర్మేషన్ స్కూల్‌లోని UW డాక్టోరల్ అభ్యర్థి ప్రధాన రచయిత కైరా విల్సన్ అన్నారు. “ప్రస్తుతం, న్యూయార్క్ నగర చట్టం వెలుపల, ఈ వ్యవస్థల నియంత్రణ, స్వతంత్ర ఆడిట్ లేదు, కాబట్టి అవి జాతి మరియు లింగం వంటి రక్షిత లక్షణాల ఆధారంగా పక్షపాతంతో మరియు వివక్ష చూపుతున్నాయో లేదో మాకు తెలియదు. మరియు వీటిలో చాలా ఎక్కువ ఎందుకంటే సిస్టమ్‌లు యాజమాన్యం, వాస్తవ-ప్రపంచ వ్యవస్థలను అంచనా వేయడం ద్వారా అవి ఎలా పని చేస్తాయో విశ్లేషించడానికి మేము పరిమితం చేసాము.”
రెజ్యూమ్‌లను క్రమబద్ధీకరించేటప్పుడు ChatGPT జాతి మరియు వైకల్య పక్షపాతాన్ని ప్రదర్శిస్తుందని మునుపటి అధ్యయనాలు కనుగొన్నాయి. కానీ ఆ అధ్యయనాలు చాలా తక్కువగా ఉన్నాయి – కేవలం ఒక రెజ్యూమ్ లేదా నాలుగు జాబ్ లిస్టింగ్‌లను మాత్రమే ఉపయోగిస్తాయి – మరియు ChatGPT యొక్క AI మోడల్ “బ్లాక్ బాక్స్” అని పిలవబడేది, ఇది విశ్లేషణ కోసం ఎంపికలను పరిమితం చేస్తుంది.
UW బృందం ఓపెన్ సోర్స్ LLMలను అధ్యయనం చేయాలని మరియు స్కేల్‌లో చేయాలని కోరుకుంది. వారు జాతి మరియు లింగం అంతటా ఖండనను కూడా పరిశోధించాలని కోరుకున్నారు.
పరిశోధకులు రెజ్యూమ్‌లలో తెలుపు మరియు నల్లజాతి పురుషులు మరియు స్త్రీలతో అనుబంధించబడిన 120 మొదటి పేర్లను మార్చారు. వారు మూడు వేర్వేరు కంపెనీల నుండి మూడు అత్యాధునిక LLMలను ఉపయోగించారు – Mistral AI, సేల్స్‌ఫోర్స్ మరియు సందర్భోచిత AI – 500 కంటే ఎక్కువ వాస్తవ-ప్రపంచ ఉద్యోగ జాబితాలకు దరఖాస్తుదారులుగా రెజ్యూమ్‌లను ర్యాంక్ చేయడానికి. ఇవి మానవ వనరుల కార్మికుడు, ఇంజనీర్ మరియు ఉపాధ్యాయునితో సహా తొమ్మిది వృత్తులలో విస్తరించి ఉన్నాయి. ఇది రెజ్యూమ్‌లు మరియు ఉద్యోగ వివరణల మధ్య మూడు మిలియన్ల కంటే ఎక్కువ పోలికలు.
ఈ బృందం గణాంక ప్రాముఖ్యత కోసం ఈ నాలుగు జనాభాలో సిస్టమ్ యొక్క సిఫార్సులను విశ్లేషించింది. సిస్టమ్ ప్రాధాన్యతనిస్తుంది:
- తెలుపు-సంబంధిత పేర్లు 85% సమయం మరియు నలుపు-సంబంధిత పేర్లు 9% సమయం;
- మరియు పురుష-సంబంధిత పేర్లు 52% సమయం మరియు స్త్రీ-సంబంధిత పేర్లు 11% సమయం.
బృందం ఖండన గుర్తింపులను కూడా చూసింది మరియు పక్షపాతం యొక్క నమూనాలు కేవలం జాతి మరియు లింగ గుర్తింపుల మొత్తాలు కాదని కనుగొన్నారు. ఉదాహరణకు, అధ్యయనం సాధారణంగా తెల్లని స్త్రీ మరియు సాధారణంగా తెల్లని మగ పేర్ల మధ్య అతి చిన్న అసమానతను చూపించింది. మరియు వ్యవస్థలు తెల్ల మగ పేర్ల కంటే నల్లజాతి మగ పేర్లను ఎన్నడూ ఇష్టపడలేదు. అయినప్పటికీ వారు సాధారణంగా నల్లజాతి స్త్రీ పేర్లను 67% మరియు సాధారణంగా నల్లజాతి పురుష పేర్లకు 15% సమయం ప్రాధాన్యత ఇచ్చారు.
“నల్లజాతి పురుషులకు వ్యతిరేకంగా ఇది నిజంగా ప్రత్యేకమైన హానిని మేము కనుగొన్నాము, ఇది జాతి లేదా లింగాన్ని ఒంటరిగా చూడటం నుండి తప్పనిసరిగా కనిపించదు” అని విల్సన్ చెప్పారు. “ఇంటర్‌సెక్షనాలిటీ అనేది ప్రస్తుతం కాలిఫోర్నియాలో మాత్రమే రక్షిత లక్షణం, కానీ AI సిస్టమ్ యొక్క సరసతను నిర్ధారించడానికి గుర్తింపుల యొక్క బహుమితీయ కలయికలను చూడటం చాలా ముఖ్యమైనది. ఇది న్యాయంగా లేకుంటే, మేము దానిని డాక్యుమెంట్ చేయాలి కాబట్టి దాన్ని మెరుగుపరచవచ్చు.”
భవిష్యత్ పరిశోధనలు పక్షపాతాన్ని అన్వేషించాలని మరియు విధానాలతో AI సిస్టమ్‌లను సమలేఖనం చేసే హాని తగ్గింపు విధానాలను అన్వేషించాలని బృందం పేర్కొంది. ఇది వైకల్యం మరియు వయస్సు వంటి ఇతర రక్షిత లక్షణాలను కూడా పరిశోధించాలి, అలాగే మరింత జాతి మరియు లింగ గుర్తింపులను చూడటం – ఖండన గుర్తింపులపై దృష్టి పెట్టడం.
“ఇప్పుడు ఉత్పాదక AI వ్యవస్థలు విస్తృతంగా అందుబాటులో ఉన్నాయి, దాదాపు ఎవరైనా తమ స్వంత మరియు ఇతర వ్యక్తుల జీవితాలను ప్రభావితం చేసే కీలకమైన పనుల కోసం ఈ నమూనాలను ఉపయోగించవచ్చు, ఉదాహరణకు నియామకం” అని iSchool లో UW అసిస్టెంట్ ప్రొఫెసర్ అయిన సీనియర్ రచయిత ఐలిన్ కాలిస్కాన్ అన్నారు. “చిన్న కంపెనీలు తమ నియామక ప్రక్రియలను మరింత సమర్థవంతంగా చేయడానికి ఈ వ్యవస్థలను ఉపయోగించుకోవచ్చు, ఉదాహరణకు, కానీ ఇది చాలా ప్రమాదాలతో వస్తుంది. ఈ వ్యవస్థలు పక్షపాతంతో ఉన్నాయని ప్రజలు అర్థం చేసుకోవాలి. మరియు వివక్ష మరియు అసమానతలను నియమించడం వంటి కేటాయింపు నష్టాలకు మించి, ఈ పక్షపాతం జాతి మరియు లింగం మరియు సమాజం గురించి మన అవగాహనలను గణనీయంగా రూపొందిస్తుంది.”
kywi@uw.edu మరియు కాలిస్కాన్ వద్ద aylin@uw.edu .
