दो डेमोक्रेटिक सीनेटरों ने बिडेन प्रशासन के नेतृत्व से कृत्रिम बुद्धिमत्ता एल्गोरिदम द्वारा पक्षपातपूर्ण निर्णय लेने के जोखिम को कम करने के लिए और अधिक प्रयास करने को कहा है।
सीनेटर एडवर्ड मार्के, डी-मैसाचुसेट्स, और बहुमत नेता चक शूमर, डीएन.वाई., ने प्रबंधन और बजट निदेशक शालंडा यंग के कार्यालय को एक बयान में बताया। सोमवार का पत्र संघीय एजेंसियों को एल्गोरिदम संबंधी भेदभाव को रोकने के लिए अधिक सुरक्षा उपाय स्थापित करने की आवश्यकता है।
पत्र में लिखा है, “नए सुरक्षा उपायों के बिना, आज के सुपरचार्ज, एआई-संचालित एल्गोरिदम उस भेदभाव को मजबूत करने और बढ़ाने का जोखिम उठाते हैं, जिसे हाशिए पर पड़े समुदाय पहले से ही खराब तरीके से प्रशिक्षित और परीक्षण किए गए एल्गोरिदम के कारण अनुभव करते हैं।” “दांव – और नुकसान – विशेष रूप से उच्च हैं जहां संस्थाएं ‘परिणामी निर्णय’ लेने के लिए एल्गोरिदम का उपयोग करती हैं, जैसे कि किसी व्यक्ति का नौकरी के लिए आवेदन, अस्पताल में उसका इलाज, किसी शैक्षणिक संस्थान में उसका प्रवेश, या बंधक के लिए उसकी योग्यता।”
सीनेटर चाहते हैं कि अपने संचालन में एआई तकनीक का उपयोग करने वाली संघीय एजेंसियों को सुरक्षा उपाय विकसित करने और एआई के इर्द-गिर्द नागरिक अधिकारों की सुरक्षा के लिए क्षमता निर्माण करने की आवश्यकता हो। एल्गोरिदम संबंधी भेदभाव ने पहले भी संघीय ध्यान आकर्षित किया है, खास तौर पर जब आवास और शहरी विकास विभाग चेतावनी जारी की इस वर्ष मई में इस बात पर ध्यान आकर्षित करने के लिए एक कार्यक्रम आयोजित किया जाएगा कि किस प्रकार एआई-सहायता प्राप्त एप्लीकेशन सॉफ्टवेयर आवेदकों के साथ गलत तरीके से भेदभाव कर सकता है।
मार्की और शूमर ने उल्लेख किया कि बिडेन प्रशासन ने भी एल्गोरिदम संबंधी भेदभाव की गुंजाइश को कम करने के लिए “महत्वपूर्ण कदम” उठाए हैं, मुख्य रूप से राष्ट्रपति जो बिडेन के एआई कार्यकारी आदेश द्वारा अनिवार्य मार्गदर्शन के माध्यम से।
उन्होंने कहा कि ओएमबी ने विशेष रूप से इनमें से अधिकांश आदेशों, तथा एजेंसी की नवीनतम एआई नीतियों और मार्गदर्शन, विशेष रूप से “अधिकारों को प्रभावित करने वाली एआई” के संबंध में नेतृत्व किया है।
सीनेटरों ने सिफारिश की है कि ओएमबी एजेंसी के प्रमुख एआई अधिकारियों को नागरिक स्वतंत्रता के लिए एआई एल्गोरिदम के खतरों को कम करने के लिए पर्याप्त संसाधन और विशेषज्ञता प्रदान करे, और उन एजेंसियों में नागरिक अधिकार कार्यालय स्थापित करे और उन्हें वित्तपोषित करे जो निर्णय लेने में एआई का उपयोग कर रहे हैं, जहां ऐसे कार्यालय वर्तमान में मौजूद नहीं हैं।
सांसदों ने लिखा, “इन नए कार्यालयों में – मौजूदा नागरिक अधिकार कार्यालयों के साथ-साथ – प्रौद्योगिकीविदों और एल्गोरिदमिक भेदभाव के विशेषज्ञों को नियुक्त किया जाना चाहिए, जिनकी नौकरी की जिम्मेदारियों में एल्गोरिदमिक पूर्वाग्रह और भेदभाव को कम करना और नागरिक अधिकार हितधारकों और प्रभावित आबादी तक सक्रिय और निरंतर पहुंच की सुविधा प्रदान करना शामिल है।”
एल्गोरिदम-आधारित नुकसान को कम करने पर ध्यान केंद्रित करने के लिए बढ़े हुए मार्गदर्शन और कार्यबल के अलावा, सीनेटरों ने ओएमबी से यह सबूत देने के लिए कहा कि संघीय सरकारी सेवाओं के ग्राहक एआई-संचालित एल्गोरिदम का उपयोग करने से बाहर निकल सकते हैं, एक विकल्प जो एआई-संचालित एल्गोरिदम के साथ देखा जाता है। बायोमेट्रिक्स प्रौद्योगिकी.