দুর্বল লোকেদের স্কোর করা: যখন প্রযুক্তি সম্প্রদায়ের বিরুদ্ধে পরিণত হয়

• লেখক:
• লেখকের নাম

  কোয়ান্টামরুন দূরদর্শিতা
• ফেব্রুয়ারী 14, 2024

অন্তর্দৃষ্টি সারসংক্ষেপ

কৃত্রিম বুদ্ধিমত্তা (AI) এর কর্মসংস্থান এবং স্বাস্থ্যসেবার মতো সেক্টরে ক্রমবর্ধমান ভূমিকা দুর্বল সম্প্রদায়গুলিকে পক্ষপাতিত্ব এবং অনৈতিক স্কোরিং অনুশীলনের কাছে প্রকাশ করতে পারে। গুরুত্বপূর্ণ এলাকায় AI-এর উপর ক্রমবর্ধমান নির্ভরতা বৈষম্য প্রতিরোধে বৈচিত্র্যময় ডেটা এবং কঠোর প্রবিধানের প্রয়োজনীয়তার উপর জোর দেয়। এই প্রবণতাটি স্বচ্ছতার জন্য ক্রমবর্ধমান চাহিদা, এআই অ্যাপ্লিকেশনে ন্যায্যতা এবং প্রযুক্তি শাসনের জন্য জনসাধারণের এবং সরকারী পদ্ধতির পরিবর্তনকে তুলে ধরে।

দুর্বল মানুষ প্রসঙ্গ স্কোরিং

সাম্প্রতিক বছরগুলিতে, AI বিভিন্ন ক্ষেত্রে, বিশেষ করে কর্মসংস্থান, স্বাস্থ্যসেবা এবং পুলিশ প্রয়োগে ক্রমবর্ধমানভাবে ব্যবহৃত হচ্ছে। 2020 সাল নাগাদ, মার্কিন যুক্তরাষ্ট্রে নিয়োগকারী ম্যানেজারদের অর্ধেকেরও বেশি নিয়োগের ক্ষেত্রে অ্যালগরিদমিক সফ্টওয়্যার এবং AI সরঞ্জামগুলি অন্তর্ভুক্ত করছিলেন, একটি প্রবণতা যা ক্রমাগত বৃদ্ধি পাচ্ছে। এই প্ল্যাটফর্ম এবং সিস্টেমগুলিকে শক্তি প্রদানকারী অ্যালগরিদমগুলি প্রোফাইল থেকে স্পষ্ট তথ্য, ব্যবহারকারীর ক্রিয়াগুলি থেকে অনুমান করা অন্তর্নিহিত ডেটা এবং আচরণগত বিশ্লেষণ সহ বিভিন্ন ডেটা প্রকারের সুবিধা দেয়৷ যাইহোক, ডেটা এবং অ্যালগরিদমিক সিদ্ধান্ত গ্রহণের এই জটিল ইন্টারপ্লে পক্ষপাতের ঝুঁকির পরিচয় দেয়। উদাহরণস্বরূপ, মহিলারা প্রায়শই জীবনবৃত্তান্তে তাদের দক্ষতাকে কম উপস্থাপন করে এবং নির্দিষ্ট লিঙ্গভিত্তিক ভাষা প্রভাবিত করতে পারে কিভাবে একটি অ্যালগরিদম একজন প্রার্থীর উপযুক্ততা মূল্যায়ন করে। 

স্বাস্থ্যসেবায়, যদি এই অ্যালগরিদমগুলিকে প্রশিক্ষণের জন্য ব্যবহৃত ডেটা বৈচিত্র্যময় না হয়, তবে এটি ভুল রোগ নির্ণয় বা অনুপযুক্ত চিকিত্সার সুপারিশের দিকে পরিচালিত করতে পারে, বিশেষ করে নিম্নবর্ণিত গোষ্ঠীগুলির জন্য। আরেকটি উদ্বেগ গোপনীয়তা এবং ডেটা সুরক্ষা, কারণ স্বাস্থ্যসেবা ডেটা অত্যন্ত সংবেদনশীল। পুলিশিংয়ে, AI বিভিন্ন ফর্মে ব্যবহার করা হচ্ছে, যেমন ভবিষ্যদ্বাণীমূলক পুলিশিং অ্যালগরিদম, মুখের স্বীকৃতি প্রযুক্তি এবং নজরদারি ব্যবস্থা। বেশ কয়েকটি গবেষণায় হাইলাইট করা হয়েছে যে রঙের লোকেরা প্রায়শই এই মুখের শনাক্তকরণ সিস্টেমগুলি দ্বারা ভুলভাবে সনাক্ত করা হয়।

এই চ্যালেঞ্জ মোকাবেলা করার জন্য নিয়ন্ত্রক ল্যান্ডস্কেপ বিকশিত হচ্ছে। 2022 সালের অ্যালগরিদমিক অ্যাকাউন্টিবিলিটি অ্যাক্টের মতো আইনী প্রচেষ্টা, কোম্পানিগুলিকে গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণের ক্ষেত্রে AI সিস্টেমের প্রভাব মূল্যায়ন পরিচালনা করার প্রয়োজন করে অ্যালগরিদমিক পক্ষপাত কমানো। যাইহোক, এআই-চালিত নিয়োগ প্রক্রিয়ায় পক্ষপাতের সমস্যা সমাধানের জন্য একাধিক স্টেকহোল্ডারদের সমন্বিত প্রচেষ্টা প্রয়োজন। প্রযুক্তি বিকাশকারীদের অবশ্যই তাদের অ্যালগরিদমগুলিতে স্বচ্ছতা এবং ন্যায্যতা নিশ্চিত করতে হবে, সংস্থাগুলিকে এই সরঞ্জামগুলির সীমাবদ্ধতাগুলিকে স্বীকার করতে হবে এবং সমাধান করতে হবে এবং নীতিনির্ধারকদের এমন নিয়মগুলি প্রয়োগ করতে হবে যা বৈষম্যমূলক অনুশীলনের বিরুদ্ধে সুরক্ষা দেয়৷ 

বিঘ্নিত প্রভাব

দুর্বল ব্যক্তিদের স্কোর করার দীর্ঘমেয়াদী প্রভাব, প্রধানত ক্রেডিট স্কোরিং এবং অ্যালগরিদমিক নিয়োগের মতো সিস্টেমের মাধ্যমে, সামাজিক গতিশীলতা এবং অর্থনৈতিক বৈষম্যকে উল্লেখযোগ্যভাবে প্রভাবিত করতে পারে। ক্রেডিট স্কোর, আর্থিক বিশ্বাসযোগ্যতা নির্ধারণের জন্য অপরিহার্য, প্রায়ই নিম্ন আর্থ-সামাজিক পটভূমির লোকেদের অসুবিধায় ফেলে। সময়ের সাথে সাথে, এটি একটি চক্রকে স্থায়ী করে যেখানে সুবিধাবঞ্চিত লোকেরা প্রয়োজনীয় আর্থিক পরিষেবাগুলি অ্যাক্সেস করার ক্ষেত্রে আরও চ্যালেঞ্জের মুখোমুখি হয়।

পক্ষপাতদুষ্ট স্কোরিং সিস্টেমের প্রভাব বৃহত্তর সামাজিক বর্জনের দিকে নিয়ে যেতে পারে, যা আবাসন, কর্মসংস্থান এবং প্রয়োজনীয় পরিষেবাগুলিতে অ্যাক্সেসকে প্রভাবিত করে। নিম্ন স্কোরযুক্ত ব্যক্তিরা বা পক্ষপাতদুষ্ট অ্যালগরিদম দ্বারা অন্যায়ভাবে মূল্যায়ন করা ব্যক্তিদের আবাসন বা চাকরি সুরক্ষিত করা কঠিন হতে পারে, বিদ্যমান সামাজিক বৈষম্যকে শক্তিশালী করে। এই দৃশ্যকল্পটি কেবলমাত্র সংকীর্ণ ডেটা পয়েন্টের উপর নির্ভর না করে একজন ব্যক্তির জীবনের বিস্তৃত প্রেক্ষাপট বিবেচনা করে এমন আরও ন্যায়সঙ্গত স্কোরিং সিস্টেমের প্রয়োজনীয়তার উপর আন্ডারস্কোর করে।

কোম্পানিগুলো, বিশেষ করে যারা আর্থিক এবং নিয়োগ খাতে, তারা অসাবধানতাবশত এই পক্ষপাতদুষ্ট ব্যবস্থার উপর নির্ভর করে সামাজিক স্তরবিন্যাসে অবদান রাখতে পারে। ইতিমধ্যে, সরকারগুলি দুর্বল জনসংখ্যাকে রক্ষা করার জন্য প্রযুক্তিগত অগ্রগতির সাথে তাল মিলিয়ে নিয়মগুলি নিশ্চিত করার চ্যালেঞ্জের মুখোমুখি। তাদের স্কোরিং সিস্টেমে স্বচ্ছতা এবং জবাবদিহিতা প্রচার করতে হবে বা নাগরিকদের সরকারী প্রতিষ্ঠান এবং প্রোগ্রামের উপর আস্থা হারানোর ঝুঁকি রয়েছে।

দুর্বল লোকেদের স্কোর করার প্রভাব

দুর্বল ব্যক্তিদের স্কোর করার বিস্তৃত প্রভাব অন্তর্ভুক্ত হতে পারে: 

• বর্ধিত ক্রেডিট স্কোরিং মডেলগুলি বিকল্প ডেটা অন্তর্ভুক্ত করে, যা ঐতিহাসিকভাবে অনুন্নত সম্প্রদায়ের জন্য আর্থিক পণ্যগুলিতে উন্নত অ্যাক্সেসের দিকে পরিচালিত করে।
• সরকারগুলি এআই-ভিত্তিক নিয়োগের সরঞ্জামগুলির উপর কঠোর প্রবিধান প্রয়োগ করে, শিল্প জুড়ে ন্যায্য কর্মসংস্থান অনুশীলন নিশ্চিত করে।
• পক্ষপাতদুষ্ট এআই-এর বিরুদ্ধে জনসচেতনতা এবং সমর্থন বৃদ্ধি, যার ফলে আরও স্বচ্ছ এবং জবাবদিহিমূলক প্রযুক্তিগত স্থাপনা।
• কোম্পানিগুলি তাদের নিয়োগের কৌশলগুলি সংশোধন করে, সম্ভাব্য অসচেতন পক্ষপাত হ্রাস করে এবং কর্মক্ষেত্রে বৈচিত্র্যের প্রচার করে।
• নৈতিক এআই এবং অ্যালগরিদম নিরীক্ষার উপর দৃষ্টি নিবদ্ধ করে নতুন শিল্প এবং কাজের ভূমিকার বিকাশ, চাকরির বাজার বৈচিত্র্যকরণে অবদান রাখে।
• পক্ষপাতিত্ব এবং ন্যায্যতা মোকাবেলায় AI গবেষণায় বর্ধিত বিনিয়োগ, প্রযুক্তিগত অগ্রগতি পরিচালনা করে যা সমাজের বিস্তৃত বর্ণালীকে উপকৃত করে।

বিবেচনা করার প্রশ্ন

• কীভাবে এআই অ্যালগরিদমগুলিতে আরও বৈচিত্র্যময় ডেটাসেটগুলিকে একীভূত করা আমাদের সামাজিক ন্যায্যতা এবং সমতার বোঝার পুনর্নির্মাণ করতে পারে?
• কীভাবে ব্যক্তিরা তাদের দৈনন্দিন জীবন এবং কর্মক্ষেত্রে নৈতিক এআই অনুশীলনের বিকাশে সক্রিয়ভাবে অবদান রাখতে বা প্রভাবিত করতে পারে?