কৃত্রিম বুদ্ধিমত্তার পক্ষপাতদুষ্ট সমস্যা আছে এবং এটি আমাদের দোষ

২০১ In সালে, বোস্টন বিশ্ববিদ্যালয় এবং মাইক্রোসফ্টের গবেষকরা কৃত্রিম বুদ্ধিমত্তা অ্যালগরিদম নিয়ে কাজ করছিলেন যখন তারা প্রযুক্তি ব্যবহার করে বর্ণবাদী এবং যৌনতাবাদী প্রবণতাগুলি আবিষ্কার করেন যা আমরা প্রতিদিন ব্যবহার করি এমন কিছু জনপ্রিয় এবং সমালোচনামূলক পরিষেবাদির অন্তর্ভুক্ত। উদ্ঘাটন প্রচলিত জ্ঞানের বিরুদ্ধে গিয়েছিল যে কৃত্রিম বুদ্ধিমত্তা আমরা মানুষ যে লিঙ্গ, জাতিগত এবং সাংস্কৃতিক কুসংস্কারগুলি ভোগ করি না তার দ্বারা ক্ষতিগ্রস্থ হয় না।

গবেষকরা শব্দ-এম্বেডিং অ্যালগরিদমগুলি অধ্যয়ন করার সময় এই আবিষ্কারটি করেছিলেন, এক ধরণের এআই যা পাঠ্যের বড় আকারের বিশ্লেষণ করে বিভিন্ন শব্দের মধ্যে পারস্পরিক সম্পর্ক এবং সংযুক্তি খুঁজে পায়। উদাহরণস্বরূপ, একটি প্রশিক্ষিত শব্দ-এম্বেডিং অ্যালগরিদম বুঝতে পারে যে ফুলের জন্য শব্দগুলি সুখকর অনুভূতির সাথে ঘনিষ্ঠভাবে জড়িত। আরও ব্যবহারিক স্তরে, শব্দ এম্বেডিং বুঝতে পারে যে "কম্পিউটার প্রোগ্রামিং" শব্দটি "সি ++, " "জাভাস্ক্রিপ্ট" এবং "অবজেক্ট-ভিত্তিক বিশ্লেষণ এবং ডিজাইনের সাথে" জড়িত। যখন পুনঃসূচনা-স্ক্যানিং অ্যাপ্লিকেশনটিতে সংহত করা হয়, এই কার্যকারিতাটি নিয়োগকারীদের কম পরিশ্রম সহ যোগ্য প্রার্থীদের সন্ধান করতে দেয়। অনুসন্ধান ইঞ্জিনগুলিতে এটি অনুসন্ধান শব্দটির সাথে শব্দার্থগতভাবে সম্পর্কিত সামগ্রী এনে আরও ভাল ফলাফল সরবরাহ করতে পারে।

বিইউ এবং মাইক্রোসফ্ট গবেষকরা আবিষ্কার করেছেন যে শব্দ-এম্বেডিং অ্যালগরিদমগুলিতে সমস্যাযুক্ত পক্ষপাত রয়েছে, যেমন male যেমন পুরুষ কম্পিউটারের সাথে "কম্পিউটার প্রোগ্রামার" এবং মহিলা গৃহকর্মীদের সাথে "হোমমেকার" সংযুক্ত করা। তাদের অনুসন্ধানগুলি, যা তারা একটি গবেষণামূলক প্রবন্ধে যথাযথভাবে প্রকাশ করেছেন "ম্যান ইজ কম্পিউটার প্রোগ্রামার হিসাবে মহিলা যেমন গৃহকর্মীর কাছে?" এআই নিরপেক্ষতার রূপকথাকে অবজ্ঞা করার এবং অ্যালগরিদমিক পক্ষপাত সম্পর্কে আলোকপাত করার জন্য বেশ কয়েকটি প্রতিবেদনের মধ্যে একটি ছিল, এমন একটি ঘটনা যা অ্যালগরিদমগুলি আমাদের প্রতিদিনের সিদ্ধান্তে ক্রমশ জড়িত হওয়ার কারণে সমালোচনামূলক মাত্রায় পৌঁছে যাচ্ছে।

অ্যালগরিদমিক বায়াস এর উত্স

মেশিন লার্নিং এবং ডিপ-লার্নিং অ্যালগরিদমগুলি প্রায় সমসাময়িক এআই-চালিত সফ্টওয়্যারটি অন্তর্ভুক্ত করে। পূর্বনির্ধারিত এবং যাচাইযোগ্য নিয়মের ভিত্তিতে কাজ করে এমন traditionalতিহ্যবাহী সফ্টওয়্যারের বিপরীতে, গভীর শিক্ষা তার নিজস্ব নিয়ম তৈরি করে এবং উদাহরণস্বরূপ শিখে।

উদাহরণস্বরূপ, গভীর শিক্ষার উপর ভিত্তি করে একটি চিত্র-স্বীকৃতি অ্যাপ্লিকেশন তৈরি করতে, প্রোগ্রামাররা অ্যালগোরিদমকে লেবেলযুক্ত ডেটা খাওয়ানোর মাধ্যমে "প্রশিক্ষণ" দেয়: এই ক্ষেত্রে, ফটোগুলি এতে থাকা সামগ্রীর নামের সাথে ট্যাগযুক্ত। একবার অ্যালগরিদম পর্যাপ্ত উদাহরণ খেয়ে ফেললে এটি একই ধরণের লেবেলযুক্ত ডেটার মধ্যে সাধারণ প্যাটার্নগুলি সংগ্রহ করতে পারে এবং লেবেলযুক্ত নমুনাগুলিকে শ্রেণিবদ্ধ করতে সেই তথ্য ব্যবহার করতে পারে।

এই প্রক্রিয়াটি রুল-ভিত্তিক সফ্টওয়্যার দ্বারা কার্যত অসম্ভব যেগুলি অনেক কার্য সম্পাদন করতে গভীর শিক্ষাকে সক্ষম করে। তবে এর অর্থ ডিপ-লার্নিং সফ্টওয়্যার গোপনীয় বা ছাড়িয়ে যাওয়া পক্ষপাতিত্বের অধিকারী হতে পারে।

"এআই অ্যালগরিদমগুলি সহজাতভাবে পক্ষপাতদুষ্ট নয়, " বলছেন বোস্টন বিশ্ববিদ্যালয়ের বৈদ্যুতিক ও কম্পিউটার প্রকৌশল বিভাগে অধ্যাপনাকারী এবং শব্দ-এম্বেডিং অ্যালগরিদমগুলিতে কাজ করা প্রফেসর ভেঙ্কটেশ সালিগ্রামা। "তাদের মধ্যে নির্বিচারবাদী কার্যকারিতা রয়েছে এবং তারা প্রশিক্ষিত তথ্যে ইতিমধ্যে বিদ্যমান যে কোনও প্রবণতা বেছে নেবে।"

বোস্টন বিশ্ববিদ্যালয়ের গবেষকরা পরীক্ষিত শব্দ-এম্বেডিং অ্যালগরিদমগুলিকে গুগল নিউজ, উইকিপিডিয়া এবং অন্যান্য অনলাইন উত্স থেকে কয়েক হাজার নিবন্ধে প্রশিক্ষণ দেওয়া হয়েছিল যেখানে সামাজিক পক্ষপাত গভীরভাবে এম্বেড করা রয়েছে। উদাহরণ হিসাবে, ব্রো সংস্কৃতিটি প্রযুক্তি শিল্পে আধিপত্য বিস্তার করার কারণে পুরুষের নাম প্রায়শই প্রযুক্তি সম্পর্কিত কাজ নিয়ে আসে that এবং এটি প্রোগ্রামিং এবং সফটওয়্যার ইঞ্জিনিয়ারিংয়ের মতো কাজের সাথে পুরুষদের সংযুক্ত করতে আলগোরিদিমকে পরিচালিত করে।

"অ্যালগরিদমে মানুষের মনের অধিকারকে ভুল থেকে ডান পার্থক্য করার ক্ষমতা নেই, " যোগ দিয়েছেন বিইউয়ের পিএইচডি শেষ বর্ষের শিক্ষার্থী টোলগা বলুকবাসি। মানুষ আমাদের কর্মের নৈতিকতা বিচার করতে পারে, এমনকি যখন আমরা নৈতিক নীতিগুলির বিরুদ্ধে কাজ করার সিদ্ধান্ত নিই। তবে অ্যালগরিদমের জন্য, ডেটা চূড়ান্ত নির্ধারণকারী ফ্যাক্টর।

সালিগ্রামা এবং বলুকবাসি প্রথম এই পক্ষপাতিত্ব সম্পর্কে শঙ্কা উত্থাপন করেননি। আইবিএম, মাইক্রোসফ্ট এবং টরন্টো বিশ্ববিদ্যালয়ের গবেষকরা ২০১১ সালে প্রকাশিত একটি গবেষণাপত্রে অ্যালগরিদমিক বৈষম্য রোধের প্রয়োজনীয়তার উপর গুরুত্বারোপ করেছেন। ততকালীন সময়ে, অ্যালগরিদমিক পক্ষপাত ছিল একটি উদ্বেগজনক উদ্বেগ, এবং গভীর জ্ঞান এখনও মূলধারায় প্রবেশ করতে পারেনি। যদিও বর্তমানে, অ্যালগরিদমিক পক্ষপাত ইতিমধ্যে আমাদের অনেকগুলি কাজের উপর একটি চিহ্ন রেখে যায়, যেমন সংবাদ পড়া, বন্ধু খুঁজে পাওয়া, অনলাইন কেনাকাটা করা এবং নেটফ্লিক্স এবং ইউটিউবে ভিডিও দেখা।

অ্যালগোরিদমিক বায়াস এর প্রভাব

২০১৫ সালে, গুগলকে তার ফটো অ্যাপ্লিকেশনটি দুটি কালো মানুষকে গরিলা হিসাবে ট্যাগ করার পরে অ্যালগরিদমগুলি পাওয়ার পরে ক্ষমা চাইতে হয়েছিল - সম্ভবত কারণ এর প্রশিক্ষণ ডেটাশেটে কালো মানুষের পর্যাপ্ত ছবি নেই। ২০১ 2016 সালে, এআই দ্বারা বিচারিত একটি বিউটি প্রতিযোগিতায় 44 জন বিজয়ের মধ্যে প্রায় সবাই সাদা, কয়েক জন এশিয়ান এবং শুধুমাত্র একজনের গা only় ত্বক ছিল। আবার, কারণটি ছিল যে অ্যালগরিদম বেশিরভাগ সাদা লোকের ছবি নিয়ে প্রশিক্ষিত ছিল।

গুগল ফটো, আপনি সব আপ। আমার বন্ধু গরিলা নয়। pic.twitter.com/SMkMCsNVX4

- জ্যাকিয়ালিনে এখানে খুব একটা সাড়া দিচ্ছেন না। ডিএম (@ জ্যাকায়ালসাইন) জুন 29, 2015

সাম্প্রতিককালে, আইবিএম এবং মাইক্রোসফ্টের ফেস-অ্যানালাইসিস পরিষেবাগুলির একটি পরীক্ষায় দেখা গেছে যে হালকা ত্বকের সাথে পুরুষদের লিঙ্গ সনাক্ত করতে সংস্থাগুলির অ্যালগোরিদমগুলি প্রায় ত্রুটিহীন ছিল কিন্তু অন্ধকার ত্বকযুক্ত মহিলাদের ছবি উপস্থাপন করার সময় প্রায়শই ভুল হয়।

এই ঘটনাগুলি সম্ভবত নগন্য ক্ষতির কারণ হয়ে উঠেছে, আরও গুরুতর ডোমেইনে যেমন স্বাস্থ্যসেবা, আইন প্রয়োগকারী এবং নিয়োগের ক্ষেত্রে এআই অ্যালগরিদম সম্পর্কে একই কথা বলা যায় না। ২০১ In সালে প্রোপাবলিকার তদন্তে দেখা গেছে যে অপরাধীদের মধ্যে পুনঃবিভাজনিত ঝুঁকির মূল্যায়নকারী COMPAS - এআই-চালিত সফ্টওয়্যার রঙের মানুষের বিরুদ্ধে পক্ষপাতদুষ্ট ছিল। আবিষ্কারটি বিশেষত সম্পর্কিত ছিল কারণ কিছু রাজ্যের বিচারকরা কারা মুক্ত থাকেন এবং কারা কারা কারা জেগে থাকেন তা নির্ধারণ করতে COMPAS ব্যবহার করে।

অন্য একটি ক্ষেত্রে, গুগলের বিজ্ঞাপন প্ল্যাটফর্মের একটি গবেষণায়, যা গভীর-শেখার অ্যালগরিদম দ্বারা চালিত হয়েছে, তাতে দেখা গেছে যে মহিলাদের তুলনায় পুরুষদের বেশি বেতনের চাকরির জন্য বিজ্ঞাপন দেখানো হয়েছিল। একটি পৃথক সমীক্ষায় লিঙ্কডইনের চাকরির বিজ্ঞাপনগুলির সাথে একই রকম সমস্যা পাওয়া গেছে। অন্য একজন দেখিয়েছেন যে পক্ষপাতমূলক নিয়োগের অ্যালগরিদম একজন আফ্রিকান-আমেরিকান নামের ব্যক্তির চেয়ে ইউরোপ-আমেরিকান নামের একজনের কাছে সাক্ষাত্কারের আমন্ত্রণটি প্রেরণের 50 শতাংশ বেশি ছিল।

Loanণ অনুমোদন, creditণ রেটিং, এবং বৃত্তির মতো ক্ষেত্রগুলি একই ধরণের হুমকির সম্মুখীন হয়।

এটি কীভাবে সামাজিক পক্ষপাত বাড়িয়ে তুলতে পারে তার কারণে অ্যালগরিদমিক পক্ষপাতিত্ব আরও উদ্বেগজনক। এআই শীতকালীন, মিথ্যাবাদী পক্ষপাত বা পক্ষপাতবিহীন গাণিতিক গণনা এই মায়ার আওতায় মানুষেরা এটিকে প্রশ্নবিদ্ধ না করেই অ্যালগরিদমিক রায়কে বিশ্বাস করতে পারে।

ওয়্যারড ইউকে-র সাথে একটি সাক্ষাত্কারে, এডিনবার্গ নেপিয়ার বিশ্ববিদ্যালয়ের অপরাধতত্ত্বের প্রভাষক অ্যান্ড্রু ওউফ লক্ষ্য করেছিলেন যে পুলিশিংয়ের "সময়-চাপিত, সম্পদ নিবিড়" বিশ্বের আইন প্রয়োগকারী কর্মকর্তাগণ আলগোরিদিমিক সিদ্ধান্তের উপর খুব বেশি নির্ভর করতে পারে। "আমি এমন পরিস্থিতিটি কল্পনা করতে পারি যেখানে কোনও পুলিশ কর্মকর্তা তাদের সিদ্ধান্ত গ্রহণের প্রক্রিয়াগুলির চেয়ে সিস্টেমে বেশি নির্ভর করতে পারেন, " তিনি বলেছিলেন। "আংশিকভাবে এটি এমন হতে পারে যাতে কোনও ভুল হয়ে গেলে আপনি কোনও সিদ্ধান্তকে ন্যায়সঙ্গত করতে পারেন""

পক্ষপাতদুষ্ট অ্যালগরিদমগুলির উপর নির্ভর করা একটি প্রতিক্রিয়ার লুপ তৈরি করে: আমরা এমন সিদ্ধান্ত গ্রহণ করি যা আরও পক্ষপাতমূলক ডেটা তৈরি করে যা ভবিষ্যতে অ্যালগরিদমগুলি বিশ্লেষণ করে প্রশিক্ষণ দেবে।

ফেসবুক এবং টুইটারের মতো সামাজিক মিডিয়া নেটওয়ার্কগুলিতে এই জাতীয় জিনিস ইতিমধ্যে ঘটছে। নিউজ ফিডগুলিতে চলমান অ্যালগরিদমগুলি "ফিল্টার বুদবুদ" তৈরি করে যা ব্যবহারকারীদের পছন্দসমূহ এবং পক্ষপাতদুষ্ট অনুসারে এমন সামগ্রী দেখায়। এটি তাদের বিরোধী দৃষ্টিভঙ্গির প্রতি কম সহনশীল করে তুলতে পারে এবং রাজনৈতিক এবং সামাজিক বিভাজনের মধ্য দিয়ে একটি জোড় চালিয়ে সমাজকে আরও মেরুকরণ করতে পারে।

মাইক্রোসফ্টের সিনিয়র গবেষক জেন ওয়ার্টম্যান ভাউন বলেছেন, "অ্যালগোরিদমিক পক্ষপাতটি যে কোনও গ্রুপকেই সম্ভাব্যভাবে প্রভাবিত করতে পারে।" "ডেটাতে উপস্থাপিত দলগুলি বিশেষত ঝুঁকির মধ্যে থাকতে পারে।"

ইতিমধ্যে পক্ষপাতিত্বের জন্য পরিচিত ডোমেনগুলিতে যেমন মহিলাদের বিরুদ্ধে প্রযুক্তি শিল্পের স্থানীয় বৈষম্য, এআই অ্যালগরিদমগুলি সেই পক্ষপাতদুষ্টিকে আরও বাড়িয়ে তুলতে পারে এবং এমন গোষ্ঠীগুলির আরও প্রান্তিককরণের ফলস্বরূপ হতে পারে যা সঠিকভাবে উপস্থাপিত হয় না।

ওয়ার্টম্যান উল্লেখ করেছেন স্বাস্থ্য আরও একটি সমালোচিত ডোমেন। "যদি চিকিত্সা নির্ণয়ের জন্য ব্যবহৃত একটি মেশিন লার্নিং অ্যালগরিদম এক জনগোষ্ঠীর ডেটা সম্পর্কে প্রশিক্ষণ দেওয়া হয় এবং ফলস্বরূপ, অন্যদের উপর ভাল সম্পাদন করতে ব্যর্থ হয় তবে এটি গুরুতর সমস্যা সৃষ্টি করতে পারে।"

বায়াস আরও সূক্ষ্ম উপায়ে ক্ষতিকারক হতে পারে। "গত বছর আমি আমার মেয়েকে চুল কাটার জন্য নিয়ে যাওয়ার পরিকল্পনা করছিলাম এবং অনুপ্রেরণার জন্য অনলাইনে 'বাচ্চাদের চুল কাটা' ছবিগুলি অনুসন্ধান করার চেষ্টা করছিলাম, " ওয়ার্টম্যান বলেছেন। তবে ফিরে আসা চিত্রগুলি প্রায় সব সাদা শিশু ছিল, প্রধানত সোজা চুল দিয়ে এবং আরও আশ্চর্যের বিষয়, প্রাথমিকভাবে ছেলেরা, তিনি লক্ষ্য করেছিলেন।

বিশেষজ্ঞরা এই ঘটনাকে "প্রতিনিধিত্বমূলক ক্ষতি" বলেছেন: যখন প্রযুক্তি স্টেরিওটাইপগুলিকে শক্তিশালী করে বা নির্দিষ্ট গোষ্ঠীগুলিকে হ্রাস করে। "এই ধরণের পক্ষপাতের সঠিক প্রভাব মাপানো বা পরিমাপ করা কঠিন, তবে এর অর্থ এটি গুরুত্বপূর্ণ নয়, " ওয়ার্টম্যান বলেছেন।

এআই অ্যালগরিদম থেকে বায়াস সরানো হচ্ছে

এআই পক্ষপাতিত্বের ক্রমবর্ধমান সমালোচনামূলক প্রভাবগুলি বিভিন্ন সংস্থা ও সরকারী সংস্থার দৃষ্টি আকর্ষণ করেছে এবং বিভিন্ন ক্ষেত্রে এআইয়ের ব্যবহার সম্পর্কিত নৈতিক ও সামাজিক সমস্যাগুলি সমাধান করার জন্য কিছু ইতিবাচক পদক্ষেপ নেওয়া হচ্ছে।

মাইক্রোসফ্ট, যার পণ্যগুলি এআই অ্যালগরিদমগুলিতে প্রচুর নির্ভর করে, তিন বছর আগে এয়ার (ফেটেইন) ফেয়ারনেস, জবাবদিহিতা, স্বচ্ছতা এবং নৈতিকতা নামে একটি গবেষণা প্রকল্প চালু করেছিল, ব্যবহারকারীদের এআই-চালিত পরিষেবাদির বর্ধিত অন্তর্দৃষ্টি এবং দক্ষতা উপভোগ করতে সক্ষম করার লক্ষ্যে এবং বৈষম্য ছাড়াই পক্ষপাত।

কিছু ক্ষেত্রে, এআই-অ্যাডজাস্টিকেটেড বিউটি প্রতিযোগিতার মতো, কোনও এআই অ্যালগরিদমের পক্ষপাতমূলক আচরণের উত্স সন্ধান করা এবং ফিক্স করা প্রশিক্ষণ ডেটাসেটে ফটোগুলি চেক করা ও পরিবর্তন করা যতটা সহজ be তবে অন্যান্য ক্ষেত্রে যেমন শব্দ-এম্বেডিং অ্যালগরিদম বোস্টন বিশ্ববিদ্যালয়ের গবেষকরা পরীক্ষা করেছেন, পক্ষপাত আরও সূক্ষ্ম উপায়ে প্রশিক্ষণের তথ্যগুলিতে অঙ্কিত হয়।

মাইক্রোসফ্ট গবেষক অ্যাডাম কালাইয়ের সাথে যোগ দেওয়া বিইউ টিম তাদের লিঙ্গ শ্রেণিবদ্ধকরণের ভিত্তিতে শব্দ এম্বেডিংগুলিকে শ্রেণিবদ্ধকরণ এবং সম্ভাব্য পক্ষপাতদুষ্ট উপমাগুলি সনাক্তকরণের একটি পদ্ধতি তৈরি করেছিল। তবে তারা চূড়ান্ত সিদ্ধান্ত নেন নি এবং তথ্য সম্পর্কিত কাজের জন্য অ্যামাজনের অনলাইন মার্কেটপ্লেস মেকানিকাল টার্কে 10 জন দ্বারা সন্দেহভাজন সংঘের প্রত্যেকটি সংস্থা পরিচালনা করবেন, যারা এই সিদ্ধান্তটি সরিয়ে নেবেন কিনা তা স্থির করবেন।

"আমরা প্রক্রিয়াটিতে আমাদের নিজস্ব পক্ষপাতিত্ব inোকাতে চাইনি, " বলেছেন বিইউর অধ্যাপক ও গবেষক সালিগ্রামা। "আমরা কেবল সমস্যাযুক্ত সমিতিগুলি আবিষ্কার করার জন্য সরঞ্জামগুলি সরবরাহ করেছি s মানুষ চূড়ান্ত সিদ্ধান্ত নিয়েছিল।"

আরও সাম্প্রতিক একটি গবেষণাপত্রে, কালাই এবং অন্যান্য গবেষকরা সবার জন্য একই ব্যবস্থা গ্রহণের পরিবর্তে বিভিন্ন গোষ্ঠীর শ্রেণিবদ্ধ করার জন্য পৃথক অ্যালগরিদম ব্যবহারের প্রস্তাব করেছিলেন। এই পদ্ধতিটি ডোমেনগুলিতে কার্যকর প্রমাণ করতে পারে যেখানে বিদ্যমান ডেটা নির্দিষ্ট গোষ্ঠীর পক্ষে ইতিমধ্যে পক্ষপাতদুষ্ট। উদাহরণস্বরূপ, প্রোগ্রামিং কাজের জন্য মহিলা আবেদনকারীদের মূল্যায়ন করতে পারে এমন অ্যালগরিদমগুলি বিদ্যমান গোষ্ঠীগুলির দ্বারা গভীরভাবে প্রভাবিত ডেটার বিস্তৃত সেট ব্যবহার করার পরিবর্তে সেই গোষ্ঠীর পক্ষে সবচেয়ে উপযুক্ত এমন মানদণ্ড ব্যবহার করবে।

মাইক্রোসফ্টের ওয়ার্টম্যান এআই শিল্পে অন্তর্ভুক্তিকে অ্যালগরিদমের পক্ষপাতিত্বের বিরুদ্ধে লড়াই করার প্রয়োজনীয় পদক্ষেপ হিসাবে দেখছেন। "আমরা যদি আমাদের এআই সিস্টেমগুলি কেবলমাত্র জনসংখ্যার ভিত্তিতে নয় বরং সকলের জন্য উপযোগী হতে চাই, তবে সংস্থাগুলিদের এআই-তে কাজ করার জন্য বিভিন্ন দল নিয়োগ করা দরকার, " তিনি বলেছিলেন।

২০০ In সালে ওয়ার্টম্যান উইমেন ইন মেশিন লার্নিং (ডাব্লুএমএল) খুঁজে পেয়েছিল, যা একটি বাত্সরিক কর্মশালা অনুষ্ঠিত করে যেখানে এআই শিল্পে পড়াশোনা করা এবং কর্মরত মহিলারা দেখা করতে পারে, নেটওয়ার্ক করতে পারে, ধারণা বিনিময় করতে পারে এবং শিল্প ও একাডেমিয়ার সিনিয়র মহিলাদের সাথে প্যানেল আলোচনায় অংশ নিতে পারে। অনুরূপ প্রচেষ্টা হ'ল নতুন ব্ল্যাক ইন এআই ওয়ার্কশপ, মাইক্রোসফ্টের আরও এক গবেষক টিমনিট গেব্রু প্রতিষ্ঠিত, যার লক্ষ্য এআইতে আরও বিচিত্র প্রতিভা গড়ে তোলার লক্ষ্য।

বোস্টন বিশ্ববিদ্যালয়ের বলুকবাসি এআই অ্যালগরিদমগুলি যেভাবে সমস্যাগুলি সমাধান করেন তাতে পরিবর্তনের প্রস্তাব দেয়। "অ্যালগরিদম একটি নিয়ম সেট নির্বাচন করবে যা তাদের উদ্দেশ্যকে সর্বাধিক করে তোলে given প্রদত্ত ইনপুট আউটপুট জোড়াগুলির জন্য একই সিদ্ধান্তে পৌঁছানোর অনেকগুলি উপায় থাকতে পারে, " তিনি বলেছেন। "মানুষের জন্য একাধিক পছন্দের পরীক্ষার উদাহরণ নিন One ভুল চিন্তা প্রক্রিয়া নিয়ে কেউ সঠিক উত্তরে পৌঁছে যেতে পারে তবে তবুও একই স্কোরটি পাওয়া যায় this এই প্রভাবটি হ্রাস করার জন্য একটি উচ্চ-মানের পরীক্ষা করা উচিত, কেবলমাত্র লোকেরা যাতে সত্যিকারের ক্ষেত্রেই অনুমতি দেয় সঠিক স্কোরগুলি পেতে সাবজেক্টটি জেনে নিন।সমাজ প্রতিবন্ধকতা সম্পর্কে সচেতন অ্যালগরিদম তৈরি করা এই উদাহরণের একটি অ্যানালগ হিসাবে দেখা যেতে পারে (যদিও এটি সঠিক নয়), যেখানে একটি ভুল নিয়ম সেট শেখার উদ্দেশ্যটিতে শাস্তি দেওয়া হয়। এটি একটি চলমান এবং চ্যালেঞ্জিং গবেষণা is বিষয়।"

এআই এর অস্বচ্ছতা ন্যায্যতা জটিলতা

এআই অ্যালগরিদমসকে আরও সুন্দর করার পথে দাঁড়িয়ে থাকা আরেকটি চ্যালেঞ্জ হ'ল "ব্ল্যাক বক্স" ঘটনা। অনেক ক্ষেত্রে, সংস্থাগুলি তাদের অ্যালগোরিদমগুলি খুব মজাদারভাবে রক্ষা করে: উদাহরণস্বরূপ, অপরাধ-ভবিষ্যদ্বাণীকারী সফটওয়্যার, COMPAS প্রস্তুতকারক নর্থপয়েন্ট ইঙ্ক তার মালিকানাধীন অ্যালগরিদম প্রকাশ করতে অস্বীকার করেছে। কমপাসের অভ্যন্তরীণ কাজগুলিতে আগ্রহী একমাত্র ব্যক্তি হলেন এর প্রোগ্রামাররা, বিচারকরা রায় পাস করার জন্য এটি ব্যবহার করেন না।

কর্পোরেট গোপনীয়তা বাদে, এআই অ্যালগরিদমগুলি কখনও কখনও এতটাই সংশ্লেষিত হয়ে যায় যে তাদের সিদ্ধান্তগুলির পিছনে কারণগুলি এবং প্রক্রিয়াগুলি এমনকি তাদের নির্মাতাদেরও অন্তর্ভুক্ত করে। যুক্তরাজ্যে, ডারহাম পুলিশ সন্দেহভাজনদের কম, মধ্যপন্থী, বা দু'বছরের মধ্যে আরও অপরাধ করার ঝুঁকি রয়েছে কিনা তা নির্ধারণের জন্য এআই সিস্টেম হার্ট ব্যবহার করে। তবে হার্টের একটি 2017 একাডেমিক পর্যালোচনা পর্যবেক্ষণ করেছে যে "অস্বচ্ছতা এড়ানো কঠিন বলে মনে হয়"। এটি আংশিকভাবে কারণ সিস্টেমটি ব্যবহার করে নিছক পরিমাণ এবং বিভিন্ন ডেটা, যা তার সিদ্ধান্তগুলির পিছনে কারণগুলি বিশ্লেষণ করা কঠিন করে তোলে। "এই বিবরণগুলি নিখরচায় জনসাধারণের জন্য উপলব্ধ করা যেতে পারে তবে পুরোপুরি বোঝার জন্য প্রচুর সময় এবং প্রচেষ্টা প্রয়োজন হবে, " কাগজটি বলে।

মেশিন-লার্নিং অ্যালগরিদমগুলির আউটপুট মানের ত্যাগ না করেই আচরণকে আরও বোধগম্য করার উদ্যোগ নিয়েছে এমন গ্লাসবক্স চালু করেছে এমন গুগল সহ এআইয়ের স্বচ্ছতা আনার লক্ষ্যে বেশ কয়েকটি সংস্থা ও সংস্থা নেতৃত্ব দিচ্ছে। ডিফেন্স অ্যাডভান্সড রিসার্চ প্রজেক্টস এজেন্সি (ডিআরপিএ), যা সামরিক ক্ষেত্রে এআই ব্যবহারের তদারকি করে, এআই অ্যালগরিদমগুলিকে তাদের সিদ্ধান্তগুলি ব্যাখ্যা করতে সক্ষম করার জন্য অর্থ ব্যয় করে।

অন্য ক্ষেত্রে পক্ষপাতদুষ্ট মোকাবেলায় মানুষের রায়ই মূল ভূমিকা রাখবে। হার্টের অ্যালগরিদমগুলিতে বিদ্যমান জাতিগত এবং সামাজিক মানবীয় পক্ষপাতীদের বাধা দেওয়া থেকে বিরত রাখতে ডারহাম কনস্টাবুলারি তার কর্মীদের সদস্যদের অচেতন পক্ষপাত সম্পর্কে সচেতনতা সেশন সরবরাহ করেছিল। জাতিগত বৈশিষ্ট্যের মতো ডেটা পয়েন্টগুলি অপসারণের জন্য পুলিশ বাহিনীও পদক্ষেপ নিয়েছে, যা পক্ষপাতদুষ্ট সিদ্ধান্তের ভিত্তি তৈরি করতে পারে।

মানবিক দায়বদ্ধতা

ভিন্ন দৃষ্টিকোণ থেকে, এআই অ্যালগরিদমগুলি আমাদের নিজস্ব পক্ষপাত এবং পূর্বসীমা প্রতিফলিত করার সুযোগ প্রদান করতে পারে। "বিশ্ব পক্ষপাতদুষ্ট, dataতিহাসিক তথ্য পক্ষপাতদুষ্ট, সুতরাং অবাক হওয়ার মতো বিষয় নয় যে আমরা পক্ষপাতদুষ্ট ফলাফল পেয়েছি, " অক্সফোর্ড ইউনিভার্সিটির ডেটা নীতিশাস্ত্র এবং অ্যালগরিদমের গবেষক স্যান্ড্রা ওয়াচার গার্ডিয়ানকে বলেছেন।

ওয়াচটার লন্ডনের অ্যালান ট্যুরিং ইনস্টিটিউট এবং অক্সফোর্ড বিশ্ববিদ্যালয় থেকে প্রাপ্ত একটি গবেষক দলের অংশ, যা এআই অ্যালগরিদম দ্বারা সম্ভাব্য বৈষম্য তদন্ত করার জন্য প্রবিধান এবং সংস্থাগুলির প্রতি আহ্বান জানিয়ে একটি প্রবন্ধ প্রকাশ করেছে।

দ্য গার্ডিয়ানের সাথে কথা বললে, বাথ বিশ্ববিদ্যালয়ের কম্পিউটার বিজ্ঞানী এবং অ্যালগরিদমিক পক্ষপাত সংক্রান্ত গবেষণামূলক গবেষণার সহকারী জোয়ান্না ব্রায়সন বলেছিলেন, "অনেক লোক বলছে যে এআই কুসংস্কারযুক্ত। এটি আমাদের দেখিয়ে যাচ্ছে 'কুসংস্কারযুক্ত এবং এআই এটি শিখছে।"

২০১ 2016 সালে মাইক্রোসফ্ট টেই নামের একটি টুইটার বট চালু করেছিল যা মানুষের কাছ থেকে শেখার এবং স্মার্ট কথোপকথনে জড়িত থাকার কথা ছিল। তবে টয়ের প্রবর্তনের 24 ঘন্টার মধ্যে, মাইক্রোসফ্ট বর্ণবাদী মন্তব্য করা শুরু করার পরে এটি বন্ধ করে দিতে হয়েছিল, যা এটি টুইটার ব্যবহারকারীদের সাথে তার কথোপকথন থেকে তুলে নিয়েছিল। সম্ভবত এটি পূর্ববর্তী সময় যে আমরা মানুষ অ্যালগরিদমিক পক্ষপাত ঘটনাটির প্রয়োগ এবং প্রচারে আমাদের নিজস্ব ভূমিকা স্বীকার করি এবং এর প্রভাবগুলি পূর্বাবস্থায় সামষ্টিক পদক্ষেপ গ্রহণ করি।

"এটি একটি খুব জটিল কাজ, তবে এটি আমাদের দায়িত্ব হিসাবে সমাজের উচিত যা করা উচিত নয়, " ওয়াচটার বলেছেন।