এআই শিল্পের নৈতিক গণনার বছর

২০১২ সালে গভীর স্নায়ুবহুল নেটওয়ার্কগুলি বিশ্বের সবচেয়ে গুরুত্বপূর্ণ চিত্র-স্বীকৃতি প্রতিযোগিতা জেতার পর থেকে কৃত্রিম বুদ্ধিমত্তা কী প্রকাশ করতে পারে তা নিয়ে সবাই আগ্রহী। তবে নতুন এআই কৌশল এবং অ্যাপ্লিকেশন বিকাশের প্রতিযোগিতায়, সম্ভাব্য নেতিবাচক প্রভাবগুলি একটি পশ্চাদপসরণ করেছিল।

আমরা এখন এআই নীতিশাস্ত্র সম্পর্কে আরও সচেতনতার দিকে পরিবর্তন দেখছি। 2018 সালে, এআই বিকাশকারীরা তাদের সৃষ্টির সম্ভাব্য বিধি সম্পর্কে আরও সচেতন হয়েছেন became অনেক প্রকৌশলী, গবেষক এবং বিকাশকারী স্পষ্ট জানিয়ে দিয়েছিলেন যে তারা নির্দোষ মানুষের জীবনকে ক্ষতিগ্রস্ত বা ক্ষতিগ্রস্থ করে এমন প্রযুক্তি তৈরি করবে না এবং তারা তাদের সংস্থাগুলি রেখেছিল।

আইন প্রয়োগে মুখের স্বীকৃতি

অতীতে, মুখের-স্বীকৃতি অ্যাপ্লিকেশনগুলি তৈরি করা ছিল কঠোর, উত্স-নিবিড় এবং ত্রুটি-প্রবণ। তবে কম্পিউটার দর্শনে অগ্রগতির সাথে - এআই-এর উপসেট যা কম্পিউটারগুলিকে চিত্র এবং ভিডিওর বিষয়বস্তু সনাক্ত করতে দেয় fac মুখের-স্বীকৃতি অ্যাপ্লিকেশন তৈরি করা আরও সহজ হয়ে যায় এবং সবার নাগালের মধ্যে।

মাইক্রোসফ্ট, অ্যামাজন এবং আইবিএম এর মতো বড় প্রযুক্তি সংস্থা ক্লাউড-ভিত্তিক পরিষেবা সরবরাহ করা শুরু করেছিল যা কোনও বিকাশকারীকে তাদের সফ্টওয়্যারটিতে মুখের স্বীকৃতি প্রযুক্তি সংহত করতে সক্ষম করে। এটি পরিচয় সুরক্ষা এবং প্রমাণীকরণ, স্মার্ট হোম সুরক্ষা এবং খুচরা যেমন বিভিন্ন ডোমেইনে অনেকগুলি নতুন ব্যবহারের কেস এবং অ্যাপ্লিকেশন আনলক করে। তবে গোপনীয়তা অধিকারকর্মীরা অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ প্রকাশ করেছেন।

মে 2018 সালে, আমেরিকান সিভিল লিবার্টিজ ইউনিয়ন প্রকাশ করেছে যে অ্যামাজন আইন প্রয়োগকারী এবং সরকারী এজেন্সিগুলিতে রিগনিশন, একটি রিয়েল-টাইম ভিডিও-অ্যানালিটিক্স প্রযুক্তি, বিপণন করছে। এসিএলইউ অনুসারে, নজরদারি ভিডিও ফিডে কমপক্ষে তিনটি রাজ্যের পুলিশ মুখের স্বীকৃতির জন্য রিকগনিশন ব্যবহার করছিল।

"স্বীকৃতি দিয়ে, সরকার এখন কারও পরিচয় সনাক্তকরণ এবং ট্র্যাকিং স্বয়ংক্রিয় করতে একটি সিস্টেম তৈরি করতে পারে example উদাহরণস্বরূপ, যদি পুলিশ বডি ক্যামেরাগুলি মুখের স্বীকৃতি দিয়ে সাজানো থাকে তবে অফিসারদের স্বচ্ছতা এবং জবাবদিহিতার উদ্দেশ্যে চিহ্নিত ডিভাইসগুলি নজরদারি মেশিনগুলিতে আরও রূপান্তরিত করতে পারে যার লক্ষ্য ছিল imed জনসাধারণ, "ACLU সতর্ক করেছে। "গণ নজরদারি স্বয়ংক্রিয় করে, রিকগনিশানের মতো মুখের স্বীকৃতি ব্যবস্থাগুলি এই স্বাধীনতাকে হুমকির মুখে ফেলেছে, বর্তমান রাজনৈতিক জলবায়ুতে অন্যায়ভাবে লক্ষ্যবস্তু সম্প্রদায়ের জন্য একটি বিশেষ হুমকির কারণ হয়ে দাঁড়িয়েছে। একবার এর মতো শক্তিশালী নজরদারি সিস্টেমগুলি নির্মিত এবং মোতায়েন করা হলে, ক্ষতিটিকে পূর্বাবস্থায় ফিরিয়ে আনা অত্যন্ত কঠিন হবে ।"

এসিএলইউর উদ্বেগগুলি অ্যামাজন কর্মচারীদের দ্বারা প্রতিধ্বনিত হয়েছিল, যিনি জুনে সংস্থার প্রধান নির্বাহী কর্মকর্তা জেফ বেজোসকে একটি চিঠি লিখেছিলেন এবং আইন প্রয়োগকারীদের কাছে তিনি রেকগনিশন বিক্রি বন্ধ করার দাবি করেছিলেন। চিঠিতে লেখা হয়েছে, "আমাদের সংস্থা নজরদারি ব্যবসায় না থাকা উচিত; পুলিশিংয়ের ব্যবসায়ে আমাদের উচিত না; প্রান্তিক জনগোষ্ঠীর উপর নজরদারি ও নির্যাতনকারীদের সমর্থন করার ব্যবসায়ের মধ্যে আমাদের উচিত হবে না, " চিঠিতে লেখা হয়েছিল।

অক্টোবরে, একজন অজ্ঞাত অ্যামাজন স্টাফার প্রকাশ করেছেন যে কমপক্ষে ৪50০ জন কর্মচারী আরেকটি চিঠিতে স্বাক্ষর করেছিলেন যাতে বেজোস এবং অন্যান্য নির্বাহীদের পুলিশকে রেজিগনিশন বিক্রি বন্ধ করতে বলা হয়েছিল। "আমরা আমাদের সম্প্রদায়ের ব্যয় করে শক্তিশালী গ্রাহকদের সংযোজন থেকে লাভ করতে পারি না; আমরা আমাদের ব্যবসায়ের মানবিক মূল্য থেকে চোখ এড়াতে পারি না। আমরা নিঃশব্দে মানুষকে নিপীড়ন ও হত্যার জন্য প্রযুক্তি তৈরি করব না, তা আমাদের দেশে হোক বা অন্য দেশে, "এটা বলেছে।

গুগলের সামরিক এআই প্রকল্পের ফল আউট

আমাজন এই অভ্যন্তরীণ প্রতিক্রিয়া মোকাবেলা করার সময়, গুগল মার্কিন সেনাবাহিনীর জন্য এআই বিকাশের একটি চুক্তি হিসাবে প্রকল্প মাভেনকে ডেকে এনে একই ধরনের লড়াইয়ের সম্মুখীন হয়েছিল।

গুগল প্রতিরক্ষা বিভাগকে কম্পিউটার-দৃষ্টি প্রযুক্তি তৈরি করতে সহায়তা করেছে যা ড্রোন ভিডিও ফুটেজ প্রক্রিয়া করবে। প্রতিদিন ড্রোন দ্বারা রেকর্ড করা ভিডিও ফুটেজের পরিমাণটি মানব বিশ্লেষকদের পর্যালোচনা করার জন্য খুব বেশি ছিল এবং পেন্টাগন প্রক্রিয়াটির অংশটি স্বয়ংক্রিয় করতে চেয়েছিল।

কার্যটির বিতর্কিত প্রকৃতির স্বীকৃতি স্বীকার করে গুগলের এক মুখপাত্র শর্ত রেখেছিলেন যে এটি ভিডিও ফিডে অবজেক্টগুলি সনাক্ত করার জন্য এটির মেশিন-লার্নিং প্ল্যাটফর্ম টেনসরফ্লো কেবলমাত্র এপিআই সরবরাহ করছে। গুগলও জোর দিয়েছিল যে এটি তার প্রযুক্তির নৈতিক দিকগুলি সমাধান করার জন্য নীতি ও সুরক্ষার বিকাশ করছে।

তবে প্রকল্প মাভেন গুগল কর্মীদের সাথে ভালভাবে বসেনি well যার মধ্যে কয়েক ডজন ইঞ্জিনিয়ার, শীঘ্রই সিইও সুন্দর পিচাইকে একটি খোলা চিঠি স্বাক্ষর করেছে যাতে এই প্রোগ্রামটি সমাপ্ত করার আহ্বান জানানো হয়।

"আমরা বিশ্বাস করি যে গুগল যুদ্ধের ব্যবসায় না হওয়া উচিত, " চিঠিটি পড়ে। এটি সংস্থাটিকে "খসড়া প্রকাশ, প্রচার এবং একটি স্পষ্ট নীতি প্রয়োগ করে বলেছে যে গুগল বা এর ঠিকাদাররা কখনও যুদ্ধযুদ্ধ প্রযুক্তি তৈরি করবে না।"

গুগল কর্মীরা হুঁশিয়ারিও দিয়েছিল যে তাদের নিয়োগকর্তা এর খ্যাতি এবং ভবিষ্যতে প্রতিভার প্রতিযোগিতার দক্ষতাকে হুমকির মধ্যে ফেলেছে। "আমরা আমাদের প্রযুক্তিগুলির নৈতিক দায়িত্ব তৃতীয় পক্ষের কাছে আউটসোর্স করতে পারি না, " গুগলরা জোর দিয়েছিল।

এর অল্প সময়ের মধ্যেই, 90 জন শিক্ষাবিদ এবং গবেষকদের স্বাক্ষরিত একটি আবেদনে সামরিক প্রযুক্তি সম্পর্কিত কাজ বন্ধ করার জন্য গুগলের শীর্ষ নির্বাহীদের প্রতি আহ্বান জানানো হয়েছে। স্বাক্ষরকারীরা সতর্ক করে দিয়েছিল যে গুগলের কাজটি "স্বয়ংক্রিয় টার্গেট স্বীকৃতি এবং স্বায়ত্তশাসিত অস্ত্র সিস্টেমগুলির" জন্য মঞ্চস্থ করবে। তারা এই হুঁশিয়ারিও দিয়েছিল যে প্রযুক্তিটি বিকাশের সাথে সাথে তারা "মানুষের তদারকি বা অর্থবহ মানবিক নিয়ন্ত্রণ ছাড়াই স্বায়ত্তশাসিত ড্রোনকে স্বয়ংক্রিয়ভাবে হত্যা করার অনুমতি থেকে কিছুটা দূরে দাঁড়িয়ে থাকবে।"

উত্তেজনা বাড়ার সাথে সাথে গুগলের বেশ কয়েকটি কর্মচারী এর প্রতিবাদে পদত্যাগ করেছেন।

প্রযুক্তি নেতারা কীভাবে প্রতিক্রিয়া জানিয়েছেন

চাপের মুখে গুগল জুন মাসে ঘোষণা করেছিল যে ২০১৮ সালে মেয়াদ শেষ হওয়ার পরে প্রকল্প মাভেন সম্পর্কিত প্রতিরক্ষা বিভাগের সাথে এটি চুক্তি নবায়ন করবে না।

একটি ব্লগ পোস্টে, সিইও সুন্দর পিচাই (নীচের চিত্রে) নীতিগত নীতিগুলির একটি সেট ঘোষণা করেছেন যা এআই প্রযুক্তির সংস্থার বিকাশ ও বিক্রয় পরিচালনা করবে। পিচাইয়ের মতে, সংস্থাটি এখন থেকে সামগ্রিকভাবে সমাজের ভালোর জন্য এমন প্রকল্পগুলি বিবেচনা করবে এবং এআইয়ের বিকাশ এড়াবে যা বিদ্যমান অন্যায় পক্ষপাতদুদের জোরদার করেছে বা জননিরাপত্তাকে সুরক্ষিত করেছে।

পিচাই আরও স্পষ্ট করে বলেছিলেন যে তাঁর সংস্থা মানবাধিকারের নিয়ম লঙ্ঘনকারী প্রযুক্তিগুলিতে কাজ করবে না।

রেজগনিশন নিয়ে ক্ষোভের কারণে অ্যামাজনের বেজোস কম ফাজিলেন। অক্টোবরে সান ফ্রান্সিসকোতে একটি প্রযুক্তি সম্মেলনে বেজোস বলেছিলেন, "আমরা ডিওডির সমর্থন অব্যাহত রাখছি এবং আমি মনে করি আমাদের হওয়া উচিত।" "সিনিয়র নেতৃত্বের অন্যতম কাজ হ'ল যথাযথ সিদ্ধান্ত নেওয়া, যদিও তা জনপ্রিয় না হয়।"

বেজোসও প্রযুক্তি সম্প্রদায়ের সামরিক বাহিনীকে সমর্থন করার প্রয়োজনীয়তার উপর জোর দিয়েছিলেন। তিনি বলেন, "বড় বড় প্রযুক্তি সংস্থাগুলি যদি ডিওডের দিকে ফিরে যেতে চান, তবে এই দেশটি সমস্যায় পড়তে চলেছে।"

মাইক্রোসফ্টের প্রেসিডেন্ট ব্র্যাড স্মিথ, যার সংস্থা আইসিইর সাথে কাজ করার কারণে সমালোচনার মুখোমুখি হয়েছিল, জুলাই মাসে একটি ব্লগ পোস্ট প্রকাশ করেছিল যাতে তিনি সরকারী সংস্থাগুলির কাছে সংবেদনশীল প্রযুক্তি বিক্রির ক্ষেত্রে একটি পরিমাপ পদ্ধতির আহ্বান জানান। যদিও স্মিথ আইন প্রয়োগকারী ও সামরিক বাহিনীর কাছে মুখের স্বীকৃতি পরিষেবা বিক্রয়কে অস্বীকার করেন নি, তিনি প্রযুক্তি খাতে আরও ভাল নিয়ন্ত্রণ ও স্বচ্ছতার প্রয়োজনীয়তার উপর জোর দিয়েছিলেন।

• এমআইটি এআই নীতিশাস্ত্র অধ্যয়নের জন্য প্রোগ্রামে B 1 বিলিয়ন ডলার ব্যয় করতে এমআইটি এআই নীতিশাস্ত্র অধ্যয়ন করতে প্রোগ্রামে 1 বিলিয়ন ডলার ব্যয় করতে পারে
• এআই কি সত্যিই আমাদের ভাষায় কথা বলে? এআই কি সত্যিই আমাদের ভাষায় কথা বলে?
• চীনের অনির্বচনীয় এআই কারখানাটি ভেঙে চীনের অবিরাম এআই কারখানাটি ভেঙে ফেলা হচ্ছে

"আমরা কংগ্রেসে নির্বাচিত প্রতিনিধিদের কাছে এই নতুন প্রযুক্তিটি মূল্যায়ন করার প্রয়োজনীয় সরঞ্জামগুলি পেয়েছি, যার সমস্ত বিভ্রান্তি রয়েছে। আমরা একটি সংবিধানের চেক এবং ভারসাম্য থেকে উপকৃত হয়েছি যা মোমবাতির যুগ থেকে কৃত্রিম বুদ্ধিমত্তার যুগে আমাদের দেখেছে As স্মিথ লিখেছেন, অতীতে বহুবার, আমাদের নিশ্চিত করা দরকার যে নতুন আবিষ্কারগুলি আইনের শাসনের অনুধাবন করে আমাদের গণতান্ত্রিক স্বাধীনতাকে পরিবেশন করে।

2018 সালে, ঘাতক রোবট এবং গণ বেকারত্বের দূরবর্তী হুমকিগুলি এআইয়ের আরও তাত্ক্ষণিক নৈতিকতা এবং সামাজিক প্রভাব সম্পর্কে উদ্বেগের কারণ দিয়েছে। বিভিন্ন উপায়ে, এই উন্নয়নগুলি ইঙ্গিত করে যে শিল্প পরিপক্ক হচ্ছে, কারণ এআই অ্যালগরিদমগুলি সমালোচনামূলক কাজে আরও বিশিষ্ট হয়ে ওঠে। কিন্তু যেহেতু অ্যালগরিদম এবং অটোমেশন আমাদের প্রতিদিনের জীবনে আরও বেশি জড়িত হয়ে উঠবে, তত বেশি বিতর্ক দেখা দেবে।