কীভাবে ওপেনের জাল সংবাদ সতর্কতা প্রকৃত জাল সংবাদকে ট্রিগার করেছিল

অলাভজনক এআই গবেষণা ল্যাব ওপেনএআইআই যখন জিপিটি -২ নামে একটি অত্যাধুনিক পাঠ্য-উত্পাদক এআই প্রবর্তন করেছিল তখন গত মাসে এআই অ্যাপোক্যালাইপস আতঙ্কের কারণ হয়েছিল। কিন্তু এটি জিপিটি -২ এর সাফল্য উদযাপন করার সময়, ওপেনএআইআই ঘোষণা করেছে যে এটি তার এআই মডেলটি জনগণের কাছে প্রকাশ করবে না, এই ভয়ে যে ভুল হাতে, বিভ্রান্তিকর সংবাদ নিবন্ধ তৈরি করা, অনলাইনে অন্যকে নকল করা যেমন দূষিত উদ্দেশ্যে জিপিটি -২ ব্যবহার করা যেতে পারে ing, এবং সামাজিক মিডিয়াতে ভুয়া সামগ্রী উত্পাদন স্বয়ংক্রিয়করণ ting

অনুমানযোগ্যভাবে, ওপেনএআইয়ের ঘোষণায় চাঞ্চল্যকর সংবাদকাহিনীগুলির বন্যা তৈরি হয়েছিল, তবে যে কোনও উন্নত প্রযুক্তিকে অস্ত্র প্রয়োগ করা যেতে পারে, তবুও এআই পাঠ্য প্রজন্মকে আয়ত্ত করার আগে এখনও বহুদূর আছে। তারপরেও, ভুয়া-সংবাদ সংকট তৈরি করতে এটি পাঠ্য-উত্পন্ন এআইয়ের চেয়ে বেশি লাগে। এই আলোকে, ওপেনএআইএর সতর্কতাগুলি আচ্ছন্ন হয়ে পড়েছিল।

এআই এবং মানব ভাষা

কম্পিউটারগুলি languageতিহাসিকভাবে মানব ভাষা পরিচালনা করতে লড়াই করেছে। লিখিত পাঠ্যে এমন অনেক জটিলতা এবং সূক্ষ্মতা রয়েছে যে এগুলি সমস্তকে শাস্ত্রীয় সফ্টওয়্যার নিয়মে রূপান্তর করা কার্যত অসম্ভব। তবে গভীর শিক্ষণ এবং নিউরাল নেটওয়ার্কগুলিতে সাম্প্রতিক অগ্রগতিগুলি ভাষা সম্পর্কিত কাজগুলি পরিচালনা করতে পারে এমন একটি সফ্টওয়্যার তৈরির ক্ষেত্রে একটি ভিন্ন পদ্ধতির পথ প্রশস্ত করেছে।

ডিপ লার্নিং মেশিন অনুবাদ, পাঠের সংক্ষিপ্তকরণ, প্রশ্ন উত্তর এবং প্রাকৃতিক ভাষা উত্সর্গের মতো ক্ষেত্রগুলিতে দুর্দান্ত উন্নতি এনেছে। এটি সফ্টওয়্যার ইঞ্জিনিয়ারদের বিভিন্ন অ্যালগরিদম তৈরি করতে দেয় যা অনেক উদাহরণ বিশ্লেষণ করে তাদের নিজস্ব আচরণ বিকাশ করে। ভাষা সংক্রান্ত কাজের জন্য, ইঞ্জিনিয়াররা নিউরাল নেটওয়ার্কগুলি ডিজিটাইজড সামগ্রী যেমন নিউজ স্টোরিজ, উইকিপিডিয়া পৃষ্ঠাগুলি এবং সোশ্যাল মিডিয়া পোস্টগুলিকে ফিড করে। নিউরাল নেটগুলি সাবধানতার সাথে ডেটা তুলনা করে এবং নির্দিষ্ট শব্দগুলি পুনরাবৃত্তির ক্রমগুলিতে কীভাবে অন্যদের অনুসরণ করে তা নোট করুন। এরপরে তারা এই নিদর্শনগুলিকে জটিল গাণিতিক সমীকরণগুলিতে রূপান্তরিত করে যা তাদের ভাষার-সম্পর্কিত কার্যগুলিতে সমাধান করতে সহায়তা করে যেমন পাঠ্যক্রমের অনুপস্থিতিতে অনুপস্থিত শব্দের পূর্বাভাস দেওয়া। সাধারণভাবে, আপনি গভীর-লার্নিং মডেলকে আরও গুণমানের প্রশিক্ষণের ডেটা সরবরাহ করবেন, এটি তার কার্য সম্পাদন করতে তত উন্নত হয়।

ওপেনএআই-এর মতে, জিপিটি -২ 8 মিলিয়ন ওয়েব পৃষ্ঠাগুলি এবং কোটি কোটি শব্দের উপর প্রশিক্ষণ পেয়েছে, যা অন্যান্য, অনুরূপ মডেলের তুলনায় অনেক বেশি। এটি পাঠ্য নিদর্শনগুলি আরও ভালভাবে প্রয়োগ করতে উন্নত এআই মডেলগুলিও ব্যবহার করে। জিপিটি -২ থেকে নমুনা আউটপুট দেখায় যে মডেলটি পূর্বসূরীদের তুলনায় পাঠ্যের দীর্ঘতর ক্রমগুলিতে সমন্বয় বজায় রাখতে পরিচালিত করে।

জিপিটি -২ প্রাকৃতিক-ভাষা প্রজন্মের ক্ষেত্রে এক ধাপ এগিয়ে গেলেও এটি এআই তৈরির দিকে প্রযুক্তিগত অগ্রগতি নয় যা লিখিত পাঠ্যের অর্থ এবং প্রসঙ্গটি বুঝতে পারে। জিপিটি -২ এখনও এমন শব্দের ক্রম তৈরির জন্য অ্যালগরিদম নিয়োগ করছে যা পরিসংখ্যানগতভাবে এর আগে দেখা কোটি কোটি টাকার অংশের সাথে মিল রয়েছে - এটি কী উত্পন্ন করছে তা সম্পর্কে একেবারেই কোনও ধারণা নেই।

গভীরতর বিশ্লেষণে, জেডডিনেটের তিরানন রায় বেশ কয়েকটি উদাহরণের দিকে নির্দেশ করেছেন যেখানে জিপিটি -২ এর আউটপুট নমুনাগুলি শুল্কের নকলকরণ এবং যুক্তিতে অভাব এবং সত্যগুলিতে অবিচ্ছিন্নতার মতো সুপরিচিত শিল্পকর্মগুলির সাথে তাদের কৃত্রিম প্রকৃতির সাথে বিশ্বাসঘাতকতা করে। "যখন জিপিটি -২ লেখার মোকাবেলায় এগিয়ে যায় যার ধারণাগুলি এবং যুক্তিগুলির আরও বিকাশ প্রয়োজন, ফাটলগুলি বেশ প্রশস্তভাবে বিচ্ছিন্ন হয়ে যায়, " রায় নোট করে।

পরিসংখ্যানগত শিক্ষা কম্পিউটারকে ব্যাকরণগতভাবে সঠিক পাঠ্য উত্পন্ন করতে সহায়তা করতে পারে তবে যৌক্তিক এবং বাস্তবগত ধারাবাহিকতা বজায় রাখার জন্য আরও গভীর ধারণাবাদী বোধগম্যতা প্রয়োজন। দুর্ভাগ্যক্রমে, এটি এখনও একটি চ্যালেঞ্জ যা এআই এর বর্তমান মিশ্রণগুলি কাটিয়ে উঠেনি। এ কারণেই জিপিটি -২ পাঠ্যের দুর্দান্ত অনুচ্ছেদ তৈরি করতে পারে তবে একটি খাঁটি দীর্ঘমেয়াদী নিবন্ধ তৈরি করতে বা দৃ conv়প্রত্যয়কর উপায়ে এবং একটি বর্ধিত সময়ের মধ্যে কাউকে ছদ্মবেশিত করা সম্ভবত কঠোরভাবে চাপানো হবে।

এআই ফেইক-নিউজ আতঙ্কটি কেন আচ্ছন্ন

ওপেনএআইয়ের যুক্তি নিয়ে আর একটি সমস্যা: এটি ধরে নিয়েছে যে এআই একটি ভুয়া-সংবাদ সংকট তৈরি করতে পারে।

২০১ 2016 সালে, ম্যাসেডোনিয়ার এক কিশোররা লক্ষ লক্ষ মানুষের কাছে মার্কিন রাষ্ট্রপতি নির্বাচন সম্পর্কে ভুয়া সংবাদ ছড়িয়েছিল। হাস্যকর বিষয় হল, তাদের যথাযথ ইংরেজি দক্ষতাও ছিল না; তারা ওয়েবে তাদের গল্পগুলি সন্ধান করছিল এবং একসাথে পৃথক সামগ্রীকে সেলাই করছিল। তারা সফল হয়েছিল কারণ তারা এমন ওয়েবসাইট তৈরি করেছিল যা দর্শকদের তাদের নির্ভরযোগ্য খবরের উত্স হিসাবে বিশ্বাস করার জন্য যথেষ্ট প্রামাণিক বলে মনে হয়েছিল। চাঞ্চল্যকর শিরোনাম, অবহেলিত সামাজিক মিডিয়া ব্যবহারকারী এবং ট্রেন্ডিং অ্যালগরিদম বাকিগুলি করেছে।

এরপরে 2017 সালে, কাতারের রাষ্ট্রীয় সংবাদমাধ্যমগুলি এবং সরকারী সামাজিক যোগাযোগ মাধ্যম অ্যাকাউন্টগুলি হ্যাক করে এবং কাতারের আমির শেখ তামিম বিন হামাদ আল থানির পক্ষে জাল মন্তব্য প্রকাশ করে দূষিত অভিনেতারা পারস্য উপসাগরীয় অঞ্চলে একটি কূটনৈতিক সঙ্কট শুরু করেছিল।

যেমন এই গল্পগুলি দেখায়, ভুয়া-সংবাদ প্রচারের সাফল্য বৃহত্তর পরিমাণে সুসংগত ইংরেজি পাঠ্য তৈরি করার উপর নয়, বিশ্বাস স্থাপনের (এবং বিশ্বাসঘাতকতার) উপর নির্ভরশীল।

সোশ্যাল মিডিয়ায় পোস্ট করার জন্য ভুয়া বিষয়বস্তু উত্পাদন স্বয়ংক্রিয় করার বিষয়ে ওপেনএআইয়ের সতর্কতাগুলি আরও নিশ্চিত, যদিও স্কেল এবং ভলিউম সামাজিক নেটওয়ার্কগুলিতে traditionalতিহ্যবাহী মিডিয়া আউটলেটগুলির চেয়ে বেশি গুরুত্বপূর্ণ ভূমিকা পালন করে। ধারণাটি হ'ল জিপিটি -২ এর মতো একটি এআই ট্রেন্ডিং অ্যালগরিদমগুলি এবং জনসাধারণের আলোচনাকে প্রভাবিত করে একটি নির্দিষ্ট বিষয় সম্পর্কে লক্ষ লক্ষ অনন্য পোস্ট দিয়ে সোশ্যাল মিডিয়াকে বন্যায় ফেলতে সক্ষম করবে।

কিন্তু তবুও, সতর্কতাগুলি বাস্তবের থেকে কম যায়। বিগত কয়েক বছরে, সোশ্যাল মিডিয়া সংস্থাগুলি অটোমেটেড আচরণ সনাক্ত এবং ব্লক করার জন্য ক্রমাগত ক্ষমতা বিকাশ করছে। সুতরাং একটি পাঠ্য-উত্পাদক এআই দিয়ে সজ্জিত দূষিত অভিনেতাকে অনন্য সামগ্রী তৈরি করার বাইরেও বেশ কয়েকটি চ্যালেঞ্জ পরাস্ত করতে হবে।

উদাহরণস্বরূপ, তাদের এআই-উত্পাদিত সামগ্রী পোস্ট করার জন্য তাদের হাজার হাজার ভুয়া সামাজিক মিডিয়া অ্যাকাউন্টগুলির প্রয়োজন হবে। এমনকি আরও শক্ত, জাল অ্যাকাউন্টগুলি সংযুক্ত করার কোনও উপায় নেই তা নিশ্চিত করার জন্য, তাদের প্রতিটি অ্যাকাউন্টের জন্য একটি অনন্য ডিভাইস এবং আইপি ঠিকানা প্রয়োজন হবে।

এটি আরও খারাপ হয়: মিলগুলি হ্রাস করতে বিভিন্ন সময়ে, সম্ভবত এক বছর বা তারও বেশি সময় ধরে অ্যাকাউন্টগুলি তৈরি করতে হবে। গত বছর, নিউ ইয়র্ক টাইমসের তদন্তে দেখা গেছে যে অ্যাকাউন্ট তৈরির তারিখগুলি বট অ্যাকাউন্টগুলি আবিষ্কার করতে সহায়তা করতে পারে। তারপরে অন্যান্য ব্যবহারকারীদের থেকে তাদের স্বয়ংক্রিয় প্রকৃতি এবং পুলিশিং অ্যালগরিদমগুলিকে আরও আড়াল করতে অ্যাকাউন্টগুলিকে মানব-সদৃশ আচরণে জড়িত থাকতে হবে যেমন অন্যান্য ব্যবহারকারীর সাথে আলাপচারিতা করা এবং তাদের পোস্টে একটি অনন্য স্বর স্থাপন করা।

এই চ্যালেঞ্জগুলির কোনওটিই অতিক্রম করা অসম্ভব, তবে তারা দেখায় যে সামগ্রীগুলি একটি সামাজিক মিডিয়া ভুয়া-সংবাদ প্রচারে পরিচালনার জন্য প্রয়োজনীয় প্রচেষ্টার কেবল একটি অংশ। এবং আবারও, বিশ্বাস একটি গুরুত্বপূর্ণ ভূমিকা পালন করে। কয়েকটি জাল সংবাদ পোস্ট করা কয়েকটি বিশ্বস্ত সামাজিক যোগাযোগমাধ্যম প্রভাবকরা প্রচুর পরিমাণে সামগ্রী তৈরি করে এমন এক অজানা অ্যাকাউন্টগুলির চেয়ে আরও বেশি প্রভাব ফেলবে।

ওপেনএআইএর সতর্কতার প্রতিরক্ষা মধ্যে

ওপেনএআইএর অতিরঞ্জিত সতর্কতাগুলি মিডিয়া হাইপ এবং আতঙ্কের একটি চক্রকে সূচিত করেছিল যা বিদ্রূপজনকভাবে খালি খবরের সাথে সীমাবদ্ধ এবং খ্যাতিমান এআই বিশেষজ্ঞদের সমালোচনা জাগিয়ে তোলে।

তারা মিডিয়া জনগণকে একটি প্রেস নিষেধাজ্ঞার মাধ্যমে ফলাফলের অল্প অ্যাক্সেস পাওয়ার জন্য আমন্ত্রণ জানিয়েছিল যাতে এটি একই দিনে প্রকাশ্যে আসে। আমি জানি যে কোনও গবেষক বড় মডেলটি দেখতে পেয়েছেন, তবে সাংবাদিকরা তা করেছেন। হ্যাঁ, তারা ইচ্ছাকৃতভাবে এটিকে উড়িয়ে দিয়েছে।

- ম্যাট গার্ডনার (@ এনলপমেটজি) ফেব্রুয়ারী 19, 2019

প্রতিটি নতুন মানব সম্ভাব্যভাবে জাল সংবাদ তৈরি, ষড়যন্ত্র তত্ত্ব প্রচার এবং লোককে প্রভাবিত করতে ব্যবহার করা যেতে পারে।

আমাদের কি তখন বাচ্চা বানানো বন্ধ করা উচিত?

- ইয়ান লেকুন (@ ইলেকুন) ফেব্রুয়ারী 19, 2019

কেবল আপনাকে সমস্ত মাথা তুলে দিতে চেয়েছিল, আমাদের ল্যাব ভাষা বোঝার ক্ষেত্রে একটি আশ্চর্যজনক সাফল্য খুঁজে পেয়েছে। তবে আমরা এটিও চিন্তিত করি যে এটি ভুল হাতে পড়ে। সুতরাং আমরা এটিকে স্ক্র্যাপ করার সিদ্ধান্ত নিয়েছি এবং পরিবর্তে কেবলমাত্র নিয়মিত * এসিএল স্টাফ প্রকাশ করব। তাদের দুর্দান্ত কাজের জন্য দলের প্রতি বড় শ্রদ্ধা।

- (((? ((?) (?) 'যোয়াভ)))) (@ ইয়াওগো) ফেব্রুয়ারী 15, 2019

এআই গবেষক এবং আনুমানিক সঠিকের সম্পাদক জাকারি লিপটন ওপেনএআইএর ইতিহাসের দিকে ইঙ্গিত করেছেন যে "তাদের ব্লগটি ব্যবহার করে জনগণের দৃষ্টিভঙ্গিতে ক্যাটালপাল অপরিপক্ক কাজের প্রতি মনোযোগ কেন্দ্রীভূত করে এবং প্রায়শই কাজের মানবিক সুরক্ষার দিকগুলি খেলায় যা এখনও বৌদ্ধিক নয় পা দাঁড়ানো।"

যদিও ওপেনএআইআই তার বিভ্রান্তিকর মন্তব্যের পরিপ্রেক্ষিতে এটি প্রাপ্ত সমস্ত সমালোচনা এবং উত্তাপের দাবিদার, যদিও সংস্থাটি জনসাধারণকে এ বিষয়ে শিক্ষিত করার জন্য একটি দায়িত্বজ্ঞানহীন পদ্ধতি ব্যবহার করে, এমনকি তার প্রযুক্তির সম্ভাব্য দূষিত ব্যবহারগুলি সম্পর্কে সত্যই উদ্বিগ্ন হওয়াও ঠিক।

• এআই ইন্ডাস্ট্রির নৈতিক গণনার বছর এআই ইন্ডাস্ট্রির নৈতিক গণনার বছর
• অন্যায়ের সুবিধে: এআই মানুষের মতো খেলবেন না এমনটা আশা করবেন না অন্যায়ভাবে সুবিধা: এআই মানুষের মতো খেলবেন এমন আশা করবেন না
• এই এআই এর আগে অনলাইন ট্রোলিংয়ের পূর্বাভাস দেয় এটির আগে এটি এইআই এর অনলাইন ট্রোলিংয়ের পূর্বাভাস

বিগত বছরগুলিতে, আমরা দেখেছি যে এআই প্রযুক্তিগুলি কীভাবে চিন্তাভাবনা ও প্রতিচ্ছবি ছাড়াই জনসাধারণকে প্রকাশ্যে নিয়েছে বিদ্বেষপূর্ণ উদ্দেশ্যগুলির জন্য অস্ত্রযুক্ত করা যেতে পারে। একটি উদাহরণ ছিল ফেকঅ্যাপ, একটি এআই অ্যাপ্লিকেশন যা ভিডিওগুলিতে মুখের পরিবর্তন করতে পারে। ফেক অ্যাপ প্রকাশের পরপরই, এটি নকল অশ্লীল ভিডিও তৈরি করতে ব্যবহৃত হয়েছিল যা খ্যাতিমান ব্যক্তি এবং রাজনীতিবিদদের সমন্বিত করেছিল, যা এআই-চালিত জালিয়াতির হুমকির জন্য উদ্বেগ তৈরি করেছিল।

ওপেনএআইয়ের সিদ্ধান্ত থেকে বোঝা যায় যে জনসাধারণকে মুক্তি দেওয়ার প্রযুক্তিটির সম্ভাব্য বিভ্রান্তিগুলি সম্পর্কে আমাদের বিরতি দেওয়া এবং চিন্তা করা প্রয়োজন। এবং এআই প্রযুক্তিগুলির ঝুঁকি সম্পর্কে আমাদের আরও সক্রিয় আলোচনা করা দরকার।

"একটি নির্দিষ্ট প্রকল্প থামিয়ে দেওয়া একটি সংস্থা সত্যিই দীর্ঘমেয়াদী কোনও পরিবর্তন আনবে না। তবে ওপেনএআইআই তাদের যে কোনও কাজের জন্য অনেক মনোযোগ পেয়েছে… এবং আমি মনে করি তাদের এই বিষয়টির উপর আলোকপাত করার জন্য তাদের প্রশংসা করা উচিত, " ডেভিড বাউ, একটি এমআইটির কম্পিউটার সায়েন্স অ্যান্ড আর্টিফিশিয়াল ইন্টেলিজেন্স ল্যাবরেটরির (সিএসএআইএল) গবেষক স্লেটকে জানিয়েছেন।