গুগলের জিগাস কীভাবে ইন্টারনেটকে ডিটক্সিফাই করার চেষ্টা করছে

ইন্টারনেট কোনও বিষাক্ত জায়গার মতো অনুভব করতে পারে। ঘৃণ্য বক্তৃতা এবং হয়রানি ছড়িয়ে দেওয়ার জন্য মন্তব্য বিভাগ এবং সোশ্যাল মিডিয়ার থ্রেডগুলিতে ট্রলস অবতীর্ণ হয়েছে, সম্ভাব্য আলোকিত আলোচনাকে বিজ্ঞাপন হোমিনেম আক্রমণ এবং গ্রুপ পাইল-অনগুলিতে রূপান্তরিত করে। অনলাইনে একটি মতামত প্রকাশ করা ফলাফল ভিট্রিয়লের পক্ষে প্রায়শই মনে হয় না।

ফেসবুক, টুইটার এবং ইউটিউব সহ প্রচুর সামাজিক প্ল্যাটফর্ম স্বীকার করে যে তারা এগুলি পর্যাপ্ত পরিমাণে পুলিশ করতে পারে না। তারা বটস, ট্রলস এবং কন্টেন্ট ফিল্টারগুলির মাধ্যমে পিছলে যায় এমন প্রতিটি অনাকাঙ্ক্ষিত একটি অস্ত্রের দৌড়ে রয়েছে। মানুষ ওয়েবে প্রতিটি মন্তব্য পড়তে শারীরিকভাবে সক্ষম হয় না; যারা প্রায়ই চেষ্টা করে তারা আফসোস করে।

টেক জায়ান্টরা প্রতিদিন তাদের ফিডের মধ্য দিয়ে প্রবাহিত সামগ্রীর প্রলয়গুলির মধ্যে দিয়ে মানব সংযোজন, এআই অ্যালগরিদম এবং ফিল্টারগুলির বিভিন্ন সংমিশ্রণগুলির সাথে পরীক্ষামূলকভাবে কাজ করে। জিগস মাঝারি জায়গাটি খুঁজতে চেষ্টা করছে। বর্ণমন্ত্রীর সহায়ক ও প্রযুক্তি ইনকিউবেটর, পূর্বে গুগল আইডিয়া হিসাবে পরিচিত, প্রমাণ করতে শুরু করেছে যে মানব মডারেটরদের জন্য সরঞ্জামগুলিতে তৈরি মেশিন লার্নিং (এমএল) আমাদের ইন্টারনেটের বিষাক্ত সমস্যার কাছে যাওয়ার পদ্ধতির পরিবর্তন করতে পারে।

দৃষ্টিভঙ্গি জিগস এবং গুগলের কাউন্টার অ্যাবিউজ প্রযুক্তি প্রযুক্তি দ্বারা তৈরি একটি এপিআই by এটি অনলাইনে অপব্যবহার এবং হয়রানি চিহ্নিত করার জন্য এমএল ব্যবহার করে এবং মানব মডারেটরদের জীবনকে আরও সহজ করার জন্য একটি কথোপকথনে তাদের যে প্রভাবিত হতে পারে তার উপর ভিত্তি করে মন্তব্যগুলি স্কোর করে।

দোলাচলের ম্যাচগুলির মধ্যে দৃষ্টিভঙ্গি

উন্মুক্ত উত্স প্রযুক্তিটি প্রথম 2017 সালে ঘোষণা করা হয়েছিল, যদিও এর কয়েক বছর আগে এর উপর উন্নয়ন শুরু হয়েছিল। দৃষ্টিভঙ্গি নিয়ে প্রথম পরীক্ষার জন্য কয়েকটি সাইট নিউইয়র্ক টাইমসের মতো নিউজ পাবলিকেশন এবং উইকিপিডিয়ায় সাইটগুলি প্রকাশিত হয়েছিল । তবে সম্প্রতি, পরিপ্রেক্ষিতটি রেডডিট এবং মন্তব্য প্ল্যাটফর্ম ডিস্কাসের মতো সাইটগুলিতে একটি বাড়ি খুঁজে পেয়েছে (যা পিসিমেগ.কম এ ব্যবহৃত হয়))

পরিপ্রেক্ষিতের প্রোডাক্ট ম্যানেজার সিজে অ্যাডামস বলেছেন, প্রকল্পটি কীভাবে অনলাইনে জনগণের কণ্ঠকে নিরব করা হচ্ছে তা পরীক্ষা করতে চেয়েছিল। জিগস কীভাবে লক্ষ্যবস্তু অপব্যবহার বা হয়রানির সাধারণ পরিবেশটি শীতল প্রভাব তৈরি করতে পারে তা আবিষ্কার করতে চেয়েছিল, এমন লোককে নিরুৎসাহিত করে যেখানে তারা মনে করে যে আলোচনায় তাদের ভয়েস যোগ করার জন্য সময় বা শক্তি উপযুক্ত নয়। আপনি কতবার একটি টুইট, পোস্ট, বা মন্তব্য দেখেছেন এবং প্রতিক্রিয়া জানাতে পছন্দ করেন নি কেননা ট্রলগুলির সাথে লড়াই করা এবং ম্যাড অনলাইন পাওয়া কেবলমাত্র উত্তেজনার পক্ষে নয়?

অ্যাডামস বলেছেন, "একটি অনলাইন কথোপকথন নষ্ট করা খুব সহজ।" "এটি লাফানো সহজ, তবে একজনের প্রকৃত অর্থে বা বিষাক্ত হওয়ায় অন্য কণ্ঠস্বর বেরিয়ে আসতে পারে 100 সম্ভবত ১০০ জন মানুষ নিবন্ধটি পড়তে পারে বা বিতর্ক শুরু করতে পারে এবং প্রায়শই আপনি কেবলমাত্র ঘরে বাকী উচ্চস্বরে শব্দটি শেষ করেন, এমন একটি ইন্টারনেটে যা পছন্দ এবং ভাগের জন্য অনুকূলিত। সুতরাং আপনি এই সমস্ত কণ্ঠকে একধরনের নীরবতা দিন Then তবে বিতর্ককে কী সংজ্ঞায়িত করছে তা হল রুমের মধ্যে সবচেয়ে জোরে কণ্ঠস্বর - চিৎকারের মিল ""

জিগস এবং গুগল

গুগলের জন্য জিগাসের বোন সংস্থা, যা ডেটা সুরক্ষা ইস্যু, পেন্টাগন এবং চীনের প্রকল্পগুলিতে জড়িত থাকার বিষয়ে কর্মচারী পুশব্যাক এবং যৌন হয়রানির বিষয়টি পরিচালনা করার বিষয়ে প্রকাশের মুখোমুখি হয়েছিল for বিরোধী কংগ্রেসনাল শুনানির কথা উল্লেখ না করা, যাতে সিইও সুন্দর পিচাইকে আইনজীবিরা গ্রিল করেছিলেন।

জিগাসে, বর্ণমালার পরোপকারী ইনকিউবেটর, জিনিসগুলি কিছুটা কম নাটকীয় হয়েছে। দলটি সেন্সরশিপের আরও প্রযুক্তিগত ফর্ম যেমন ডিএনএসের বিষাক্তকরণ যেমন তার অন্তর্ অ্যাপ্লিকেশন সহ ডিজেএনএস এবং প্রকল্প শিল্ডের সাহায্যে ডিডিওএস আক্রমণ করার জন্য সময় কাটিয়েছে। পরিপ্রেক্ষিতের সাথে লক্ষ্যটি আরও বিমূর্ত। কোনও নির্দিষ্ট নিয়মের বিপরীতে কোনটি বা কী নয় তা নির্ধারণের জন্য মেশিন লার্নিং ব্যবহার না করে পার্সপেক্টিভের চ্যালেঞ্জ একটি তীব্র বিষয়গত বিষয়: ভাষার সংবেদনশীল প্রভাবকে শ্রেণিবদ্ধকরণ করা।

এটি করার জন্য, আপনার প্রাকৃতিক ভাষা প্রক্রিয়াজাতকরণ (এনএলপি) প্রয়োজন, যা নিদর্শনগুলি স্পষ্ট করার জন্য একটি বাক্য ভেঙে দেয়। পরিপ্রেক্ষিত দলটি এমন পরিবেশে নিশ্চিতকরণ পক্ষপাত, গ্রুপথিংক এবং হয়রানির মতো সমস্যার মুখোমুখি হচ্ছে যেখানে প্রযুক্তি তাদের প্রসারকে প্রশস্ত করেছে এবং সমাধানের জন্য আরও কঠিন করে তুলেছে।



এআই 'ভুল এবং বোবা কখনও কখনও' হয়

মেশিন লার্নিংয়ের সাথে অনলাইন কথোপকথনের উন্নতি করা সোজা কাজ নয়। এটি এখনও গবেষণার একটি উদীয়মান ক্ষেত্র। অ্যালগরিদম পক্ষপাতদুষ্ট হতে পারে, মেশিন লার্নিং সিস্টেমে অন্তহীন পরিশোধন প্রয়োজন এবং সবচেয়ে কঠিন এবং সবচেয়ে গুরুত্বপূর্ণ সমস্যাগুলি এখনও মূলত অনাবিষ্কৃত।

কথোপকথন এআই গবেষণা গ্রুপ, যা দৃষ্টিভঙ্গি তৈরি করেছিল তা সংবাদপত্র, প্রকাশক এবং অন্যান্য সাইটের সাথে কথোপকথনের হোস্টিংয়ের মাধ্যমে শুরু হয়েছিল। প্রযুক্তিটি নিয়ে প্রথম পরীক্ষার জন্য কয়েকটি সাইট হ'ল দ্য নিউ ইয়র্ক টাইমস , উইকিপিডিয়া, দ্য গার্ডিয়ান এবং দ্য ইকোনমিস্ট ।

2017 সালে, দলটি একটি আলফা পরীক্ষার অংশ হিসাবে পাবলিক ওয়েবসাইটের মাধ্যমে প্রাথমিক পরিপ্রেক্ষিত ডেমোটি খুলল, যাতে লোকেরা সাইটে লক্ষ লক্ষ নকল, আপত্তিজনক মন্তব্য লিখতে দেয়। এটি মাইক্রোসফ্টের কুখ্যাত ব্যর্থ টেই চ্যাটবোট পরীক্ষার মতো ছিল, বর্ণবাদী টুইটের সাথে জবাব দেওয়ার জন্য বটকে চালাকি না করে, জিগ ভিড়সোর্সড ভাইরুলেন্সকে তার মডেলগুলি খাওয়ানোর জন্য প্রশিক্ষণের ডেটা হিসাবে ব্যবহার করেছিলেন, বিভিন্ন ধরণের অনলাইন অপব্যবহার সনাক্তকরণ এবং শ্রেণিবদ্ধকরণে সহায়তা করেছিলেন।

প্রাথমিক পাবলিক টেস্ট রানটি সহজে চলেনি। ওয়্যার্ডের "ট্রোলস অ্যাক্রো আমেরিকা, ", যা পারস্পেক্টিভ স্কোরিংয়ের উপর ভিত্তি করে দেশজুড়ে মন্তব্য করার ক্ষেত্রে বিষাক্ততা ভেঙেছিল, তা দেখিয়েছিল কীভাবে অ্যালগোরিদম অজান্তে জাতি, লিঙ্গ পরিচয় বা যৌন দৃষ্টিভঙ্গি দ্বারা দলগুলির বিরুদ্ধে বৈষম্যমূলক আচরণ করে।

অ্যাডামস সত্যতা সম্পর্কে সত্য যে পারস্পেক্টিভের প্রাথমিক পরীক্ষার ফলে প্রধান অন্ধ দাগ এবং অ্যালগরিদমিক পক্ষপাত প্রকাশিত হয়েছিল about অ্যামাজনের স্ক্র্যাপড রিক্রুটিং টুলের মতো, যা কয়েক দশকের ত্রুটিযুক্ত কাজের ডেটা প্রশিক্ষণ দিয়েছিল এবং মহিলা আবেদনকারীদের বিরুদ্ধে সহজাত পক্ষপাত গড়ে তুলেছিল, প্রাথমিক দৃষ্টিকোণ মডেলগুলিতে যে ডেটা প্রশিক্ষণ দেওয়া হয়েছিল তার কারণে উদ্ভট ত্রুটি ছিল।

"ঘন ঘন লক্ষ্যবস্তু গোষ্ঠীর উদাহরণ হিসাবে, যদি আপনি প্রশিক্ষণের ডেটা সেটটিতে মন্তব্যগুলি জুড়ে বিতরণের দিকে নজর দেন তবে সেখানে একটি বেনামীভাবে খুব কম সংখ্যক মন্তব্য পাওয়া গেছে যার মধ্যে 'গে' বা 'নারীবাদী' শব্দটি অন্তর্ভুক্ত ছিল এবং এটি ইতিবাচক হিসাবে ব্যবহার করছিল উপায়, "অ্যাডামস ব্যাখ্যা। "আপত্তিজনক মন্তব্যগুলি শব্দটিকে অপমান হিসাবে ব্যবহার করেছে। সুতরাং এমএল, নিদর্শনগুলির দিকে তাকিয়ে বলবে, " আরে, এই শব্দের উপস্থিতি বিষাক্ত কিনা তা নিয়ে এই শব্দটির উপস্থিতি খুব ভাল ভবিষ্যদ্বাণীকারী।"

উদাহরণস্বরূপ, আলফা অ্যালগরিদম ভুলভাবে "আমি একজন গর্বিত সমকামী", বা উচ্চতর বিষাক্ততার স্কোর সহ "আমি একজন নারীবাদী এবং হিজড়া" এর মতো বিবৃতিগুলি লেবেলযুক্ত থাকতে পারে। অ্যাডামস বলেছিলেন যে প্রকাশ্যে স্বচ্ছ প্রশিক্ষণ প্রক্রিয়া-যদিও বেদনাদায়ক Jigsaw তখন অনিচ্ছাকৃত পক্ষপাতিত্বের পরিণতিতে জিগ্সের জন্য এক অমূল্য পাঠ ছিল।

অনলাইনে অপব্যবহার ও হয়রানির মতো যন্ত্রণাদায়ক এবং ব্যক্তিগত হিসাবে মেশিন-লার্নিং মডেলগুলিকে প্রশিক্ষণ দেওয়ার সময়, অ্যালগরিদমিক পক্ষপাতের অস্তিত্বও কেন এআই একা সমাধান হয় না তাও বোঝায়। ফেসবুক এবং ইউটিউবের মতো সামাজিক সংস্থা দু'জনেই তাদের প্ল্যাটফর্মগুলির এআই বিষয়বস্তু-সংযোজন বৈশিষ্ট্যগুলিকে কেবলমাত্র কেলেঙ্কারীর মধ্যে ব্যাকট্র্যাক করার জন্য এবং হাজার হাজার মানব মডারেটরের নিয়োগ দিয়ে কোর্স-সঠিক করার চেষ্টা করেছে।

জিগস এর ট্যাক দুটি একটি সংকর। দৃষ্টিভঙ্গি এআই অ্যালগরিদম শূন্যে সিদ্ধান্ত গ্রহণ করে না; মানব মডারেটরদের জন্য সহায়ক সরঞ্জাম হিসাবে পরিবেশন করতে এপিআই সম্প্রদায়-পরিচালনা এবং সামগ্রী-সংযোজন ইন্টারফেসগুলিতে একীভূত হয়। দৃষ্টিভঙ্গি ইঞ্জিনিয়াররা একটি খড়ের ছিদ্র উপমা ব্যবহার করে এবং তার সাথে এমএল ছাড়াই সংযত বিদ্বেষমূলক বক্তব্য বর্ণনা করে: এআই বাছাই প্রক্রিয়াটি স্বয়ংক্রিয়ভাবে সহায়তা করে, বিশাল খড়ের ছিটকে পড়ে মানুষকে চূড়ান্তভাবে বলে দেয় যে কোনও মন্তব্যকে আপত্তিজনক বা হয়রানি বলে বিবেচনা করা হচ্ছে কিনা তা চূড়ান্তভাবে বলে।

অ্যাডামস বলেছিলেন, "এটি এমএল এর নতুন ক্ষমতা। "লোকেরা এআই কত স্মার্ট তা নিয়ে কথা বলে তবে তারা প্রায়শই এটির ভুল এবং মূকধীন সমস্ত উপায় সম্পর্কে কথা বলে না the শুরু থেকেই, আমরা জানতাম যে এটি অনেক ভুল করতে চলেছে, এবং তাই আমরা বলেছিলাম, 'এটি সরঞ্জাম মেশিন-সহায়ক মানবিক সংযমের জন্য সহায়ক, তবে এটি স্বয়ংক্রিয় সিদ্ধান্ত নেওয়ার জন্য প্রস্তুত নয় '' তবে এই বিষাক্ত বক্তব্যটি খুঁজে পেতে এটি একটি 'খড়ের কাঁধের সূঁচ' নিতে পারে এবং এটি একটি মুষ্টিমেয় খড়ের কাছে নামাতে পারে।"



একটি বিষাক্ত স্কোর কী?

পরিপ্রেক্ষিতের মডেলিংয়ের সর্বাধিক বিভাজনীয় দিকটি "বিষক্রিয়া" হিসাবে সাবজেক্টিভ হিসাবে একটি ভেরিয়েবলের সংখ্যাকে স্থাপন করে। অ্যাডামসের প্রথম জিনিসটি যেটি উল্লেখ করেছে তা হ'ল পার্সপেক্টিভের স্কোরগুলি তীব্রতার চেয়ে সম্ভাবনার ইঙ্গিত দেয়। উচ্চতর সংখ্যাগুলি উচ্চতর সম্ভাবনা উপস্থাপন করে যে পাঠ্যগুলিতে নিদর্শনগুলিকে লোকজনকে বিষাক্ত হিসাবে ট্যাগ করেছে এমন মন্তব্যে প্যাটার্নগুলির অনুরূপ।

"বিষাক্ত" বলতে আসলে কী বোঝায়, দৃষ্টিকোণ দলটি এটিকে "একটি অভদ্র, অসম্মানজনক বা অযৌক্তিক মন্তব্য যা সম্ভবত আপনাকে আলোচনার বাইরে রাখার সম্ভাবনা রয়েছে" হিসাবে বৃহত্তরভাবে সংজ্ঞায়িত করেছে। তবে কীভাবে তা সূক্ষ্ম হতে পারে। 2018 সালে, জিগস এমএল মডেলগুলি বিকাশের জন্য রোডস আর্টিফিশিয়াল ইন্টেলিজেন্স ল্যাব (আরএআইএল) এর সাথে অংশীদার হন যা হুমকীপূর্ণ বা ঘৃণ্য বক্তব্যের আরও অস্পষ্ট রূপ বাছাই করতে পারে, যেমন বরখাস্ত, ঘৃণ্য, বা বিদ্রূপাত্মক মন্তব্য যা প্রকাশ্যে বৈরী নয়।

এই অবধি, পরিপ্রেক্ষিতের বেশিরভাগ মডেলকে "খুব বিষাক্ত" থেকে "খুব স্বাস্থ্যকর" -র স্কেলগুলিতে ইন্টারনেট মন্তব্যগুলি রেট করতে লোকদের জিজ্ঞাসা করে প্রশিক্ষণ দেওয়া হয়েছে। এর পরে বিকাশকারীরা 0.0 থেকে 1.0 পর্যন্ত একটি নির্দিষ্ট প্রান্তিকের উপরে মন্তব্যগুলি পতাকাঙ্কিত করতে মডেলটি ক্রমাঙ্কিত করতে পারেন। ০.৯ এর উপরে একটি স্কোর বিষের উচ্চ সম্ভাবনা নির্দেশ করে এবং 0.5 বা তার নীচে স্কোর মানে অ্যালগরিদমিক নিশ্চিততার অনেক কম ডিগ্রি। দৃষ্টিভঙ্গি স্কোরকে নরমালাইজেশন বলেও ব্যবহার করে যা বিকাশকারীদের স্কোরকে ব্যাখ্যা করার জন্য একটি ধারাবাহিক বেসলাইন দেয়। অ্যাডামস ব্যাখ্যা করেছিলেন যে ফোরাম বা ওয়েবসাইটের উপর নির্ভর করে বিকাশকারীরা মডেলগুলিকে মেশাতে এবং মিলাতে পারেন। সুতরাং যখন কোনও সম্প্রদায় অশ্লীলতা মনে করে না, তখন সেই বৈশিষ্ট্যটি ওজন করা যায়।

অ্যাডামস আমাকে পার্সেক্টিভ এপিআইয়ের সাথে সংযুক্ত একটি ডেমো সংযোজন ইন্টারফেস দেখিয়েছে। অ্যাডমিন প্যানেলে, শীর্ষগুলি, নতুন এবং আরও অনুসারে মন্তব্যগুলি বাছাই করার বিকল্পগুলির পাশে, বিষক্রিয়া অনুসারে বাছাই করার জন্য একটি ছোট পতাকা আইকন। মানব মডারেটরের জন্য দৃষ্টিকোণটি বলার জন্য এটি একটি অন্তর্নির্মিত প্রতিক্রিয়া ব্যবস্থাও রয়েছে যা এটি একটি মন্তব্য ভুলভাবে করেছিল এবং সময়ের সাথে সাথে মডেলটিকে উন্নত করে।

তিনি বিভিন্ন পরিপ্রেক্ষিত মডেল দ্বারা স্কোর করা উইকিপিডিয়া টক পৃষ্ঠাগুলি সংশোধন করার জন্য একটি ডেমো ইন্টারফেসের মাধ্যমে ক্লিক করেছিলেন এবং একটি হিস্টোগ্রাফ গ্রাফ ভেঙে গেছে যা মন্তব্যগুলি কোনও পৃষ্ঠা লেখকের উপর আক্রমণ বা অন্য মন্তব্যকারীকে আক্রমণ বলে মনে করছে।

অ্যাডামস বলেছিলেন, "আমরা কোনও মানুষের পর্যালোচনা করার জন্য জিনিসগুলিকে পতাকাঙ্কিত করার জন্য মেশিন-সহায়তাযুক্ত সংযোজন সরঞ্জামগুলি তৈরি করতে চাই, তবে আমরা কোনও কেন্দ্রীয় সংজ্ঞা বা কেউ ভাল এবং খারাপ কী তা বলতে চাই না" said "সুতরাং যদি আমি বিষক্রিয়া অনুসারে বাছাই করি, আপনি দেখতে চাইবেন মন্তব্যগুলি শীর্ষে এসেছে But তবে আপনি যদি শপথ গ্রহণের মতো মেট্রিকগুলির চেয়ে পরিচয় আক্রমণ বা হুমকির বিষয়ে আরও বেশি যত্নশীল হন তবে সম্ভবত আপনি কোনও সাধারণ বিষাক্ততার মডেল ব্যবহার করবেন না These এগুলি হ'ল যে উপাদানগুলি আপনি মিশ্রণ করতে পারেন We আমরা এগুলি সরবরাহ করি এবং বিকাশকারীরা সেগুলি ওজন করে।"

RAIL পরীক্ষা আরও দানাদার পদ্ধতির গ্রহণ করছে। অক্সফোর্ড গ্রেডের শিক্ষার্থীরা কানাডার সংবাদপত্র গ্লোব অ্যান্ড মেইলের মন্তব্য বিভাগ এবং উইকিপিডিয়া টক পৃষ্ঠাগুলি থেকে কয়েক হাজার মন্তব্যের একটি ডেটা সেট তৈরি করছে। তারা "অস্বাস্থ্যকর সামগ্রী" এর পাঁচটি উপ-গুণাবলী সম্পর্কিত প্রতিক্রিয়া সম্পর্কিত প্রতিটি মন্তব্যের বিষয়ে প্রশ্নের উত্তর দিতে মানব "অ্যানোটেটর" কে জিজ্ঞাসা করছেন: প্রতিকূল বা অপমানজনক (ট্রলস), বরখাস্ত, সম্মোহক বা পৃষ্ঠপোষকতা, ব্যঙ্গাত্মক এবং অন্যায় সাধারণীকরণ।

এই আরও সূক্ষ্ম বৈশিষ্ট্যগুলিতে প্রবেশের ফলে নির্দিষ্ট গোষ্ঠীগুলির প্রতি অনিচ্ছাকৃত পক্ষপাত এবং নতুন বিদ্রূপমূলক মন্তব্য সহ মিথ্যা ইতিবাচক নতুন জটিল সমস্যা প্রকাশ পেয়েছে। এটি এআই ক্রমবর্ধমান বেদনাগুলির একটি অংশ, মানুষের বক্তৃতার পিছনে অন্তর্নিহিত, অপ্রত্যক্ষ অর্থ বোঝাতে সহায়তা করার জন্য আরও বেশি সংখ্যক ডেটা খাওয়ানোর মডেল। দলটি এখনও হাজার হাজার মন্তব্যের মুখোমুখি হয়ে মন্তব্য করছে এবং এই বছরের গোড়ার দিকে চূড়ান্ত ডেটাসেট প্রকাশের পরিকল্পনা করেছে।

অ্যাডামস বলেছিলেন, "আমরা যেদিকে কাজ করতে চাই তা এমন কিছু যেখানে সম্প্রদায়টি বেশ কয়েকটি মন্তব্যে স্কোর করতে পারে এবং তারপরে আমরা তাদের সাথে মিলানোর জন্য পার্সেক্টিভ মডেলগুলির একটি কাস্টম মিশ্রণ তৈরি করতে পারি, " অ্যাডামস বলেছিলেন।



রেডডিটের কৌতূহল টেস্টবেড

রেডডিট হ'ল ইন্টারনেট সম্পর্কে ভাল এবং ভয়ঙ্কর এমন কিছুর একটি মাইক্রোকোজম। প্রতিটি বিষয় এবং কুলুঙ্গি, উদ্ভট আগ্রহের জন্য আপনি ভাবতে পারেন এর জন্য একটি সাবড্রেডিট সম্প্রদায় রয়েছে। রেগডিটের সাথে জিগস কর্পোরেট পর্যায়ে কাজ করে না, তবে সবচেয়ে আকর্ষণীয় জায়গাগুলির মধ্যে একটি যেখানে পার্সিপেক্টিভের এআই সংযোজন পরীক্ষা করা হচ্ছে সেগুলি হল r / চেঞ্জমিভিউ নামক একটি সাব্রেডিটাইটে।

আশ্চর্যজনকভাবে, ইন্টারনেটের এমন কোনও কোণ রয়েছে যেখানে খাঁটি বিতর্ক এবং আলোচনা এখনও ঘটে। আমার ভিউ বা সিএমভি পরিবর্তন করুন, অন্যান্য সাব-ডিগ্রিডিটের মতো নয়। ধারণাটি হ'ল আপনি যে মতামত গ্রহণ করেছেন তা ত্রুটিযুক্ত হতে পারে বা পরিবর্তিত হওয়ার জন্য উন্মুক্ত হতে পারে, তবে তারা কোনও ইস্যুতে আপনার মতামত পরিবর্তন করতে পারে কিনা তা দেখার জন্য অন্যান্য দৃষ্টিভঙ্গি শুনতে এবং বুঝতে understand থ্রেডগুলি বর্ণবাদ, রাজনীতি, বন্দুক নিয়ন্ত্রণ এবং ধর্ম সহ বিভিন্ন বিষয়ে গুরুতর আলোচনার মতো স্টার ওয়ার্স চলচ্চিত্রগুলির যথাযথ দেখার আদেশের মতো জাগতিক বিষয়গুলি থেকে শুরু করে।

আমার দৃষ্টিভঙ্গিটি পরিপ্রেক্ষিতের জন্য একটি আকর্ষণীয় পরীক্ষামূলক কারণ কারণ সাবরেডডিটের সাথে কথোপকথন শুরু এবং সংশোধন করার জন্য নিজস্ব বিধিবিধানের একটি বিস্তৃত সেট রয়েছে যা ডিজাইনের মাধ্যমে তর্ক এবং উত্তেজিত বিতর্ককে উদ্দীপ্ত করে। কাল টার্নবুল, যিনি রেডডিতে U / Snorrrlax দ্বারা যান, তিনি r / চেঞ্জমিভিউর প্রতিষ্ঠাতা এবং অন্যতম মডারেটর। টার্নবুল পিসি ম্যাগকে বলেছিলেন যে পার্সেক্টিভ এপিআই বিশেষত সাব এর বিধি 2 এর সাথে লাইন করে, যা মূলত অভদ্র বা প্রতিকূল বক্তৃতা নিষিদ্ধ করে।

"এটি একটি সাধারণ নিয়মের মতো মনে হচ্ছে তবে এর সাথে অনেক উপকার পাওয়া যায়, " স্কটল্যান্ডে অবস্থিত টার্নবুল বলেন। “ভাষা সম্পর্কে চালাক না হয়ে এই নিয়মটি স্বয়ংক্রিয় করা শক্ত। রেডডিট আপনাকে অটোমোড্রেটর নামে এই জিনিসটি দেয়, যেখানে আপনি পতাকাঙ্কের জন্য ফিল্টার এবং কীওয়ার্ড সেটআপ করতে পারেন। তবে এখানে অনেকগুলি মিথ্যা ইতিবাচক বিষয় রয়েছে এবং এটি ধরা খুব শক্ত হতে পারে, কারণ কেউ কাউকে অপমান না করেই খারাপ কথা বলতে পারে এবং কোনও খারাপ শব্দ ব্যবহার না করে তারা কাউকে অপমানও করতে পারে।"

জিগস মার্চ 2018 এ টার্নবুলের কাছে পৌঁছেছে। নিয়ম 2 দিয়ে এই সহযোগিতা শুরু হয়েছিল, তবে শীঘ্রই দলটি অন্যান্য নিয়মের জন্যও দৃষ্টিকোণ মডেল তৈরি করছে। এটি ওপেন-সোর্স পার্সকেক্টিপ এপিআইয়ের সম্পূর্ণ সংহত নয় বরং একটি রেডডিট বট যা মডারেটরদের প্রদত্ত টক্সিকের প্রান্তিকের উপরে মন্তব্যগুলি পতাকাঙ্কিত করতে দেয়।

গত ছয় বছর ধরে, টার্নবুল এবং অন্যান্য মোডগুলি অটোমোডেটর রিপোর্টগুলি (পতাকাঙ্কিত কীওয়ার্ড) এবং ব্যবহারকারী রিপোর্টগুলির সারি থেকে ম্যানুয়ালি এগুলি সব করছে। জিগস নিয়মিত লঙ্ঘনের নোটগুলিকে মডারেটরদের কাছ থেকে ব্যবহার করেছিলেন যা তারা ব্রাউজারের এক্সটেনশনের মাধ্যমে ট্র্যাক করেছিল এবং সেই তথ্যের উপর ভিত্তি করে পার্সেক্টিপ মডেলগুলি তৈরি করেছিল পার্সেপিকটির বিদ্যমান কিছু বিষাক্ততার মডেলগুলির সাথে মিলিত। 2018 এর পুরো সময়কালে, সিএমভি মোডগুলি অতিরিক্ত মিথ্যা ধনাত্মক হিসাবে ইস্যুতে প্রতিক্রিয়া জানিয়েছিল এবং সিএমভি'র আরও বিধিগুলির আরও মডেল চালিয়ে যাওয়ার সময় জিগ স্কোরিংয়ের দোরগোড়ায় টিকিয়েছিল।



অনলাইন বিতর্কে জটিল রায়

(দৃষ্টান্ত বট রেডডিট মডারেটর ইন্টারফেসের সাথে সংহত।)

দৃষ্টিভঙ্গি সাব্রেডডিটের সমস্ত নিয়মের সংযমের জন্য লাইভ নয়। কিছু জটিল বা বিমূর্ত বিধি এই ধরণের এমএল কী বুঝতে পারে তার পরিধি ছাড়িয়ে যায়।

উদাহরণস্বরূপ, বিধি 4 সাব এর ডেল্টা পয়েন্ট সিস্টেম পরিচালনা করে, যখন বি বি ব্যবহারকারীদেরকে শয়তানের উকিল খেলতে বা "সাবানবক্সিং" এর জন্য একটি পোস্ট ব্যবহার করা বন্ধ করে দেয়। এর মতো সংখ্যালঘু সংযমের জন্য প্রাসঙ্গিক ডেটা এবং সরল ওল 'মানুষের বোঝাপড়া প্রয়োজন, তা বোঝার জন্য যে কেউ সত্যিকারের কারণে বা কেবল ট্রলিংয়ের জন্য বিন্দু নিয়ে তর্ক করছে।

সুদূর ভবিষ্যতের জন্য, আমাদের এখনও মানব মোডের প্রয়োজন হবে। এই আরও জটিল বিচারের পরিস্থিতি হ'ল যেখানে সিএমভি মডারেটররা এআই মডেলিংয়ে ফাটল দেখতে শুরু করেছে এবং আরও চালাক অটোমেশন নির্ধারণ করতে পারে যে এই সমস্তগুলি স্কেলযোগ্য কিনা।

টার্নবুল বলেছিলেন, "আমি মনে করি কেন এটি এত জটিল হওয়ার কারণ এটি সমগ্র আলাপচারিতা জুড়ে তাদের মূল পোস্ট এবং তাদের মিথস্ক্রিয়া সম্পর্কে আমাদের বিচারের মিশ্রণ So সুতরাং এটি কেবল একটি মন্তব্য নয় যা একটি মডেলকে ট্রিগার করে"। "যদি কোনও যুক্তি পিছনে পিছনে চলতে থাকে এবং শেষে 'থ্যাঙ্কস' বা একটি স্বীকৃতি জানাতে একটি মন্তব্য হয় তবে থ্রেডের কোনও নিয়ম আগে ভেঙে গেলেও আমরা এটিকে ছেড়ে দিতে পারি Or বা হালকা মনের মজার রসিকতা প্রসঙ্গে অভদ্র হতে পারে - এটি একটি দুর্দান্ত ছোট্ট মানব জিনিস এবং এটি বটটি এখনও পায় না।"

অ্যাডামস বলেছিলেন যে এই দলটি আরও বেশ কয়েকজনের কাছ থেকে অ্যাক্সেসের অনুরোধ পেয়েছে, যদিও চেজ মাই ভিউ এই মুহূর্তে সংযমের জন্য পরিপ্রেক্ষিত এমএল মডেলগুলি সক্রিয়ভাবে ব্যবহার করা কেবলমাত্র সাব্রেডডিট। সিএমভির নির্দিষ্ট নিয়ম সেট এটিকে একটি আদর্শ পরীক্ষার কেস হিসাবে তৈরি করেছে, তবে দৃষ্টিভঙ্গি মডেলগুলি ক্ষণস্থায়ী; পৃথক সাবরেডিটগুলি তাদের সম্প্রদায়ের নির্দেশিকাগুলির সাথে মেলে স্কোরিং অ্যালগরিদমটি কাস্টমাইজ করতে পারে।

টার্নবুলের জন্য পরবর্তী পদক্ষেপ সিএমভি রেডডিটকে ছাড়ছে কারণ সম্প্রদায়টি এটি বাড়িয়ে চলেছে, তিনি বলেছিলেন। গত ছয় মাস ধরে, মডারেটরদের নবগঠিত স্টার্টআপ রেডডিটের মড ইন্টারফেস এবং বটগুলি সরবরাহ করতে পারে তার চেয়ে গভীর কার্যকারিতা সহ একটি ডেডিকেটেড সাইটে জিগসের সাথে কাজ করছে।

প্রকল্পটি কেবলমাত্র আলফা পরীক্ষায় রয়েছে, তবে টার্নবুল প্র্যাকটিভ সতর্কতাগুলির মতো বৈশিষ্ট্য সম্পর্কে কথা বলেছেন যখন কোনও ব্যবহারকারী কোনও মন্তব্য লিখতে পারে যা কোনও নিয়ম ভাঙতে পারে, মডারেটরদের আরও প্রসঙ্গ দেওয়ার জন্য অন্তর্নির্মিত প্রতিবেদন এবং সিদ্ধান্ত নিতে historicalতিহাসিক ডেটা। টার্নবুল জোর দিয়েছিলেন যে সাবরেডডিট বন্ধ বা মাইগ্রেট করার কোনও পরিকল্পনা নেই, তবে নতুন পরীক্ষাটি নিয়ে তিনি আগ্রহী।

• সমস্ত মন্তব্য মুদ্রণ ফিট

  সপ্তাহের দিন অনুসারে, নিউইয়র্ক টাইমসের ওয়েবসাইটটি 12, 000 থেকে 18, 000 এরও বেশি মন্তব্য পেয়েছে। ২০১ mid সালের মাঝামাঝি পর্যন্ত, কাগজের মন্তব্য বিভাগগুলি একটি পূর্ণ-কালীন সম্প্রদায়ের পরিচালনা কর্মীদের দ্বারা সংমিত করা হয়েছিল যারা প্রতিটি একক মন্তব্য পড়ে এবং এটি অনুমোদিত বা প্রত্যাখ্যান করার সিদ্ধান্ত নিয়েছে।

  বাসে এতিম, যিনি এই মাস পর্যন্ত টাইমসের সম্প্রদায়ের সম্পাদক ছিলেন, তিনি কমিউনিটি ডেস্কে এক দশক অতিবাহিত করেছিলেন এবং ২০১৪ সাল থেকে এটির সম্পাদক ছিলেন। এক সপ্তাহের দিন শীর্ষে, এই দলে কয়েকটি লোক মতামতের গল্পগুলিতে মতামত সংযত করতে পারে অন্যদিকে ট্যাকলড নিউজ স্টোরি একটি স্প্রেডশিট বিভক্ত হয়ে গেছে এবং বিভিন্ন দায়িত্ব ট্র্যাক করেছে, তবে প্রায় এক ডজন লোকের দলটি এই মুহুর্তের শীর্ষ খবরের উপর নির্ভর করে প্রতিনিয়ত পুনরায় নিয়োগ দেওয়া হয়েছিল বা ঘোরাফেরা করা হয়েছিল। তারা সম্ভাব্য গল্পের পশুর জন্য সাংবাদিকদের কাছে মন্তব্যগুলি থেকে বার বার খাইয়েছিল।

  অবশেষে, এটি স্পষ্ট হয়ে উঠল যে এটি 12 টিরও বেশি মানুষ পরিচালনা করতে পারে। গল্পগুলিতে মন্তব্য বিভাগগুলিকে টিম সংযত করতে পারে এমন সর্বাধিক সংখ্যক মন্তব্যে পৌঁছানোর পরে বন্ধ করতে হবে।

  সংবাদপত্রের শ্রোতা বিকাশকারী গোষ্ঠী ইতিমধ্যে মেশিন লার্নিংয়ের সাথে বেসিক, স্পষ্ট মন্তব্য অনুমোদনের জন্য পরীক্ষা-নিরীক্ষা করেছিল, তবে এতিম বলেছিলেন যে এটি বিশেষভাবে স্মার্ট বা কাস্টমাইজযোগ্য নয়। টাইমস সর্বপ্রথম ২০১ Jigsaw সালের সেপ্টেম্বরে জিগসের সাথে অংশীদারিত্বের ঘোষণা করেছিল। তার পরে তার মন্তব্য বিভাগগুলি সমস্ত গল্পের 10 শতাংশের চেয়ে কম উপস্থিত হয়ে আজ 30 শতাংশের কাছাকাছি এসে আরোহণ করেছে।

  জিগ্সের দৃষ্টিকোণ থেকে, ইনকিউবেটরটি প্রতিদিন লক্ষ লক্ষ মন্তব্য থেকে পরিপ্রেক্ষিত বেনামেড ডেটা খাওয়ানোর সুযোগ দেখেছিল, পেশাদারদের দ্বারা পরিচালিত যারা প্রক্রিয়াটি পরিমার্জনে সহায়তা করতে পারে। বেনামে প্রকাশিত এমএল প্রশিক্ষণের ডেটার বিনিময়ে, জিগস এবং টাইমস একযোগে মডারেটর নামে একটি প্ল্যাটফর্ম তৈরি করতে কাজ করেছিল, যা জুন ২০১ in এ প্রবর্তিত হয়েছিল।



মডারেটরের অভ্যন্তরে, এনওয়াইটি মন্তব্য ইন্টারফেস

(ছবিটি নিউইয়র্ক টাইমসের সৌজন্যে )

মডারেটর 16 মিলিয়নেরও বেশি অজ্ঞাতনামা, সংযত টাইমস মন্তব্যে 2007 এ ফিরে যাওয়ার সাথে পরিপ্রেক্ষিতের মডেলগুলিকে একত্রিত করে।

সম্প্রদায় দলটি মডারেটর ইন্টারফেসে আসলে যা দেখছে তা হ'ল একটি ইন্টারেক্টিভ হিস্টোগ্রাম চার্ট সহ একটি ড্যাশবোর্ড যা একটি নির্দিষ্ট প্রান্তিকের উপরে মন্তব্য ভাঙ্গনের দৃশ্যধারণ করে। তারা স্লাইডারটিকে পিছনে পিছনে টেনে আনতে পারে, উদাহরণস্বরূপ, কেবলমাত্র 0 থেকে 20 শতাংশের সংক্ষিপ্ত স্কোর সহ সমস্ত মন্তব্যকে স্বয়ংক্রিয়ভাবে অনুমোদনের জন্য, যা অশ্লীলতা, বিষাক্ততা এবং প্রত্যাখ্যান হওয়ার সম্ভাবনাটির একটি মন্তব্যের সম্ভাবনার সংমিশ্রণের উপর ভিত্তি করে। দৃষ্টিভঙ্গির মডেলিংয়ের উন্নতি অব্যাহত রাখতে কোনও মন্তব্য অনুমোদিত বা প্রত্যাখ্যান করতে, তা স্থগিত করতে, বা মন্তব্য ট্যাগ করার জন্য নীচে দ্রুত মডারেশন বোতাম রয়েছে।

"ওয়েবসাইটের প্রতিটি বিভাগের জন্য, আমরা আগত মন্তব্য এবং যেভাবে দৃষ্টিভঙ্গি তাদের ট্যাগ করবে তা বিশ্লেষণ করেছিলাম। আমরা নিউ ইয়র্ক টাইমসের কাছে জনসাধারণের দৃষ্টিভঙ্গি মডেল এবং আমাদের নিজস্ব মডেল উভয়ই ব্যবহার করেছি, " বলেছেন এতিম। "আমি প্রতিটি বিভাগের মন্তব্যে বিশ্লেষণ করব এবং কাট অফ পয়েন্টটি সন্ধান করার চেষ্টা করব যেখানে আমরা বলতে স্বাচ্ছন্দ্য বোধ করব, 'ঠিক আছে, অশ্লীলতার মতো এই নির্দিষ্ট বিষাক্ততা ট্যাগ ব্যবহার করে সম্ভাবনার aboveর্ধ্বে সমস্ত কিছুই আমরা অনুমোদন করতে যাচ্ছি।"

মেশিন লার্নিং তুলনামূলকভাবে কম শতাংশের মন্তব্যে (প্রায় 25 শতাংশ বা তার বেশি, এতিম বলেছে) অনুমোদন দিচ্ছে যেহেতু টাইমস আরও গল্পের বিষয়ে মন্তব্য রোল করে এবং শেষ পর্যন্ত এমনকি মডেলগুলি কীভাবে সাইটের বিভিন্ন বিভাগের জন্য মন্তব্যগুলিকে ফিল্টার করে এবং মতামত অনুমোদন করে তাও কাস্টমাইজ করতে কাজ করে। মডেলগুলি কেবল মন্তব্যে অনুমোদন দেয়; প্রত্যাখ্যান এখনও সম্পূর্ণরূপে মানব মডারেটর দ্বারা পরিচালিত হয়।

যারা ম্যানুয়াল মন্তব্য কাট অফ হয়েছে। মন্তব্যগুলি সাধারণত কোনও গল্প অনলাইনে প্রকাশের 24 ঘন্টা পরে বা এটি মুদ্রণে প্রকাশের পরের দিন বন্ধ থাকে, এটিম বলেছিলেন।

'আমরা আপনাকে মেশিনগুলির সাথে প্রতিস্থাপন করছি না "

পরবর্তী পর্যায়ে মডারেটরদের অগ্রাধিকার দিতে প্রথমে কোন মতামতটি দেখা উচিত তা সহায়তা করতে সিস্টেমে আরও বৈশিষ্ট্য তৈরি করা হচ্ছে। ক্রমবর্ধমানভাবে, ম্যানুয়াল প্রক্রিয়াটি সর্বদা যা হয়েছে তা স্বয়ংক্রিয়ভাবে পরিচালকদের মন্তব্যগুলির জবাব দেওয়ার জন্য সাংবাদিকদের সাথে সক্রিয়ভাবে সময় কাটাতে সক্ষম করেছে। এটি একটি প্রতিক্রিয়া লুপ তৈরি করেছে যেখানে মন্তব্যগুলি ফলো-আপ রিপোর্টিং এবং অতিরিক্ত গল্পগুলিতে নেতৃত্ব দেয় more আরও সাংবাদিকতা তৈরি করতে সংস্থানগুলি সংরক্ষণ এবং পুনর্বিবেচনা করতে পারে।

এতিম বলেন, "মডারেটর এবং পার্সপেক্টিভ টাইমসকে পাঠকদের উদ্বেগের জন্য অনেক বেশি প্রতিক্রিয়াশীল করে তুলেছে, কারণ আমাদের নিজেরাই এটি গল্প লেখার মাধ্যমে হোক বা গল্পগুলি বের করার জন্য সাংবাদিকদের সাথে কাজ করেই তা করার মতো সংস্থান রয়েছে।" "এই প্রকল্পের দুর্দান্ত জিনিসটি হ'ল আমরা কাউকে ছাড়িনি We আমরা আপনাকে মেশিনগুলি দিয়ে প্রতিস্থাপন করছি না simply আমরা কেবল আমাদের সাথে আরও দক্ষতার সাথে ব্যবহার করছি এবং সত্যিকারের কঠোর সিদ্ধান্ত নিতে পারি""

অন্যান্য শিল্পকে এই জাতীয় প্রযুক্তি বাস্তবায়নে সহায়তা করার জন্য কাগজটি অন্যান্য প্রকাশনাগুলির সাথে কাজ করার জন্য উন্মুক্ত। এটি একটি বৃহত নিবেদিত কর্মী ব্যতীত মন্তব্য বিভাগ বজায় রাখতে এবং টাইমসের মতো মন্তব্যগুলি ব্যবহার করতে, সম্ভাব্য সীসা এবং তৃণমূলের সাংবাদিকতার জ্বালানী খুঁজে পেতে সীমিত সংস্থাসমূহের স্থানীয় সংবাদকে সহায়তা করতে পারে।

এতিম এআই-সহায়ক সংযমকে একজন কৃষককে একটি কোদাল বনাম একটি যান্ত্রিক লাঙ্গল দেওয়ার সাথে তুলনা করেছিলেন। লাঙ্গল দিয়ে আপনি কাজটি আরও অনেক ভাল করতে পারেন।

"যদি দৃষ্টিভঙ্গি সঠিক উপায়ে বিকশিত হতে পারে তবে আশা করা যায় যে এটি কমপক্ষে একটি নির্দেশিকা তৈরি করতে পারে যা ছোট আউটলেটগুলির জন্য পুনরাবৃত্তিযোগ্য হয়, " তিনি বলেছিলেন। "এটি একটি দীর্ঘ খেলা, তবে আমরা ইতিমধ্যে সেই পাঠক অভিজ্ঞতার অংশ হওয়ার জন্য অনেক ভিত্তি স্থাপন করেছি Then তবে সম্ভবত এই স্থানীয় কাগজপত্রগুলিতে আবার মন্তব্য করা যেতে পারে এবং প্রধান সামাজিক খেলোয়াড়দের বিরুদ্ধে কিছুটা সৈকত নেতৃত্ব স্থাপন করতে পারে।"



অতল গহ্বরে চিৎকার করছে

এই মুহুর্তে, আমাদের বেশিরভাগ লোকেরা মতামত উত্থাপনের জন্য সামাজিক মিডিয়াতে আক্রমণ করা বা হয়রানির শিকার হতে দেখেছেন। এই ধরণের জিনিসটিতে সাফল্য অর্জনকারী ট্রল ব্যতীত কেউ তাদের সাথে এটি ঘটতে চায় না। এবং আমরা শিখেছি যে কোনও অচেনা লোকের পক্ষে চিৎকার করা যিনি কখনই যুক্তিবাদী যুক্তি শোনেন না আমাদের সময়ের মূল্যবান ব্যবহার নয়।

দৃষ্টিভঙ্গি সেই গতিশীলকে ধরে রাখার চেষ্টা করছে, তবে সিজে অ্যাডামস বলেছেন যে বিস্তৃত লক্ষ্য কথোপকথনের নতুন কাঠামো তৈরি করার জন্য ডেটা, গবেষণা এবং নতুন ওপেন-সোর্স ইউএক্স মডেল প্রকাশ করা - একটি দু: খজনক কাজ। জনগণের জন্য উপযুক্ত সময়ের জন্য ইন্টারনেটকে একটি স্বাস্থ্যকর জায়গা বানানো মানে নিউজ কমেন্ট বিভাগ এবং সাবরেডিট ছাড়িয়ে এই সিস্টেমগুলিকে স্কেল করা। শেষ পর্যন্ত, এআই সরঞ্জামগুলি অবশ্যই আমাদের প্রতিদিনের ডিজিটাল মিথস্ক্রিয়াগুলিকে প্রাধান্য দেয় এমন বিশাল সামাজিক অ্যাপস এবং নেটওয়ার্কগুলি পরিচালনা করতে সক্ষম হবে।

ফেসবুক, টুইটার এবং অন্যান্য সামাজিক জায়ান্টরা অভ্যন্তরীণভাবে যা করছে তা একদিকে রেখে, এটি সম্পাদন করার সর্বাধিক প্রত্যক্ষ উপায় হ'ল প্রযুক্তিটি মডারেটর থেকে ব্যবহারকারীদের কাছে চাপ দেওয়া। অ্যাডামস এর মতো দেখতে কী হতে পারে তার একটি ধারণার জন্য কোরাল প্রকল্পের দিকে ইঙ্গিত করলেন।

প্রবাল প্রকল্পটি প্রথমে মজিলা ফাউন্ডেশন, দ্য নিউ ইয়র্ক টাইমস এবং ওয়াশিংটন পোস্টের মধ্যে একটি সহযোগিতা হিসাবে প্রতিষ্ঠিত হয়েছিল । প্রবাল অনলাইন আলোচনায় উত্সাহ দিতে এবং নিউজ সাইটগুলিকে মন্তব্য বিভাগ বন্ধ করার বিকল্প দেওয়ার জন্য তার টক প্ল্যাটফর্মের মতো মুক্ত-উত্স সরঞ্জাম তৈরি করছে। টক বর্তমানে পোস্ট , নিউইয়র্ক ম্যাগাজিন, দ্য ওয়াল স্ট্রিট জার্নাল এবং দ্য ইন্টারসেপ্ট সহ প্রায় 50 অনলাইন প্রকাশকের জন্য প্ল্যাটফর্মকে ক্ষমতা দেয়।

এই মাসের শুরুর দিকে ভক্স মিডিয়া মোজিলা ফাউন্ডেশন থেকে কোরাল প্রকল্পটি অর্জন করেছিল; এটি এর বিষয়বস্তু পরিচালনা এবং গল্প বলার প্ল্যাটফর্মটি কোরাসকে "গভীরভাবে সংহত" করার পরিকল্পনা করেছে।

অ্যাডামস বলেছে যে প্রবেক্টিপটি কোরাল প্রকল্পের জন্য একটি প্লাগইন রয়েছে যা ব্যবহারকারীরা টাইপ করার সাথে সাথে তাদের প্র্যাকটিভ পরামর্শ দেওয়ার জন্য একই অন্তর্নিহিত প্রযুক্তি - এমএল-ভিত্তিক বিষাক্ততা স্কোরিং এবং থ্রেশহোল্ড ব্যবহার করে। সুতরাং যখন কোনও ব্যবহারকারী আপত্তি বা হয়রানি হিসাবে চিহ্নিত বাক্যাংশগুলি সহ একটি মন্তব্য লিখছেন, তখন একটি বিজ্ঞপ্তি ব্যবহারকারীর জন্য পপ আপ হতে পারে, "আপনি এটি পোস্ট করার আগে আমাদের সম্প্রদায়ের নির্দেশিকাগুলি মনে রাখবেন" বা "এই মন্তব্যের ভাষাটি আমাদের লঙ্ঘন করতে পারে সম্প্রদায় নির্দেশিকা। আমাদের সংযম দলটি শীঘ্রই এটি পর্যালোচনা করবে ""

অ্যাডামস বলেছিলেন, "এই সামান্য টোকা মানুষকে ভাবতে দ্বিতীয় মুহূর্তটি নিতে সাহায্য করতে পারে তবে এটি কাউকে বাধা দেয় না, " অ্যাডামস বলেছিলেন। "এটি আলোচনা থামছে না।"

এটি এমন একটি প্রক্রিয়া যা ভিডিও গেম চ্যাট এবং স্ট্রিমিং প্ল্যাটফর্মগুলি অপব্যবহার এবং হয়রানির বিরুদ্ধে সংহত করে। টুইটার ব্যবহারকারীরাও এ জাতীয় সিস্টেম থেকে স্পষ্টভাবে উপকৃত হতে পারেন।

এটি একটি ধারণার সাথে কথা বলেছিল যে এমআইটি গবেষণা বিজ্ঞানী অ্যান্ড্রু লিপ্পম্যান পিসি ম্যাগের ভবিষ্যত ইস্যুতে নিয়ে এসেছিলেন: তিনি বিল্ট-ইন মেকানিজম সম্পর্কে কথা বলেছেন যা লোকেরা অনলাইনে কিছু ভাগ করার আগে লোকেরা থামতে এবং চিন্তাভাবনা করতে পারে, যাতে ভুল তথ্য ছড়িয়ে দেওয়া রোধ করতে সহায়তা করে। অনলাইন আলোচনার ক্ষেত্রেও ধারণাটি প্রযোজ্য। লিপম্যান বলেছেন, আমরা ঘর্ষণঘটিত যোগাযোগ ব্যবস্থা তৈরি করেছি যা তাত্ক্ষণিকভাবে একটি বিবৃতি পৌঁছানোর উদ্দেশ্যে দ্রুতগতিতে সক্ষম হয়, তবে কখনও কখনও সামান্য ঘর্ষণ ভাল জিনিস হতে পারে, লিপম্যান বলেছেন।

দৃষ্টিভঙ্গি এআইকে কম্বল সমাধান হিসাবে ব্যবহার করার বিষয়ে নয়। এটি এমএল মডেলগুলিকে তাদের নিজস্ব অভিজ্ঞতাকে নিখুঁত করতে সহায়তা করার জন্য সরঞ্জামগুলিতে moldালাইয়ের একটি উপায়। তবে একটি পাল্টা পয়েন্ট হ'ল যদি আপনি যে অনলাইন শোনার পছন্দ করেন না তাদের পক্ষে সুর তৈরি করা যদি আরও সহজ করে তোলে, ইন্টারনেট ইতোমধ্যে ইকো চেম্বারের চেয়ে আরও বেশি হয়ে উঠবে।

পরিপ্রেক্ষিতের মতো সরঞ্জামগুলি চূড়ান্তভাবে এটি আরও বাড়িয়ে তুলতে পারে কিনা জানতে চাইলে অ্যাডামস বলেছিলেন যে তিনি বিশ্বাস করেন অনলাইন ইকো চেম্বার রয়েছে কারণ এমন একটি আলোচনার আয়োজন করার কোনও ব্যবস্থা নেই যেখানে লোকেরা অর্থপূর্ণভাবে অসমত করতে পারে।

"ন্যূনতম প্রতিরোধের পথ হ'ল 'এই লোকেরা লড়াই করছে। আসুন তারা তাদের নিজস্ব কোণায় নিজের সাথে একমত হোক। লোকেরা নিজেরাই সাইলো হোক, " তিনি বলেছিলেন। "আপনি লোকদের ঘর থেকে অন্য সবাইকে চিৎকার করতে দিয়েছেন, বা আপনি আলোচনাটি বন্ধ করে দিয়েছেন We

অ্যাডামস একটি নমুনা দৃশ্যের ব্যবস্থা। আপনি যদি এক হাজার লোকের ঘরে জিজ্ঞাসা করেন, "আপনি আজ কতজন এমন কিছু পড়েছেন যার বিষয়ে আপনি সত্যই যত্নশীল হন?" বেশিরভাগ ইন্টারনেট ব্যবহারকারী কোনও নিবন্ধ, একটি টুইট, একটি পোস্ট বা তারা অনলাইনে যে কোনও কিছু পড়েন। তবে আপনি যদি তাদের জিজ্ঞাসা করেন, "আপনারা কয়জন মনে করেছিলেন যে এটি সম্পর্কে আপনার মন্তব্য করা বা আলোচনা করা আপনার সময়ের জন্য উপযুক্ত?" ঘরের সমস্ত হাত নেমে যাবে।

"আমাদের অনেকের জন্য, এটি চেষ্টা করার মতো নয়। এখনই আমাদের যে আলোচনার কাঠামো রয়েছে তা কেবল এটি একটি দায়বদ্ধ। আপনার যদি বর্তমান যুক্তিযুক্ত চিন্তাভাবনা থাকে বা কিছু ভাগ করে নিতে চান তবে বেশিরভাগ লোকের জন্য তারা ডোন না '' অংশ নিতে চান না, "অ্যাডামস বলেছিলেন। "তার মানে সেই 1000 জনের মধ্যে যাঁরা ঘরে থাকতে পারেন, আপনি আলোচনায় কেবলমাত্র কয়েকজন লোকের প্রতিনিধিত্ব করেছেন; আসুন, 10 জনকে বলে দিন I আমার গভীর বিশ্বাস আছে যে আমরা এমন একটি কাঠামো তৈরি করতে পারি যা অন্যান্য 990 কে আবার আলোচনায় ফিরিয়ে দেয় lets এবং এটি এমনভাবে করে যাতে তারা তাদের সময়ের জন্য উপযুক্ত মনে করে।"