অ্যালেক্সার ভুল থেকে শিক্ষা নেওয়া

একটি অ্যামাজন ইকো ডিভাইস সম্প্রতি একজন ব্যবহারকারীর ব্যক্তিগত কথোপকথন রেকর্ড করেছে এবং তাদের জ্ঞান এবং সম্মতি ছাড়াই এটি তাদের পরিচিতিগুলির একটিতে প্রেরণ করেছে। এটি (আবার) স্মার্ট স্পিকারের সুরক্ষা এবং গোপনীয়তা সম্পর্কে উদ্বেগ উত্থাপন করে। পরে যেমন স্পষ্ট হয়ে গিয়েছিল, যদিও আলেক্সার অদ্ভুত আচরণ কোনও গুপ্তচর গুপ্তচরবৃত্তির অংশ ছিল না - বরং এটি স্মার্ট স্পিকারের কাজ করার জন্য দায়ী একাধিক সংযুক্ত ব্যর্থতার কারণে ঘটেছে।

অ্যামাজনের দেওয়া অ্যাকাউন্ট অনুসারে: "ব্যাকগ্রাউন্ড কথোপকথনের একটি শব্দ 'আলেক্সা'র মতো শোনার কারণে ইকো জেগে ওঠে। তারপরে, পরবর্তী কথোপকথনটি একটি 'বার্তা প্রেরণ' অনুরোধ হিসাবে শোনা গেল which কোন মুহুর্তে আলেক্সা উচ্চস্বরে বললেন, 'কাকে?' কোন পর্যায়ে, পটভূমি কথোপকথনটি গ্রাহকের যোগাযোগ তালিকার নাম হিসাবে ব্যাখ্যা করা হয়েছিল.আলেক্সা তখন উচ্চস্বরে জিজ্ঞাসা করলেন, 'ঠিক আছে?' এরপরে অ্যালেক্সা ব্যাকগ্রাউন্ড কথোপকথনটিকে 'সঠিক' হিসাবে ব্যাখ্যা করেছিলেন। ইভেন্টগুলির এই স্ট্রিং যতটা সম্ভাবনা কম, আমরা এই কেসটিকে আরও কম সম্ভাব্য করার বিকল্পগুলির মূল্যায়ন করছি ""

দৃশ্যটি একটি প্রান্তের ঘটনা, এ জাতীয় ঘটনা খুব কমই ঘটে। তবে এটি কৃত্রিম বুদ্ধিমত্তার প্রযুক্তির সীমাবদ্ধতার মধ্যেও একটি আকর্ষণীয় গবেষণা যা ইকো এবং অন্যান্য তথাকথিত "স্মার্ট" ডিভাইসগুলিকে শক্তি দেয়।

খুব বেশি ক্লাউড রিলায়েন্স

ভয়েস কমান্ডগুলি বোঝার জন্য, ইকো এবং গুগল হোমের মতো স্মার্ট স্পিকারগুলি গভীর-লার্নিং অ্যালগরিদমগুলিতে নির্ভর করে, যার জন্য বিস্তৃত কম্পিউটিং শক্তি প্রয়োজন। স্থানীয়ভাবে এই কাজটি সম্পাদন করার জন্য তাদের কাছে কম্পিউটারের সংস্থান নেই, তাই তাদের অবশ্যই ডেটা প্রস্তুতকারকের ক্লাউড সার্ভারগুলিতে প্রেরণ করতে হবে, যেখানে এআই অ্যালগরিদমগুলি স্পষ্ট ভাষায় ডেটা পাঠাতে এবং আদেশগুলি প্রক্রিয়ায় রূপান্তর করে।

তবে স্মার্ট স্পিকাররা তাদের ক্লাউড সার্ভারগুলিতে যা কিছু শুনেছে তা প্রেরণ করতে পারে না, কারণ এর জন্য প্রস্তুতকারকের তাদের সার্ভারগুলিতে অতিরিক্ত পরিমাণে ডেটা সঞ্চয় করা দরকার - যার বেশিরভাগই অকেজো। দুর্ঘটনাক্রমে রেকর্ডিং এবং ব্যবহারকারীর ঘরে বসে ব্যক্তিগত কথোপকথন সংরক্ষণ করা গোপনীয়তার চ্যালেঞ্জ উপস্থাপন করতে পারে এবং নির্মাতাদের সমস্যায় ফেলতে পারে, বিশেষত নতুন তথ্য গোপনীয়তা সংক্রান্ত বিধিগুলি যা প্রযুক্তিবিদ সংস্থাগুলি কীভাবে ডেটা সংরক্ষণ এবং ব্যবহার করে তার উপর কঠোর বিধিনিষেধ আরোপ করে।

এজন্য ব্যবহারকারী "আলেক্সা" বা "আরে গুগল" এর মতো একটি জাগ্রত শব্দ উচ্চারণ করার পরে স্মার্ট স্পিকারগুলি ট্রিগার করার জন্য তৈরি করা হয়েছে। কেবল জাগ্রত শব্দটি শোনার পরে তারা বিশ্লেষণ এবং প্রক্রিয়াজাতকরণের জন্য তাদের মাইক্রোফোনের অডিও ইনপুটটি ক্লাউডে পাঠানো শুরু করে।

যদিও এই বৈশিষ্ট্যটি গোপনীয়তার উন্নতি করে, সাম্প্রতিক অ্যালেক্সার ঘটনাটি হাইলাইট করার সাথে সাথে এটি তার নিজস্ব চ্যালেঞ্জগুলি উপস্থাপন করে।

কথোপকথনের মাধ্যমে "যদি শব্দটি - বা খুব ভাল লাগার মতো কিছু শব্দ half যদি অর্ধেকভাবে প্রেরণ করা হয় তবে আলেক্সার আগের কোনও প্রসঙ্গ থাকবে না, " কথোপকথনের সিইও জোশুয়া মার্চ বলেছেন। "এই মুহুর্তে, আপনি যে দক্ষতাগুলি প্রস্তুত করেছেন (তাদের মেসেজিং অ্যাপের মতো) সম্পর্কিত কোনও আদেশের পক্ষে এটি অত্যন্ত কঠোরভাবে শুনছে। বেশিরভাগ ক্ষেত্রে, আলেক্সা যে প্রসঙ্গে মনোযোগ দিচ্ছে তা সীমাবদ্ধ করে গোপনীয়তাটি ব্যাপকভাবে বাড়ানো হয়েছে (হিসাবে এটি আপনার কোনও সাধারণ কথোপকথনের রেকর্ডিং বা শুনছে না), যদিও এই ক্ষেত্রে ব্যাকফায়ার হয়েছে।"

এজ কম্পিউটিংয়ের অগ্রগতিগুলি এই সমস্যাটি দূর করতে সহায়তা করতে পারে। যেহেতু এআই এবং গভীর শেখার আরও বেশি সংখ্যক ডিভাইস এবং অ্যাপ্লিকেশনগুলিতে তাদের পথ সন্ধান করে, কিছু হার্ডওয়্যার নির্মাতারা ক্লাউড রিসোর্সে খুব বেশি নির্ভরতা ছাড়াই এআই কার্য সম্পাদনের জন্য বিশেষ প্রসেসর তৈরি করেছেন created এজ এআই প্রসেসরগুলি ক্লোমে সমস্ত ডেটা প্রেরণ করে ব্যবহারকারীর গোপনীয়তার লঙ্ঘন না করে ইকোয়ের মতো ডিভাইসগুলিকে আরও ভালভাবে বুঝতে এবং প্রক্রিয়াগুলি কথোপকথনে সহায়তা করতে পারে।

প্রসঙ্গ এবং উদ্দেশ্য

অডিওর স্বতন্ত্র এবং খণ্ডিত অংশগুলি গ্রহণের পাশাপাশি, অ্যামাজনের এআই মানব কথোপকথনের সংক্ষিপ্তসারগুলি বোঝার জন্য লড়াই করে।

মার্চ বলে, "যদিও বিগত কয়েক বছর ধরে গভীর জ্ঞানার্জনের ক্ষেত্রে প্রচুর অগ্রগতি হয়েছে এবং বক্তৃতা এবং চিত্রগুলি আগের চেয়ে আরও ভালভাবে বুঝতে সক্ষম করেছে, এখনও অনেক সীমাবদ্ধতা রয়েছে, " মার্চ বলে। "যদিও ভয়েস অ্যাসিস্ট্যান্টরা আপনি যে শব্দগুলি বলছেন তা স্বীকৃতি দিতে পারে তবে এর পেছনের অর্থ বা উদ্দেশ্য সম্পর্কে তাদের কাছে কোনও ধরণের সত্যিকারের বোধগম্যতার প্রয়োজন নেই The বিশ্বটি একটি জটিল জায়গা, তবে আজ যে কোনও একটি এআই সিস্টেম কেবল খুব সামাল দিতে সক্ষম নির্দিষ্ট, সংকীর্ণ ব্যবহারের ক্ষেত্রে।"

উদাহরণস্বরূপ, আমাদের মনুষ্যদের নির্ধারণ করার অনেক উপায় রয়েছে যে কোনও বাক্য আমাদের দিকে নির্দেশিত হয়েছে, যেমন কণ্ঠস্বর, বা ভিজ্যুয়াল ইঙ্গিতগুলি অনুসরণ করে - বলুন, স্পিকার যে দিকটি দেখছে।

বিপরীতে, আলেক্সা অনুমান করে যে এটি "A" শব্দটি ধারণ করে এমন কোনও বাক্যের প্রাপক। এ কারণেই ব্যবহারকারীরা প্রায়শই এটি দুর্ঘটনাক্রমে ট্রিগার করে।

সমস্যার অংশটি হ'ল আমরা বর্তমান এআই অ্যাপ্লিকেশনগুলির সক্ষমতা অতিরঞ্জিত করি, প্রায়শই এগুলিকে মানুষের মনের সাথে বা তার উপরে রাখি এবং তাদের মধ্যে অত্যধিক আস্থা রাখি। সে কারণেই তারা অবাক হয়ে যায় যখন তারা দর্শনীয়ভাবে ব্যর্থ হয়।

"এখানে সমস্যার একটি অংশ হ'ল 'এআই' শব্দটি এত আক্রমণাত্মকভাবে বাজারজাত করা হয়েছে যে গ্রাহকরা এই শব্দটির সাথে আবদ্ধ হয়ে তাদের পণ্যগুলিতে একটি অনির্দিষ্ট পরিমাণ বিশ্বাস রেখেছেন, " স্টারমাইন্ডের প্রতিষ্ঠাতা ও স্নাতক প্যাস্কাল কাউফম্যান বলেছেন। "এই গল্পটি ব্যাখ্যা করে যে আলেক্সার অনেকগুলি ক্ষমতা রয়েছে এবং কখন এবং কখন তাদের যথাযথভাবে প্রয়োগ করা উচিত সে সম্পর্কে তুলনামূলকভাবে সীমিত ধারণা রয়েছে।"

গভীর-শেখার অ্যালগরিদমগুলি যখন সেটিংয়ের মুখোমুখি হয় যা সেগুলি প্রশিক্ষণ প্রাপ্ত ডেটা এবং পরিস্থিতিগুলি থেকে বিচ্যুত হয়। কাউফম্যান বলেছেন, "মানব-স্তরের এআই এর একটি নির্ধারিত বৈশিষ্ট্য হ'ল স্বয়ংসম্পূর্ণ যোগ্যতা এবং বিষয়বস্তুর সত্যিকারের উপলব্ধি।" "এটি সত্যই এআই'কে 'বুদ্ধিমান' হিসাবে বিবেচনা করার একটি গুরুত্বপূর্ণ অঙ্গ এবং এর বিকাশের জন্য অতীব গুরুত্বপূর্ণ self স্ব-সচেতন ডিজিটাল সহায়ক তৈরি করা, যা তাদের সাথে মানব প্রকৃতির একটি সম্পূর্ণ উপলব্ধি নিয়ে আসে, যা তাদের মজার অভিনবত্ব থেকে সত্যই রূপান্তরিত করবে mark দরকারী টুল."

তবে মানব-স্তরের এআই তৈরি করা, সাধারণ এআই হিসাবেও উল্লেখ করা সমাপ্ত হওয়ার চেয়ে সহজ। বহু দশক ধরে, আমরা ভাবছিলাম এটি কেবল কোণার চারপাশে, কেবল প্রযুক্তিগত অগ্রগতি দেখিয়েছে যে মানুষের মন কতটা জটিল। অনেক বিশেষজ্ঞ বিশ্বাস করেন যে সাধারণ এআইকে তাড়ানো ব্যর্থ is

ইতিমধ্যে, সংকীর্ণ এআই (বর্তমান কৃত্রিম বুদ্ধিমত্তার প্রযুক্তিগুলি বর্ণিত হিসাবে) এখনও অনেক সুযোগ উপস্থাপন করে এবং ভুলগুলি পুনরাবৃত্তি এড়াতে স্থির করা যেতে পারে। স্পষ্টতই, গভীর শিখন এবং মেশিন লার্নিং এখনও নবজাতক, এবং অ্যামাজনের মতো সংস্থাগুলি প্রতিবার যখনই ঘটে তখন এজের কেসগুলি সমাধান করার জন্য তাদের এআই অ্যালগরিদমগুলি নিয়মিত আপডেট করে।

আমাদের যা করা দরকার

"এটি একটি তরুণ, উদীয়মান ক্ষেত্র। প্রাকৃতিক ভাষা বোঝাপড়া বিশেষত শৈশবকালীন, তাই আমরা এখানে অনেক কিছুই করতে পারি, " বলেছেন অ্যাটমিক এক্স এর সিটিও এরিক মোলার says

মোলার বিশ্বাস করেন ভয়েস-অ্যানালাইসিস এআই অ্যালগরিদমগুলি আরও ভালভাবে বুঝতে এবং প্রতিস্থাপনকে বুঝতে টিউন করা যেতে পারে। মোলার বলেছেন, "বিস্তৃত বাক্যে 'আলেক্সা' শব্দটি ব্যবহার করা একটি আহবান বা আদেশের চেয়ে আলাদা বলে মনে হয় Alexa আলেক্সা ঘুম থেকে ওঠা উচিত নয় কারণ আপনি সেই নামটি পাস করার সময় বলেছিলেন, " মোলার বলেছেন। পর্যাপ্ত প্রশিক্ষণের সাথে, এআই স্মার্ট স্পিকারে কোন নির্দিষ্ট টোন নির্দেশিত তা আলাদা করতে সক্ষম হওয়া উচিত।

টেক সংস্থাগুলি তাদের এআইকে সরাসরি কথা বলার বিপরীতে ব্যাকগ্রাউন্ড গোলমাল পেলে আলাদা করতে সক্ষম হতে প্রশিক্ষণ দিতে পারে। "ব্যাকগ্রাউন্ড বকবক একটি স্বতন্ত্র শ্রুতি 'স্বাক্ষর' আছে যে মানুষ বাছাই এবং বেছে বেছে সুর করতে খুব ভাল। আমরা এআই মডেলদের এটি করতে প্রশিক্ষণ দিতে পারে না এমন কোনও কারণ নেই, " মোলার বলেছেন।

একটি সতর্কতা হিসাবে, এআই সহকারীরা তাদের যে সিদ্ধান্ত নিচ্ছে তার প্রভাবের হারটি নির্ধারণ করা উচিত এবং এমন পরিস্থিতিতে যে তারা সম্ভাব্য সংবেদনশীল এমন কিছু করতে চায় এমন পরিস্থিতিতে মানবিক সিদ্ধান্তকে জড়িত করে। ব্যবহারকারীর স্পষ্ট এবং স্পষ্ট সম্মতি ছাড়াই সংবেদনশীল তথ্য প্রেরণ করা থেকে বিরত রাখতে নির্মাতাদের তাদের প্রযুক্তিগুলিতে আরও সুরক্ষার ব্যবস্থা করা উচিত।

টনকানের সিইও সাগি এলিয়াহি বলেছেন, "যদিও অ্যামাজন জানিয়েছে যে অ্যালেক্সা তার ব্যাখ্যা করা ক্রিয়াকলাপটি নিশ্চিত করার চেষ্টা করেছিল, তবে কিছু ক্রিয়াকলাপ আরও যত্ন সহকারে পরিচালিত হওয়া এবং ব্যবহারকারীর অভিপ্রায় নিশ্চিতকরণের উচ্চতর মান ধরে রাখা দরকার, " টনকানের সিইও সাগি এলিয়াহি বলেছেন। "মানুষের মাঝে মাঝে একই রকমের বক্তৃতা স্বীকৃতি সম্পর্কিত সমস্যা রয়েছে, যা মাঝে মধ্যে মিথ্যা শুনানোর অনুরোধগুলি রয়েছে Alexa যদিও আলেকসার বিপরীতে একজন মানুষ সম্পূর্ণরূপে নিশ্চিত হতে পারে যে তারা একটি অস্পষ্ট অনুরোধটি বোঝে এবং আরও গুরুত্বপূর্ণভাবে, পূর্বের অনুরোধগুলির তুলনায় একটি অনুরোধের সম্ভাবনাটি নির্ধারণ করে।"

এদিকে…

প্রযুক্তি সংস্থাগুলি তাদের এআই অ্যাপ্লিকেশনগুলিকে ভুলগুলি হ্রাস করার জন্য অর্থায়ন করেছে, ব্যবহারকারীরা তাদের এআই-চালিত ডিভাইসগুলি যে সম্ভাব্য ত্রুটিগুলি করতে পারে তার জন্য তারা কতটা উন্মুক্ত হতে চায় সে বিষয়ে চূড়ান্ত সিদ্ধান্ত নিতে হবে।

"এই গল্পগুলিতে নতুন এআই প্রযুক্তির প্রতিশ্রুতির বিরুদ্ধে লোকেরা যে পরিমাণ তথ্য ভাগ করতে ইচ্ছুক তার সাথে দ্বন্দ্ব দেখায়, " তথ্য বিজ্ঞান বিশেষজ্ঞ এবং এআই এবং সফ্টওয়্যার সম্পর্কিত কয়েকটি বইয়ের লেখক ডগ রোজ বলেছেন। "আপনি সিরিকে ধীর হয়ে যাওয়ার জন্য উজ্জীবিত করতে পারেন। তবে তার জন্য আরও বেশি বুদ্ধি অর্জনের সর্বোত্তম উপায় হ'ল আমাদের ব্যক্তিগত কথোপকথন আক্রমণ করা So সুতরাং পরবর্তী দশক বা তারপরে একটি মূল প্রশ্ন হ'ল আমরা এই এআই এজেন্টদের আমাদের আচরণের দিকে কতটা তাকাতে দেব? ?"

"কোন পরিবারটি বসার ঘরে কোনও মানবিক সহায়ক স্থাপন করবে এবং সেই ব্যক্তিকে সমস্ত সময় কোনও প্রকার কথোপকথন শুনতে দেবে?" স্টারমাইন্ডের স্নায়ুবিজ্ঞানী কাউফম্যান বলেছেন। "গোপনীয়তা, গোপনীয়তা বা নির্ভরযোগ্যতার বিষয়টি যখন আসে তখন আমরা আমাদের বুদ্ধিমান প্রাণীদের ক্ষেত্রেও এটি প্রয়োগ করতে পারি যা তথাকথিত 'এআই' ডিভাইসগুলিতে (উচ্চতর না হলে) একই মান প্রয়োগ করা উচিত।"