আইআই অবশ্যই প্রকাশ করবে যে এটি আই

গুগল সম্প্রতি রেস্তোঁরা হোস্ট এবং সেলুন কর্মীদের কাছে স্পষ্টভাবে প্রকাশ করতে ডুপ্লেক্সকে পুনরায় ছাপিয়েছিল যে তারা গুগল সহকারীদের সাথে কথা বলছে এবং রেকর্ড করা হচ্ছে।

মে মাসে আই / ও বিকাশকারী সম্মেলনে ডুপ্লেক্সের প্রথম পরিচয় করায় গুগল এই ছোট কিন্তু গুরুত্বপূর্ণ বিশদটি বাদ দিয়েছে। একটি গণমাধ্যমের প্রতিক্রিয়া প্রকাশিত হয়েছিল, এবং সমালোচকরা এআই এজেন্টদের মুক্ত করার প্রভাব সম্পর্কে পুরানো ভয়কে নতুন করে বলেছিল যা মানুষের আচরণকে অবিচ্ছেদ্য উপায়ে ব্যবহার করতে পারে।

ডুপ্লেক্সকে টুইট করে গুগল সেই সমালোচনা কিছুটা বিশ্রামে রেখেছিল। তবে কেন এত গুরুত্বপূর্ণ যে সংস্থাগুলি তাদের এআই এজেন্টগুলির পরিচয় সম্পর্কে স্বচ্ছ হতে পারে?

এআই সহকারীরা কি মন্দ উদ্দেশ্যগুলি পরিবেশন করতে পারে?

"একটি ক্রমবর্ধমান প্রত্যাশা রয়েছে যে আপনি যখন কোনও ব্যবসায়ের বার্তা দিচ্ছেন তখন আপনি একটি এআই-চালিত চ্যাটবোটের সাথে আলাপচারিতা করতে পারেন But ক্লোরোসিয়াল এর।

মার্চ বলেছে যে আমরা নিয়মিতভাবে এআইয়ের সাথে অর্থবহ ইন্টারঅ্যাকশন করার শুরুতে এবং ক্ষেত্রের অগ্রগতিগুলি এই আশঙ্কা তৈরি করেছে যে হ্যাকাররা দূষিত উদ্দেশ্যে এআই এজেন্টদের শোষণ করতে পারে।

"একটি সেরা ক্ষেত্রে, এআই বটগুলি দূষিত উদ্দেশ্যগুলি দিয়ে মানুষকে ক্ষতিগ্রস্থ করতে পারে, " কুজো এআইয়ের নেটওয়ার্কগুলির এসভিপি মার্সিয়ো অ্যাভিলিজ বলেছেন। তবে মার্সিও যোগ করেছেন যে আমরা আরও মারাত্মক হুমকির মুখোমুখি হতে পারি। উদাহরণস্বরূপ, এআই নির্দিষ্ট ভাষাতাত্ত্বিক নিদর্শনগুলি শিখতে পারবেন, যাতে লোকজনকে হেরফের করতে, ছদ্মবেশে ক্ষতিগ্রস্থ হওয়া এবং স্টেজ ভিশিং (ভয়েস ফিশিং) আক্রমণ এবং অনুরূপ ক্রিয়াকলাপগুলির জন্য প্রযুক্তিটিকে অভিযোজন করা সহজ করে তোলে।

অনেক বিশেষজ্ঞই হুমকি আসল বলে সম্মত হন। সিআইওর একটি কলামে, স্টিভেন ব্রিকম্যান ডুপ্লেক্সের মতো কোনও প্রযুক্তি কাজে লাগাতে পারে এমন বিভিন্ন উপায়ে জানিয়েছেন: "কমপক্ষে মানুষ মানুষকে মানুষ হিসাবে ডেকে নিয়ে যাওয়ার ক্ষেত্রে এখনও একটি সীমাবদ্ধ কারণ রয়েছে - একজন মানুষ কেবল প্রতি ঘন্টা, প্রতি ঘন্টা কেবলমাত্র বহু কল করতে পারে। মানুষের জন্য অর্থ প্রদান করতে হবে, বিরতি নিতে হবে, এবং আরও অনেক কিছু। তবে একটি এআই চ্যাটবট আক্ষরিক অর্থে সীমাহীন সংখ্যক মানুষকে সীমাহীন বিভিন্ন উপায়ে সীমাহীন সংখ্যক কল করতে পারে!"

এই পর্যায়ে, আমরা যা শুনি তার বেশিরভাগটি অনুমান; ভয়েস সহায়কদের আবির্ভাবের সাথে যে হুমকির উদ্ভব হতে পারে তার মাত্রা এবং গুরুত্ব কতটা আমরা তা এখনও জানি না। ভয়েস-ভিত্তিক সহায়কদের সাথে জড়িত অনেকগুলি সম্ভাব্য আক্রমণকে হ্রাস করা যেতে পারে যদি প্রযুক্তি সরবরাহকারী সংস্থাটি যখন কোনও এআই এজেন্টের সাথে ইন্টারঅ্যাক্ট করছে তখন তাদের কাছে স্পষ্টভাবে যোগাযোগ করে।

গোপনীয়তা উদ্বেগ

ডুপ্লেক্সের মতো প্রযুক্তির ব্যবহারকে ঘিরে আরও একটি সমস্যা হ'ল গোপনীয়তার সম্ভাব্য ঝুঁকি। এআই-চালিত সিস্টেমগুলিকে তাদের অ্যালগোরিদমগুলি প্রশিক্ষণ এবং উন্নত করতে ব্যবহারকারীর ডেটা প্রয়োজন এবং ডুপ্লেক্সও এর ব্যতিক্রম নয়। এটি কীভাবে সংরক্ষণ করবে, সুরক্ষিত হবে এবং সেই ডেটা ব্যবহার করবে তা অত্যন্ত গুরুত্বপূর্ণ।

নতুন প্রবিধানগুলি উদ্ভূত হচ্ছে যা সংস্থাগুলি তাদের তথ্য সংগ্রহ করতে চাইলে ব্যবহারকারীদের সুস্পষ্ট সম্মতি গ্রহণের প্রয়োজন, তবে তারা বেশিরভাগ এমন প্রযুক্তিগুলির জন্য তৈরি করা হয়েছে যেখানে ব্যবহারকারীরা ইচ্ছাকৃতভাবে মিথস্ক্রিয়া শুরু করে। এটি সিরি এবং আলেক্সার মতো এআই সহকারীদের জন্য অর্থবোধ করে যা ব্যবহারকারী সক্রিয় রয়েছে। তবে এটি স্পষ্ট নয় যে নতুন নিয়মগুলি কীভাবে এআই সহায়কদের ক্ষেত্রে প্রযোজ্য যা ট্রিগার না করে ব্যবহারকারীদের কাছে পৌঁছায়।

ব্রিকম্যান তার নিবন্ধে নিয়ন্ত্রক সুরক্ষা ব্যবস্থা প্রতিষ্ঠার প্রয়োজনীয়তার উপর জোর দিয়েছিলেন, যেমন আইনগুলির জন্য যেগুলি আইআই এজেন্টের উপস্থিতি ঘোষণা করার জন্য সংস্থাগুলির প্রয়োজন - বা এমন একটি আইন যে আপনি যখন চ্যাটবোটকে এটি চ্যাটবোট কিনা তা জিজ্ঞাসা করার সময় এটি বলতে হবে, "হ্যাঁ, আমি একটা চ্যাটবট "। এই জাতীয় পদক্ষেপগুলি মানুষের কথোপকথনকে বিচ্ছিন্ন করার সুযোগ দেয় বা কমপক্ষে তারা সিদ্ধান্ত নিতে পারে যে তারা কোনও এআই সিস্টেমের সাথে যোগাযোগ করতে চায় যা তাদের ভয়েস রেকর্ড করে।

এমনকি এই জাতীয় আইন থাকা সত্ত্বেও, গোপনীয়তা সংক্রান্ত উদ্বেগগুলি দূর হবে না। "প্রযুক্তির বর্তমান অবতারে আমি সবচেয়ে বড় ঝুঁকিটি আগে থেকেই দেখেছি যে এটি আমাদের ব্যক্তিগত জীবন যা ইতিমধ্যে ছিল না সে সম্পর্কে গুগলকে আরও বেশি তথ্য দেবে this এই অবধি অবধি তারা কেবল আমাদের অনলাইন যোগাযোগ সম্পর্কে জানত; তারা এখন সত্যিকারের অন্তর্দৃষ্টি অর্জন করবে আমাদের বাস্তব-বিশ্ব কথোপকথন, "জিনোহের প্রতিষ্ঠাতা ও প্রধান নির্বাহী ভিয়ান চিনার বলেছেন।

বৃহত প্রযুক্তি সংস্থা জড়িত সাম্প্রতিক গোপনীয়তা কেলেঙ্কারী, যাতে তারা তাদের উপকারের জন্য সন্দেহজনক উপায়ে ব্যবহারকারীর ডেটা ব্যবহার করেছে, আমাদের জীবনে তাদের আরও উইন্ডোজ দেওয়ার বিষয়ে অবিশ্বাসের ধারণা তৈরি করেছে। "সাধারণভাবে লোকেরা মনে করে যে বৃহত সিলিকন ভ্যালি সংস্থাগুলি তাদের গ্রাহকদের পরিবর্তে ইনভেন্টরি হিসাবে দেখছে এবং তারা যে কোনও কিছুতেই বড়ই অবিশ্বাস পোষণ করে, তা যতই স্থলবিন্দু ও জীবন পরিবর্তনের কারণেই হবে না, " চিন্নার বলেছিলেন।

কার্যকরী ব্যর্থতা

একটি প্রাকৃতিক কণ্ঠস্বর এবং সুর থাকা এবং "এমএমএইচএম" এবং "উম্মম" এর মতো মানুষের মতো শব্দ ব্যবহার করা সত্ত্বেও ডুপ্লেক্স অন্যান্য সমসাময়িক এআই প্রযুক্তি থেকে আলাদা নয় এবং একই সীমাবদ্ধতায় ভুগছে।

ভয়েস বা পাঠ্যটিকে ইন্টারফেস হিসাবে ব্যবহার করা হোক না কেন, এআই এজেন্ট নির্দিষ্ট সমস্যা সমাধানে ভাল। এ কারণেই আমরা তাদের "সংকীর্ণ এআই" বলি ("সাধারণ এআই" এর বিপরীতে.এই ধরণের কৃত্রিম বুদ্ধিমত্তা যা সাধারণ সমস্যা সমাধানে জড়িত হতে পারে) যেমন মানুষের মন করে। সংকীর্ণ এআই যদিও এর জন্য প্রোগ্রাম করা কাজগুলি সম্পাদন করতে ব্যতিক্রমীভাবে ভাল হতে পারে তবে যখন এটি এমন দৃশ্য দেওয়া হয় যা তার সমস্যা ডোমেন থেকে বিচ্যুত হয়।

"যদি গ্রাহকরা মনে করেন যে তারা কোনও মানুষের সাথে কথা বলছেন, তারা সম্ভবত এআইয়ের সাধারণ স্ক্রিপ্টের বাইরে এমন কিছু জিজ্ঞাসা করবেন এবং বটটি বুঝতে না পারলে হতাশার প্রতিক্রিয়া পাবেন, " কথোপকথনের মার্চ বলে।

বিপরীতে, যখন কোনও ব্যক্তি জানেন যে তারা কোনও এআইয়ের সাথে কথা বলছেন যা কোনও রেস্তোঁরায় টেবিলগুলি সংরক্ষণের প্রশিক্ষণ দেওয়া হয়েছে, তখন তারা এমন ভাষা ব্যবহার করা এড়িয়ে যাওয়ার চেষ্টা করবে যা এআইকে বিভ্রান্ত করবে এবং এটি অপ্রত্যাশিতভাবে আচরণ করবে, বিশেষত যদি এটি আনা হয় তাদের একটি গ্রাহক।

"ডুপ্লেক্সের কাছ থেকে কল পাওয়া স্টাফ সদস্যদেরও একটি সহজ পরিচিতি পাওয়া উচিত যে এটি সত্যিকারের ব্যক্তি নয়। এটি স্টাফ এবং এআইয়ের মধ্যে যোগাযোগ আরও রক্ষণশীল এবং পরিষ্কার হতে সহায়তা করবে, " অ্যাভিলিজ বলেছেন।

এই কারণে, যতক্ষণ না আমরা (এবং যদি) আমরা এআই বিকাশ করি যা মানব বুদ্ধির সাথে সমান পারফরম্যান্স করতে পারে, ততক্ষণ এআই এর ব্যবহার সম্পর্কে স্বচ্ছ হওয়া তাদের সংস্থাগুলির স্বার্থে।

দিনের শেষে, ডুপ্লেক্সের মতো ভয়েস সহায়কদের ভয়ের কিছুটা কারণ তারা নতুন হয়েছে এর কারণ হয় এবং আমরা এখনও তাদের সাথে নতুন সেটিংসে মুখোমুখি হতে পারি এবং কেস ব্যবহার করি। চিনার বলেন, "কমপক্ষে কিছু লোক রোবট না জেনে কথা বলার ধারণা নিয়ে খুব অস্বস্তি বোধ করে, তাই আপাতত কথোপকথনে এটি প্রতিদ্বন্দ্বীদের কাছে প্রকাশ করা উচিত, " চিনার বলেছেন।

• এআই ইস (এছাড়াও) গুড এআই ইজ (এছাড়াও) ভালের জন্য একটি বাহিনী
• যখন এআই বাস্তবতা এবং কথাসাহিত্যের মধ্যে লাইনটি ব্লার করে যখন বাস্তবতা এবং কথাসাহিত্যের মধ্যবর্তী লাইনে ব্লগ করে
• কৃত্রিম বুদ্ধিমত্তার একটি বায়াস সমস্যা রয়েছে এবং এটি আমাদের ফল্ট কৃত্রিম বুদ্ধিমত্তার একটি বায়াস সমস্যা রয়েছে এবং এটি আমাদের ত্রুটি

তবে দীর্ঘ মেয়াদে, আমরা এআই এজেন্টদের সাথে কথোপকথনে অভ্যস্ত হয়ে উঠব যেগুলি আগে চালিত মানব অপারেটরদের একচেটিয়া ডোমেন বলে মনে করা হত এমন দক্ষতা সম্পন্ন এবং কার্য সম্পাদন করতে আরও সক্ষম।

"পরবর্তী প্রজন্ম কোনও ব্যবসায়ের সাথে যোগাযোগ করার সময় তারা এআই বা মানুষের সাথে কথা বলছে কিনা সেদিকে খেয়াল রাখবে না They তারা কেবল তাদের উত্তর দ্রুত এবং সহজেই পেতে চাইবে এবং তারা আলেক্সার সাথে কথা বলে বড় হবে on একটি মানুষের সাথে কথা বলার জন্য রাখা কেবল বটের সাথে কথোপকথনের চেয়ে অনেক বেশি হতাশাব্যঞ্জক হয়ে উঠবে, "কথোপকথনের মার্চ বলেছে says