গুগলের টেনসর প্রসেসিং ইউনিট মেশিন লার্নিংয়ের নিয়মগুলিকে পরিবর্তন করে

সবচেয়ে আকর্ষণীয় - এবং অপ্রত্যাশিত - ঘোষণাগুলির একটি, গত সপ্তাহে গুগল এর আই / ও বিকাশকারীদের সম্মেলনে যে ঘোষণা করেছিল তা হ'ল এটি মেশিন লার্নিংয়ের জন্য নিজস্ব চিপগুলি ডিজাইন ও প্রয়োগ করেছে। মূল বক্তব্য চলাকালীন গুগলের প্রধান নির্বাহী সুন্দর পিচাই তার টেনসর প্রসেসিং ইউনিট (টিপিইউ) বলে অভিহিত করে বলেছিলেন যে সংস্থা এটিকে আলফাগো মেশিনগুলিতে ব্যবহার করেছে, যা গো চ্যাম্পিয়ন লি সেদলকে পরাজিত করেছিল।

পিচাই বলেছিলেন, "টিপিইউগুলি বাণিজ্যিক এফপিজিএ এবং জিপিইউগুলির তুলনায় ওয়াট প্রতি উচ্চতর পারফরম্যান্সের একটি আদেশ।" তিনি অনেকগুলি বিবরণ না দেওয়ার সময়, গুগল বিশিষ্ট হার্ডওয়্যার ইঞ্জিনিয়ার নর্ম জৌপ্পি একটি ব্লগ পোস্টে ব্যাখ্যা করেছিলেন যে টিপিইউ একটি কাস্টম এএসআইসি (অ্যাপ্লিকেশন নির্দিষ্ট সংহত সার্কিট)। অন্য কথায়, এটি একটি চিপ বিশেষত মেশিন লার্নিং চালনার জন্য ডিজাইন করা এবং বিশেষত গুগলের মেশিন-লার্নিং ফ্রেমওয়ার্ক টেনসরফ্লো এর জন্য উপযুক্ত।

ভাবমূর্তি

পোস্টে, জৌপ্পি বলেছিলেন যে এটি হ্রাস করা গণনার যথাযথতার "আরও সহনশীল", যার অর্থ এটি অপারেশন প্রতি কম ট্রানজিস্টর প্রয়োজন। এটি গুগলকে প্রতি সেকেন্ডে আরও বেশি ক্রিয়াকলাপ পেতে দেয় এবং ব্যবহারকারীদের আরও দ্রুত ফলাফল পেতে দেয়। তিনি বলেছিলেন যে একটি টিপিইউযুক্ত একটি বোর্ড তার ডেটা সেন্টার র‌্যাকগুলিতে একটি হার্ড ডিস্ক ড্রাইভের স্লটে ফিট করে এবং টিপিইউতে ভরা সার্ভার র‌্যাকগুলির একটি চিত্র দেখায়, যা তিনি বলেছিলেন যে সংস্থাটির আলফাগো মেশিনে ব্যবহৃত হয়েছিল।

এছাড়াও, জৌপ্পি বলেছিলেন যে, টিপিইউগুলি ইতিমধ্যে গুগলে র্যাঙ্কব্রাইন সহ অনুসন্ধানের ফলাফলের প্রাসঙ্গিকতা এবং মানচিত্র এবং নেভিগেশনের গুণমান উন্নত করতে স্ট্রিট ভিউ সহ আরও কয়েকটি অ্যাপ্লিকেশন নিয়ে কাজ করছে।

একটি সংবাদ সম্মেলনে গুগলের ভিপি ফর ​​টেকনিক্যাল ইনফ্রাস্ট্রাকচার উরস হালজলে নিশ্চিত করেছেন যে টিপিইউ উচ্চ-নির্ভুলতা ভাসমান-পয়েন্ট গণিতের পরিবর্তে 8-বিট ইন্টিজার ম্যাথ ব্যবহার করে, যার জন্য বেশিরভাগ আধুনিক সিপিইউ এবং জিপিইউগুলি ডিজাইন করা হয়েছে। বেশিরভাগ মেশিন-লার্নিং অ্যালগরিদমগুলি নিম্ন রেজোলিউশন ডেটার সাথে সূক্ষ্মভাবে পেতে পারে, যার অর্থ চিপ একটি প্রদত্ত অঞ্চলে আরও বেশি পরিচালনা করতে পারে এবং আরও জটিল মডেলগুলিকে দক্ষতার সাথে মোকাবেলা করতে পারে। এটি কোনও নতুন ধারণা নয়; সিভিএসে এই বছরের শুরুর দিকে ঘোষণা করা এনভিডিয়া ড্রাইভ পিএক্স 2 মডিউলটি 32-বিট ভাসমান-পয়েন্ট যথার্থতায় 8 টি টেরালফ্ল্যাপ সক্ষম তবে 24 টি গভীর-শেখার "টেরাপ" এ পৌঁছেছে (কোম্পানির মেয়াদ 8 এর জন্য -বাটির পূর্ণসংখ্যার গণিত)।

যদিও হালজলে সুনির্দিষ্ট বিষয়গুলিতে যেতে অস্বীকৃতি জানানো হয়েছে, রিপোর্টে তিনি নিশ্চিত করেছেন যে গুগল আজ টিপিইউ এবং জিপিইউ উভয়ই ব্যবহার করছে। তিনি বলেছিলেন এটি কিছু সময়ের জন্য অব্যাহত থাকবে তবে পরামর্শ দিয়েছে যে গুগল জিপিইউগুলিকে খুব সাধারণ হিসাবে দেখবে, মেশিন লার্নিংয়ের জন্য আরও বেশি অনুকূলিত একটি চিপকে প্রাধান্য দেবে। তিনি বলেছিলেন যে সংস্থাটি পরে এই চিপের সুবিধাগুলি বর্ণনা করে একটি কাগজ প্রকাশ করবে, তবে এটি পরিষ্কার করে দিয়েছে যে এগুলি কেবলমাত্র অন্য অভ্যন্তরীণ ব্যবহারের জন্য ডিজাইন করা হয়েছে, অন্য সংস্থাগুলির কাছে বিক্রয়ের জন্য নয়। তাঁর বর্ণিত আরেকটি অ্যাপ্লিকেশনটি হ'ল অ্যান্ড্রয়েড ফোনে ব্যবহৃত ভয়েস রিকগনিশন ইঞ্জিনের পিছনে কম্পিউটিংয়ের কিছু অংশ পরিচালনা করতে চিপস ব্যবহার করছিল।

এএসআইসি ব্যবহারের পছন্দটি গুগলের একটি আকর্ষণীয় বাজি। সাম্প্রতিক বছরগুলিতে মেশিন লার্নিংয়ের সবচেয়ে বড় অগ্রগতি deep গভীর স্নায়বিক জাল জন্য বড় ধাক্কা পিছনে প্রযুক্তি models এই মডেলগুলিকে প্রশিক্ষণের জন্য জিপিইউগুলি বিশেষত এনভিডিয়া টেসলা লাইন গ্রহণ করা হয়েছিল। সাম্প্রতিককালে, ইন্টেল এফপিজিএ (ফিল্ড-প্রোগ্রামেবল গেট অ্যারে) এর শীর্ষস্থানীয় নির্মাতা আলটেরা কিনেছিল, যা মাঝখানে কোথাও রয়েছে; এগুলি জিপিইউ বা সাধারণভাবে গুগলের চিপের মতো টেনসরফ্লোয়ের জন্য নকশাকৃত সাধারণ উদ্দেশ্য নয়, তবে বিভিন্ন ধরণের কাজ করার জন্য প্রোগ্রাম করা যেতে পারে। মাইক্রোসফ্ট গভীর শিক্ষার জন্য আল্টেরা এফপিজিএ নিয়ে পরীক্ষা-নিরীক্ষা করে আসছে। আইবিএম তার সর্বাধিক নিউরোসিন্যাপটিক চিপটি বিশেষত নিউরাল নেটগুলির জন্য ডিজাইন করেছে, যা সম্প্রতি বিভিন্ন অ্যাপ্লিকেশনগুলিতে ব্যবহার করা শুরু হয়েছে। ক্যাডেন্স (টেনসিলিকা), ফ্রিস্কেল এবং স্নোপসিস এই মডেলগুলি চালানোর জন্য তাদের ডিএসপিগুলিকে (ডিজিটাল সিগন্যাল প্রসেসরগুলি) চাপ দিচ্ছেন; মোবাইলই এবং এনএক্সপি সম্প্রতি এডিএএস এবং স্ব-ড্রাইভিং গাড়িগুলির জন্য বিশেষভাবে ডিজাইন করা চিপগুলি ঘোষণা করেছে; এবং মুভিডিয়াস এবং নারভানা সহ বেশ কয়েকটি ছোট সংস্থাগুলি এআইয়ের জন্য বিশেষভাবে ডিজাইন করা চিপগুলির জন্য পরিকল্পনা ঘোষণা করেছে।

দীর্ঘমেয়াদে কোন পন্থা সবচেয়ে ভাল হবে তা জানা খুব তাড়াতাড়ি সম্ভব তবে কিছু খুব ভিন্ন বিকল্পের অর্থ আমরা আগামী কয়েক বছরে কিছু আকর্ষণীয় প্রতিযোগিতা দেখতে পাব।