গুগল ক্লাউড আই-নির্দিষ্ট প্রসেসরের দিকে ঝোঁকের অংশ

গত কয়েক সপ্তাহে, গুগলের নতুন "ক্লাউড টিপিইউস" এবং এনভিডিয়া'র নতুন ভোল্টা নকশা সহ মেশিন লার্নিংয়ের জন্য গভীর নিউরাল নেটওয়ার্কগুলিতে কাজ করার জন্য বিশেষভাবে ডিজাইন করা নতুন কম্পিউটিং প্ল্যাটফর্মগুলির বেশ কয়েকটি গুরুত্বপূর্ণ পরিচয় ঘটেছে।

আমার কাছে, এটি কম্পিউটার আর্কিটেকচারের সবচেয়ে আকর্ষণীয় প্রবণতা AM এটিএমডি এর চেয়েও বেশি এবং এখন ইন্টেল 16-কোর এবং 18-কোর সিপিইউ প্রবর্তন করছে। অবশ্যই, অন্যান্য বিকল্প পদ্ধতি আছে, কিন্তু এনভিডিয়া এবং গুগল তাদের অনন্য পদ্ধতির জন্য প্রযোজ্যভাবে অনেক মনোযোগ পাচ্ছে getting

গুগল আই / ও-তে, আমি এটি "ক্লাউড টিপিইউ" (টেনসর প্রসেসিং ইউনিটের জন্য, এটি ইঙ্গিত করে যে এটি গুগলের টেনসরফ্লো মেশিন লার্নিং ফ্রেমওয়ার্কের জন্য অনুকূলিত হয়েছে) তা প্রবর্তন করতে দেখেছি। পূর্ববর্তী প্রজন্মের টিপিইউ, গত বছরের শোতে প্রবর্তিত, একটি এএসআইসি মূলত - চলমান মেশিন লার্নিং অপারেশনগুলি in অনুমিত করার জন্য ডিজাইন করা হয়েছে তবে নতুন সংস্করণটি এ জাতীয় অ্যালগরিদমগুলি অনুমিতকরণ এবং প্রশিক্ষণের জন্য তৈরি করা হয়েছে।

সাম্প্রতিক একটি গবেষণাপত্রে গুগল মূল টিপিইউ সম্পর্কে আরও বিশদ দিয়েছে, যা এটি 92 টি টেরোপ (প্রতি ট্রিলিয়ন অপারেশন) এর শিখর পারফরম্যান্স সহ 256-বাই-256 মাল্টিপল-জমা (এমএসি) ইউনিট (মোট 65, 536) ম্যাট্রিক্স হিসাবে বর্ণনা করেছে described দ্বিতীয়)। এটি পিসিআই জেনার 3 বাসের মাধ্যমে একটি হোস্ট সিপিইউর কাছ থেকে তার নির্দেশাবলী পেয়েছে। গুগল জানিয়েছিল যে এটি একটি 28nm ডাই যা একটি ইন্টেল হাসওয়েল জিয়ন 22nm প্রসেসরের চেয়ে অর্ধেকেরও কম আকারের ছিল এবং এটি প্রসেসর এবং এনভিডিয়ায় 28nm কে 80 প্রসেসরকে ছাড়িয়ে গেছে।

নতুন সংস্করণ, ডাব করা টিপিইউ ২.০ বা ক্লাউড টিপিইউ, (উপরে দেখানো হয়েছে) বোর্ডে চারটি প্রসেসর রয়েছে এবং গুগল বলেছে যে প্রতিটি বোর্ড 180 টি ট্রাফলপস (প্রতি সেকেন্ডে 180 ট্রিলিয়ন ভাসমান পয়েন্ট অপারেশন) পৌঁছাতে সক্ষম। ঠিক তেমনি গুরুত্বপূর্ণ, কাস্টম হাই-স্পিড নেটওয়ার্ক ব্যবহার করে বোর্ডগুলি একসাথে কাজ করার জন্য ডিজাইন করা হয়েছে, সুতরাং তারা একক মেশিন লার্নিং সুপারকমপুটিং হিসাবে কাজ করে যা গুগল একটি "টিপিইউ পোড" বলে।

এই টিপিইউ পোডটিতে second৪ টি দ্বিতীয় প্রজন্মের টিপিইউ রয়েছে এবং একক বৃহত মেশিন লার্নিং মডেলটির প্রশিক্ষণ ত্বরান্বিত করতে 11.5 টি পেটল্লফ সরবরাহ করে। সম্মেলনে গুগলের এআই গবেষণার প্রধান, ফি ফি লি বলেছেন যে অনুবাদকের জন্য সংস্থার বৃহত আকারের লার্নিং মডেলগুলির মধ্যে একটি সেরা বাণিজ্যিকভাবে উপলব্ধ জিপিইউগুলির মধ্যে 32 টির প্রশিক্ষণ নিতে পুরো দিন সময় নেয়, এখন এটি প্রশিক্ষণ নিতে পারে টিপিইউ পোডের অষ্টমী ব্যবহার করে বিকেলে একই নির্ভুলতা। এটি একটি বড় লাফ।

বুঝতে পারেন যে এগুলি কোনও ছোট সিস্টেম নয় - একটি পড চারটি সাধারণ কম্পিউটিং র্যাকের আকার হিসাবে দেখায়।

এবং প্রতিটি পৃথক প্রসেসরের মনে হয় খুব বড় তাপ ডুবেছে, যার অর্থ বোর্ডগুলি খুব শক্ত করে স্ট্যাক করা যায় না। প্রসেসরের এই সংস্করণে বা ইন্টারকানেক্টে কী পরিবর্তন হয়েছে সে সম্পর্কে গুগল এখনও খুব বেশি বিস্তারিত জানায়নি, তবে সম্ভবত এটি সম্ভবত 8-বিট ম্যাকের উপর নির্ভরশীল।

সপ্তাহখানেক আগে, এনভিডিয়া এই বিভাগে তার সর্বশেষ এন্ট্রি প্রবর্তন করেছিল, এটি টেলসা ভি 100 ভোল্টা নামে পরিচিত একটি বিশাল চিপ, যা এটি এই নতুন ভোল্টা আর্কিটেকচারের সাথে প্রথম সিপিইউ হিসাবে বর্ণনা করেছে, এটি হাই-এন্ড জিপিইউগুলির জন্য নকশাকৃত।

এনভিডিয়া বলেছিলেন যে নতুন চিপটি 120 টেনসরফ্লো টেলিফ্লপস (বা 15 32-বিট টিএফএলপিএস বা 7.5 64-বিট রয়েছে) সক্ষম This এটিতে একটি নতুন আর্কিটেকচার ব্যবহার করা হয়েছে যার মধ্যে 80 টি স্ট্রিমিং মাল্টিপ্রসেসর (এসএমএস) রয়েছে, যার প্রতিটিতে আটটি নতুন "টেনসর কোর" রয়েছে এবং একটি 4x4x4 অ্যারে প্রতি ঘড়ি 64 এফএমএ (ফিউজড মাল্টিপ্লি-অ্যাড) অপারেশন করতে সক্ষম। এনভিডিয়া বলেছে যে তৃতীয় প্রান্তিকে এটির ডিজিএক্স -১ ভি ওয়ার্কস্টেশনগুলিতে চিপটি প্রদান করবে তত প্রান্তিকের পূর্বের ডিজিএক্স -১ এর আগের পিজি আর্কিটেকচার ব্যবহার করা ফার্মের পূর্ববর্তী ডিজিএক্স -১।

সংস্থাটি বলেছে যে এই 149, 000 ডলার বাক্সটি 3200 ওয়াট ব্যবহার করে 960 টেরালফ্ল্যাপগুলি প্রশিক্ষণ কার্য সম্পাদন করবে। পরে, প্রথম বলেছিল, এটি একটি চারটি ভি 100 এর সাথে একটি ব্যক্তিগত ডিজিএক্স স্টেশন বহন করবে এবং চতুর্থ ত্রৈমাসিকে এটি বলেছে যে বড় সার্ভার বিক্রেতারা ভি 100 সার্ভার পাঠিয়ে দেবে।

এই চিপটি টিএসএমসির 12nm প্রসেসর ব্যবহারের জন্য প্রথম ঘোষণা করেছে এবং এটি 815 বর্গ মিলিমিটার ডাইতে 21.1 বিলিয়ন ট্রানজিস্টর সহ একটি বিশাল চিপ হবে। এনভিডিয়া চিপের প্রাথমিক গ্রাহক হিসাবে মাইক্রোসফ্ট এবং অ্যামাজন উভয়কেই উদ্ধৃত করেছিলেন।

দ্রষ্টব্য এই পদ্ধতির মধ্যে বড় পার্থক্য রয়েছে। গুগল টিপিইউগুলি সত্যই কাস্টম চিপস, টেনসরফ্লো অ্যাপ্লিকেশনগুলির জন্য ডিজাইন করা হয়েছে, অন্যদিকে এনভিডিয়া ভি 100 কিছু সাধারণ চিপ যা অন্যান্য অ্যাপ্লিকেশনগুলির জন্য বিভিন্ন ধরণের গণিতের জন্য সক্ষম।

এদিকে, অন্যান্য বড় মেঘ সরবরাহকারী বিকল্পগুলি খুঁজছেন, মাইক্রোসফ্ট প্রশিক্ষণের জন্য জিপিইউ এবং ফিল্ড-প্রোগ্রামেবল গেট অ্যারে (এফপিজিএ) উভয়ই ইনফেরেন্সিংয়ের জন্য ব্যবহার করেছে এবং গ্রাহকদের উভয়ই অফার করছে with অ্যামাজন ওয়েব সার্ভিসগুলি এখন ডেভেলপারদের জন্য জিপিইউ এবং এফপিজিএ উভয় দৃষ্টান্ত উপলব্ধ করে। এবং ইন্টেল এফপিজিএ এবং আরও অনেক কৌশল অবলম্বন করছে। ইতিমধ্যে, বেশ কয়েকটি নতুন স্টার্ট আপগুলি বিকল্প পদ্ধতির বিষয়ে কাজ করছে।

কিছু উপায়ে, আমরা ওয়ার্কস্টেশন এবং সার্ভার প্রসেসরগুলিতে বছরের পর বছরগুলিতে এটি দেখেছি সবচেয়ে তীব্র পরিবর্তন, কমপক্ষে যেহেতু বিকাশকারীরা বেশ কয়েক বছর আগে প্রথম "জিপিইউ কম্পিউট" ব্যবহার শুরু করেছিলেন। এটি কীভাবে বিকশিত হয় তা দেখতে আকর্ষণীয় হবে।