Bengali
এই কাজের জন্য নির্বাচিত প্ল্যাটফর্ম ছিল আমাদের ডেল পাওয়ারএজ আর৭৬০ যা উবুন্টু ২২.০৪.০২ এলটিএস চালাচ্ছে। আমরা আগস্ট ১৩, ২০২৪ রিলিজ থেকে ডিএলআইও বেঞ্চমার্ক সংস্করণ ২.০ ব্যবহার করেছি। আমাদের সিস্টেম কনফিগারেশন নিচে রূপরেখা দেওয়া হল:
- ২ x ইন্টেল জিয়ন গোল্ড ৬৪৩০ (৩২-কোর, ২.১ গিগাহার্টজ)
- ১৬ x ৬৪ জিবি ডিডিআর৫-৪৪০০
- ৪৮০ জিবি ডেল বস এসএসডি
- সিরিয়াল কেবল জেন ৫ জেবিওএফ
- ৭.৬৮ টিবি সলিডিগম ডি৭-পিএস১০১০
- ৬১.৪৪ টিবি সলিডিগম ডি৫-পি৫৩৩৬
আমাদের বেঞ্চমার্কিং বাস্তব-বিশ্বের পরিস্থিতি প্রতিফলিত করে তা নিশ্চিত করতে, আমরা এলএলএএমএ ৩.১ ৪০৫ বি মডেল আর্কিটেকচারের উপর ভিত্তি করে আমাদের পরীক্ষাগুলি তৈরি করেছি, মডেল প্যারামিটার, অপ্টিমাইজার স্টেট এবং লেয়ার স্টেট ক্যাপচার করার জন্য torch.save() এর মাধ্যমে চেকপয়েন্টিং প্রয়োগ করেছি। আমাদের সেটআপ একটি ৮-জিপিইউ সিস্টেম অনুকরণ করেছে, আটটি জিপিইউ জুড়ে বিতরণ করা ৪-ওয়ে টেনসর প্যারালাল এবং ২-ওয়ে পাইপলাইন প্যারালাল প্রক্রিয়াকরণের সাথে একটি হাইব্রিড প্যারালালিজম কৌশল প্রয়োগ করেছে। এই কনফিগারেশনের ফলে ১,৬৩৬ জিবি চেকপয়েন্ট আকার হয়েছে, যা আধুনিক বৃহৎ ভাষা মডেল প্রশিক্ষণের প্রয়োজনীয়তাগুলির প্রতিনিধিত্ব করে।
ডিএলআইও চেকপয়েন্ট ওয়ার্কলোডের জন্য আমাদের পরীক্ষার প্রক্রিয়া প্রতিটি ড্রাইভকে অনুরূপ ব্যবহার স্তরে পূরণ করার জন্য গঠিত। ৬১.৪ টিবি সলিডিগম ডি৫-পি৫৩৩৬-এর জন্য, প্রতিটি পাসে ৩৩টি চেকপয়েন্ট বিরতি অন্তর্ভুক্ত ছিল, মোট ৫৪ টিবি। ছোট ৭.৬৮ টিবি ডি৭-পিএস১০১০ সহজেই তিনটি চেকপয়েন্ট বিরতি ফিট করেছে, যার মোট ফুটপ্রিন্ট ৪.৯ টিবি। একটি অতিরিক্ত চেকপয়েন্ট ডি৭-পিএস১০১০-এ ফিট করতে পারত, যদিও এটি তার ব্যবহার কিছুটা বেশি বাড়িয়ে দিয়েছিল যা আমরা চেয়েছিলাম।
ডিএলআইও চেকপয়েন্ট ওয়ার্কলোড আকর্ষণীয় ফলাফল দিয়েছে যখন আমরা জেন ৪ কিউএলসি-ভিত্তিক ৬১.৪ টিবি ডি৫-পি৫৩৩৬ কে জেন ৫ টিএলসি-ভিত্তিক ৭.৬৮ টিবি ডি৭-পিএস১০১০ এর সাথে তুলনা করেছি। প্রথম পাসের সময়, ড্রাইভগুলি পূরণ হওয়ার সাথে সাথে, আমরা দুটি এসএসডি মডেলের মধ্যে কর্মক্ষমতার একটি বৃহত্তর ব্যবধান দেখেছি। দ্রুত জেন ৫ পিএস১০১০ প্রতিটি চেকপয়েন্ট গড়ে ৪৬৪ সেকেন্ডে সম্পন্ন করেছে, জেন ৪ পি৫৩৬ থেকে ৬২৩ সেকেন্ডের তুলনায়। দ্বিতীয় এবং তৃতীয় পাসে, ব্যবধান পিএস১০১০ এর জন্য ৫৭৯ এবং ৫৮৭ সেকেন্ড এবং পি৫৩৬ এর জন্য ৬৭৬ এবং ৬৮০ সেকেন্ডে সংকীর্ণ হয়েছে।
যেসব ব্যবসা চেকপয়েন্টিং বিরতিতে সম্ভাব্য ক্ষুদ্রতম ব্যবধান রাখতে চায় তাদের জন্য, টিএলসি-ভিত্তিক জেন ৫ পিএস১০১০ দ্রুততম সমাপ্তির সময়ে একটি সুবিধা প্রদান করে। যদি লক্ষ্য হয় অনেক চেকপয়েন্ট সাশ্রয়ীভাবে ধরে রাখা, তবে কিউএলসি-ভিত্তিক জেন ৪ পি৫৩৬ তা করতে পারে। আমরা দ্বিতীয় এবং তৃতীয় পাসে উভয় ড্রাইভের মধ্যে গড় চেকপয়েন্ট সময়ের মধ্যে ১৭% এর কম পার্থক্য পরিমাপ করেছি।
জিপিইউডিরেক্ট স্টোরেজ ব্যান্ডউইথ
যদিও ডিএলআইও একটি এআই ওয়ার্কফ্লোতে ফ্ল্যাশ কর্মক্ষমতা দেখায়, ওয়ার্কলোডটি একটি চেকপয়েন্ট পুনরুদ্ধার না হওয়া পর্যন্ত সম্পূর্ণভাবে লেখার উপর ভিত্তি করে। এআই ওয়ার্কলোডগুলিতে সলিডিগম ডি৭-পিএস১০১০ এবং ডি৫-পি৫৩৩৬ এর একটি সম্পূর্ণ চিত্র আঁকতে, আমরা জিডিএসআইও ব্যবহার করে রিড ব্যান্ডউইথ পরিমাপ অন্তর্ভুক্ত করেছি।
জিপিইউ ডিরেক্ট স্টোরেজ কিভাবে কাজ করে
ঐতিহ্যগতভাবে, যখন একটি জিপিইউ একটি এনভিএমই ড্রাইভে সংরক্ষিত ডেটা প্রক্রিয়া করে, তখন ডেটা প্রথমে জিপিইউতে পৌঁছানোর আগে সিপিইউ এবং সিস্টেম মেমরির মধ্য দিয়ে যেতে হয়। এই প্রক্রিয়াটি বাধা সৃষ্টি করে, কারণ সিপিইউ একটি মধ্যস্থতাকারী হয়ে ওঠে, লেটেন্সি যোগ করে এবং মূল্যবান সিস্টেম সংস্থান ব্যবহার করে। জিপিইউ ডিরেক্ট স্টোরেজ এই অদক্ষতা দূর করে জিপিইউকে পিসিআইই বাসের মাধ্যমে সরাসরি স্টোরেজ ডিভাইস থেকে ডেটা অ্যাক্সেস করার অনুমতি দিয়ে। এই সরাসরি পথ ডেটা স্থানান্তরের সাথে যুক্ত ওভারহেড হ্রাস করে, দ্রুত এবং আরও দক্ষ ডেটা স্থানান্তর সক্ষম করে।
এআই ওয়ার্কলোড, বিশেষ করে ডিপ লার্নিং জড়িতগুলি, অত্যন্ত ডেটা-ইনটেনসিভ। বড় নিউরাল নেটওয়ার্ক প্রশিক্ষণ টেরাবাইট ডেটা প্রক্রিয়াকরণের প্রয়োজন হয়, এবং ডেটা স্থানান্তরে যেকোনো বিলম্ব কম ব্যবহৃত জিপিইউ এবং দীর্ঘ প্রশিক্ষণের সময় হতে পারে। জিপিইউ ডিরেক্ট স্টোরেজ ডেটা যত দ্রুত সম্ভব জিপিইউতে সরবরাহ করা নিশ্চিত করে এই চ্যালেঞ্জ মোকাবেলা করে, নিষ্ক্রিয় সময় কমিয়ে এবং কম্পিউটিং দক্ষতা বাড়িয়ে তোলে।
ডিএলআইও পরীক্ষার মতো, লক্ষ্য হল উচ্চ-গতির জেন ৫ এসএসডি এবং উচ্চ-ক্ষমতার কিউএলসি ড্রাইভের মধ্যে পার্থক্যগুলি আরও ভালভাবে বোঝা এবং চিহ্নিত করা। প্রতিটি এআই ওয়ার্কলোড একই নয়, এবং প্রতিটি ড্রাইভ নির্দিষ্ট সুবিধা প্রদান করে, প্রয়োজনের উপর নির্ভর করে।
পরীক্ষা কনফিগারেশন ম্যাট্রিক্স
আমরা আমাদের টেস্ট প্ল্যাটফর্মে একটি এনভিডিয়া এল৪ সহ নিম্নলিখিত প্যারামিটারগুলির প্রতিটি সংমিশ্রণ পদ্ধতিগতভাবে পরীক্ষা করেছি:
- ব্লক আকার: ১এম, ১২৮কে, ৬৪কে, ১৬কে, ৮কে
- থ্রেড সংখ্যা: ১২৮, ৬৪, ৩২, ১৬, ৮, ৪, ১
- জব সংখ্যা: ১৬
- ব্যাচ আকার: ১৬
আমাদের প্রথম নজরে কিউএলসি-ভিত্তিক ডি৫-পি৫৩৩৬ ছিল, যা ১২৮ এর আইও গভীরতায় ১এম স্থানান্তর আকার ব্যবহার করে ৪.২ জিআইবি/এস পর্যন্ত পৌঁছেছে। ব্লক আকারের প্রভাব ব্যান্ডউইথে একটি উল্লেখযোগ্য উন্নতি তৈরি করেছে, ৮কে থেকে ১এম পর্যন্ত উপরে উঠেছে। বর্ধিত আইও গভীরতার সুবিধা ৩২-এ টেপার হতে শুরু করেছে, যেখানে ওয়ার্কলোডগুলি সমতল হতে শুরু করেছে।
এরপরে, আমরা জেন ৫ পিএস-১০১০ দেখি, যা ১এম ব্লক আকার এবং ১২৮ এর আইও গভীরতায় ৬.২ জিআইবি/এস পর্যন্ত স্কেল করতে পারে। সব মিলিয়ে, এটি জেন ৪-ভিত্তিক পি৫৩৬ কে ছাড়িয়ে গেছে, বিশেষ করে ওয়ার্কলোডগুলি একটি উল্লেখযোগ্য উন্নতি প্রদর্শন করেছে। উন্নতির একটি উল্লেখযোগ্য ক্ষেত্র ছিল ১২৮কে ব্লকসাইজে, যেখানে ৬৪ এবং ১২৮ এর আইও গভীরতায়, পিএস১০১০ পি৫৩৬ এর দ্বিগুণ রিড ব্যান্ডউইথ সরবরাহ করেছে।
এটা মনে রাখা গুরুত্বপূর্ণ যে উভয় এসএসডি এনভিডিয়া এল৪ ব্যবহার করে পরীক্ষা করা হয়েছিল। যদিও জেন ৪ ডি৫-পি৫৩৬ তার সর্বোচ্চ প্রান্তে বা তার কাছাকাছি, এইচ১০০-এর মতো উচ্চ-মডেল এনভিডিয়া জিপিইউগুলি ডি৭-পিএস১০১০ এর সাথে উচ্চতর কর্মক্ষমতা প্রদর্শন করেছে। একটি ড্রাইভের গতি কিছু গ্রাহকদের জন্য চূড়ান্ত সিদ্ধান্তকারী বিষয়, অন্যরা সামগ্রিক ঘনত্বকে অগ্রাধিকার দেয়।সলিডিগমএর জন্য সমাধান সরবরাহ করেউভয়, তার সাথেকিউএলসি এবং টিএলসি এসএসডি অফারিং।
উপসংহার
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / উইচ্যাট: +৮৬ ১৩৪২৬৩৬৬৬২৬
ইমেল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি পণ্য বিতরণ/সিস্টেম ইন্টিগ্রেশন ও পরিষেবা/অবকাঠামো সমাধান
২০ বছরের বেশি আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করতে নেতৃস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারিত্ব করি।
"একটি বুদ্ধিমান বিশ্ব গড়ে তুলতে প্রযুক্তি ব্যবহার করা" আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!