কোম্পানির খবর হাইপার-স্কেল এআই ডেটা সেন্টারগুলির জন্য হুয়াওয়ের ওশেনস্টর কেভি ক্যাশে স্টোরেজ

হুয়াওয়ে OceanStor M900 ঘোষণা করেছে, একটি স্কেল-আউট, অল-ফ্ল্যাশ স্টোরেজ ক্লাস্টার যা এর Atlas 960 SuperPoDs-এর জন্য 64 PB KV ক্যাশে বেস টায়ার সরবরাহ করে; Nvidia-এর SuperPODs-এর সাথে তুলনীয় র্যাক-স্কেল এআই অ্যাক্সিলারেটর।

Nvidia তার GPU, BlueField NIC, Spectrum-X সুইচ এবং এআই সফ্টওয়্যারকে স্টোরেজ সিস্টেমের সাথে একীভূত করার জন্য একটি রেফারেন্স ডিজাইন সংজ্ঞায়িত করেছে, যা GPUDirect, RDMA এবং এর Dynamo সফ্টওয়্যার এবং CMX স্কিমের মাধ্যমে KV ক্যাশে এক্সটেনশন সমর্থন করে। এই মাল্টি-টায়ার আর্কিটেকচার GPU-এর হাই-ব্যান্ডউইথ মেমরি (HBM) কে দ্রুততম টপ টায়ার হিসাবে ব্যবহার করে, তারপরে সংশ্লিষ্ট X86 সার্ভারের DRAM কে লেভেল 2 হিসাবে, সার্ভারের লোকাল SSD কে L3 হিসাবে, এবং একটি ফ্ল্যাশ স্টোরেজ সার্ভারের মধ্যে বুদ্ধিমান BlueField-4 NIC-সংযুক্ত NVMe SSD কে L3.5 হিসাবে ব্যবহার করে। এগুলি মাইক্রোসেকেন্ড-ক্লাস ল্যাটেন্সি সহ একটি একক নেটওয়ার্ক হপে GPU-এর HBM-এ পৌঁছাতে পারে।

হুয়াওয়ে এখন Nvidia-এর SuperPOD ডিজাইনকে চ্যালেঞ্জ করছে তাদের নিজস্ব SuperPODs দিয়ে যা হাইপারস্কেল এআই ডেটা সেন্টারগুলির জন্য তৈরি করা হয়েছে। সিস্টেমগুলি 10-ট্রিলিয়ন প্যারামিটার মডেল এবং মিলিয়ন-প্লাস টোকেন কনটেক্সট উইন্ডোকে লক্ষ্য করে, যার অর্থ একটি একক অ্যাক্সিলারেটরের হাই-ব্যান্ডউইথ মেমরি সমস্ত প্রয়োজনীয় কী-ভ্যালু টোকেন ধারণ করতে পারে না, যার জন্য একটি ক্যাশিং মেকানিজমের প্রয়োজন হয়।

কোম্পানি জানিয়েছে যে একটি Atlas 960E SuperPoD 4,096 NPUs (নিউরাল প্রসেসিং ইউনিট) পর্যন্ত স্কেল করতে পারে, 8 EFLOPS FP8 কম্পিউট পারফরম্যান্স, 1 পেটাবাইট পর্যন্ত HBM ক্ষমতা এবং 256 TB ইউনিফাইড মেমরি পুল সরবরাহ করে। ইউনিফাইডবাস (NPO) সহ 5,500 Hi-ONE ইউনিট স্থাপন করলে ঐতিহ্যগতভাবে সমস্ত NPU ইন্টারকানেক্ট করার জন্য প্রয়োজনীয় 48,000 800G অপটিক্যাল মডিউলের তুলনায় 550 কিলোওয়াটের বেশি বিদ্যুৎ খরচ কমে যায়। এটি সিস্টেমের ফল্ট-ফ্রি অপারেটিং সময় দ্বিগুণ করে এবং 99.8 শতাংশ সিস্টেম উপলব্ধতা অর্জন করে।

হুয়াওয়ে OceanStor M900
SuperPoD একটি মাল্টি-টায়ার KV ক্যাশিং ফ্রেমওয়ার্ক গ্রহণ করে, যেখানে M900 L3.5 স্তরের জন্য পেটাবাইট-স্কেল KV ক্যাশে সরবরাহ করে। প্রতিটি ক্লাস্টার এই স্তরের জন্য অপটিক্যাল নেটওয়ার্কিংয়ের মাধ্যমে 4 PB পর্যন্ত শেয়ার্ড L3.5 KV ক্যাশে ক্ষমতা এবং 40 TB/সেকেন্ড অ্যাগ্রিগেট ব্যান্ডউইথ সরবরাহ করে, প্রতি NPU-তে একাধিক টেরাবাইট KV ক্যাশে ক্ষমতা প্রদান করে। হুয়াওয়ে দাবি করে যে সাধারণ এআই ইনফারেন্স ওয়ার্কলোডের অধীনে, এই আর্কিটেকচার ইনফারেন্স ক্লাস্টারের টোকেন থ্রুপুট দ্বিগুণ করে এবং প্রথম টোকেন (TTFT) এর সময় অর্ধেক করে।

ফার্মটি উল্লেখ করেছে যে 40 TB/সেকেন্ড ব্যান্ডউইথ প্রতিযোগী সমাধানগুলির চেয়ে 1.5 গুণ বেশি, স্পষ্টভাবে বিক্রেতাদের নাম উল্লেখ না করে। এটি সাধারণত DDN, Everpure, IBM (Storage Scale), MinIO এবং VAST Data সিস্টেমগুলিকে বোঝায় যাদের ক্লাস্টার ব্যান্ডউইথ 10–25 TB/সেকেন্ডের মধ্যে থাকে।

M900 একটি সমন্বিত ডিজাইন বৈশিষ্ট্যযুক্ত যা CPU, নেটওয়ার্ক কন্ট্রোলার এবং NAND কন্ট্রোলারকে একটি ইউনিটে একত্রিত করে, SuperPoD NPUs-কে SSD-তে একটি সরাসরি, এক-হপ লিঙ্ক স্থাপন করতে সক্ষম করে। এটি অ্যাক্সেস ল্যাটেন্সি মিলিসেকেন্ড থেকে প্রায় 60 মাইক্রোসেকেন্ডে কমিয়ে আনে।

ডেভিড ওয়াং, হুয়াওয়ে ডেপুটি চেয়ারম্যান অফ দ্য বোর্ড এবং রোটেশটিং চেয়ারম্যান বলেছেন: "OceanStor M900 হাইব্রিড মিডিয়া এবং একটি অপ্টিমাইজড রিটেনশন অ্যালগরিদমও ব্যবহার করে, SSD রিড/রাইট লাইফস্প্যান 16 গুণ বাড়িয়ে তোলে। এটি উচ্চতর KV ক্যাশে হিট রেট নিশ্চিত করে এবং শুরু থেকেই দীর্ঘমেয়াদী স্থিতিশীলতা এবং নির্ভরযোগ্যতা প্রদান করে।"

আরও বিস্তারিতভাবে, হুয়াওয়ে জানিয়েছে যে M900 KV-সচেতন অ্যাডাপ্টিভ স্টোরেজ প্রযুক্তি বৈশিষ্ট্যযুক্ত যা KV ক্যাশে ডেটার প্রতিটি অংশের প্রত্যাশিত জীবনকাল এবং মান ভবিষ্যদ্বাণী করে। এই ভবিষ্যদ্বাণীর উপর ভিত্তি করে, এটি ডেটা শিডিউল করে এবং বিভিন্ন মিডিয়া স্তরে বিতরণ করে: অন-চিপ মেমরি, DRAM, এবং SSD। হুয়াওয়ে বলে যে এই অপ্টিমাইজড প্লেসমেন্ট এবং রিটেনশন কৌশল SSD-কে প্রতিদিন 24 ড্রাইভ রাইট (DWPD) পর্যন্ত টিকিয়ে রাখতে সক্ষম করে, যা একটি উল্লেখযোগ্যভাবে উচ্চ সংখ্যা, এবং SSD এনডিউরেন্স 16 গুণ বাড়িয়ে তোলে, কম ড্রাইভ প্রতিস্থাপনের সাথে তিন বছরের স্থিতিশীল অপারেশন সমর্থন করে।

হুয়াওয়ের M900 ডেটাশিট এবং প্রযুক্তিগত ব্রিফিং প্রকাশের জন্য এখনও খুব তাড়াতাড়ি, তাই নোড র্যাক ইউনিট আকার, কন্ট্রোলার, ড্রাইভের সংখ্যা এবং ক্ষমতা, ক্লাস্টার নোড সংখ্যা এবং অন্যান্য স্পেসিফিকেশন এখনও উপলব্ধ নয়।

NPU ফুটনোট
NPUs হল হুয়াওয়ে Ascend নিউরাল প্রসেসিং ইউনিট যা, হুয়াওয়ে বলে, এআই-এর জন্য নেটিভভাবে তৈরি করা হয়েছে (GPU-এর বিপরীতে যা গ্রাফিক্স চিপ হিসাবে উদ্ভূত হয়েছিল)। তারা কিউব (ম্যাট্রিক্স) কোর এবং ভেক্টর কোর সহ হুয়াওয়ের দা ভিঞ্চি আর্কিটেকচার গ্রহণ করে এবং বড় মডেলগুলির জন্য ইনফারেন্স এবং প্রশিক্ষণ ত্বরান্বিত করার জন্য FP8 এবং FP4 সহ লো-প্রিসিশন ফরম্যাট সমর্থন করে। যখন হুয়াওয়ের ইউনিফাইডবাস অল-অপটিক্যাল ইন্টারকানেক্টের মাধ্যমে বিশাল সিস্টেমে একত্রিত হয়, তখন তারা হাজার হাজার বা এমনকি লক্ষ লক্ষ NPU কে একটি লজিক্যাল মেশিন হিসাবে কাজ করার জন্য স্কেল করতে পারে। সাম্প্রতিক অফার যেমন Atlas 350 (Ascend 950PR ব্যবহার করে) এবং আসন্ন Atlas 960 SuperPoDs চীনা বাজারে Nvidia GPU-এর বিকল্প হিসাবে অবস্থান করছে।

বেইজিং কিয়ানশিং জিয়েটং টেকনোলজি কোং, লিমিটেড
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
WhatsApp / WeChat: +86 13426366826
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসার ফোকাস:
আইসিটি পণ্য বিতরণ/সিস্টেম ইন্টিগ্রেশন ও পরিষেবা/অবকাঠামো সমাধান
20+ বছরের আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করতে নেতৃস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারিত্ব করি।
"প্রযুক্তি ব্যবহার করে একটি বুদ্ধিমান বিশ্ব তৈরি করুন" আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!