মিনিও একটি পেটাবাইট স্কেল মেমকেভি ক্যাচিং সিস্টেম তৈরি করেছে যা এনভিডিয়া জিপিইউগুলির জন্য তৈরি করা হয়েছে, যা এর এআইএসটার অবজেক্ট স্টোরেজ প্ল্যাটফর্মের উপরে স্থাপন করা হয়েছে।
জিপিইউ ক্লাস্টারগুলিকে কনটেক্সট, ভেক্টরাইজড টোকেন এবং মধ্যবর্তী কী-মান (কেভি) জোড়া সংরক্ষণের জন্য উচ্চ-ব্যান্ডউইথ মেমরি (এইচবিএম) প্রয়োজন। একবার জিপিইউ এইচবিএম স্যাচুরেট হয়ে গেলে,সিপিইউ ড্রাম এবং এনভিএমই এসএসডিতে ডেটা ক্যাসকেড, এনভিডিয়া ব্লুফিল্ড-৪ (বিএফ৪) ডিপিইউ দ্বারা পরিচালিত হয়। যখন এই স্তরগুলি ক্ষমতা অর্জন করে, তখন মিনিও এআইস্টর চূড়ান্ত স্টোরেজ ব্যাকআপ হিসাবে কাজ করে। এনভিডিয়ার এসটিএক্স আর্কিটেকচার এই মাল্টি-লেয়ার ক্যাশে শ্রেণিবিন্যাসকে পরিচালনা করে,এবং MemKV ধ্রুবক প্রদানের মান মেনে চলে, উচ্চতর স্কেলে জিপিইউ ক্লাস্টার জুড়ে ভাগ করা প্রসঙ্গ।
মিনিও-র সহ-প্রতিষ্ঠাতা এবং সহ-সিইও এবি পেরিসামি মন্তব্য করেন, "এই শিল্পটি বছরের পর বছর ধরে প্রসঙ্গের ক্ষতির কথা বলে আসছে, কারণ ছোট আকারে আপনি পুনরায় হিসাব করা কর শোষণ করতে পারেন।হাইপারস্কেলার এবং নিওক্লাউডের জন্য আজকের উচ্চ জিপিইউ ঘনত্ব, এটা আর কার্যকর হবে না।
পুনরায় তৈরি প্রসঙ্গ গণনা শক্তি অপচয়; হাজার হাজার জিপিইউ সহ ক্লাস্টারগুলির জন্য, এটি মৌলিক কাঠামোগত অকার্যকারিতা সৃষ্টি করে। বড় আকারের অনুমানের জন্য বিশেষভাবে নির্মিত অবকাঠামো প্রয়োজন,এবং MemKV এই ডেটা পাথের জন্য বিশেষভাবে ডিজাইন করা হয়েছে..
প্রথমবারের মতো, মিনিও মাইক্রোসেকেন্ড স্তরের বিলম্বের সাথে পুরো জিপিইউ ক্লাস্টারগুলির জন্য ভাগ করা কনটেক্সট পুলগুলি সক্ষম করে,প্রচলিত বাহ্যিক স্টোরেজ থেকে মিলিসেকেন্ড বিলম্ব এড়ানো. পর্যাপ্ত ক্যাশে স্তর ছাড়া, জিপিইউ পুনরাবৃত্তি প্রসঙ্গ পুনরায় হিসাব উপর সম্পদ অপচয়.
128K-টোকেন প্রসঙ্গ দৈর্ঘ্যের সাথে 128GPU স্থাপনে, MemKV উত্পাদন লোডের অধীনে প্রথম টোকেন-এর সময় উন্নত করেছে এবং 50% থেকে 90% এরও বেশি GPU ব্যবহার বৃদ্ধি করেছে,একটি আনুমানিক $ 2 মিলিয়ন বার্ষিক কম্পিউটার খরচ সঞ্চয় উত্পন্ন.
এনভিডিয়া এসটিএক্স আর্কিটেকচারের জন্য বিশেষভাবে নির্মিত, মেমকেভি এনভিডিয়া ডায়নামো এবং নিক্সল ক্যাচিং সরঞ্জামগুলিকে সমর্থন করে। এটি এসএসডি-স্তরের ব্যয়ে শেয়ার্ড কনটেক্সট মেমরির পেটাবাইট সরবরাহ করে,জিপিইউ কম্পিউটিং রিসোর্স থেকে ক্যাশ স্কেলিং বিচ্ছিন্ন করাএর মূল বৈশিষ্ট্যগুলি নীচে তালিকাভুক্ত করা হয়েছে:
-
নেটিভ BF4 STX সমর্থন: STX অবকাঠামোর মধ্যে একটি ARM64 বাইনারি হিসাবে চালিত হয়, পৃথক x86 স্টোরেজ সার্ভারের পরিবর্তে স্টোরেজে এম্বেড করা হয়।
-
শেষ থেকে শেষ RDMA পরিবহন: প্রচলিত ফাইল এবং অবজেক্ট স্টোরেজ প্রোটোকলগুলি বাইপাস করে আরডিএমএর মাধ্যমে জিপিইউ মেমরি এবং এনভিএমের মধ্যে কেভি ক্যাশে স্থানান্তর করে।
-
জিপিইউ-অপ্টিমাইজড ব্লকের আকার: জিপিইউ থ্রুপুট চাহিদার জন্য 2 ¢ 16 এমবি ব্লক ব্যবহার করে, পুরানো 4 কেবি স্টোরেজ ব্লকের পরিবর্তে।
-
তারের গতির পারফরম্যান্স: এনভিডিয়া স্পেকট্রাম-এক্স ইথারনেট এবং পিসিআইই জেনার 6 এর জন্য সর্বোচ্চ শারীরিক ফ্যাব্রিক থ্রুপুটের জন্য অনুকূলিত।
মেমকেভি সরাসরি এনভিএমই এসএসডি থেকে আরডিএমএর মাধ্যমে এআই পাইপলাইনে ডেটা স্থানান্তর করে, এইচটিটিপি ওভারহেড, ফাইল সিস্টেম অনুবাদ এবং মধ্যবর্তী স্টোরেজ সার্ভারগুলি নির্মূল করে।
মিনিও প্রতিদ্বন্দ্বী কনটেক্সট মেমরি সমাধানগুলিকে দুটি ধরণের মধ্যে শ্রেণীবদ্ধ করেঃ অ-ভাগযোগ্য স্থানীয় এনভিএম (জি 3) এবং সাধারণ-উদ্দেশ্য ভাগ করা স্টোরেজ (জি 4) । এটি মেমকেভিকে একটি উদ্দেশ্য-নির্মিত জি 3.5 স্তর হিসাবে স্থাপন করে,জেনেরিক স্টোরেজ প্রোডাক্ট থেকে নিজেকে আলাদা করে.
কোম্পানিটি জোর দিয়ে বলেছে যে পুরানো বিক্রেতাদের G3.5 অফারগুলি এখনও অতিরিক্ত প্রোটোকল নোড, মেটাডেটা পরিষেবা এবং ফাইল অনুবাদ স্তরগুলি ধরে রাখে।এই স্তরগুলি প্রশিক্ষণ তথ্য এবং মডেল ওজনগুলির জন্য স্থায়িত্ব এবং ধারাবাহিকতা নিশ্চিত করে, তবুও এগুলি ক্ষণস্থায়ী, পুনরায় গণনাযোগ্য কেভি ক্যাশে জন্য অপ্টিমাইজ করা হয় যা 2 ′′ 16 এমবি ডেটা ব্লকের জন্য অপ্টিমাইজ করা হয়।
হার্ডওয়্যার RAID বিক্রেতা GRAID এবং স্টোরেজ ফার্ম WEKA এছাড়াও STX- সামঞ্জস্যপূর্ণ KV ক্যাশে সমাধান সরবরাহ করে। ক্লাউডিয়ান, ডেল, ডিডিএন, এভারপুর,হ্যামারস্পেস, হিটাচি ভ্যান্টারা, এইচপিই, লাইটবিটস/স্কেলফ্লাক্স, নেটঅ্যাপ, নুটানিক্স, পিকঃএআইও, প্লিয়পস এবং ভিএএসটি ডেটা।
বেইজিং চিয়ানসিং জিয়েটং টেকনোলজি কোং লিমিটেড।
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / ওয়েচ্যাটঃ +৮৬ ১৩৪২৬৩৬৬৮২৬
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইটঃ www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাসঃ
আইসিটি প্রোডাক্ট বিতরণ/সিস্টেম ইন্টিগ্রেশন ও সার্ভিসেস/ইনফ্রাস্ট্রাকচার সমাধান
২০+ বছরের আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা বিশ্বব্যাপী শীর্ষস্থানীয় ব্র্যান্ডগুলির সাথে অংশীদার হয়ে নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করি।
আপনার বার্তাটি 20-3,000 টির মধ্যে হতে হবে!
Bengali
