Bengali
WEKA তাদের নিউরালমেশ প্ল্যাটফর্মকে NVIDIA STX রেফারেন্স আর্কিটেকচারের সাথে একীভূত করার ঘোষণা দিয়েছে, যা পরবর্তী প্রজন্মের এআই অবকাঠামোর জন্য একটি মূল বিল্ডিং ব্লক হিসাবে তাদের অগমেন্টেড মেমরি গ্রিড স্থাপন করেছে। সম্মিলিত সমাধানটি বৃহৎ আকারের ইনফারেন্স পরিবেশের অন্যতম গুরুত্বপূর্ণ বাধা দূর করে: মেমরি সীমাবদ্ধতা যা সরাসরি কর্মক্ষমতা, মোট মালিকানা ব্যয় এবং স্কেলযোগ্য বৃদ্ধিকে প্রভাবিত করে।
নিউরালমেশের মাধ্যমে কাজ করে, WEKA-এর অগমেন্টেড মেমরি গ্রিড কী-ভ্যালু ক্যাশেগুলিকে বাহ্যিকীকরণ এবং স্থায়ী করে জিপিইউ মেমরি প্রসারিত করে। যখন NVIDIA STX-এর সাথে স্থাপন করা হয়, তখন এই আর্কিটেকচারটি এজেন্টিক এআই ওয়ার্কলোডের জন্য উচ্চ-থ্রুপুট কনটেক্সট মেমরি স্টোরেজ সরবরাহ করে, যা সেশন, টুল এবং এন্ড-টু-এন্ড ওয়ার্কফ্লো জুড়ে দীর্ঘ-কনটেক্সট রিজনিং সমর্থন করে। কোম্পানি অনুসারে, NVIDIA Vera Rubin NVL72 সিস্টেম, BlueField-4 DPUs এবং Spectrum-X Ethernet-এর সমন্বিত কনফিগারেশনগুলি কনটেক্সট মেমরি টোকেন থ্রুপুট 4x থেকে 10x পর্যন্ত বাড়াতে পারে। প্ল্যাটফর্মটি কমপক্ষে 320 GB/s রিড এবং 150 GB/s রাইট থ্রুপুট সরবরাহ করবে বলে আশা করা হচ্ছে, যা ঐতিহ্যবাহী এআই স্টোরেজ আর্কিটেকচারের কর্মক্ষমতাকে দ্বিগুণ করে দেবে।
মেমরি ইনফ্রাস্ট্রাকচার ইনফারেন্সের বাধা হয়ে দাঁড়ায়
WEKA আধুনিক এআই স্থাপনার ক্রমবর্ধমান মেমরি ওয়াল চ্যালেঞ্জের উপর এই একীভূতকরণকে কেন্দ্র করে। আজকের ইনফারেন্স পাইপলাইনের মধ্যে, সীমিত উচ্চ-ব্যান্ডউইথ জিপিইউ মেমরি ঘন ঘন কেভি ক্যাশে ইভিকশনকে বাধ্য করে, যা বারবার পুনরায় গণনা এবং কর্মক্ষমতার দক্ষতা হ্রাসের দিকে পরিচালিত করে। সিস্টেম কনকারেন্সি বাড়ার সাথে সাথে এই অদক্ষতাগুলি বহুগুণে বৃদ্ধি পায়, অবকাঠামোগত ব্যয় বৃদ্ধি করে এবং কর্মক্ষমতার পূর্বাভাসযোগ্যতা হ্রাস করে।
কোম্পানিটি শেয়ার্ড কেভি ক্যাশে ইনফ্রাস্ট্রাকচারকে সমাধান হিসাবে প্রচার করে। ব্যবহারকারী এবং সেশন জুড়ে স্থায়ী কনটেক্সট সংরক্ষণ করে, শেয়ার্ড ক্যাশিং অপ্রয়োজনীয় প্রক্রিয়াকরণ দূর করে এবং টোকেন থ্রুপুট স্থিতিশীল করে। NVIDIA STX এই মডেলের জন্য যাচাইকৃত রেফারেন্স আর্কিটেকচার সরবরাহ করে, যখন WEKA স্টোরেজ এবং মেমরি এক্সটেনশন লেয়ার সরবরাহ করে।
নিউরালমেশ এবং অগমেন্টেড মেমরি গ্রিড আর্কিটেকচার
নিউরালমেশ WEKA-এর ডিস্ট্রিবিউটেড স্টোরেজ প্ল্যাটফর্ম হিসাবে কাজ করে, যা সম্পূর্ণ NVIDIA STX স্ট্যাক জুড়ে নির্বিঘ্নে একীভূত করার জন্য নির্মিত। এটি এআই ওয়ার্কলোডের জন্য অপ্টিমাইজ করা উচ্চ-কর্মক্ষমতা ডেটা পরিষেবা সরবরাহ করে, যখন অগমেন্টেড মেমরি গ্রিড জিপিইউ মেমরির বাইরে কেভি ক্যাশে একত্রিত করার জন্য একটি ডেডিকেটেড মেমরি এক্সপেনশন লেয়ার হিসাবে কাজ করে।
এই ডিজাইনটি ইনফারেন্স পরিবেশকে জিপিইউ রিসোর্স ওভারলোড না করে দীর্ঘ-কনটেক্সট সেশন বজায় রাখতে দেয়। ওয়ার্কলোড জুড়ে ক্যাশে স্টেট বজায় রাখা এবং পুনঃব্যবহার সক্ষম করার মাধ্যমে, প্ল্যাটফর্মটি স্থাপনা স্কেল করার সাথে সাথে উচ্চ ব্যবহার এবং সামঞ্জস্যপূর্ণ কর্মক্ষমতা বজায় রাখে।
WEKA উল্লেখ করে যে অগমেন্টেড মেমরি গ্রিড, যা প্রথম GTC 2025-এ উন্মোচিত হয়েছিল এবং এখন সাধারণভাবে উপলব্ধ, NVIDIA Grace CPU প্ল্যাটফর্মের সাথে BlueField DPUs-এর সাথে যুক্ত করে যাচাই করা হয়েছে। আর্কিটেকচারটি ইনফারেন্সের দক্ষতায় পরিমাপযোগ্য লাভ সরবরাহ করে, যার মধ্যে প্রথম টোকেন পর্যন্ত সময় নাটকীয়ভাবে দ্রুততর, প্রতি-জিপিইউ টোকেন থ্রুপুট বেশি এবং বর্ধিত কনকারেন্সির অধীনে স্থিতিশীল কর্মক্ষমতা অন্তর্ভুক্ত। BlueField-4-এ ডেটা পাথ অফলোড করা সিপিইউ ওভারহেডও হ্রাস করে এবং I/O বাধাগুলি উপশম করে।
কর্মক্ষমতা এবং দক্ষতার লাভ
প্রোডাকশন-লাইক পরিবেশে, প্ল্যাটফর্মটি প্রতিক্রিয়াশীলতা এবং অবকাঠামোগত দক্ষতা উন্নত করার জন্য ডিজাইন করা হয়েছে। WEKA বলে যে অগমেন্টেড মেমরি গ্রিড প্রথম টোকেন পর্যন্ত সময় 4x থেকে 20x পর্যন্ত কমাতে পারে, যখন প্রতি-জিপিইউ টোকেন আউটপুট 6.5x পর্যন্ত বাড়াতে পারে। এই উন্নতিগুলি উচ্চতর কেভি ক্যাশে হিট রেট এবং কম পুনরায় গণনা চক্র থেকে উদ্ভূত হয়, যা সিস্টেমগুলিকে কনটেক্সট আকার এবং ব্যবহারকারীর সংখ্যা বাড়ার সাথে সাথে কর্মক্ষমতা বজায় রাখতে সক্ষম করে।
ফার্মাস, একটি এআই ইনফ্রাস্ট্রাকচার প্রদানকারী, NVIDIA-ভিত্তিক ইনফ্রাস্ট্রাকচারের সাথে নিউরালমেশ ব্যবহারকারী একজন প্রাথমিক গ্রহণকারী হিসাবে হাইলাইট করা হয়েছে। ফার্মটি স্কেলে উন্নত টোকেন থ্রুপুট এবং কম লেটেন্সি রিপোর্ট করে, যেখানে অতিরিক্ত হার্ডওয়্যার স্থাপনার পরিবর্তে বিদ্যমান জিপিইউগুলির আরও দক্ষ ব্যবহার থেকে লাভ আসে।
এআই ইনফ্রাস্ট্রাকচার ডিজাইনের জন্য প্রভাব
এই একীভূতকরণ এআই সিস্টেম ডিজাইনে একটি পরিবর্তনকে তুলে ধরে, যেখানে মেমরি এবং স্টোরেজ কৌশলগুলি ক্রমবর্ধমানভাবে সামগ্রিক কর্মক্ষমতা এবং ব্যয় দক্ষতা নির্ধারণ করে। এজেন্টিক এআই ওয়ার্কলোড প্রসারিত এবং কনটেক্সট উইন্ডো প্রশস্ত হওয়ার সাথে সাথে, বর্ধিত পুনরায় গণনা ব্যয় এবং কম ব্যবহৃত জিপিইউগুলির কারণে শুধুমাত্র ডিআরএএম পদ্ধতিগুলি টেকসই হয় না।
WEKA এআই ফ্যাক্টরিগুলির জন্য একটি মৌলিক ক্ষমতা হিসাবে স্থায়ী, শেয়ার্ড কেভি ক্যাশে স্থাপন করে। এই মডেল গ্রহণকারী সংস্থাগুলি উচ্চতর জিপিইউ ব্যবহার, প্রতি ইনফারেন্স টাস্ক কম শক্তি খরচ এবং আরও পূর্বাভাসযোগ্য স্কেলিং অর্জন করতে পারে। বিপরীতে, স্থানীয় জিপিইউ মেমরির উপর একচেটিয়াভাবে নির্ভর করা পরিবেশগুলি সম্ভবত ক্রমবর্ধমান অপারেশনাল ব্যয় এবং ওয়ার্কলোড বৃদ্ধির সাথে সাথে হ্রাসমান রিটার্নের সম্মুখীন হবে।
বেইজিং কিয়ানশিং জিয়েটং টেকনোলজি কোং, লিমিটেড
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / উইচ্যাট: +86 13426366826
ইমেল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি পণ্য বিতরণ/সিস্টেম ইন্টিগ্রেশন ও পরিষেবা/ইনফ্রাস্ট্রাকচার সলিউশন
20+ বছরের আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করার জন্য শীর্ষস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারিত্ব করি।
"একটি বুদ্ধিমান বিশ্ব গড়ার জন্য প্রযুক্তি ব্যবহার করা" আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / উইচ্যাট: +86 13426366826
ইমেল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি পণ্য বিতরণ/সিস্টেম ইন্টিগ্রেশন ও পরিষেবা/ইনফ্রাস্ট্রাকচার সলিউশন
20+ বছরের আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করার জন্য শীর্ষস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারিত্ব করি।
"একটি বুদ্ধিমান বিশ্ব গড়ার জন্য প্রযুক্তি ব্যবহার করা" আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!