ASUS ExpertCenter Pro ET900N G3 হল দ্বিতীয় GB300 DGX স্টেশন যা আমরা পরীক্ষা করেছি এবং প্রথমটি আমরা আমাদের ল্যাবে হ্যান্ডস-অন মূল্যায়ন করেছি; আমাদের MSI XpertStation WS300 পরীক্ষা দূরবর্তীভাবে পরিচালিত হয়েছিল। এটি MSI XpertStation WS300-এ দেখা একই NVIDIA সিলিকন ব্যবহার করে: 72 গ্রেস কোর সহ একটি গ্রেস ব্ল্যাকওয়েল আল্ট্রা ডেস্কটপ সুপারচিপ, একটি B300 GPU, 252GB HBM3e, 496GB LPDDR5X, এবং একটি ConnectX-8 SuperNIC dual4G0 পোর্ট সজ্জিত৷ ASUS এই ফিক্সড কোর প্ল্যাটফর্মটিকে একটি কমপ্যাক্ট ডেস্কসাইড AI টাওয়ারের ভিতরে প্যাকেজ করে, WS300 থেকে অনুপস্থিত বৈশিষ্ট্যগুলি যোগ করে: দুটি টপ-মাউন্ট করা ক্যারি হ্যান্ডেল, ConnectX-8 অপটিক্স খাঁচাকে লক্ষ্য করে একটি ডেডিকেটেড ফ্যান এবং একটি 1,600W 80 PLUS টাইটানিয়াম পাওয়ার সাপ্লাই।

ASUS আমাদের ল্যাবে ET900N G3 পাঠিয়েছে মোটামুটি এক সপ্তাহের বেঞ্চমার্কিং, ইমেজিং এবং শারীরিক পরিদর্শনের জন্য, একটি RTX PRO 2000-এর সাথে প্রি-কনফিগার করা হয়েছে। বেস প্ল্যাটফর্ম, B300, গ্রেস, NVLink-C2C, MIG এবং DGX স্টেশনের মৌলিক বিষয়গুলি আমাদের পূর্ববর্তী WS30t পর্যালোচনাতে কভার করা হয়েছে। এই বিশ্লেষণটি সুপারচিপের চারপাশে ASUS-এর বাস্তবায়ন এবং এর কার্যকারিতা আমাদের পরীক্ষা করা প্রথম GB300 টাওয়ারের সাথে মেলে কিনা তার উপর ফোকাস করে।

ASUS ExpertCenter Pro ET900N G3 স্পেসিফিকেশন

ডিজাইন এবং বিল্ড

ASUS ET900N G3 কে ব্রাশ করা সিলভার চেসিস, ডার্ক মেশ ফ্রন্ট প্যানেল, ক্যাপ এবং পায়ে ক্রোম ট্রিম এবং একটি লো-প্রোফাইল ASUS ফ্রন্ট ব্যাজ সহ একটি ব্যবসায়িক ওয়ার্কস্টেশন হিসাবে অবস্থান করে। এর মাত্রা অভ্যন্তরীণ প্ল্যাটফর্ম দ্বারা নির্দেশিত হয়: 584 x 232 x 565 মিমি, WS300 এর চেয়ে সামান্য লম্বা এবং প্রান্তিকভাবে সংকীর্ণ। 27 কেজিতে, এটি সহজে সরানো যায় না, যা ASUS-এর ব্যবহারিক নকশা পছন্দকে অনুপ্রাণিত করে: দুটি শীর্ষ ধাতব হ্যান্ডেল (সামনে এবং পিছনে) দুটি লোককে চেসিস প্যানেল না ধরে টাওয়ারটিকে ডেস্ক বা কার্টে তুলতে দেয়। আপনি একটি ল্যাব জুড়ে একটি ভারী GB300 টাওয়ার পরিবহন না করা পর্যন্ত এই হ্যান্ডেলগুলি একটি অফিস ওয়ার্কস্টেশনে স্থানের বাইরে দেখায়।

সামনের প্যানেলে পাওয়ার বোতাম, দুটি 10Gbps USB Type‑A পোর্ট, দুটি 10Gbps USB Type-C পোর্ট, একটি USB 2.0 পোর্ট এবং জাল উপরের ডানদিকে উল্লম্বভাবে সাজানো আলাদা অডিও জ্যাক রয়েছে৷ পাশের প্যানেলটি একটি বড় ছিদ্রযুক্ত প্লেট, যেখানে রেডিয়েটর গ্রহণের জন্য একটি দীর্ঘ ছিদ্রযুক্ত সামনের অংশ এবং একটি ছোট পিছনের গ্রিল সিস্টেম ফ্যানের সাথে সারিবদ্ধ। কোন উইন্ডো বা RGB আলো নেই, লক্ষ্য ক্রেতার পছন্দের সাথে মেলে।

পিছনে, লেআউটটি অন্তর্নিহিত সার্ভার হার্ডওয়্যার থেকে ওয়ার্কস্টেশন I/O কে আলাদা করে। উপরের ক্লাস্টারে সেটআপের জন্য চারটি 10Gbps USB Type‑A পোর্ট, 10GbE এবং 1GbE RJ45 পোর্ট, তিনটি অডিও জ্যাক, BMC মাইক্রো-USB কনসোল এবং BMC মিনি ডিসপ্লেপোর্ট রয়েছে৷ ConnectX-8-এর জন্য দুটি QSFP112 খাঁচা একটি নিষ্কাশন ফ্যানের পাশে I/O শিল্ডের উপরে বসে আছে; তিনটি সম্প্রসারণ স্লট কভার কেন্দ্রের নিচে চলে, এবং C19 ইনলেট পাওয়ার সাপ্লাই নীচে বসে। WS300 এর মতো, Mini DisplayPort হল BMC-শুধুমাত্র প্রাথমিক সেটআপ এবং সমস্যা সমাধানের জন্য; ডেস্কটপ ডিসপ্লে আউটপুটের জন্য RTX PRO অ্যাড-ইন কার্ড প্রয়োজন।

ET900N G3 এর ভিতরে

পাশের প্যানেলটি সরানো হলে, ET900N G3 ঘনিষ্ঠভাবে WS300-এর সাথে সাদৃশ্যপূর্ণ, উভয়ই একই NVIDIA বেসবোর্ড শেয়ার করে প্রত্যাশিত। GB300 সুপারচিপ চ্যাসিসের বাম দিকে একটি তামার কোল্ড প্লেটের নিচে বসে আছে, SOCAMM মডিউলগুলির পাশে তামার প্লেট রয়েছে এবং ConnectX-8 পিছনের I/O এর কাছে একটি তৃতীয় কোল্ড প্লেট দ্বারা ঠান্ডা করা হয়েছে। ব্রেইডেড কুল্যান্ট টিউবিং কোল্ড প্লেট থেকে চেসিস ক্রসমেম্বার ম্যানিফোল্ডে চলে, তারপর রেডিয়েটর পর্যন্ত। তিনটি পূর্ণ-দৈর্ঘ্যের PCIe স্লট সুপারচিপের নীচে রয়েছে, পাওয়ার সাপ্লাই নীচের সামনের কোণে রয়েছে এবং একটি ধাতব কাফন নীচের তারের রাউটিংকে কভার করে।

অভ্যন্তরীণ বায়ুপ্রবাহ বিন্যাস WS300-এর আয়না করে: সামনের জালের পিছনে একটি উল্লম্ব রেডিয়েটর, শীর্ষ বরাবর একটি দ্বিতীয় রেডিয়েটর মাউন্ট করা হয়েছে, প্রতিটি ফ্যান অ্যারে এবং পিছনে একটি চ্যাসিস পাখা। কুল্যান্টের লাইনগুলো স্লিভড এবং হুক-এন্ড-লুপ স্ট্র্যাপ দিয়ে সুরক্ষিত থাকে এবং ম্যানিফোল্ড চারটি কোল্ড প্লেট থেকে রেখাকে একীভূত করে তাই প্রতিটি রেডিয়েটারকে শুধুমাত্র দুটি টিউব খাওয়ায়।

অপটিক্স ফ্যান

ET900N G3-এর অনন্য একটি শীতল উপাদান হল ConnectX-8 কোল্ড প্লেটের উপরে একটি ছোট বন্ধনী-মাউন্ট করা ফ্যান, সরাসরি QSFP112 খাঁচায় লক্ষ্য করে। তরল লুপ সুপারএনআইসি সিলিকনকে নিজেই ঠান্ডা করে, কিন্তু 400G অপটিক্যাল ট্রান্সসিভার ধাতব খাঁচার ভিতরে উল্লেখযোগ্য তাপ উৎপন্ন করে যা শুধুমাত্র ঠান্ডা প্লেট থেকে পরিবাহী শীতল গ্রহণ করে। আমাদের পূর্বের পরীক্ষায় উল্লেখ করা হয়েছে যে ConnectX-8 টেকসই লোডের অধীনে উষ্ণভাবে চলে এবং অপটিক্যাল মডিউলগুলি গরম হতে পারে, তাই খাঁচার উপর নিবেদিত বায়ুপ্রবাহ ক্রমাগত ফাইবার সংযোগ চালানো ব্যবহারকারীদের জন্য একটি মূল্যবান ডিজাইন বৈশিষ্ট্য। DAC কেবল ব্যবহার করার সময়, আমাদের সেটআপ একটি চলমান ক্লাস্টারড ইনফারেন্স টেস্টের জন্য এই ইউনিটটিকে একটি দ্বিতীয় GB300 স্টেশনের সাথে লিঙ্ক করে, এই ফ্যানটি হালকা কাজের চাপ দেখে।

সঞ্চয়স্থান, সম্প্রসারণ এবং শক্তি

ASUS গ্রেসের মাধ্যমে সংযুক্ত PCIe 5.0 x4 M.2 2280 স্লটের জোড়ায় OS এবং NVIDIA সফ্টওয়্যারের জন্য একটি 2TB NVMe ড্রাইভ সহ ET900N G3 পাঠিয়েছে। M.2 স্লটের দ্বিতীয় জোড়া ConnectX-8 এর ইন্টিগ্রেটেড PCIe সুইচে ট্যাপ করে এবং কারখানা থেকে খালি আসে।

আমাদের পর্যালোচনা ইউনিট PCIe 5.0 x16 স্লটে ইনস্টল করা একটি NVIDIA RTX PRO 2000 Blackwell নিয়ে এসেছে, যা ASUS-এর সমর্থিত কনফিগারেশনগুলির মধ্যে একটি। এই কার্ডটি GB300 পাওয়ার বাজেট থেকে ভারী অঙ্কন ছাড়াই ডিসপ্লে আউটপুট সরবরাহ করে; ASUS বলেছে যে চ্যাসিস শুধুমাত্র একটি RTX PRO ব্ল্যাকওয়েল কার্ড সমর্থন করে। আমাদের WS300 পরীক্ষার শর্তের সাথে মেলে সুপারচিপের জন্য সম্পূর্ণ এক্সিলারেটর পাওয়ার বাজেট রিজার্ভ করার জন্য বেঞ্চমার্ক করার আগে আমরা RTX PRO 2000 সরিয়ে দিয়েছি। আমরা এই চ্যাসিসে উচ্চ-শক্তি RTX PRO কার্ড পরীক্ষা করিনি; শেয়ার্ড পাওয়ার হেডরুমে তাদের প্রভাব ভবিষ্যতের GB300 স্টেশন পর্যালোচনায় কভার করা হবে।

1,600W ATX পাওয়ার সাপ্লাই 80 PLUS টাইটানিয়াম সার্টিফিকেশন বহন করে, যা WS300 এর প্লাটিনাম ইউনিটের উপরে একটি আপগ্রেড। 115V ইনপুট বনাম প্লাটিনামের 92% লোডে 50% লোডে টাইটানিয়ামের 94% দক্ষতা প্রয়োজন এবং এটি 10% লোডে ন্যূনতম দক্ষতা রেটিং প্রয়োগ করে, তাই ET900N G3 সম্পূর্ণ GB300 লোডের অধীনে কম ওয়াল ওয়াট নষ্ট করে। পাওয়ার শেয়ার করা থাকে: একই 1,600W পুল থেকে Grace, B300, পাম্প, ফ্যান, স্টোরেজ এবং যেকোনো RTX PRO কার্ড ড্র। NVIDIA-এর vsloshd পরিষেবা গতিশীলভাবে সুপারচিপ এবং অ্যাড-ইন জিপিইউ-এর মধ্যে পাওয়ার ড্র-এর উপর ভিত্তি করে উপলব্ধ হেডরুমকে স্থানান্তরিত করে, যে কোনও উপাদানের জন্য কোনও নির্দিষ্ট হার্ড ক্যাপ নেই। এই পাওয়ার ফ্রেমওয়ার্ক WS300 পর্যালোচনা থেকে অপরিবর্তিত। উত্তর আমেরিকার স্থাপনার জন্য একটি ডেডিকেটেড 20A বৈদ্যুতিক সার্কিট প্রয়োজন।

সংযোগ

ConnectX-8 এর দ্বৈত QSFP112 পোর্টগুলি স্টোরেজের জন্য ET900N G3 এর প্রাথমিক ফ্যাব্রিক লিঙ্ক, একটি দ্বিতীয় DGX স্টেশন বা ক্লাস্টার নেটওয়ার্কিং হিসাবে কাজ করে। আমাদের ল্যাবে, এই পোর্টগুলি 400G DAC-এর মাধ্যমে অন্য GB300 স্টেশনের সাথে আলাদা আসন্ন ক্লাস্টারড ইনফারেন্স বিশ্লেষণের জন্য সংযোগ করে। Marvell 10GbE পোর্ট নিয়মিত হোস্ট ট্র্যাফিক পরিচালনা করে, যখন Realtek 1GbE পোর্ট শুধুমাত্র BMC পরিচালনার জন্য সংরক্ষিত।

টেস্টিং নোট

সমস্ত ফলাফল ল্যাব নমুনার স্টক মেমরি কনফিগারেশন ব্যবহার করে: 252GB HBM3e প্লাস 496GB LPDDR5X। RTX PRO কার্ড ইনস্টল না করেই পরীক্ষা চালানো হয়েছে, GB300 সুপারচিপ সম্পূর্ণ এক্সিলারেটর পাওয়ার বাজেট এবং WS300 পরীক্ষার শর্তের সাথে মিল রেখে। সফ্টওয়্যার স্ট্যাক, ভিএলএলএম কনফিগারেশন, ওয়ার্কলোড প্রোফাইল এবং কনকারেন্সি সুইপ অভিন্ন, সরাসরি পাশাপাশি টাওয়ার তুলনা সক্ষম করে। এই পর্যালোচনা সম্পূর্ণরূপে অনুমান কর্মক্ষমতা উপর ফোকাস; আমরা এই ইউনিটে পাওয়ার ড্র বা তাপীয় টেলিমেট্রি পরিমাপ করিনি।

আমরা সমস্ত স্থানীয় AI হার্ডওয়্যার জুড়ে ব্যবহৃত দুটি স্ট্যান্ডার্ড vLLM লাইভ-ইনফারেন্স প্রোফাইল চালিয়েছি: 512 ইনপুট / 512 আউটপুট টোকেন সহ একটি ভারসাম্যপূর্ণ ওয়ার্কলোড এবং 8,192 ইনপুট / 1,024 আউটপুট টোকেন সহ একটি প্রিফিল-ভারী কাজের চাপ, 1 থেকে 128 স্ট্রীম পর্যন্ত সুইপিং কনকারেন্সি। ফ্রন্টিয়ার-স্কেল মডেলগুলির জন্য, আমরা একটি GPU সার্ভারের সাথে দুটি বা চারটি RTX PRO 6000 কার্ডের সাথে তুলনা করি, এই মডেল চেকপয়েন্টগুলির জন্য নিকটতম একক-বক্স বিকল্প৷ ছোট মডেলের জন্য, আমরা একই সার্ভারে একটি একক RTX PRO 6000, অন্য এন্টারপ্রাইজ সার্ভারে একটি একক H200 NVL এবং WS300 পর্যালোচনায় ব্যবহৃত একটি GB10 DGX স্পার্ক সিস্টেমের সাথে মানদণ্ড নির্ধারণ করি। ET900N G3 মেট্রিক্স হল কাঁচা লগ মান; তুলনা পরিসংখ্যান আমাদের আর্কাইভ ফলাফল চার্ট থেকে আসে.

অনুমান কর্মক্ষমতা

সুসংগত মেমরি পুলে ফ্রন্টিয়ার মডেল

GB300 এমন মডেলগুলিকে হোস্ট করার জন্য তৈরি করা হয়েছে যা B300 এর 252GB HBM3e সীমাকে স্ট্র্যাডল করে৷ আমরা এই সীমানা বিস্তৃত চারটি চেকপয়েন্ট পরীক্ষা করেছি: ডিপসিক V4 ফ্ল্যাশ এবং মিনিম্যাক্স M2.7 অবশিষ্ট ক্ষমতা সহ HBM এর মধ্যে সম্পূর্ণরূপে ফিট; MiniMax M3 সবেমাত্র গ্রেস মেমরিতে বিশেষজ্ঞ স্তরগুলির একটি উপসেট ফিট করে এবং অফলোড করে; GLM-5.2 এর ওজন প্রায় অর্ধেক অফলোড করে। প্রতিটি চার্ট নিকটতম একক-বক্স বিকল্পের সাথে ফলাফলের বিপরীতে: এন্টারপ্রাইজ সার্ভারের ভিতরে RTX PRO 6000 কার্ড, প্রয়োজনে মেমরি হোস্ট করার জন্য বিশেষজ্ঞদের অফলোড করে।

DeepSeek V4 Flash হল একটি সহজবোধ্য পরীক্ষা: একটি ~20GB নেটিভ FP8 চেকপয়েন্ট B300 দ্বারা সহজেই পরিচালনা করা হয়। ব্যালেন্সড ওয়ার্কলোড আউটপুট থ্রুপুট 1 স্ট্রীমে 152 টোকেন/সেকেন্ড থেকে 32টি স্ট্রীমে 1,766 টোকেন/সেকেন্ডে উন্নীত হয়েছে, মোট টোকেন থ্রুপুট 3,532 তে পৌঁছেছে। প্রিফিল-হেভি প্রোফাইলের জন্য, ET900N G3 148 থেকে 954 আউটপুট টোকেন/সেকেন্ডে স্কেল করা হয়েছে, মোট থ্রুপুট 8,587 এ পৌঁছেছে। একটি দ্বৈত RTX PRO 6000 সেটআপ সুষম কাজের চাপে 800 আউটপুট টোকেন/সেকেন্ডের কাছাকাছি এবং ~490 দীর্ঘ প্রম্পটে, কম সঙ্গতিতে অসম কর্মক্ষমতা সহ।

NVFP4 কোয়ান্টাইজেশনে MiniMax M2.7 ~125GB HBM দখল করে এবং চারটি মডেলের মধ্যে সবচেয়ে শক্তিশালী স্কেলিং প্রদান করে। ব্যালেন্সড ওয়ার্কলোড আউটপুট এক স্ট্রীমে 214 টোকেন/সেকেন্ড থেকে 128টি স্ট্রীমে 4,793 এ উঠে গেছে, মোট থ্রুপুট 9,586 এ ​​পৌঁছেছে। প্রিফিল-হেভি টেস্টিং 1,744 আউটপুট টোকেন/সেকেন্ড এবং 64টি স্ট্রীমে 15,700টি মোট টোকেন/সেকেন্ডে স্কেল করা হয়েছে। দুটি RTX PRO 6000 কার্ড একই সাধারণ বক্ররেখা অনুসরণ করেছে কিন্তু থ্রুপুটের অর্ধেকেরও কম পৌঁছেছে, সুষম কাজের চাপের জন্য 1,930 আউটপুট টোকেন/সেকেন্ডের কাছাকাছি এবং দীর্ঘ প্রম্পটের জন্য ~510।

MiniMax M3 ঠিক মেমরি থ্রেশহোল্ডে অপারেশনকে চিত্রিত করে। NVFP4 চেকপয়েন্ট 252GB-এর থেকে ছোট, কিন্তু রানটাইম স্টেট এবং কেভি ক্যাশে অতিরিক্ত জায়গা খরচ করে, তাই বিশেষজ্ঞ স্তরগুলির একটি অংশ গ্রেস মেমরিতে থাকে; এই বিশেষজ্ঞদের অ্যাক্সেস করার প্রতিটি ডিকোড ধাপ NVLink-C2C অতিক্রম করে। EAGLE3 অনুমানমূলক ডিকোডিংয়ের সাথে, ET900N G3 ভারসাম্যপূর্ণ কাজের চাপের জন্য 32 স্ট্রীমে 1,041 আউটপুট টোকেন/সেকেন্ড হিট করেছে। প্রিফিল-ভারী প্রোফাইল দুটি স্ট্রীমে 282 টোকেন/সেকেন্ডে পৌঁছেছে, চারটি স্ট্রীমে 271টি ধরেছে, তারপর আটটি স্ট্রীমে 103-এ নেমে এসেছে কারণ দীর্ঘ প্রম্পট উপলব্ধ ক্যাশে নিঃশেষ হয়ে গেছে। একই অনুমানমূলক ডিকোডার ব্যবহার করে চারটি RTX PRO 6000 কার্ডগুলি আটটি স্ট্রীমের মধ্যে গতি বজায় রেখেছিল, 16টি স্ট্রীমে এগিয়ে ~1,180 আউটপুট টোকেন/সেকেন্ডে টেনেছিল, তারপর 32টি স্ট্রীমে মোটামুটি 760-এ নেমে এসেছে৷ প্রিফিল-ভারী কাজের চাপে, চার-GPU সিস্টেম ডিজিএক্স স্টেশনের জন্য 271 বনাম চারটি স্ট্রীমে ~349 আউটপুট টোকেন/সেকেন্ড বজায় রাখে। এইচবিএম ধারণক্ষমতায় ঠিক বসে থাকা এই মডেলটি এই সেটের একমাত্র কেস যেখানে চারটি কার্ড জুড়ে 384GB মোট VRAM 252GB HBM প্লাস গ্রেস অফলোডের সাথে প্রতিযোগিতা করে।

GLM-5.2 শুধুমাত্র সুসংগত মেমরি পুল সক্ষম করে এমন একটি কাজের চাপকে উপস্থাপন করে। MTP অনুমানমূলক ডিকোডিং ব্যবহার করে, NVFP4 চেকপয়েন্ট গ্রেস মেমরিতে ~215GB বিশেষজ্ঞ ওজন রাখে। ET900N G3 একটি স্ট্রীমের জন্য 35টি আউটপুট টোকেন/সেকেন্ড এবং সুষম ওয়ার্কলোডের অধীনে 32টি স্ট্রীমের জন্য 139টি আউটপুট প্রদান করেছে, মোট থ্রুপুট 277 এ পৌঁছেছে। 32টি স্ট্রীম পর্যন্ত প্রিফিল-ভারী পরীক্ষার জন্য, এটি 120টি আউটপুট টোকেন/সেকেন্ড এবং মোট 1,079/সেকেনসেকেনকে আঘাত করেছে। চারটি RTX PRO 6000 কার্ড, প্রতিটি অফলোডিং ~30GB মেমরি হোস্ট করার জন্য, 32টি স্ট্রীমে ~40 আউটপুট টোকেন/সেকেন্ড পরিচালনা করে এবং দীর্ঘ প্রম্পটের জন্য চারটি স্ট্রীম থেকে মোটামুটি 9-10 টোকেন/সেকেন্ডে সমতল করা হয়েছে। কোনও সিস্টেমই এই 433GB মডেলটিকে দ্রুত অনুভব করে না, তবে GB300-এর 396GB/s LPDDR5X এবং অফলোড করা বিশেষজ্ঞদের 900GB/s NVLink-C2C লিঙ্কটি স্কেলিং বজায় রাখে যেখানে PCIe-সংযুক্ত হোস্ট মেমরি চারটি GPU স্টল জুড়ে।

MSI WS300-এর তুলনায়, ET900N G3 ফ্রন্টিয়ার-মডেলের ফলাফলগুলি সমস্ত ম্যাচিং টেস্ট পয়েন্টে মোটামুটি 1% এর মধ্যে বসে: উভয় টাওয়ারের 32টি স্ট্রীমে ডিপসিক V4 ফ্ল্যাশের জন্য 1,766 আউটপুট টোকেন/সেকেন্ড; 4,793 বনাম 4,801 MiniMax M2.7-এর জন্য 128টি স্ট্রীমে; MiniMax M3-এর জন্য 1,041 উভয় ক্ষেত্রেই 32টি স্ট্রীম; এবং GLM-5.2-এর জন্য 139 উভয়েই 32টি স্ট্রীম।

RTX PRO 6000, H200 NVL, এবং DGX স্পার্কের বিরুদ্ধে ভাগ করা মডেলগুলি

দ্বিতীয় বেঞ্চমার্ক গ্রুপটি ছোট মডেল ব্যবহার করে সমস্ত পরীক্ষা সিস্টেম মেমরিতে পুরোপুরি ফিট করতে পারে: GPT-OSS-20B এবং 120B নেটিভ MXFP4; লামা 3.1 8B BF16 এবং FP8; Mistral Small 24B BF16 এবং FP8; Qwen3 কোডার 30B BF16 এবং FP8। WS300 পর্যালোচনার তুলনায় নতুন হল একটি একক H200 NVL, NVIDIA-এর 141GB হপার অ্যাক্সিলারেটর, তুলনা সেটে একটি পূর্ব-প্রজন্মের ডেটা সেন্টার GPU যোগ করে৷

GPT-OSS-20B হল সবচেয়ে সহজ কাজের চাপ, প্রত্যেক হার্ডওয়্যার প্রার্থীর দ্বারা স্বাচ্ছন্দ্যে লোড হয়। ভারসাম্যপূর্ণ কাজের চাপের অধীনে, ET900N G3 128 স্ট্রীমে (মোট 44,082) 22,041 আউটপুট টোকেন/সেকেন্ডে স্কেল করেছে, বনাম RTX PRO 6000-এর জন্য ~7,920, H200 NVL-এর জন্য 6,010 এবং DGXpark-এর জন্য 1,420। RTX PRO 6000-এ 354, H200 NVL-এ 489 এবং স্পার্ক-এ 120-এর তুলনায় স্টেশনের জন্য একক-স্ট্রিম পারফরম্যান্স 536 আউটপুট টোকেন/সেকেন্ডে পৌঁছেছে। প্রিফিল-হেভি রান ব্যবধানকে আরও প্রশস্ত করেছে: ET900N G3-এর জন্য 128 স্ট্রীমে 9,555 আউটপুট টোকেন/সেকেন্ড এবং 85,994 মোট টোকেন/সেকেন্ড, RTX PRO 6000-এর জন্য ~2,480, H200 NVLpark এবং S244-এর জন্য 3,410।

GPT-OSS-120B প্রতিযোগী হার্ডওয়্যার জুড়ে মেমরির সীমাবদ্ধতা প্রকাশ করে। ET900N G3 128 স্ট্রীমে সুষম কাজের চাপে 9,280 আউটপুট টোকেন/সেকেন্ড হিট করেছে, প্রায় তিনগুণ RTX PRO 6000-এর 3,060, H200 NVL-এর 3,370-এর 2.8 গুণ, এবং স্পার্ক-এর 480-এর ছোট সিস্টেমের জন্য 19 গুণ বেশি। প্রারম্ভিক: RTX PRO 6000 1,170 আউটপুট টোকেন/সেকেন্ডের কাছাকাছি এবং H200 NVL প্রায় 1,820 এর কাছাকাছি পৌঁছেছে, যখন স্টেশনটি 128টি স্রোতের মধ্য দিয়ে আরোহণ অব্যাহত রেখেছে এবং মোট 45,205 টোকেন থ্রুপুট সহ 5,023 আউটপুট টোকেন/সেকেন্ডে শেষ হয়েছে।

Llama 3.1 8B FP8 এই টেস্ট স্যুটে সর্বোচ্চ একক থ্রুপুট নম্বর প্রদান করে। ET900N G3 128টি স্ট্রীম জুড়ে সুষম কাজের চাপে 25,602 আউটপুট টোকেন/সেকেন্ড পুশ করেছে (মোট 51,205), RTX PRO 6000-এ ~8,060 এবং H200 NVL-এ 11,040-এর তুলনায়। BF16 থেকে FP8-এ স্যুইচ করার ফলে স্টেশন থ্রুপুট মোটামুটি 50% (17,074 থেকে 25,602) বৃদ্ধি পেয়েছে, যেখানে RTX PRO 6000 ~70% এবং H200 NVL ~37% বৃদ্ধি পেয়েছে। প্রিফিল-ভারী ফলাফল সমস্ত স্কোর সংকুচিত করেছে: স্টেশন হিট 6,164 আউটপুট টোকেন/সেকেন্ড, RTX PRO 6000 1,480, H200 2,040।

Mistral Small 24B FP8 সবচেয়ে বড় পারফরম্যান্স অনুপাত তৈরি করেছে। ET900N G3 ভারসাম্যপূর্ণ কাজের চাপের অধীনে 11,075 আউটপুট টোকেন/সেকেন্ডে শীর্ষে, 3.4x RTX PRO 6000-এর 3,240, 2.4x H200 NVL-এর 4,610 এবং প্রায় 20x স্পার্ক-এর 559, RT20mp দীর্ঘ RT20mp-এ কমার আগে প্রায় 480 টোকেন/সেকেন্ড প্রবাহিত হয়; H200 NVL 854 টোকেন/সেকেন্ডের কাছাকাছি, যখন স্টেশনটি 128টি স্ট্রীমে 2,302 টোকেন/সেকেন্ডে পৌঁছেছে।

Qwen3 কোডার 30B, কম সক্রিয় প্যারামিটার গণনা সহ বিশেষজ্ঞদের মিশ্রণের মডেল, একক-প্রবাহের ব্যবধান সংকুচিত করে। একটি স্ট্রীম ব্যালেন্সড ওয়ার্কলোডে, RTX PRO 6000 স্টেশনের 319 এবং H200 NVL এর 308 এর বিপরীতে ~232 আউটপুট টোকেন/সেকেন্ড সরবরাহ করেছে। ব্যাচিং কার্যক্ষমতা শ্রেণিবিন্যাসের পুনরুদ্ধার করে: 128টি স্ট্রীমে FP8, ET900N, G3-hits2, 319-কে আউটপুট 3.1x GPU-এর 3,990 এবং 1.7x H200 NVL-এর 7,450। প্রিফিল-হেভি রান স্টেশনের জন্য 3,837 আউটপুট টোকেন/সেকেন্ডে পৌঁছেছে; RTX PRO 6000 64টি স্ট্রিমে 880-এর কাছাকাছি, H200 NVL 1,820-এর কাছাকাছি।

এই ভাগ করা মডেল জুড়ে, ET900N G3 সম্পূর্ণ একযোগে একটি একক RTX PRO 6000 এবং 1.7–3.7x H200 NVL এর 2.8–3.4x থ্রুপুট প্রদান করেছে। প্রতিযোগী হার্ডওয়্যার কেভি ক্যাশে হেডরুমকে কমিয়ে দেওয়ার কারণে এর সীসা দীর্ঘ প্রম্পটে প্রসারিত হয়। WS300 এর বিপরীতে, এই চারটি মডেল আবার 1% এর মধ্যে বসে: GPT-OSS-20B এর জন্য 22,041 বনাম 22,161; GPT-OSS-120B এর জন্য 9,280 বনাম 9,294; Mistral Small FP8 এর জন্য 11,075 বনাম 11,157; Qwen3 কোডার FP8 এর জন্য 12,439 বনাম 12,425। সমস্ত 14 টি মডেলের সম্পূর্ণ তুলনা পরবর্তী বিভাগে প্রদর্শিত হবে।

দুটি টাওয়ার, একটি বেসবোর্ড: ASUS ET900N G3 বনাম MSI WS300

ET900N G3 এবং MSI XpertStation WS300 অভিন্ন NVIDIA GB300 DGX স্টেশন বেসবোর্ড বিভিন্ন OEM চ্যাসিসে প্যাকেজ শেয়ার করে। উভয়ই একই 14টি মডেল, দুটি ওয়ার্কলোড প্রোফাইল এবং ম্যাচিং ভিএলএলএম বিল্ড ব্যবহার করে কনকারেন্সি সুইপ চালায়। নীচের টেবিলটি সমস্ত মডেল জুড়ে WS300 এর সাথে ET900N G3 পিক আউটপুট থ্রুপুট তুলনা করে।

মোট 28টি মডেল-ওয়ার্কলোড জোড়ার মধ্যে, 24টি ফলাফল একে অপরের 2% এর মধ্যে পড়ে, বেশিরভাগ WS300 এর জন্য একটি ভগ্নাংশ শতাংশ সুবিধা দেখায়। এই ব্যান্ডের বাইরে চারজন বসেন, তিনজন সুষম কাজের চাপে: Llama 3.1 8B FP8 WS300 এর নিচে 3.5% (25,602 বনাম 26,536), Qwen3 কোডার 30B BF16 4.6% কম (10,000 বনাম 10,4ron586% কম Ul. (159 বনাম 168), প্লাস Qwen3 Coder 30B BF16 আবার দীর্ঘ প্রম্পটে 2.1% কম। প্রতিটি টাওয়ারের জন্য সমস্ত ডেটা পয়েন্ট একক-চালিত পরিমাপ, তাই 14টি মডেলের মধ্যে তিনটি জুড়ে 2-5% পার্থক্য চ্যাসি ডিজাইনের জন্য দায়ী করা যায় না; আমরা কেবল পর্যবেক্ষণকৃত ব-দ্বীপ নথিভুক্ত করি। সুসংগত মেমরি পুলিংয়ের উপর নির্ভরশীল মডেলগুলি, MiniMax M3 এবং GLM-5.2, উভয় কাজের লোডের সাথে WS300 পারফরম্যান্সের সাথে মিলে যায় বা অতিক্রম করে, এটি নিশ্চিত করে যে গ্রেস অফলোড পাথ ASUS এবং MSI এনক্লোসারে একইভাবে আচরণ করে।

GPT-OSS-20B, সর্বোচ্চ-থ্রুপুট ঘন মডেল, এবং GLM-5.2, অফলোড-কেন্দ্রিক কাজের চাপ, কাছাকাছি-নিখুঁত ওভারল্যাপ দেখায়: WS300 কর্মক্ষমতা ET900N G3 প্রায় পয়েন্ট-ফর-পয়েন্টের চিহ্ন দেয়।

আমাদের ল্যাবে অতিরিক্ত GB300 টাওয়ার আসায় আমরা এই বেঞ্চমার্ক কাঠামোটি চালিয়ে যাব। এইচপির জেডজিএক্স লাইনের পরের, অন্যান্য OEM বিল্ড অনুসরণ করে। প্রতিটি ইউনিট এই অভিন্ন কনকারেন্সি সুইপ চালায়, তাই OEM বাস্তবায়নের মধ্যে যে কোনও পার্থক্য এই বেঞ্চমার্ক কাঠামোতে প্রদর্শিত হবে, পৃথক মডেল চার্টগুলি কাঁচা কর্মক্ষমতা বক্ররেখা ধরে রাখবে।

উপসংহার

ASUS ExpertCenter Pro ET900N G3 দ্বিতীয় রেফারেন্স-প্ল্যাটফর্ম বাস্তবায়নের যা করা উচিত তা পূরণ করে: এটি মূল বেঞ্চমার্ক ফলাফলগুলিকে বৈধ করে। 14টি মডেল এবং দুটি ওয়ার্কলোড প্রোফাইল জুড়ে, 28 পিক vLLM থ্রুপুট তুলনার মধ্যে 24টি MSI XpertStation WS300 ফলাফলের 2% এর মধ্যে বসে, ডিপসিক V4 ফ্ল্যাশের জন্য 1,766 আউটপুট টোকেন/সেকেন্ড থেকে GPT-OSS-এর জন্য 22,041 পর্যন্ত। চারটি একক-রান আউটলায়ার 2-5% কম, এবং সিস্টেমটি সফলভাবে GLM-5.2 চালায় যার থ্রুপুট চারটি RTX PRO 6000 কার্ড মেলে না। GB300 সুপারচিপ পারফরম্যান্স সিলিংকে সংজ্ঞায়িত করে এবং ASUS দৃঢ় এক্সিকিউশন প্রদান করে।