logo
বাড়ি মামলা

Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস

সাক্ষ্যদান
চীন Beijing Qianxing Jietong Technology Co., Ltd. সার্টিফিকেশন
চীন Beijing Qianxing Jietong Technology Co., Ltd. সার্টিফিকেশন
ক্রেতার পর্যালোচনা
বেইজিং Qianxing Jietong প্রযুক্তি কোং, লিমিটেডের বিক্রয় কর্মীরা খুব পেশাদার এবং ধৈর্যশীল। তারা দ্রুত কোটেশন প্রদান করতে পারেন. পণ্যের মান এবং প্যাকেজিংও খুব ভালো। আমাদের সহযোগিতা খুবই মসৃণ।

—— 《ফেস্টফিং ডিভি》LLC

যখন আমি জরুরীভাবে ইন্টেল CPU এবং Toshiba SSD খুঁজছিলাম, তখন বেইজিং Qianxing Jietong Technology Co., Ltd-এর Sandy আমাকে অনেক সাহায্য করেছিল এবং আমার প্রয়োজনীয় পণ্যগুলি দ্রুত পেয়েছিল। আমি সত্যিই তার প্রশংসা.

—— কিটি ইয়েন

Beijing Qianxing Jietong Technology Co.,Ltd-এর স্যান্ডি একজন অত্যন্ত সতর্ক সেলসম্যান, যিনি সার্ভার কেনার সময় আমাকে কনফিগারেশন ত্রুটির কথা মনে করিয়ে দিতে পারেন। প্রকৌশলীরা খুব পেশাদার এবং দ্রুত পরীক্ষার প্রক্রিয়াটি সম্পূর্ণ করতে পারে।

—— স্ট্রেলকিন মিখাইল ভ্লাদিমিরোভিচ

বেইজিং কিয়ানক্সিং জিয়েটং-এর সাথে কাজ করার অভিজ্ঞতা নিয়ে আমরা খুবই খুশি। পণ্যের গুণমান চমৎকার, এবং ডেলিভারি সবসময় সময় মতো হয়। তাদের বিক্রয় দল পেশাদার, ধৈর্যশীল এবং আমাদের সমস্ত প্রশ্নের উত্তর দিতে খুবই সহায়ক। আমরা তাদের সমর্থনকে সত্যিই মূল্যায়ন করি এবং দীর্ঘমেয়াদী অংশীদারিত্বের জন্য অপেক্ষা করছি। অত্যন্ত সুপারিশকৃত!

—— আহমাদ নাভিদ

গুণমানঃ ¢আমার সরবরাহকারীর সাথে দুর্দান্ত অভিজ্ঞতা। মাইক্রোটিক আরবি 3011 ইতিমধ্যে ব্যবহৃত হয়েছিল, তবে এটি খুব ভাল অবস্থায় ছিল এবং সবকিছু নিখুঁতভাবে কাজ করে। যোগাযোগ দ্রুত এবং মসৃণ ছিল,এবং আমার সকল উদ্বেগ দ্রুত সমাধান করা হয়খুব নির্ভরযোগ্য সরবরাহকারী ঃ অত্যন্ত সুপারিশ ঃ

—— জেরান কোলেসিও

তোমার দর্শন লগ করা অনলাইন চ্যাট এখন

Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস

March 12, 2026
Dell PowerEdge XE9680 হল Dell-এর সবচেয়ে নমনীয় AI পরিকাঠামো প্ল্যাটফর্ম। এটি একটি PowerEdge R760-স্টাইলের 2U কম্পিউট নোডকে একটি বিশাল 4U GPU ড্রয়ারের সাথে একত্রিত করে। এই উদ্ভাবনী 6U ডিজাইনটি Dell-এর এন্টারপ্রাইজ সার্ভার ইঞ্জিনিয়ারিং-এর সেরা দিকগুলির সাথে অতুলনীয় GPU ঘনত্ব এবং অভিযোজনযোগ্যতাকে মিশ্রিত করে।
 
সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  0
 
এর কেন্দ্রে, XE9680 ডুয়াল Intel Xeon Scalable প্রসেসর সমর্থন করে, যা ব্যবহারকারীদের 5th জেনারেশন (প্রতি CPU-তে 64 কোর পর্যন্ত) এবং 4th জেনারেশন (প্রতি CPU-তে 56 কোর পর্যন্ত) এর মধ্যে একটি পছন্দ দেয়। মেমরি ক্ষমতা চিত্তাকর্ষক, 32 DIMM স্লটে 4TB পর্যন্ত DDR5 মেমরি সমর্থন করে—সর্বশেষ প্রসেসরের সাথে যুক্ত হলে 5600 MT/s পর্যন্ত গতিতে চলে।
 
XE9680-কে যা সত্যিই আলাদা করে তোলে তা হল এর GPU ক্ষমতা। প্ল্যাটফর্মটি আটটি উচ্চ-পারফরম্যান্স GPU ধারণ করতে পারে, উপলব্ধ কনফিগারেশনগুলির মধ্যে রয়েছে NVIDIA-এর HGX H200 (141GB) এবং H100 (80GB), AMD-এর Instinct MI300X (192GB), এবং Intel-এর Gaudi3 (128GB)। নতুন চালু হওয়া XE9680L ভ্যারিয়েন্ট NVIDIA-এর পরবর্তী-প্রজন্মের B200 GPU এবং ডাইরেক্ট লিকুইড কুলিং সমর্থন করে, যা ঘনত্ব এবং পারফরম্যান্সের সীমা বাড়িয়ে দেয়।
 
স্টোরেজ কনফিগারেশনগুলিও সমানভাবে নমনীয়, যা 8x 2.5″ NVMe/SAS/SATA ড্রাইভ বা 16x E3.S NVMe ড্রাইভ সরবরাহ করে। সিস্টেমটি Dell-এর H965i NVMe PERC RAID কার্ড দিয়ে সজ্জিত করা যেতে পারে, যা স্টোরেজ রিডান্ডেন্সি সহজ করে—ইনফারেন্স ওয়ার্কলোডের সময় বড় KV ক্যাশের জন্য একটি গুরুত্বপূর্ণ বৈশিষ্ট্য।
 
সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  1
 
পাওয়ার ডেলিভারি সর্বোচ্চ নির্ভরযোগ্যতার জন্য প্রকৌশলী করা হয়েছে। ছয়টি পাওয়ার সাপ্লাই, মোট 19200W, একটি 3+3 ফল্ট-টলারেন্ট রিডান্ডেন্ট (FTR) সেটআপে কনফিগার করা হয়েছে। যদি দুটি বা তার বেশি PSU ব্যর্থ হয়, তবে সিস্টেমটি সম্পূর্ণভাবে বন্ধ না হয়ে ফল্ট-টলারেন্ট রিডান্ডেন্ট মোডে প্রবেশ করে। এই মোডে, GPU পাওয়ার ব্রেক সক্রিয় হয়, GPU ক্লকগুলিকে তাদের স্বাভাবিক গতির এক-চতুর্থাংশে থ্রোটল করে—যা সাধারণ GPU পারফরম্যান্সের প্রায় এক-পঞ্চমাংশ ফলাফল দেয়।
এই চিন্তাশীল ডিজাইনটি বড় আকারের প্রশিক্ষণ পরিবেশে অমূল্য যেখানে শত শত বা হাজার হাজার GPU একসাথে কাজ করে। একটি নোড সম্পূর্ণরূপে অফলাইন হয়ে যাওয়ার পরিবর্তে—যার জন্য অন্য নোডে প্রশিক্ষণ পুনরাবৃত্তিগুলি পুনরায় সময়সূচী এবং পুনরায় চালানোর প্রয়োজন হবে—সিস্টেমটি পরবর্তী রক্ষণাবেক্ষণ উইন্ডো পর্যন্ত হ্রাসকৃত পারফরম্যান্সে কাজ চালিয়ে যেতে পারে। পাওয়ার ম্যানেজমেন্টে এই ধরনের বিশদে মনোযোগ মডেল প্রশিক্ষণ থ্রুপুট (MFU) বজায় রাখতে সাহায্য করে বিঘ্ন কমিয়ে।
 
এক্সপ্যানশন ক্ষমতা ব্যাপক, 10টি PCIe Gen5 x16 ফুল-হাইট, হাফ-লেংথ স্লট পর্যন্ত—যার মধ্যে দুটি 75W-এর বেশি পাওয়ারযুক্ত কার্ড সমর্থন করে। এই প্রচুর PCIe সংযোগ DPUs এবং SmartNICs সহ বিভিন্ন নেটওয়ার্কিং কনফিগারেশন সক্ষম করে—আধুনিক AI পরিকাঠামো তৈরির জন্য অপরিহার্য উপাদান।
 
সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  2
 

সম্পূর্ণ স্পেসিফিকেশন:

স্পেসিফিকেশন বিস্তারিত
প্রসেসর দুটি 5th জেনারেশন Intel® Xeon® Scalable প্রসেসর পর্যন্ত (প্রতি CPU 64 কোর)
দুটি 4th জেনারেশন Intel® Xeon® Scalable প্রসেসর পর্যন্ত (প্রতি CPU 56 কোর)
GPU অপশন XE9680:
– NVIDIA HGX H200 (141GB) SXM5 700W
– NVIDIA HGX H100 (80GB) SXM5 700W
– AMD Instinct MI300X (192GB) OAM 750W
– Intel Gaudi3 (128GB) OAM 900W
মেমরি 32 DIMM স্লট
5600 MT/s (5th Gen)
4800 MT/s (4th Gen)
স্টোরেজ ফ্রন্ট ড্রাইভ বে:
8x 2.5″ NVMe/SAS/SATA (122.88TB সর্বোচ্চ)
16x E3.S NVMe (122.88TB সর্বোচ্চ)
স্টোরেজ কন্ট্রোলার অভ্যন্তরীণ কন্ট্রোলার:
PERC H965i (Intel Gaudi3 এর সাথে সমর্থিত নয়) অভ্যন্তরীণ বুট:
বুট অপ্টিমাইজড স্টোরেজ সাবসিস্টেম (NVMe BOSS-N1): HWRAID 1, 2 x M.2 SSD
PCIE স্লট PCIe স্লট 10x PCIe Gen5 x16 স্লট পর্যন্ত
(Intel Gaudi3 সহ 8টি স্লট)
নেটওয়ার্ক 1x OCP 3.0 (ঐচ্ছিক)
2x 1GbE LOM
পাওয়ার সাপ্লাই 3200W টাইটানিয়াম (277 VAC)
2800W টাইটানিয়াম (200-240 VAC)
মাত্রা উচ্চতা: 10.36″ (263.20mm)
প্রস্থ: 18.97″ (482.00mm)
গভীরতা: 39.71″ (1008.77mm) বেজেল সহ
ওজন 251.44 lbs (114.05 কেজি) পর্যন্ত
ফর্ম ফ্যাক্টর 6U র্যাক সার্ভার
ব্যবস্থাপনা এমবেডেড / সার্ভারের কাছে:
iDRAC9
iDRAC ডাইরেক্ট
iDRAC RESTful API Redfish সহiDRAC সার্ভিস মডিউল কনসোল:
PowerEdge প্লাগইন এর জন্য CloudIQ
OpenManage Enterprise
OpenManage Power Manager প্লাগইন
OpenManage Service প্লাগইন
OpenManage Update Manager প্লাগইন টুলস:
Dell System Update
Dell Repository Manager
Enterprise Catalogs
iDRAC RESTful API Redfish সহ
iPMI
RACADM CLI OpenManage Integrations:
BMC Truesight
ServiceNow এর সাথে OpenManage Integration
নিরাপত্তা ক্রিপ্টোগ্রাফিকভাবে স্বাক্ষরিত ফার্মওয়্যার
ডেটা অ্যাট রেস্ট এনক্রিপশন (SEDs স্থানীয় বা বাহ্যিক কী ব্যবস্থাপনা সহ)
সিকিউর বুট
সুরক্ষিত কম্পোনেন্ট ভেরিফিকেশন (হার্ডওয়্যার ইন্টিগ্রিটি চেক)
সিকিউর ইরেজ
সিলিকন রুট অফ ট্রাস্ট
সিস্টেম লকডাউন (iDRAC9 এন্টারপ্রাইজ বা ডেটা সেন্টার প্রয়োজন)
কুলিং এয়ার-কুলড

Dell PowerEdge XE9680 নির্মাণ এবং ডিজাইন

PowerEdge XE9680 হল একটি চিত্তাকর্ষক হার্ডওয়্যার, যার উচ্চতা 10.36 ইঞ্চি (263.20mm), প্রস্থ 18.97 ইঞ্চি (482.00mm), এবং বেজেল সংযুক্ত অবস্থায় 39.71 ইঞ্চি (1008.77mm) গভীরতা। সম্পূর্ণ লোড হলে, এটি 251.44 পাউন্ড (114.05 কেজি) ওজন হয়। GPU নির্বাচন ওজনের চূড়ান্ত সিদ্ধান্ত নেবে, NVIDIA H100/H200 মডেল 238 পাউন্ড ওজনের হবে, যখন AMD MI300X ইউনিট 251 পাউন্ড ওজনের হবে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  3

এটি প্রথম সার্ভার ছিল যার জন্য আমাদের টেস্টিং পরিবেশে সঠিকভাবে লোড করার জন্য সতর্ক চিন্তাভাবনার প্রয়োজন ছিল। যখন আপনি সার্ভারের ওজন এবং হার্ডওয়্যার র‍্যাক করার জন্য প্রয়োজনীয় লোকের সংখ্যা বিবেচনা করেন, তখন সীমার বাইরে যাওয়ার জন্য কিছু নড়াচড়ার জায়গা থাকে, কিন্তু একটি নির্দিষ্ট পয়েন্টে, একজন বা দুজন লোক এটি একা তুলতে পারবে না। Dell আপনাকে একটি "লিফট টেবিল" দিতে যথেষ্ট দয়ালু যা আপনাকে বুঝতে সাহায্য করে যে এই প্ল্যাটফর্মটি কীভাবে ফিট করে। যারা ভাবছেন, কেভিন নিজেই XE9680 র‍্যাকে লোড করেছিলেন।

চ্যাসিস ওজন বিবরণ
40 পাউন্ড – 70 পাউন্ড তুলতে দুজন লোকের সুপারিশ করা হয়।
70 পাউন্ড – 120 পাউন্ড তুলতে তিনজনের সুপারিশ করা হয়।
≥ 121 পাউন্ড একটি সার্ভার লিফট প্রয়োজন।

 

 

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  4

এর জটিলতা এবং বিশেষায়িত পরিষেবা প্রযুক্তিবিদদের জন্য Dell-এর সুপারিশ সত্ত্বেও, XE9680 উল্লেখযোগ্যভাবে ব্যবহারকারী-বান্ধব পরিষেবা উপাদানগুলি বৈশিষ্ট্যযুক্ত করে। সার্ভারের প্যানেলগুলিতে বিস্তারিত পরিষেবা নির্দেশাবলী এবং স্পষ্ট গ্রাফিক্স অন্তর্ভুক্ত রয়েছে, যা অভিজ্ঞ আইটি কর্মীদের জন্য রক্ষণাবেক্ষণ পদ্ধতিকে আশ্চর্যজনকভাবে সহজলভ্য করে তোলে। এই ভিজ্যুয়াল গাইডগুলি সিস্টেমের সাথে আমাদের হ্যান্ডস-অন সময়ে অমূল্য প্রমাণিত হয়েছে, যা আমাদের আত্মবিশ্বাসের সাথে বিভিন্ন উপাদান পরিষেবা দিতে সক্ষম করেছে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  5

PowerEdge XE9680-এর কভার খোলার পরে, একবার আপনি উপরের ছোট পাওয়ার সাবস্টেশন থেকে আসা অসংখ্য পাওয়ার কেবলগুলি পেরিয়ে গেলে, এটি PowerEdge R760-এর মতো দেখতে লাগে। আমাদের ইউনিট দুটি Intel Xeon Platinum 8468 প্রসেসর দ্বারা চালিত ছিল, প্রতিটিতে 48 কোর 2.1Ghz এ। প্রতিটি প্রসেসর 80 PCIe লেন সরবরাহ করে, যা এই ইউনিটে বেশ কয়েকটি PCIe সুইচের মাধ্যমে প্রবাহিত হয় GPU, NIC এবং XE9680-এ লোড করা অন্যান্য হার্ডওয়্যার সমর্থন করার জন্য।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  6

সবচেয়ে চিত্তাকর্ষক প্রকৌশল বৈশিষ্ট্যগুলির মধ্যে একটি হল PCIe সুইচ বোর্ড (PSB) ডিজাইন। এই বোর্ডগুলি 10টি অতিরিক্ত ফুল-হাইট, হাফ-লেংথ PCIe কার্ড পর্যন্ত সংযোগ সরবরাহ করে (যার মধ্যে দুটি 75W পাওয়ার ড্রয়ের বেশি হতে পারে) এবং সরাসরি GPU বেসবোর্ডের সাথে একীভূত হয়। এই সরাসরি একীকরণ GPU-ডাইরেক্ট প্রযুক্তি সক্ষম করে, যা SSD এবং নেটওয়ার্ক কার্ডগুলিকে CPU বাইপাস করে সরাসরি GPU-এর সাথে যোগাযোগ করতে দেয় এবং I/O-ইনটেনসিভ AI ওয়ার্কলোডের জন্য লেটেন্সি হ্রাস করে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  7

প্রতিটি এক্সপ্যানশন স্লট একটি ফুল PCIe Gen5 x16 ইন্টারফেস সমর্থন করে, যার মধ্যে লেআউটের বাম এবং ডান প্রান্তে দুটি নিম্ন স্লট রয়েছে। উপরের আটটি স্লট তাদের নিজস্ব PSB এর মাধ্যমে সংযুক্ত থাকলেও, দুটি নিম্ন স্লট সরাসরি PCIe বেস বোর্ডের (PBB) সাথে সংযুক্ত থাকে। এই দুটি স্লট উচ্চ-পাওয়ার ড্র কার্ডও সমর্থন করে। অতিরিক্তভাবে, এটি উল্লেখ করা উচিত যে PowerEdge XE9680-এর জন্য নির্বাচিত GPU প্রকারের উপর নির্ভর করে PCIe লেআউট সামান্য পরিবর্তিত হয়। AMD-সজ্জিত মডেলগুলি SmartNIC/DPU সমর্থন করে না, এবং Intel Gaudi3 মডেলগুলিতে এয়ারফ্লো সমস্যার কারণে দুটি স্লট ব্লক করা থাকে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  8

কুলিং হল আরেকটি ক্ষেত্র যেখানে Dell-এর প্রকৌশল দক্ষতা উজ্জ্বল। সিস্টেমটি 16টি পর্যন্ত উচ্চ-পারফরম্যান্স গোল্ড-গ্রেড ফ্যান ব্যবহার করে—মিড-ট্রেতে ছয়টি এবং পিছনে দশটি। PowerEdge XE9680 ইনস্টলেশন পরিস্থিতির একটি বিস্তৃত পরিসর সমর্থন করে, 10 থেকে 35C (Intel Gaudi3 GPU সহ 30C) পর্যন্ত পরিবেষ্টিত তাপমাত্রা সহ। সম্পূর্ণ গতিতে, সার্ভারটি হট আইলে একটি চিত্তাকর্ষক 1,200CFM সরিয়ে দেয়।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  9

এই শক্তিশালী কুলিং সমাধান AMD MI300X, Intel Gaudi3, বা NVIDIA H100 GPU সহ সবচেয়ে চাহিদাপূর্ণ থার্মাল লোডগুলিও পরিচালনা করে, সর্বোত্তম অপারেটিং তাপমাত্রা বজায় রাখে। PowerEdge XE9680 লোডের অধীনে বেশ জোরে শব্দ করে। Dell বিভিন্ন পরিস্থিতিতে XE9680-এর অধীনে একটি সম্পূর্ণ অ্যাকোস্টিক স্পেসিফিকেশন শীট সরবরাহ করে, তবে লোডের অধীনে এটি একটি জোরে প্ল্যাটফর্ম হবে তা বলা বেশ সহজ।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  10

ব্যবস্থাপনা

XE9680-এর ব্যবস্থাপনা ক্ষমতা Dell-এর এন্টারপ্রাইজ-প্রমাণিত iDRAC9-এর উপর নির্মিত, যা ব্যাপক সার্ভার লাইফসাইকেল ব্যবস্থাপনা এবং পর্যবেক্ষণ সরবরাহ করে। iDRAC-এর এই পুনরাবৃত্তিটি বেশ কয়েকটি AI-অপ্টিমাইজড বৈশিষ্ট্য নিয়ে আসে, যার মধ্যে রয়েছে বিস্তারিত GPU টেলিমেট্রি, পাওয়ার খরচ বিশ্লেষণ, এবং উচ্চ-ঘনত্বের AI ওয়ার্কলোডের জন্য ডিজাইন করা ব্যাপক থার্মাল পর্যবেক্ষণ।

AI পরিকাঠামো স্থাপনার জন্য প্ল্যাটফর্মের ব্যবস্থাপনা স্ট্যাক বিশেষভাবে উল্লেখযোগ্য। iDRAC9-এর RESTful API Redfish সমর্থন সহ, সংস্থাগুলি প্রোগ্রাম্যাটিকভাবে GPU ব্যবহার, মেমরি ব্যান্ডউইথ এবং থার্মাল অবস্থা পর্যবেক্ষণ এবং পরিচালনা করতে পারে – সর্বোত্তম AI প্রশিক্ষণ এবং ইনফারেন্স পারফরম্যান্স বজায় রাখার জন্য গুরুত্বপূর্ণ মেট্রিক। OpenManage Enterprise-এর সাথে সিস্টেমের একীকরণ একটি ইউনিফাইড কনসোলের মাধ্যমে একাধিক XE9680-এর ফ্লিট-ওয়াইড ব্যবস্থাপনা সক্ষম করে, যা বড় আকারের AI ক্লাস্টারের জন্য অপরিহার্য।

নিরাপত্তা এবং সম্মতি ব্যবস্থাপনা স্থাপত্যের মৌলিক উপাদান। প্ল্যাটফর্মটি সিলিকন রুট অফ ট্রাস্ট এবং সিকিউর কম্পোনেন্ট ভেরিফিকেশন প্রয়োগ করে, বুট-আপ থেকে অপারেশন পর্যন্ত হার্ডওয়্যার ইন্টিগ্রিটি নিশ্চিত করে। সংবেদনশীল AI ওয়ার্কলোড চালানোর সময় বা মালিকানাধীন মডেল ওজন পরিচালনা করার সময় এই বৈশিষ্ট্যগুলি বিশেষভাবে মূল্যবান।

CloudIQ ইন্টিগ্রেশন দ্বারা চালিত প্রেডিক্টিভ ফেইলিওর অ্যানালাইসিস ক্ষমতা, ওয়ার্কলোডকে প্রভাবিত করার আগে সম্ভাব্য হার্ডওয়্যার সমস্যাগুলির পূর্বাভাস দিতে মেশিন লার্নিং ব্যবহার করে। এই সক্রিয় পদ্ধতিটি দীর্ঘ-চলমান AI প্রশিক্ষণ কাজের জন্য বিশেষভাবে গুরুত্বপূর্ণ, যেখানে অপ্রত্যাশিত ডাউনটাইম দিনের পর দিন গণনা হারাতে পারে। Dell-এর ProSupport Plus পরিষেবার সাথে মিলিত হলে, এই প্রেডিক্টিভ ক্ষমতা স্বয়ংক্রিয় কেস তৈরি এবং যন্ত্রাংশ প্রেরণ ট্রিগার করে, প্রায়শই সিস্টেমের অবনতি ঘটার আগে প্রতিরোধমূলক রক্ষণাবেক্ষণের ফলে।

বিদ্যমান ব্যবস্থাপনা সরঞ্জামগুলির সাথে একীকরণের প্রয়োজন এমন সংস্থাগুলির জন্য, XE9680 OpenManage ইন্টিগ্রেশন, ServiceNow এবং BMC TrueSight সহ বিভিন্ন ব্যবস্থাপনা ফ্রেমওয়ার্ক সমর্থন করে, যা প্রতিষ্ঠিত আইটি পরিষেবা ব্যবস্থাপনা ওয়ার্কফ্লোতে নির্বিঘ্ন অন্তর্ভুক্তির অনুমতি দেয়।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  11

iDRAC9 ইন্টারফেস একটি স্বজ্ঞাত ড্যাশবোর্ডের মাধ্যমে গুরুত্বপূর্ণ উপাদানগুলির বিস্তারিত রিয়েল-টাইম পর্যবেক্ষণ সরবরাহ করে। GPU পর্যবেক্ষণ ব্যাপক মেট্রিক প্রদর্শন করে, যার মধ্যে তাপমাত্রা, পাওয়ার খরচ এবং সমস্ত আটটি অ্যাক্সিলারেটর জুড়ে ব্যবহারের হার অন্তর্ভুক্ত, যা AI ওয়ার্কলোড বিতরণের অপ্টিমাইজেশনের জন্য অপরিহার্য।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  12

স্টোরেজ পর্যবেক্ষণ ইন্টারফেস NVMe অ্যারে জুড়ে ড্রাইভের স্বাস্থ্য, তাপমাত্রা এবং পারফরম্যান্স মেট্রিকগুলিতে তাত্ক্ষণিক দৃশ্যমানতা সরবরাহ করে, যা উচ্চ-থ্রুপুট ইনফারেন্স ক্যাশে এবং প্রশিক্ষণ ডেটাসেট পরিচালনার জন্য বিশেষভাবে মূল্যবান।

মেমরি, স্টোরেজ এবং স্কেল

Dell PowerEdge XE9680-এর ভিতরে আটটি AMD MI300X GPU NVIDIA H200-এর 141GB-এর তুলনায় প্রতি কার্ডে 192GB HBM3 মেমরি সরবরাহ করে GPU মেমরি ক্ষমতার একটি উল্লেখযোগ্য উল্লম্ফন উপস্থাপন করে। মেমরি ক্ষমতার এই 36% বৃদ্ধি কেবল একটি স্পেক শীটের সংখ্যা নয় – এটি বড় ভাষা মডেল স্থাপনার জন্য অত্যন্ত গুরুত্বপূর্ণ।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  13

এই বিশাল মেমরি পুল, MI300X-এর 5.3 TB/s মেমরি ব্যান্ডউইথের সাথে মিলিত হয়ে, সংস্থাগুলিকে ছোট মডেলের একাধিক ইনস্ট্যান্স চালাতে বা বড় মডেলগুলিকে GPU জুড়ে ভাগ করতে সক্ষম করে যখন উচ্চ থ্রুপুট এবং কম লেটেন্সি বজায় রাখে।

এটি বোঝার জন্য, Meta-এর Llama 3.1 405B মডেল, যার জন্য BF16-এ 1TB VRAM-এর বেশি প্রয়োজন, এটি MI300X GPU সহ একটি একক XE9680 জুড়ে কোয়ান্টাইজেশন ছাড়াই এবং সম্পূর্ণ 128k কনটেক্সট দৈর্ঘ্য সহ আরামে বিতরণ করা যেতে পারে। এটি কোয়ান্টাইজেশন কৌশলগুলির সাথে যুক্ত সম্ভাব্য মানের ক্ষতি দূর করে এবং দুটি সার্ভারে মডেল বিতরণ করার চেয়ে বেশি টোকেন/সেকেন্ডের অনুমতি দেয়।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  14

আমাদের স্টোরেজ ফুটপ্রিন্টকে সর্বাধিক করতে, আমরা Solidigm 61.44TB ড্রাইভগুলি মেমরির একটি অত্যাধুনিক এক্সটেনশন হিসাবে ব্যবহার করেছি, উচ্চ-গতির GPU মেমরি এবং ঐতিহ্যবাহী স্টোরেজের মধ্যে ব্যবধান পূরণ করেছি। SSD গুলি ইনফারেন্সের সময় কী-ভ্যালু ক্যাশে পেয়ার সংরক্ষণে শ্রেষ্ঠত্ব অর্জন করে, দীর্ঘ-কনটেক্সট জেনারেশনের জন্য GPU-এর মেমরি ক্ষমতা কার্যকরভাবে প্রসারিত করে। তাদের বিশাল ক্ষমতা এবং NVMe পারফরম্যান্স তাদের দ্রুত মডেল ওজন অ্যাক্সেসের জন্য আদর্শ করে তোলে, যা দক্ষ মডেল সুইচিং এবং ওয়ার্ম স্টার্ট সক্ষম করে।

Metrum AI স্থাপনার মতো অ্যাপ্লিকেশনগুলিতে আমরা নীচে বিস্তারিতভাবে আলোচনা করেছি, SSD গুলি ভেক্টর ডেটাবেসের জন্য স্টোরেজ ব্যাকএন্ড হিসাবে দ্বিগুণ দায়িত্ব পালন করে, রিয়েল-টাইম সিমিলারিটি অনুসন্ধানের জন্য প্রয়োজনীয় পারফরম্যান্স সরবরাহ করে যখন বিস্তৃত এমবেডিং স্টোরেজের জন্য ক্ষমতা বজায় রাখে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  15

এই উচ্চ-ক্ষমতার ড্রাইভগুলির মান ইনফারেন্স থেকে প্রশিক্ষণ ওয়ার্কফ্লো পর্যন্ত প্রসারিত। তারা প্রশিক্ষণ ব্যাচগুলি কিউ করার জন্য আদর্শ স্থানীয় স্টোরেজ সরবরাহ করে, ডেটা কম্পিউট রিসোর্সের কাছাকাছি রেখে নেটওয়ার্ক ওভারহেড হ্রাস করে। প্রশিক্ষণের সময়, এই ড্রাইভগুলি মডেল চেকপয়েন্টগুলি স্থানীয়ভাবে সংরক্ষণে শ্রেষ্ঠত্ব অর্জন করে, যা প্রশিক্ষণের অগ্রগতি বজায় রাখা এবং দ্রুত পুনরুদ্ধারের জন্য গুরুত্বপূর্ণ। এই স্থানীয় স্টোরেজ কৌশলটি প্রতিটি প্রক্রিয়াকৃত স্তর এবং ব্যাচের পরে তাত্ক্ষণিক নেটওয়ার্ক ট্র্যাফিক হ্রাস করে নেটওয়ার্ক ব্যবহার অপ্টিমাইজ করতেও সহায়তা করে।

যদিও XE9680-এর আটটি বে জুড়ে 61.44TB ক্ষমতা প্রতিশ্রুতিশীল শোনাচ্ছে, আরও অনেক ক্ষমতা আসছে। Solidigm-এর নতুন ঘোষিত 122.88TB ড্রাইভের সাথে, XE-তে স্টোরেজ ঘনত্ব প্রায় এক পেটাবাইটে দ্বিগুণ করা যেতে পারে আরও প্রশিক্ষণ অপ্টিমাইজেশান এবং দীর্ঘস্থায়ী ইনফারেন্স ক্যাশের জন্য।

Metrum AI Healthcare Assistant – রোগীর যত্নে বিপ্লব

স্বাস্থ্যসেবা খাত ধারাবাহিকভাবে সময়-সাপেক্ষ রোগীর ডকুমেন্টেশন এবং রেকর্ড পরিচালনার চ্যালেঞ্জের সম্মুখীন হয়, যা প্রায়শই সরাসরি রোগীর যত্ন থেকে বিচ্যুত হয়। Metrum AI-এর Healthcare Assistant, Dell PowerEdge XE9680 সার্ভারে AMD অ্যাক্সিলারেটর সহ স্থাপন করা হয়েছে, এটি একটি উদাহরণ যে কীভাবে উন্নত AI পরিকাঠামো স্বাস্থ্যসেবা ওয়ার্কফ্লোকে রূপান্তরিত করতে পারে, দক্ষতা বৃদ্ধি করে এবং রোগীর ফলাফল উন্নত করে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  16

সিস্টেমটি Llama 3.1 70B Instruct কে তার প্রাথমিক ভাষা মডেল হিসাবে ব্যবহার করে, যা চিকিৎসা প্রেক্ষাপট বোঝার জন্য বিখ্যাত। এটি জটিল রোগীর ডেটা সহজে প্রক্রিয়া করতে সক্ষম করে। এই ভাষা মডেলটি gte-v1.5 এমবেডিং মডেল এবং Milvus Vector DB এর সাথে যুক্ত, যা প্রাকৃতিক ভাষা প্রক্রিয়াকরণ এবং প্রাসঙ্গিক বোঝার জন্য একটি শক্তিশালী ভিত্তি সরবরাহ করে যা চিকিৎসা ডেটা পরিচালনার জন্য অপরিহার্য।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  17

Metrum AI-এর Healthcare Assistant-এ HistoGPT ফর হিস্টোপ্যাথলজি ইমেজ অ্যানালাইসিস এবং OpenAI-এর Whisper ফর ফিজিশিয়ান নোটের রিয়েল-টাইম ট্রান্সক্রিপশনের জন্য একটি মাল্টিমোডাল পদ্ধতিও অন্তর্ভুক্ত রয়েছে। একসাথে, এই মডেলগুলি ক্লিনিকাল ওয়ার্কফ্লোকে সহজতর করে, ডাক্তারদের স্বাভাবিকভাবে কথা বলতে দেয় যখন সিস্টেমটি রিয়েল-টাইমে রোগীর রেকর্ডে তথ্য ট্রান্সক্রাইব করে, শ্রেণীবদ্ধ করে এবং একীভূত করে।

সম্পর্কে সর্বশেষ কোম্পানী কেস Dell PowerEdge XE9680 – চূড়ান্ত এআই পাওয়ারহাউস  18

Metrum AI স্বীকার করে যে যদিও পৃথক রোগীর ডেটা তুলনামূলকভাবে ছোট হতে পারে, উচ্চ-ট্র্যাফিক হাসপাতালগুলির সম্মিলিত স্টোরেজ চাহিদা শত শত টেরাবাইটে বাড়তে পারে। Dell PowerEdge XE9680 তার স্থানীয় অনবোর্ড NVMe স্টোরেজ দিয়ে এটি মোকাবেলা করতে পারে। আমাদের কনফিগারেশন PCIe Gen4 গতিতে চালিত আটটি 2.5″ U.2 NVMe স্টোরেজ বে সরবরাহ করে। যদিও আমরা 61.44TB Soldigim D5-P5336 QLC SSD সহ XE9680 পরীক্ষা করেছি, এই ক্ষমতা আরও বাড়তে পারে। Soldigim সম্প্রতি তাদের নতুন D5-P5336 122.88TB QLC মডেল চালু করেছে, যা তাদের ইতিমধ্যে বিশাল SSD গুলির ক্ষমতা দ্বিগুণ করে একই পারফরম্যান্স বজায় রাখে।

Metrum বিভিন্ন পরিস্থিতিতে সময়ের সাথে সাথে রোগীর ডেটা কীভাবে অনুবাদ হয় তার অনুমান সরবরাহ করেছে। যখন আপনি এটি মোট স্টোরেজ ক্ষমতার মধ্যে গণনা করেন, তখন আপনি দেখতে পারেন যে একটি ইউনিট সর্বোচ্চ-ক্ষমতার SSD ব্যবহার করে কত অতিরিক্ত রোগী সমর্থন করতে পারে। প্রতি রোগীর আনুমানিক ডেটা ফুটপ্রিন্ট এবং প্রতিটি SSD-এর ব্যবহারযোগ্য ক্ষমতার (61TB SSD-এর জন্য 57TB এবং 122TB SSD-এর জন্য 114TB) বিপরীতে গিয়ে, আমরা দেখতে পারি যে ঘন SSD থাকা সার্ভারে অর্থপূর্ণভাবে প্রতি বছর কী সংরক্ষণ করা যায় তা ব্যাপকভাবে বৃদ্ধি করে।

প্রতি রোগীর মোট বার্ষিক অনুমান নোট আনুমানিক স্টোরেজ 61TB SSD প্রতি রোগী 122TB SSD প্রতি রোগ
যোগাযোগের ঠিকানা
Beijing Qianxing Jietong Technology Co., Ltd.

ব্যক্তি যোগাযোগ: Ms. Sandy Yang

টেল: 13426366826

আমাদের সরাসরি আপনার তদন্ত পাঠান (0 / 3000)