Bengali
AMD আনুষ্ঠানিকভাবে Instinct MI350P প্রকাশ করেছে, একটি নতুন PCIe অ্যাক্সিলারেটর যা এন্টারপ্রাইজ ব্যবহারকারীদের জন্য তৈরি করা হয়েছে যারা তাদের বিদ্যমান ডেটা সেন্টার অবকাঠামোর ওভারহল ছাড়াই অন-প্রিমিসেস এআই ইনফারেন্স খুঁজছেন। একটি দ্বৈত-স্লট, পূর্ণ-উচ্চতা এবং পূর্ণ-দৈর্ঘ্যের ফর্ম ফ্যাক্টর বিশিষ্ট, এই গ্রাফিক্স কার্ডটি প্রচলিত এয়ার-কুলড সার্ভারের সাথে সম্পূর্ণরূপে সামঞ্জস্যপূর্ণ। এটি প্রায় চার বছরে স্ট্যান্ডার্ড সার্ভার স্লটের জন্য ডিজাইন করা বর্তমান প্রজন্মের ইনস্টিনক্ট চিপের AMD-এর প্রথম প্রকাশকেও চিহ্নিত করে।
AMD Instinct MI350P
2022 সালের গোড়ার দিকে MI210 চালু হওয়ার পর AMD-এর PCIe-ভিত্তিক ইনস্টিনক্ট প্রোডাক্ট লাইন স্থবির ছিল। MI300X, MI325X এবং OAM-ফরম্যাট MI350X সহ পরবর্তী সমস্ত প্রজন্ম ডেডিকেটেড বেসবোর্ড ইউনিভার্সাল-এ মাউন্ট করা OAM সকেটেড মডিউলগুলি গ্রহণ করেছে। এই মডিউলগুলির একটি একক ট্রেতে আটটি 1,000W-শ্রেণীর এক্সিলারেটর সমর্থন করার জন্য শক্তিশালী পাওয়ার ডেলিভারি এবং বায়ুপ্রবাহ সহ কাস্টমাইজড ঘেরের প্রয়োজন। এই ধরনের হার্ডওয়্যার আর্কিটেকচার হাইপারস্কেল ক্লাউড প্রোভাইডারদের জন্য উপযুক্ত যারা GPU র্যাক বাল্ক ক্রয় করে, তবুও এটি নিয়মিত এন্টারপ্রাইজগুলিকে সামঞ্জস্য করতে ব্যর্থ হয় যা অন-সাইট ইনফারেন্স টাস্কগুলির জন্য বেসপোক AI র্যাক স্থাপন করতে ইচ্ছুক বা অক্ষম। MI350P সঠিকভাবে এই বাজারের শূন্যতা পূরণ করে। বর্তমানে, NVIDIA-এর এই সেগমেন্টে উচ্চ-সম্পদ সার্ভার-গ্রেডের PCIe প্রতিযোগীর অভাব রয়েছে, যা AMD-কে সাময়িক বাজারের এক্সক্লুসিভিটি সহ ছেড়ে দিয়েছে।
হার্ডওয়্যার তুলনা: MI350P বনাম MI350X OAM
MI350P MI350X-এর কাট-ডাউন ভেরিয়েন্ট নয়; AMD এই নতুন মডেলের জন্য একটি স্বাধীন স্ট্রিমলাইনড চিপ ইঞ্জিনিয়ার করেছে। MI350X আটটি অ্যাক্সিলারেটর কমপ্লেক্স ডাইস (XCDs) এর সাথে জোড়া দুটি I/O ডাইকে একীভূত করে, মোট 256টি কম্পিউট ইউনিট সরবরাহ করে। বিপরীতে, MI350P-এ রয়েছে একটি I/O ডাই এবং চারটি XCD, যা 128 কম্পিউট ইউনিটের সমান। সিলিকন স্কেল অর্ধেক করা সত্ত্বেও, এটি উচ্চ-স্তরের প্রতিরূপ হিসাবে একটি অভিন্ন 2.2 GHz পিক ক্লক ফ্রিকোয়েন্সি বজায় রাখে। মেমরি কনফিগারেশন একই ডাউনগ্রেড স্পেসিফিকেশন অনুসরণ করে: চারটি HBM3E স্ট্যাক (বনাম আট), একটি 4,096-বিট মেমরি বাস (8,192-বিট থেকে নিচে), 144GB মেমরি ক্ষমতা এবং 4 TB/s ব্যান্ডউইথের পাশাপাশি, MI350X-এর 288GB এবং 8 TB/পুট মাধ্যমের তুলনায়।
AMD Instinct MI350P আর্কিটেকচার
পিক কম্পিউটিং থ্রুপুটও অর্ধেক কমে গেছে। MI350P প্রিমিয়াম মডেলের 4.6 PFLOPS এর তুলনায় 2,300 FP8 TFLOPS এর সাথে MI350X-এর 9.2 PFLOPS বনাম 4,600 MXFP4 TFLOPS-এ পৌঁছেছে। BF16, FP16 এবং অন্যান্য নির্ভুলতা মানগুলির জন্য পারফরম্যান্স মেট্রিক্স একই আনুপাতিক পতন অনুসরণ করে। উল্লেখযোগ্যভাবে, AMD স্বচ্ছতার জন্য সর্বোচ্চ এবং বাস্তব-বিশ্বের টেকসই কর্মক্ষমতা ডেটা প্রকাশ করেছে। কার্ডটি MXFP4-এর অধীনে 2,299 TFLOPS, FP8-এর অধীনে 1,529 TFLOPS এবং BF16-এর অধীনে 713 TFLOPS প্রদান করে৷ এই ব্যবহারিক পরিসংখ্যানগুলি একটি 600W পাওয়ার খামের মধ্যে বাস্তব আউটপুট প্রতিফলিত করে, যেখানে পাওয়ার সীমাবদ্ধতা এবং মেমরি ব্যান্ডউইথের সীমাবদ্ধতা অনিবার্যভাবে তাত্ত্বিক শিখর কর্মক্ষমতা কম করে।
সম্পাদকীয় দল পূর্বে সুপারমাইক্রোর জাম্পস্টার্ট প্রোগ্রামের মাধ্যমে MI350X প্ল্যাটফর্মের মূল্যায়ন করেছে এবং এর শক্তিশালী অনুমান কাজের চাপের ক্ষমতাকে স্বীকৃতি দিয়েছে। দলটি MI350P-এর হ্যান্ডস-অন টেস্টিং পরিচালনা করতে আগ্রহী, বিশ্লেষণ করে যে এই PCIe-ফর্ম-ফ্যাক্টর অ্যাক্সিলারেটর স্ট্যান্ডার্ড কমোডিটি সার্ভার চ্যাসিসের মধ্যে কীভাবে কাজ করে।
অর্ধেক সিলিকন স্কেল থাকা সত্ত্বেও MI350P-এ 50% পাওয়ার কমানোর বৈশিষ্ট্য নেই। এটি একটি 600W TBP পাওয়ার রেটিং বহন করে, যা MI350X এর 1000W সীমার প্রায় 60% এর সমতুল্য। এই পিক ওয়াটেজ PCIe CEM স্পেসিফিকেশনের উপরের সীমানায় আঘাত করে, কার্ডটি স্লটের সর্বোচ্চ তাপীয় থ্রেশহোল্ডে চালায়। একটি হ্রাসকৃত 450W অপারেটিং মোড অপর্যাপ্ত কুলিং সহ সার্ভারগুলির জন্য উপলব্ধ, এর সাথে মাঝারি পারফরম্যান্স কাট। একই পাওয়ার ব্র্যাকেটে অবস্থিত, MI350P এন্টারপ্রাইজ সংগ্রহের জন্য NVIDIA-এর H200 NVL এবং RTX Pro 6000 সার্ভারের সাথে সরাসরি প্রতিযোগিতা করে।
NVL4 হাই-স্পিড ইন্টারকানেক্টের সাথে NVIDIA-এর H200 এর বিপরীতে, MI350P ইনফিনিটি ফ্যাব্রিক এক্সপোজারকে অক্ষম করে। সমস্ত আন্তঃ-GPU ডেটা ট্রান্সমিশন PCIe Gen5 x16 এর 128 GB/s ব্যান্ডউইথের মধ্যে সীমাবদ্ধ।
আট-GPU এয়ার-কুলড স্থাপনা
একটি স্ট্যান্ডার্ড ডুয়াল-স্লট FHFL PCIe কার্ড হিসাবে, MI350P বিদ্যমান এন্টারপ্রাইজ সার্ভারের সাথে সামঞ্জস্যপূর্ণ। প্রধান OEMগুলি পূর্বে পর্যালোচনা করা Dell PowerEdge XE7740 এবং HPE ProLiant DL380a Gen12 সহ ঘন আট-GPU এয়ার-কুলড মডেলগুলি অফার করে৷ 600W অ্যাক্সিলারেটরের জন্য অপ্টিমাইজ করা, এই প্ল্যাটফর্মগুলিতে কোনও কাস্টম র্যাক, লিকুইড কুলিং বা ওএএম বেসবোর্ডের প্রয়োজন নেই।
একটি আট-কার্ড MI350P কনফিগারেশন 1,152GB HBM3E এবং 32 TB/s মোট ব্যান্ডউইথ সরবরাহ করে, একটি এয়ার-কুলড চ্যাসিসের মধ্যে MXFP4 নির্ভুলতায় ট্রিলিয়ন-প্যারামিটার মডেলগুলি হোস্ট করার জন্য যথেষ্ট। তবুও, এটি উত্সর্গীকৃত স্কেলিং কাপড় বলি দেয়। যদিও MI350X দ্রুত আন্তঃ-মডিউল যোগাযোগের জন্য ইনফিনিটি ফ্যাব্রিক ব্যবহার করে, MI350P শুধুমাত্র PCIe Gen5 এর উপর নির্ভর করে। এই আর্কিটেকচারটি অনুমানের জন্য নোড-লোকাল টেনসর সমান্তরালতা এবং ক্রস-নোড ডেটা সমান্তরালতার জন্য উপযুক্ত, যেখানে OAM-ভিত্তিক MI350X ব্যান্ডউইথ-নিবিড় AI প্রশিক্ষণের কাজগুলির জন্য উচ্চতর থাকে।
যথার্থ বিন্যাস
MI350P আপগ্রেড ছাড়াই MI350X থেকে সমস্ত নির্ভুল ফর্ম্যাট উত্তরাধিকার সূত্রে পায়। MXFP4, MXFP6 এবং MXFP8 সহ OCP ব্লক-স্কেলিংয়ের ধরনগুলি এআই মডেল বিকাশের জন্য মূলধারায় পরিণত হয়েছে, যা নগণ্য মানের অবনতির সাথে নিম্ন-নির্ভুল প্রশিক্ষণ সক্ষম করে। MXFP4 FP8 এর দ্বিগুণ গতি এবং BF16 এর চারগুণ থ্রুপুট প্রদান করে। OpenAI gpt-oss এবং Kimi K2.6 এর মতো বাস্তব-বিশ্বের ক্ষেত্রে নেটিভ লো-বিট কোয়ান্টাইজেশনের মান প্রমাণ করে। যেহেতু MXFP4 এবং INT4 ওজন BF16 মেমরি স্পেসের মাত্র 25% দখল করে, তাই ট্রিলিয়ন-প্যারামিটার মডেলগুলি একটি একক আট-GPU সার্ভারের মধ্যে স্থাপন করা যেতে পারে, যা অন-প্রিম এন্টারপ্রাইজগুলির জন্য জটিল মাল্টি-নোড ক্লাস্টারগুলিকে দূর করে।
নিচের লাইন
বেশিরভাগ অন-প্রিম এআই এন্টারপ্রাইজগুলি কাঁচা কম্পিউটিং ক্ষমতার পরিবর্তে শক্তি, কুলিং, ঘনত্ব এবং বাজেট দ্বারা সীমাবদ্ধ। ড্রপ-ইন MI350P কার্যকরভাবে এই স্থাপনার বাধাগুলি দূর করে। NVIDIA-এর এই বিভাগে একটি ফ্ল্যাগশিপ PCIe সার্ভার GPU না থাকায়, AMD আপাতত একটি স্পষ্ট প্রতিযোগিতামূলক সুবিধা ধরে রেখেছে। আরও বিশদ AMD এর অফিসিয়াল ইনস্টিনক্ট ওয়েবপেজে উপলব্ধ।
বেইজিং Qianxing Jietong প্রযুক্তি কোং, লি.
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
WhatsApp / WeChat: +86 13426366826
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি প্রোডাক্ট ডিস্ট্রিবিউশন/সিস্টেম ইন্টিগ্রেশন অ্যান্ড সার্ভিসেস/ইনফ্রাস্ট্রাকচার সলিউশন
20+ বছরের আইটি বিতরণের অভিজ্ঞতার সাথে, আমরা বিশ্বস্ত পণ্য এবং পেশাদার পরিষেবা প্রদানের জন্য শীর্ষস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারি করি।
"একটি বুদ্ধিমান বিশ্ব গড়তে প্রযুক্তির ব্যবহার" আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
WhatsApp / WeChat: +86 13426366826
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি প্রোডাক্ট ডিস্ট্রিবিউশন/সিস্টেম ইন্টিগ্রেশন অ্যান্ড সার্ভিসেস/ইনফ্রাস্ট্রাকচার সলিউশন
20+ বছরের আইটি বিতরণের অভিজ্ঞতার সাথে, আমরা বিশ্বস্ত পণ্য এবং পেশাদার পরিষেবা প্রদানের জন্য শীর্ষস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারি করি।
"একটি বুদ্ধিমান বিশ্ব গড়তে প্রযুক্তির ব্যবহার" আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!