এসকে হাইনিক্স মার্কিন এআই ইনফারেন্স স্টার্টআপ এচড-কে সমর্থন করেছে, যারা তাদের নিজস্ব লো ভোল্টেজ ইনফারেন্স (এলভিআই) এবং ক্লাস্টার স্কেল মেমরি (সিএসএম) প্রযুক্তি ব্যবহার করে র্যাক-স্কেল সিস্টেম তৈরি করছে।
এচড একটি গুরুত্বপূর্ণ শিল্প প্রতিবন্ধকতা সমাধান করে: ঐতিহ্যবাহী জিপিইউগুলিতে অতিরিক্ত কম্পিউটিং শক্তি থাকলেও বড় আকারের এআই ইনফারেন্সের জন্য অপর্যাপ্ত মেমরি থাকে, যার ফলে জটিল মাল্টি-টিয়ার কেভি ক্যাচিং ফ্রেমওয়ার্ক তৈরি হয়। তাদের তৈরি ইনফারেন্স চিপগুলি বিদ্যুতের ব্যবহার কমায় এবং মেমরি ব্যান্ডউইথ ও ধারণক্ষমতার দিক থেকে প্রচলিত জিপিইউ এইচবিএম-এর চেয়ে ভালো পারফর্ম করে, যা কেভি ক্যাচিং-সম্পর্কিত বিলম্ব এবং নকশার জটিলতা কমিয়ে আনে।
ইসরায়েলি স্টার্টআপ ম্যাজেস্টিক ল্যাবস তাদের গোপনীয়তা ভেঙে বের হওয়ার পর এই বিনিয়োগ এসেছে, যারা বড় আকারের শেয়ার্ড মেমরি পুল সহ কাস্টম-প্রসেসর ইনফারেন্স সার্ভারও তৈরি করছে।
২০২৩ সালে সান জোসেতে হার্ভার্ডের তিনজন আন্ডারগ্র্যাজুয়েট ড্রপআউট দ্বারা প্রতিষ্ঠিত এচড-এর মূল দলে রয়েছেন সিইও গ্যাভিন উবার্টি, প্রেসিডেন্ট রবার্ট ওয়াচেন এবং ক্রিস ঝু। দলটি তাদের প্রাথমিক উন্নয়নের জন্য দুই বছরের ২৫০,০০০ ডলারের থিয়েল ফেলোশিপ পেয়েছে।
দলটি ইনফারেন্স দক্ষতা বাড়ানোর জন্য কাস্টমাইজড এলভিআই প্রিফিল প্রসেসিং এবং সিএসএম শেয়ার্ড মেমরি তৈরি করেছে। তাদের সম্পূর্ণ-স্ট্যাক সমাধান, যা অভ্যন্তরীণ চিপ, প্যাকেজিং, পিসিবি এবং ইন্টারকানেকশন মডিউলগুলিকে একীভূত করে, বড় আকারের বাণিজ্যিক ইনফারেন্স স্থাপনার সুবিধা দেয়।
ঝু উল্লেখ করেছেন যে মূলধারার এআই চিপগুলি উচ্চ লোডের অধীনে গুরুতর থার্মাল থ্রটলিং-এর শিকার হয়: বর্ধিত বিদ্যুৎ খরচ ক্লক স্পিড কমিয়ে দেয়, যার ফলে প্রকৃত ইনফারেন্স থ্রুপুট তাদের তাত্ত্বিক সর্বোচ্চের অর্ধেকেরও কম হয়ে যায়। এচড-এর চিপগুলি সাধারণ শিল্প ভোল্টেজের অর্ধেক গতিতে গাণিতিক ইউনিট চালায়, যা কম্পিউটিং ঘনত্বকে উল্লেখযোগ্যভাবে বাড়িয়ে তোলে।
তিনি মূল হার্ডওয়্যার ট্রেড-অফগুলিও তুলে ধরেছেন: এইচবিএম-সজ্জিত এআই চিপগুলি মেমরি এবং ইন্টারকানেকশন সীমাবদ্ধতার কারণে ডিকোডিং গতিতে এসআরএএম-এর চেয়ে পিছিয়ে থাকে, অন্যদিকে পিওর এসআরএএম চিপগুলি দ্রুত অ্যাক্সেসের জন্য কম্পিউটিং ঘনত্ব এবং ধারণক্ষমতার সাথে আপস করে, যার ফলে সামগ্রিক থ্রুপুট কমে যায়।
এটি বড় এমওই মডেল অপারেশনে বাধা দেয়, কারণ একাধিক মেমরি স্তরের মধ্যে ক্রস-লেয়ার টোকেন ট্রান্সমিশন বিলম্ব তৈরি করে। এচড-এর আর্কিটেকচার সমস্যা সমাধানের জন্য অপ্রয়োজনীয় মেমরি স্তরগুলি সরিয়ে দেয়।
এচড-এর সিএসএম আর্কিটেকচার স্কেলেবল হার্ডওয়্যারের জন্য একটি ইউনিফাইড লো-ল্যাটেন্সি শেয়ার্ড মেমরি পুল তৈরি করে, যা ক্রস-চিপ মেমরি অ্যাক্সেসকে ত্বরান্বিত করার জন্য নিজস্ব উচ্চ-গতির ইন্টারকানেকশন ব্যবহার করে।
এর হাইব্রিড এইচবিএম/এসআরএএম ডিজাইন মেমরি ধারণক্ষমতা এবং ক্রস-চিপ বিলম্বের মধ্যে ভারসাম্য বজায় রাখে, উচ্চ-থ্রুপুট ইন্টারেক্টিভ ইনফারেন্স সরবরাহ করে। সিএসএম পিওর এসআরএএম, ৩ডি ডিআরএএম এবং অপটিক্যাল চিপ সমাধানের খরচ, স্থিতিশীলতা, থার্মাল এবং পারফরম্যান্স ত্রুটিগুলি এড়িয়ে চলে।
এই উদ্ভাবনটি জিপিইউ আর্কিটেকচারাল সীমাবদ্ধতা থেকে এইচবিএম স্ট্যাকগুলিকে বিচ্ছিন্ন করে, বিচ্ছিন্ন মেমরি সংস্থানগুলিকে একত্রিত করে এবং উন্নত ইন্টারকানেকশন প্রযুক্তির মাধ্যমে এসআরএএম-স্তরের অ্যাক্সেস গতি সরবরাহ করে।
এচড-এর র্যাক সিস্টেমে একটি উচ্চ-ইন্টারকানেকশন লেআউট রয়েছে, যেখানে ১৬টি ডেডিকেটেড কেবল রিয়ার পোর্টগুলিকে আটটি কোর হার্ডওয়্যার ইউনিটের সাথে সংযুক্ত করে।
সিস্টেমটি মম্বা-এর মতো মেইনস্ট্রিম এলএলএম, এমওই মডেল এবং নন-ট্রান্সফরমার আর্কিটেকচার সমর্থন করে, যেখানে কোম্পানিটি ফুল-সিস্টেম আরএন্ডডি এবং বাণিজ্যিক বিক্রয়ের উপর মনোযোগ দিচ্ছে।
এচড ফান্ডিং ইতিহাস
২০২২ – কোম্পানি প্রতিষ্ঠিত
২০২৩ – ৫.৪ মিলিয়ন ডলার সিড রাউন্ড
২০২৪ – ১২০ মিলিয়ন ডলার সিরিজ এ
২০২৫ – ৫০০ মিলিয়ন ডলার সিরিজ বি
২০২৬ – ৩০০ মিলিয়ন ডলার সিরিজ সি
মোট তহবিল আজ পর্যন্ত: ৯২৫.৪ মিলিয়ন ডলার
সিকোইয়া ক্যাপিটাল এচড-এর ২০২৬ সালের সিরিজ সি রাউন্ডে নেতৃত্ব দিয়েছে, যেখানে অংশগ্রহণ করেছে অ্যান্ড্রিসেন হোরোভিটজ, জেন স্ট্রিট এবং এসকে হাইনিক্স। এই রাউন্ডে কোম্পানিটির মূল্য ১০.৩ বিলিয়ন ডলার, যা তাদের ২০১৪ সালের সিরিজ বি মূল্যায়নের দ্বিগুণ।
তাদের ধারাবাহিক বার্ষিক তহবিল সংগ্রহের গতি চলমান পণ্য পুনরাবৃত্তি, শক্তিশালী গ্রাহক চাহিদা এবং দৃঢ় বিনিয়োগকারীদের আত্মবিশ্বাসের প্রতিফলন ঘটায়।
ওয়াচেন বলেছেন যে নতুন মূলধন ইনফারেন্স ক্লাস্টারগুলির ব্যাপক উৎপাদনকে ত্বরান্বিত করবে। কোম্পানিটি প্রোোটাইপিং এবং উৎপাদন দক্ষতা বাড়ানোর জন্য মিলপিটাসে একটি ১০-মেগাওয়াট উৎপাদন কেন্দ্র খুলেছে।
প্রধান স্থপতি স্যাপটাদীপ পাল প্রকাশ করেছেন যে এচড-এর ৪০০ জনের বেশি কর্মচারী রয়েছে এবং গ্রাহকদের কাছ থেকে ১ বিলিয়ন ডলারের বেশি অর্ডারের বুকিং রয়েছে। তাদের তাইওয়ানের গবেষণা ও উন্নয়ন এবং উৎপাদন কেন্দ্র ২৪ ঘন্টা অপারেশন সক্ষম করে, সরবরাহকারী সহযোগিতা এবং পণ্য পরীক্ষা অপ্টিমাইজ করে দ্রুত স্কেলিং সমর্থন করার জন্য।
তাদের মূল ক্লায়েন্টদের মধ্যে রয়েছে বড় উদ্যোগ, উদীয়মান ক্লাউড সরবরাহকারী এবং বিশ্বব্যাপী হাইপারস্কেলার যারা ইনফারেন্স-অ্যাজ-এ-সার্ভিস সমাধান সরবরাহ করে।
মন্তব্য
যদি এচড এবং ম্যাজেস্টিক ল্যাবসের নতুন ইনফারেন্স র্যাকগুলি ঐতিহ্যবাহী কেভি ক্যাচিং-এর বাইরে চলে যায়, তবে তারা এন্টারপ্রাইজ স্টোরেজ বাজারকে নতুন রূপ দেবে। এই সিস্টেমগুলির জন্য উচ্চ-গতির, লো-ল্যাটেন্সি স্টোরেজ প্রয়োজন, যা ডেল, এইচপিই, নেটঅ্যাপ এবং ভিএএসটি ডেটার মতো বিক্রেতাদের জন্য অপ্টিমাল পারফরম্যান্সের জন্য স্টোরেজ অ্যারেগুলিকে পরবর্তী প্রজন্মের ইনফারেন্স সার্ভারের সাথে যুক্ত করার সুযোগ তৈরি করে।
বেইজিং কিয়ানশিং জিয়েটং টেকনোলজি কোং, লিমিটেড
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / উইচ্যাট: +৮৬ ১৩৪২৬৩৬৬৬৬২৬
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি পণ্য বিতরণ/সিস্টেম ইন্টিগ্রেশন ও পরিষেবা/অবকাঠামো সমাধান
আইটি বিতরণে ২০ বছরেরও বেশি অভিজ্ঞতার সাথে, আমরা নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করার জন্য শীর্ষস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারিত্ব করি।
“প্রযুক্তি ব্যবহার করে একটি বুদ্ধিমান বিশ্ব তৈরি করা” আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!
আপনার বার্তাটি 20-3,000 টির মধ্যে হতে হবে!
Bengali
