logo
বাড়ি মামলা

VAST Data এবং AMD Instinct-এ KV Cache Offload-এর মাধ্যমে 9x দ্রুত টাইম-টু-ফার্স্ট-টোকেন দাবি করেছে

সাক্ষ্যদান
চীন Beijing Qianxing Jietong Technology Co., Ltd. সার্টিফিকেশন
চীন Beijing Qianxing Jietong Technology Co., Ltd. সার্টিফিকেশন
ক্রেতার পর্যালোচনা
বেইজিং Qianxing Jietong প্রযুক্তি কোং, লিমিটেডের বিক্রয় কর্মীরা খুব পেশাদার এবং ধৈর্যশীল। তারা দ্রুত কোটেশন প্রদান করতে পারেন. পণ্যের মান এবং প্যাকেজিংও খুব ভালো। আমাদের সহযোগিতা খুবই মসৃণ।

—— 《ফেস্টফিং ডিভি》LLC

যখন আমি জরুরীভাবে ইন্টেল CPU এবং Toshiba SSD খুঁজছিলাম, তখন বেইজিং Qianxing Jietong Technology Co., Ltd-এর Sandy আমাকে অনেক সাহায্য করেছিল এবং আমার প্রয়োজনীয় পণ্যগুলি দ্রুত পেয়েছিল। আমি সত্যিই তার প্রশংসা.

—— কিটি ইয়েন

Beijing Qianxing Jietong Technology Co.,Ltd-এর স্যান্ডি একজন অত্যন্ত সতর্ক সেলসম্যান, যিনি সার্ভার কেনার সময় আমাকে কনফিগারেশন ত্রুটির কথা মনে করিয়ে দিতে পারেন। প্রকৌশলীরা খুব পেশাদার এবং দ্রুত পরীক্ষার প্রক্রিয়াটি সম্পূর্ণ করতে পারে।

—— স্ট্রেলকিন মিখাইল ভ্লাদিমিরোভিচ

বেইজিং কিয়ানক্সিং জিয়েটং-এর সাথে কাজ করার অভিজ্ঞতা নিয়ে আমরা খুবই খুশি। পণ্যের গুণমান চমৎকার, এবং ডেলিভারি সবসময় সময় মতো হয়। তাদের বিক্রয় দল পেশাদার, ধৈর্যশীল এবং আমাদের সমস্ত প্রশ্নের উত্তর দিতে খুবই সহায়ক। আমরা তাদের সমর্থনকে সত্যিই মূল্যায়ন করি এবং দীর্ঘমেয়াদী অংশীদারিত্বের জন্য অপেক্ষা করছি। অত্যন্ত সুপারিশকৃত!

—— আহমাদ নাভিদ

গুণমানঃ ¢আমার সরবরাহকারীর সাথে দুর্দান্ত অভিজ্ঞতা। মাইক্রোটিক আরবি 3011 ইতিমধ্যে ব্যবহৃত হয়েছিল, তবে এটি খুব ভাল অবস্থায় ছিল এবং সবকিছু নিখুঁতভাবে কাজ করে। যোগাযোগ দ্রুত এবং মসৃণ ছিল,এবং আমার সকল উদ্বেগ দ্রুত সমাধান করা হয়খুব নির্ভরযোগ্য সরবরাহকারী ঃ অত্যন্ত সুপারিশ ঃ

—— জেরান কোলেসিও

তোমার দর্শন লগ করা অনলাইন চ্যাট এখন

VAST Data এবং AMD Instinct-এ KV Cache Offload-এর মাধ্যমে 9x দ্রুত টাইম-টু-ফার্স্ট-টোকেন দাবি করেছে

July 28, 2026
ভিএএসটি ডেটা এএমডির সাথে মডেল প্রশিক্ষণ, অনুমান, পুনরুদ্ধার-বর্ধিত প্রজন্ম (আরএজি) চালানো ক্লাউড এবং এন্টারপ্রাইজ প্ল্যাটফর্মগুলির জন্য এআই অবকাঠামো উন্নত করতে তার অংশীদারিত্ব প্রসারিত করেছে,এবং এজেন্টিক এআই ওয়ার্কলোডইন্টিগ্রেটেড স্ট্যাকটি VAST AI অপারেটিং সিস্টেমকে 6th জেনারেশন AMD EPYC প্রসেসর, AMD Instinct GPUs, AMD নেটওয়ার্কিং হার্ডওয়্যার এবং ROCm সফটওয়্যারের সাথে একত্রিত করে।

এই সহযোগিতা একটি বড় শিল্প পরিবর্তনের সাথে সামঞ্জস্যপূর্ণঃ এআই অবকাঠামো কেবল প্রশিক্ষণ-কেবল ক্লাস্টারগুলির বাইরেও বিকশিত হচ্ছে যাতে স্থায়ী প্রসঙ্গ, উচ্চ প্রতিযোগিতামূলক অনুমান,এবং মাল্টি টার্ন এজেন্ট ওয়ার্কফ্লোআধুনিক এআই ডিপ্লয়মেন্টগুলি দক্ষ ডেটা চলাচল, অপ্টিমাইজড কেভি ক্যাশে ম্যানেজমেন্ট, উচ্চতর জিপিইউ ব্যবহার এবং বড় মডেল এবং প্রাসঙ্গিক ডেটাসেটগুলিতে কম লেটেন্সি অ্যাক্সেসের অগ্রাধিকার দেয়।

VAST এর বিভাজিত শেয়ার্ড সবকিছু (DASE) আর্কিটেকচার এই আধুনিক এআই পরিবেশের জন্য ইউনিফাইড শেয়ার্ড ডেটা স্তর হিসাবে কাজ করে। এটি ফাইল এবং অবজেক্ট স্টোরেজ, ডাটাবেস,ঘটনা স্ট্রিমিং, এবং একটি একক বিশ্বব্যাপী নামস্থানের অধীনে মূল ডেটা পরিষেবাগুলি, একই সাথে বিভিন্ন সমান্তরাল গ্রাহক এবং অ্যাপ্লিকেশন কাজ চালানোর জন্য এআই ক্লাউডগুলির জন্য মাল্টি-টেনানসি এবং ওয়ার্কলোড বিচ্ছিন্নতা সরবরাহ করে।

এএমডি ইপিওয়াইসি ৯০০৬ পাওয়ারস নেক্সট-জেনারেশন ভিএএসটি হার্ডওয়্যার

ভিএএসটি তার আসন্ন ষষ্ঠ প্রজন্মের সিবিওএক্স এবং তৃতীয় প্রজন্মের ইবিওএক্স সিস্টেমগুলির জন্য 6 ম প্রজন্মের এএমডি ইপিওয়াইসি 9006 সিরিজ (ভেনিস) প্রসেসর গ্রহণ করছে, যা ভিএএসটি এআই অপারেটিং সিস্টেমের হার্ডওয়্যার ভিত্তি গঠন করে।EPYC 9006 প্ল্যাটফর্ম VAST এর হার্ডওয়্যার লাইনে PCIe Gen6 সংযোগের পরিচয় করিয়ে দেয়, প্রতি প্রজন্মের I/O ব্যান্ডউইথ দ্বিগুণ করা।

সম্পর্কে সর্বশেষ কোম্পানী কেস VAST Data এবং AMD Instinct-এ KV Cache Offload-এর মাধ্যমে 9x দ্রুত টাইম-টু-ফার্স্ট-টোকেন দাবি করেছে  0

আপগ্রেডটি ফাইল এবং অবজেক্ট স্টোরেজ থ্রুপুট বৃদ্ধি করে এবং ভিএএসটি ডেটাবেস এবং ডেটা ইঞ্জিন দ্বারা সমর্থিত ডাটাবেস, ডেটা ওয়্যারহাউস এবং ইভেন্ট স্ট্রিমিং ওয়ার্কলোডগুলির জন্য বিলম্ব হ্রাস করে।উন্নত I/O ব্যান্ডউইথ কম্পিউটারে বোতলঘাট হ্রাস করে, নেটওয়ার্কিং এবং এনভিএম স্টোরেজ, মডেল লোডিং, পুনরুদ্ধার পাইপলাইন, চেকপয়েন্ট অ্যাক্সেস এবং বহিরাগত কেভি ক্যাশে ওয়ার্কফ্লোগুলির সুবিধা যা নেটিভ জিপিইউ মেমরির সীমা অতিক্রম করে।

এএমডি এবং ড্রাইভনেটগুলির সাথে ত্রি-প্লেয়ার রেফারেন্স আর্কিটেকচার

ভিএএসটি, এএমডি এবং ড্রাইভনেটস যৌথভাবে একটি ইউনিফাইড এআই অবকাঠামো রেফারেন্স আর্কিটেকচার তৈরি করছে, যা এএমডির র্যাক-স্কেল হেলিওস এআই অবকাঠামো, ভিএএসটি এআই ওএস এবং ড্রাইভনেটস এআই ফ্যাব্রিক নেটওয়ার্কিংয়ের সংমিশ্রণ।এই কাঠামোটি এআই প্রশিক্ষণের জন্য স্ট্যান্ডার্ডাইজড স্থাপনার নির্দেশিকা সরবরাহ করে, অনুমান, রিইনফোর্সমেন্ট লার্নিং এবং কেভি ক্যাশে ওয়ার্কলোড,শেয়ার্ড ডেটা অবকাঠামো এবং উচ্চ পারফরম্যান্স নেটওয়ার্কিং সহ এআই কারখানা তৈরির জন্য উদ্যোগগুলির জন্য আকার এবং প্রাপ্যতার সেরা অনুশীলন সরবরাহ করা.

ভিএএসটি এজেন্টিক এআই ব্যবহারের ক্ষেত্রে উত্পাদন-গ্রেডের অনুমান স্থাপত্যগুলিতে মনোনিবেশ করে ইনফারেন্স বিক্রেতা টেনসরমেশ এবং এমবেডেডএলএলএম-এর সাথে তার বাস্তুতন্ত্রের সম্পর্কও প্রসারিত করেছে,বিশেষ একীকরণ এবং লঞ্চের বিস্তারিত এখনো প্রকাশ করা হয়নি.

হাই-কনকুরেনসি ইনফারেন্সের জন্য অপ্টিমাইজড কেভি ক্যাশে অফলোড

আপডেট হওয়া সহযোগিতার কেন্দ্রবিন্দু হ'ল উন্নত কেভি ক্যাশে অফলোডিং, এএমডি ইনস্টিন্ট জিপিইউ, এএমডি ইনফিনিটি কনটেক্সট, আরওসিএম সফ্টওয়্যার এবং ভিএএসটি এআই ওএস ব্যবহার করে।কেভি ক্যাশে বহু-টার্নিং ইন্টারঅ্যাকশন এবং দীর্ঘ প্রসঙ্গ এআই ওয়ার্কলোডগুলিকে ত্বরান্বিত করার জন্য অনুমান-উত্পাদিত মনোযোগের অবস্থা ডেটা সঞ্চয় করে, তবুও বড় ক্যাশে আকারগুলি দ্রুত সীমিত জিপিইউ মেমরি ব্যবহার করে।

সম্পর্কে সর্বশেষ কোম্পানী কেস VAST Data এবং AMD Instinct-এ KV Cache Offload-এর মাধ্যমে 9x দ্রুত টাইম-টু-ফার্স্ট-টোকেন দাবি করেছে  1

উচ্চ-কার্যকারিতা ভাগ করা স্টোরেজে কেভি ক্যাশে অফলোড বা স্তরিত করা সক্রিয় কাজগুলির জন্য জিপিইউ মেমরি মুক্ত করে এবং পরবর্তী অনুমান অনুরোধের জন্য প্রসঙ্গগত ডেটা সংরক্ষণ করে।AMD Instinct MI355X GPUs-এ প্রাথমিক পরীক্ষায় 9 গুণ দ্রুততম টাইম-টু-ফার্স্ট-টকেন এবং 9 গুণ দ্রুততমভিএএসটি-চালিত কেভি ক্যাশে অফলোডের মাধ্যমে উচ্চ সমান্তরাল এজেন্টিক এআই ওয়ার্কলোডগুলির জন্য.7 গুণ বেশি টোকেন থ্রুপুট, হার্ডওয়্যার বেসলাইন, ওয়ার্কলোড এবং স্টোরেজ কনফিগারেশনের সাথে পারফরম্যান্স পরিবর্তিত হয়।

উপরন্তু, VAST এর স্বয়ংক্রিয় জীবনচক্র নীতিগুলি KV ক্যাশে ডেটাতে প্রয়োগ করা হয়, যা ক্যাশে থাকা সামগ্রীগুলির নির্ধারিত মেয়াদ শেষ এবং মুছে ফেলার অনুমতি দেয়।ব্যক্তিগত বা নিয়ন্ত্রিত অনুমান তথ্য.

Pensando Pollara 400 এর মাধ্যমে হাই-স্পিড জিপিইউ-স্টোরেজ ইন্টারকানেক্ট

আর্কিটেকচারটি এএমডি ইনস্টিন্ট জিপিইউগুলিকে ভিএএসটি স্টোরেজ ক্লাস্টারগুলিতে সংযুক্ত করতে এএমডি পেনসান্ডো পোলারা 400 এআই এনআইসি স্থাপন করে। টিসিপি এবং আরডিএমএর মাধ্যমে এনএফএস সমর্থন করে,এনআইসি কার্যকর জিপিইউ থেকে স্টোরেজ ডেটা স্থানান্তর সক্ষম করে, কেভি ক্যাশে এবং সাধারণ inference workloads এর জন্য NVMe ভিত্তিক VAST স্টোরেজের জন্য কম বিলম্বের অ্যাক্সেস প্রদান করে।

এই নকশাটি শারীরিক জিপিইউ মেমরির সীমা থেকে প্রসঙ্গ পরিচালনার স্কেলিংকে বিচ্ছিন্ন করে।ডিস্ট্রিবিউটেড মডেল ম্যানেজমেন্টের জন্য একটি ইউনিফাইড ডেটা এবং এক্সিকিউশন স্তর হিসাবে ভিএএসটি তার প্ল্যাটফর্মকে অবস্থান দেয়, ডাটাবেস, স্ট্রিমিং, ফাইল সম্পদ এবং এআই কনটেক্সট। এআই ক্লাউড সরবরাহকারীদের জন্য, আর্কিটেকচারটি জিপিইউ ব্যবহার এবং অপারেশনাল দক্ষতা বৃদ্ধি করে,ব্যাচ প্রশিক্ষণ এবং জিপিইউ ভাড়া থেকে ধ্রুবক অনুমান এবং এজেন্টিক এআই পরিষেবাগুলিতে শিল্পের রূপান্তরকে সমর্থন করা.

বেইজিং চিয়ানসিং জিয়েটং টেকনোলজি কোং লিমিটেড।
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / ওয়েচ্যাটঃ +৮৬ ১৩৪২৬৩৬৬৮২৬
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইটঃ www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাসঃ
আইসিটি প্রোডাক্ট বিতরণ/সিস্টেম ইন্টিগ্রেশন ও সার্ভিসেস/ইনফ্রাস্ট্রাকচার সমাধান
২০+ বছরের আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা বিশ্বব্যাপী শীর্ষস্থানীয় ব্র্যান্ডগুলির সাথে অংশীদার হয়ে নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করি।
👉একটি বুদ্ধিমান বিশ্ব গড়ে তুলতে প্রযুক্তি ব্যবহার করুন 👉আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!
যোগাযোগের ঠিকানা
Beijing Qianxing Jietong Technology Co., Ltd.

ব্যক্তি যোগাযোগ: Ms. Sandy Yang

টেল: 13426366826

আমাদের সরাসরি আপনার তদন্ত পাঠান (0 / 3000)