কোম্পানির খবর কনটেক্সট গ্রাফার জেডাইফাই এআই টোকেনের খরচ ৭৫ শতাংশ কমিয়ে দিয়েছে

জেডিফাই (Jedify) কৃত্রিম বুদ্ধিমত্তাকে (AI) কনটেক্সট-গ্রাফ প্রযুক্তির (context-graph technology) মাধ্যমে উন্নত করার পক্ষে সওয়াল করছে, তাদের দাবি অনুযায়ী এই সমাধান কৃত্রিম বুদ্ধিমত্তার টোকেন খরচ তিন-চতুর্থাংশ পর্যন্ত কমাতে পারে।

কনটেক্সট গ্রাফগুলি ডেটাবেস-স্টাইলের কাঠামোর মধ্যে সত্তার সম্পর্ক (যেমন - মানুষ, পণ্য, স্থান ইত্যাদি) সংরক্ষণ করে। গ্রাফ ডেটাবেসগুলি ডেটাকে নোড (সত্তা) এবং এজ (সম্পর্ক) হিসাবে সংগঠিত করে, জটিল আন্তঃসংযুক্ত ডেটার দ্রুত অনুসন্ধানের জন্য সংযোগগুলিকে অগ্রাধিকার দেয়, যা টেবিল-ভিত্তিক রিলেশনাল ডেটাবেসের থেকে ভিন্ন। যদিও নলেজ গ্রাফগুলি এআই ওয়ার্কলোডগুলিতে (AI workloads) কাজ করে, কনটেক্সট গ্রাফগুলি অতিরিক্তভাবে কোন সম্পর্কগুলি সত্য তা যাচাই করে।

জেডিফাই-এর সহ-প্রতিষ্ঠাতা এবং সিটিও (CTO) আদি এলিমেলচ (Adi Elimelech) মন্তব্য করেছেন: “শিল্পের অনেকেই টোকেন দক্ষতা এবং খরচ দক্ষতার মধ্যে গুলিয়ে ফেলেন, অথচ তারা ভিন্ন। একটি কনটেক্সট গ্রাফের মধ্যে ব্যবসায়িক যুক্তি (business logic) প্রি-এনকোড (pre-encode) করা মডেলকে প্রতিটি কোয়েরির জন্য স্ক্র্যাচ থেকে যুক্তিতর্ক করার হাত থেকে বাঁচায়; এটি মূল প্রক্রিয়া, বিক্রেতার বাস্তবায়ন নির্বিশেষে।”

প্রতিটি কোয়েরিতে এআই-কে সম্পূর্ণ ডেটাবেস স্কিমা (database schema) ফিড করার পরিবর্তে, জেডিফাই-এর কনটেক্সট-গ্রাফ ব্যবসায়িক যুক্তির সংজ্ঞা, গণনা, সম্পর্ক এবং নিয়মগুলিকে একটি কাঠামোগত জ্ঞানভান্ডারে (structured knowledge base) প্রি-এনকোড করে। এটি ব্যবসায়িক পরিবর্তনের সাথে সাথে স্বয়ংক্রিয়ভাবে আপডেট এবং প্রসারিত হয়, নতুন ডেটা, সম্পর্ক এবং নিয়মগুলি গ্রহণ করে। ব্যবহারকারীর কোয়েরির উপর ভিত্তি করে, শুধুমাত্র প্রাসঙ্গিক সত্তাগুলি পুনরুদ্ধার করা হয়, যা এলএলএম-কে (LLM) সংক্ষিপ্ত, সুনির্দিষ্ট কনটেক্সট সরবরাহ করে।

জেডিফাই তিনটি জটিলতার স্তরে (মোট ২০০টি গ্রেডেড পরীক্ষার পয়েন্ট) ১০০টি ব্যবসায়িক প্রশ্নের উপর প্রোডাকশন-ওয়্যারহাউস বেঞ্চমার্কিং (production-warehouse benchmarking) চালিয়েছে। তাদের কনটেক্সট-গ্রাফ সেটআপে প্রতি এসকিউএল (SQL) জেনারেশন কলে গড়ে ২৫,০৩৬টি র (raw) টোকেন এবং ৮৭% সঠিক-উত্তর হার পাওয়া গেছে। এর বিপরীতে, প্রচলিত স্কিমা-ইনজেকশন পদ্ধতিগুলি (schema-injection methods) প্রতি কলে ৫০,০০০-১৫০,০০০ টোকেন ব্যবহার করে ৬০-৭০% নির্ভুলতা সহ; স্কিমা-ইনজেকশন-ভিত্তিক মাল্টি-এজেন্ট সিস্টেম (multi-agent systems) যেমন CHESS প্রতি অনুরোধে প্রায় ৩৩৯,৯৬৫ টোকেন ব্যবহার করে। দ্রষ্টব্য: এই রেফারেন্স বেসলাইনগুলি বাহ্যিক গবেষণা থেকে নেওয়া হয়েছে যেখানে ভিন্ন স্কিমা এবং প্রশ্ন সেট ব্যবহার করা হয়েছে, পাশাপাশি ওয়্যারহাউস পরীক্ষা করা হয়নি।

টোকেন-আরওআই (token-ROI) ফ্রেমওয়ার্ক দ্বারা পরিমাপ করা, যা খরচ এবং নির্ভুলতাকে ভারসাম্যপূর্ণ করে, জেডিফাই-এর পদ্ধতি স্কিমা-ইনজেকশন ওয়ার্কফ্লোর (schema-injection workflows) চেয়ে ৪.৬ গুণ এবং বেসিক মাল্টি-এজেন্ট পাইপলাইনের (multi-agent pipelines) চেয়ে ২০ গুণ বেশি রিটার্ন দিয়েছে। স্কিমা-ইনজেকশন ৬০-৭০% সঠিক আউটপুট অর্জন করেছে, যেখানে জেডিফাই গ্রাফ কভারেজের মধ্যে থাকা সত্তাগুলির জন্য শক্তিশালী নির্ভুলতা অর্জন করেছে।

১০০-টেবিল এন্টারপ্রাইজ স্কেলে (enterprise scale), কনটেক্সট-গ্রাফ র-স্কিমা বেসলাইনের (raw-schema baselines) তুলনায় প্রতি এসকিউএল কলে টোকেন ইনজেকশন প্রায় ৫০% কমিয়েছে; ২০০ টেবিলে, টোকেন সাশ্রয় ৭৫% ছাড়িয়ে গেছে।

এলিমেলচ ডেটা-মালিকানা (data-ownership) সুবিধার উপরও জোর দিয়েছেন: “ব্যবসায়িক যুক্তি আপনার নিয়ন্ত্রিত গ্রাফের মধ্যে থাকে, তাই আপনি প্রতিটি অনুরোধে আপনার সম্পূর্ণ স্কিমা এবং জয়েন-ফিল্টার নিয়মগুলি ফ্রন্টিয়ার-মডেল সরবরাহকারীদের (frontier-model providers) কাছে প্রকাশ করেন না।”

এসকিউএল জেনারেশনের আগে শুধুমাত্র প্রয়োজনীয় সত্তাগুলিতে ফিল্টার করে, কনটেক্সট গ্রাফগুলি মডেলের যুক্তিতর্কের লোড কমিয়ে দেয়। প্রোডাকশন-রাউটিং বিশ্লেষণ (production-routing analysis) নির্দেশ করে যে এন্টারপ্রাইজ-অ্যানালিটিক্স কোয়েরিগুলির প্রায় ৮৫% প্রিমিয়াম ফ্রন্টিয়ার এলএলএম-এর (premium frontier LLMs) পরিবর্তে সস্তা ওপেন-সোর্স মডেলগুলিতে (open-source models) নগণ্য নির্ভুলতা হ্রাস সহ চালানো যেতে পারে, যা পরিকাঠামো ব্যয় কমিয়ে দেয়।

এখানে সম্পর্কিত হোয়াইট পেপার ডাউনলোড করুন।

বেইজিং কিয়ানশিং জিয়েটং টেকনোলজি কোং, লিমিটেড (Beijing Qianxing Jietong Technology Co., Ltd.)
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর (Sandy Yang/Global Strategy Director)
হোয়াটসঅ্যাপ / উইচ্যাট: +৮৬ ১৩৪২৬৩৬৬৮২৬ (WhatsApp / WeChat: +86 13426366826)
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইট: www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাস:
আইসিটি পণ্য বিতরণ/সিস্টেম ইন্টিগ্রেশন ও পরিষেবা/অবকাঠামো সমাধান (ICT Product Distribution/System Integration & Services/Infrastructure Solutions)
আইটি বিতরণে ২০ বছরেরও বেশি অভিজ্ঞতার সাথে, আমরা নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করতে শীর্ষস্থানীয় বিশ্ব ব্র্যান্ডগুলির সাথে অংশীদারিত্ব করি।
“প্রযুক্তি ব্যবহার করে একটি বুদ্ধিমান বিশ্ব তৈরি করা” আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!