এআই গ্রহণ বর্তমানে উচ্চ টোকেন ব্যয় এবং এআই অনুরোধের জন্য প্রাথমিক মূল্য স্পষ্টতার অভাব দ্বারা বাধাগ্রস্ত, যার ফলে অনিয়ন্ত্রিত টোকেন অতিরিক্ত ব্যয় হয়।এআই এজেন্টদের দ্বারা এই ঝুঁকি ব্যাপকভাবে বাড়ানো হয়, যা বর্তমানে বিল্ট-ইন টোকেন খরচ সীমাবদ্ধতা ছাড়া কাজ করে এবং চরম খরচ বিস্ফোরণ ট্রিগার করতে পারে।
এই নিবন্ধটি ব্যাখ্যা করে যে এআই টোকেনগুলি কী, টোকেন মূল্য নির্ধারণ কীভাবে কাজ করে এবং বিপর্যয়কর টোকেন ব্যয় রোধের জন্য কার্যকর কৌশলগুলি।একটি সু-নথিভুক্ত এন্টারপ্রাইজ কেস দেখেছে যে একটি সংস্থা $500,000কর্মচারীদের ব্যবহারের সীমাবদ্ধতা অনুপস্থিত থাকার কারণে অ্যানথ্রপিকের ক্লাউড প্ল্যাটফর্মে $১,০০০ বিল। পৃথকভাবে, উবারের ইঞ্জিনিয়ারিং টিম ২০২৬ সালের এআই বাজেট সম্পূর্ণ সময়সীমার আগে শেষ করেছে বলে জানা গেছে।টোকেনগুলি হ'ল মৌলিক ইউনিট যা বড় ভাষা মডেল (এলএলএম) এবং চ্যাটবটগুলি মানুষের ভাষার অনুরোধগুলি ভেঙে ফেলতে এবং সুসংগত এআই আউটপুট তৈরি করতে ব্যবহার করে.
উদাহরণস্বরূপ, ইনপুট প্রম্পট ¢ আমাকে অবসাদ সম্পর্কে বলুন ¢ বিচ্ছিন্ন টোকেন উপাদানগুলিতে বিভক্তঃ
- বলো
-আমি
- প্রায়
-সিডেমেন্ট
-অনুষ্ঠান
একক শব্দের জন্য এই পাঁচটি টোকেন বিশ্লেষণ ′′সেডিমেন্টেশন ′′ এলএলএমগুলিকে শব্দ কাঠামো এবং অর্থ সঠিকভাবে ব্যাখ্যা করতে সহায়তা করে।রুট সেডিমেন্ট এবং প্রত্যয় এশনকে বিভক্ত করা মডেলকে অসংখ্য নামের মধ্যে প্রত্যয় এর ধারাবাহিক ব্যবহার সনাক্ত করতে দেয়, যার মধ্যে মূলধন, কম্পিউটারাইজেশন এবং কর অন্তর্ভুক্ত রয়েছে। এই পদ্ধতিটি মডেলের ডাটাবেসের অনুসন্ধানের ক্ষেত্রকে সংকীর্ণ করে,প্রতিটা শব্দকে পৃথকভাবে স্ক্যান করার পরিবর্তে প্রক্রিয়াজাতকরণের সময় কমানো.
কোর ডেটা ইউনিট হিসাবে, টোকেনগুলি ভেক্টর এমবেডেডিংয়ে রূপান্তরিত হয় যা গাণিতিক সংখ্যাসূচক স্ট্রিং যা অর্থসূচক অর্থ কোড করে এবং মডেল সূচকগুলিতে সংরক্ষণ করা হয়। উদাহরণস্বরূপ শব্দটি নিনঃমডেলটি তার বহু-মাত্রিক বৈশিষ্ট্যাবলী উপস্থাপনের জন্য একাধিক ভেক্টর তৈরি করে, যেমন জীবন্ত জীব, গৃহপালিত পোষা প্রাণী, বিড়ালের বৈশিষ্ট্য, শারীরিক আকার এবং আরও অনেক কিছু। এই অনন্য ভেক্টর সেটগুলি অজীবিত বস্তু, কুকুর এবং বাঘের মতো অন্যান্য প্রাণী প্রজাতির থেকে বিচ্ছিন্ন করে,এবং কৃত্রিম বিড়ালের খেলনা.
শব্দটির জন্য একটি অনুমানীয় পাঁচ-মাত্রিক ভেক্টর এম্বেডিং ¢ cat ¢ [১] হিসাবে প্রকাশ করা যেতে পারে।5-0.4, ৭.2১৯।6, ২০.২) ।
সমস্ত ভেক্টর ডেটা একটি ইউনিফাইড ভেক্টর স্পেসে বিদ্যমান, যা মডেলগুলিকে ভেক্টর পয়েন্টগুলির মধ্যে স্থানিক সান্নিধ্য পরিমাপ করে অর্থগতভাবে অনুরূপ সামগ্রী সনাক্ত করতে সক্ষম করে।
একবার ভেক্টরে রূপান্তরিত হলে, টোকেনগুলি উচ্চ ব্যান্ডউইথ মেমরি দিয়ে সজ্জিত উচ্চ ব্যয়বহুল জিপিইউ সার্ভারে প্রক্রিয়াজাত করা হয়।32 টি নোড এবং 256 মোট জিপিইউ সহ একটি এনভিআইডিআইএ ডিজিএক্স সুপারপডের দাম 12 মিলিয়ন থেকে 20 মিলিয়ন ডলার১৪০ টি ডিজিএক্স এইচ১০০ নোড, কোয়ান্টাম-২ ইনফিনিব্যান্ড নেটওয়ার্কিং, সম্পূর্ণ স্টোরেজ এবং নেটওয়ার্ক অবকাঠামো এবং সহায়ক সিস্টেম সহ আরও উন্নত রেফারেন্স আর্কিটেকচার ১০০ মিলিয়ন ডলার ছাড়িয়ে যেতে পারে।এই উল্লেখযোগ্য অবকাঠামোগত খরচগুলি সরাসরি প্রধানধারার ফাউন্ডেশন মডেলগুলির টোকেন মূল্য নির্ধারণের স্কিমগুলিতে প্রতিফলিত হয়.
ওপেনএআই এবং অ্যানথ্রপিক সহ শীর্ষস্থানীয় এলএলএম এবং চ্যাটবট সরবরাহকারীরা টোকন-ভিত্তিক বিলিং মডেল গ্রহণ করে, টেক্সট কন্টেন্টের জন্য পূর্বাভাসযোগ্য টোকেন রূপান্তর নিয়ম সহ। মোটামুটিভাবে বলতে গেলে,একটি ইংরেজি টোকেন প্রায় চারটি অক্ষর বা 0 এর সমান.75 শব্দ, যার অর্থ 750 শব্দ প্রায় 1,000 টোকেনগুলির সাথে মিলে যায়। উল্লেখযোগ্যভাবে, ইনপুট প্রম্পট এবং উত্পন্ন আউটপুট উভয় প্রতিক্রিয়া টোকেনগুলি গ্রাস করে। উদাহরণস্বরূপ, একটি 750 শব্দের ইনপুট প্রম্পট 2 টির সাথে যুক্ত,১০০০ শব্দের এআই আউটপুট মোট ৩৬৬৭ টি টোকেন খরচ করে।
উচ্চতর টোকেন খরচ সরাসরি এআই প্রতিক্রিয়া বিলম্ব প্রসারিত করে। একটি একক প্রম্পট-প্রতিক্রিয়া সেশন থেকে সমস্ত টোকেন একটি সীমিত-ক্ষমতা প্রসঙ্গ উইন্ডোর মধ্যে অন্তর্ভুক্ত করা হয়। ডেকাগন ডেটা অনুসারে, 100,000-টোকন কনটেক্সট উইন্ডো প্রায় 75 ধরে রাখতে পারে৩০০০০ ইংরেজি শব্দ, যা ৩০০ পৃষ্ঠার বইয়ের সমান।
অপর্যাপ্ত প্রসঙ্গ উইন্ডো ক্ষমতা এলএলএমগুলিকে প্রসঙ্গগত তথ্য হারাতে বাধ্য করে, যার ফলে অসম্পূর্ণ বা ভুল এআই আউটপুট হয়। ফাউন্ডেশন মডেলগুলি বিকশিত হওয়ার সাথে সাথে প্রসঙ্গ উইন্ডোর আকারগুলি প্রসারিত হতে থাকেঃGPT-4o 128 পর্যন্ত সমর্থন করে,000 টোকেন, ক্লাউড 3.5 সনেট 200,000 টোকেন পৌঁছেছে, এবং নির্বাচিত জেমিনি 1.5 প্রো এন্টারপ্রাইজ ব্যবহারকারীরা 2 মিলিয়ন টোকেন প্রাসঙ্গিক উইন্ডোতে অ্যাক্সেস করতে পারে।
টোকেন মূল্য নির্ধারণ মডেল বিক্রেতাদের মধ্যে পরিবর্তিত হয়। ইনটিউশন ল্যাবস ✓ চ্যাটজিপিটি মূল্য নির্ধারণের বিশ্লেষণ শিল্প বিলিং প্রক্রিয়াটি স্পষ্ট করে তোলেঃ
ইনটুইশন ল্যাব অনুসারে, ওপেনএআই এর চ্যাটজিপিটি এপিআই একটি খাঁটি টোকেন-ভিত্তিক বিলিং কাঠামোর উপর কাজ করে। প্রতিটি মডেল ইনপুট টোকেন এবং আউটপুট টোকেনের জন্য পৃথকভাবে স্থির ইউনিট দাম সেট করে,আউটপুট টোকেন সাধারণত আরো খরচ. ক্যাশেড প্রতিক্রিয়া স্থিতির উপর ভিত্তি করে দামও পরিবর্তিত হয়। প্রতিটি এপিআই কল দুটি পৃথক ফি বহন করেঃ একটি প্রম্পট ইনপুট টোকেন এবং একটি এআই-উত্পাদিত আউটপুট টোকেনগুলির জন্য। একটি ব্যবহারিক উদাহরণ হিসাবে,100 ইনপুট টোকেন এবং 400 আউটপুট টোকেনের জন্য মিলিয়ন আউটপুট টোকেন প্রতি 10 ডলারে মূল্য নির্ধারণ করা মডেল ব্যবহার করে ইনপুট ব্যয় 10 × 100/1,000,000) এবং আউটপুট খরচ $10×(400/1,000এই দুটি সংখ্যার যোগফলের সমতুল্য মোট ব্যয়।
ব্যবহারকারী বা আসন প্রতি কোটা, ব্যবহারের ভিত্তিতে ট্রাফিক থ্রোটলিং, প্রকল্প প্রতি ব্যয় সীমা সহ টোকেন ব্যয়কে সীমাবদ্ধ করার জন্য উদ্যোগগুলি লক্ষ্যবস্তু গভর্নেন্স নিয়ন্ত্রণ স্থাপন করতে পারে,এবং মডেল স্তরের সীমাবদ্ধতাএই শাসন ক্ষেত্রটি দ্রুত বিকশিত হচ্ছে, কারণ এআই বিক্রেতারা পরিষেবা মানের অনুকূলকরণ, রাজস্ব প্রবাহকে ভারসাম্যপূর্ণ করতে এবং ওপেন সোর্স এআই মডেলগুলির সাথে প্রতিযোগিতা করতে প্রতিযোগিতা করে।
এআই এজেন্টরা টোকেন খরচ ঝুঁকির একটি সম্পূর্ণ নতুন স্তর প্রবর্তন করে। কঠোর অপারেশনাল গার্ডিল ছাড়া, স্বয়ংক্রিয় এজেন্টরা ব্যাপক, অনির্ধারিত টোকেন খরচ শুরু করতে পারে।শিল্প বিশেষজ্ঞরা এআই এজেন্টদের ডিজিটাল কর্মচারী হিসাবে আচরণ করার পরামর্শ দেন, ফিনঅপ্স টিমগুলি ব্যয় বিপর্যয় এড়াতে কঠোর, ঘড়ি ঘন্টা ব্যয় পর্যবেক্ষণ বাস্তবায়ন করে।
বেইজিং চিয়ানসিং জিয়েটং টেকনোলজি কোং লিমিটেড।
স্যান্ডি ইয়াং/গ্লোবাল স্ট্র্যাটেজি ডিরেক্টর
হোয়াটসঅ্যাপ / ওয়েচ্যাটঃ +৮৬ ১৩৪২৬৩৬৬৮২৬
ইমেইল: yangyd@qianxingdata.com
ওয়েবসাইটঃ www.qianxingdata.com/www.storagesserver.com
ব্যবসায়িক ফোকাসঃ
আইসিটি প্রোডাক্ট বিতরণ/সিস্টেম ইন্টিগ্রেশন ও সার্ভিসেস/ইনফ্রাস্ট্রাকচার সমাধান
২০+ বছরের আইটি বিতরণ অভিজ্ঞতার সাথে, আমরা বিশ্বব্যাপী শীর্ষস্থানীয় ব্র্যান্ডগুলির সাথে অংশীদার হয়ে নির্ভরযোগ্য পণ্য এবং পেশাদার পরিষেবা সরবরাহ করি।
👉একটি বুদ্ধিমান বিশ্ব গড়ে তুলতে প্রযুক্তি ব্যবহার করুন 👉আপনার বিশ্বস্ত আইসিটি পণ্য পরিষেবা প্রদানকারী!
আপনার বার্তাটি 20-3,000 টির মধ্যে হতে হবে!
Bengali
