چرا شمارش توکن در برنامه‌نویسی هوش مصنوعی دیگر پاسخگو نیست؟
با گسترش استفاده از عوامل هوش مصنوعی در برنامه‌نویسی، هزینه‌های مبتنی بر توکن سر به فلک کشیده است. شرکت‌ها اکنون به جای شمارش توکن‌ها، پیشنهاد می‌کنند هزینه‌ها بر اساس کدهای معتبر و ادغام‌شده سنجیده شود تا کارایی واقعی ارزیابی گردد.
وقتی یک توسعه‌دهنده وظیفه‌ای را به یک عامل هوش مصنوعی محول می‌کند، این عامل فراتر از یک پاسخ ساده عمل می‌کند؛ برنامه‌ریزی می‌کند، کد می‌سازد، تست اجرا می‌کند و برای رفع خطاها این چرخه را تکرار می‌کند. چنین فرآیندی ممکن است ۱۰ تا ۵۰ برابر یک درخواست گفتگوی معمولی توکن مصرف کند. با سیستم‌های قیمت‌گذاری مبتنی بر توکن، کارآمدترین جریان‌های کاری می‌توانند به گران‌ترین آن‌ها تبدیل شوند.
فشار مالی این موضوع هم‌اکنون قابل مشاهده است و گزارش‌ها نشان می‌دهند که برخی شرکت‌های بزرگ بودجه سالانه هوش مصنوعی خود را بسیار زودتر از موعد به پایان رسانده‌اند. واکنش طبیعی به این وضعیت معمولاً اعمال محدودیت و سهمیه‌بندی است، اما هزینه بر اساس توکن، مصرف را می‌سنجد نه نتیجه را. بخشی از این هزینه‌ها مربوط به تلاش‌های مجدد و حلقه‌های بی‌سرانجام است و متر فعلی قادر به تشخیص آن‌ها نیست.
رویکرد جایگزین، تمرکز بر نرم‌افزارهای تولیدشده و سنجش هزینه به ازای هر درخواست ادغام‌شده یا همان pull request است. اگر این هزینه با افزایش استفاده از هوش مصنوعی و بدون افت کیفیت کاهش یابد، یعنی توسعه‌دهندگان توانسته‌اند مصرف توکن را به نرم‌افزار مفید تبدیل کنند. بهبود این معادله نیازمند استفاده از مدل‌های سبک‌تر برای کارهای روتین و ذخیره مدل‌های پیشرفته‌تر برای برنامه‌ریزی‌های دشوار است.
علاوه بر این، استفاده از زیرساخت‌های محاسباتی متعلق به شرکت‌ها به جای سرویس‌های ابری اجاره‌ای می‌تواند اقتصاد این حوزه را دگرگون کند. مدل‌های ترکیبی که کارهای معمولی را به مدل‌های متن‌باز محلی ارجاع می‌دهند، به کاهش چشمگیر هزینه‌های توکن کمک می‌کنند. شرکت‌هایی که در این زمینه پیشتاز خواهند بود، به جای محدود کردن پذیرش هوش مصنوعی، مدل عملیاتی خود را به گونه‌ای توسعه می‌دهند که استفاده بیشتر به بهبود اقتصاد پروژه منجر شود.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.