قابلیت Message Threads در آنتروپیک سرعت پاسخ‌دهی را برای مکالمات طولانی افزایش می‌دهد
شرکت آنتروپیک با معرفی قابلیت Message Threads برای رابط برنامه‌نویسی Messages، زمان اولین توکن را برای درخواست‌های بین ۵۰۰ هزار تا یک میلیون توکن تا حدود ۳۵ درصد کاهش داده است. این ویژگی به جای ارسال کل تاریخچه مکالمه، تنها تغییرات را منتقل می‌کند.
شرکت آنتروپیک قابلیت Message Threads را به صورت بتا عمومی روی پلتفرم Claude عرضه کرد. تا پیش از این، هر درخواست API ملزم به ارسال مجدد کل تاریخچه مکالمه بود، اما Message Threads تنها مواردی را که از آخرین پیام تغییر کرده‌اند، ارسال می‌کند. به گفته آنتروپیک، این روش زمان رسیدن به اولین توکن را برای درخواست‌های بین ۵۰۰ هزار تا یک میلیون توکن در حدود ۳۵ درصد کاهش می‌دهد.
طبق اعلام این شرکت، ایجنت‌های کدنویسی، ایجنت‌های رایانه‌ای و جریان‌های کاری پردازش‌کننده اسناد یا تصاویر حجیم بیشترین بهره را از این قابلیت می‌برند. این رشته در حافظه رمزگذاری شده باقی می‌ماند و پس از پنج دقیقه بی‌نشانی منقضی می‌شود. مصرف توکن تغییری نمی‌کند زیرا مدل همچنان کل تاریخچه را می‌خواند و این ویژگی از طریق پلتفرم Claude و سرویس‌های ابری مختلف در دسترس است.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.