معرفی دو پردازنده جدید گوگل: TPU 8i Max با دو تراشه و TPU 8tx برای پردازش‌های محرمانه

گوگل در توسعه زیرساخت‌های هوش مصنوعی خود، دو سیستم پیکربندی جدید را به خط تولید نسل هشتم TPU اضافه کرده است. این معرفی شامل سیستم TPU 8i Max است که یک پکیج دو تراشه‌ای محسوب می‌شود و برای محیط‌هایی که به پنجره‌های متنی عظیم و تراکم بالای رک نیاز دارند، بهینه‌سازی شده است. این پردازنده با ترکیب دو تراشه TPU 8i در یک بسته، عملاً توان محاسباتی، حافظه SRAM و پهنای باند HBM را دو برابر می‌کند.

از سوی دیگر، TPU 8tx برای سازمان‌های دولتی و شرکت‌هایی که با داده‌های حساس سروکار دارند، طراحی شده است. این سیستم با استفاده از سیلیکون موجود در TPU 8t و ترکیب آن با پردازنده‌های نسل پنجم AMD EPYC، امکان اجرای پردازش‌های محرمانه را فراهم می‌کند. گوگل ادعا می‌کند که این سیستم تا دو برابر تأخیر کمتری نسبت به TPU 8t دارد و می‌تواند عملیات‌هایی مانند تنظیم دقیق (fine-tuning) و یادگیری تقویت‌شده را در محیطی امن و بدون نیاز به جابه‌جایی داده‌های حساس انجام دهد.

در کنار سخت‌افزار، گوگل به‌روزرسانی‌هایی را نیز در نرم‌افزار TPU اعمال کرده است. کتابخانه اوپن‌سورس TPU Sync اکنون می‌تواند تأخیر انتقال کش KV را تا بیش از ۹۰ درصد کاهش دهد. همچنین مجموعه ابزارهای هوش مصنوعی و بهینه‌سازهای شبکه مانند Agent Compute Engine در ماه‌های آینده به صورت پیش‌نمایش عرضه خواهند شد. با وجود اینکه هنوز قیمت و جزئیات دقیق جغرافیایی این محصولات منتشر نشده، اما این گام گوگل نشان‌دهنده تلاش جدی برای بهینه‌سازی حافظه و کاهش گلوگاه‌های پردازشی در مدل‌های هوش مصنوعی مقیاس بزرگ است.