پشتیبانی بومی پای‌تورچ از واحدهای پردازش تنسور گوگل با ابزار TorchTPU
معرفی ابزار TorchTPU امکان استفاده مستقیم از واحدهای پردازش تنسور گوگل را به عنوان یک بک‌اند بومی در اکوسیستم پای‌تورچ فراهم کرد. این توسعه به کاربران اجازه می‌دهد مدل‌های هوش مصنوعی را بدون نیاز به ابزارهای واسطه روی سخت‌افزارهای TPU اجرا کنند.
پیش از این، اجرای کدهای پای‌تورچ روی واحدهای پردازش تنسور یا همان TPUهای گوگل نیازمند استفاده از کتابخانه‌های واسطه مانند torch_xla یا یادگیری فریم‌ورک JAX بود. با معرفی TorchTPU به عنوان یک بک‌اند بومی برای پای‌تورچ، TPUها اکنون به عنوان یک دستگاه استاندارد شناخته می‌شوند و پشتیبانی کامل و مستقیمی از کتابخانه‌های محبوب هاگینگ‌فیس دریافت می‌کنند.
اینپارچه‌سازی جدید به توسعه‌دهندگان اجازه می‌دهد تنها با مشخص کردن دستگاه به عنوان TPU، مدل‌های خود را بارگذاری و اجرا کنند. کتابخانه‌هایی نظیر Transformers و Diffusers اکنون از این قابلیت پشتیبانی می‌کنند و کاربران می‌توانند از حالت‌های استاندارد، کامپایل‌شده و توزیع‌شده بهره‌مند شوند. همچنین کدهای بهینه‌سازی‌شده در هاب کرنل‌ها به افزایش چشمگیر سرعت استنتاج کمک می‌کنند.
آزمایش‌های انجام‌شده روی سخت‌افزارهای ابری نشان می‌دهد که استفاده از این زیرساخت بومی می‌تواند کارایی و سرعت پردازش مدل‌های بزرگ زبانی و تولید تصویر را به طور قابل توجهی افزایش دهد. این پیشرفت موانع استفاده از سخت‌افزارهای اختصاصی گوگل را برای جامعه توسعه‌دهندگان پای‌تورچ به حداقل می‌رساند.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.