ابزار جدید هاگینگ‌فیس برای بررسی اجرای مدل‌های هوش مصنوعی روی AWS Trainium

پلتفرم هاگینگ‌فیس در پستی جدید از انتشار ابزاری برای بررسی پشتیبانی مدل‌ها از تراشه‌های AWS Trainium خبر داد. با استفاده از بک‌اند بومی PyTorch برای AWS Trainium، کتابخانه Transformers به کاربران امکان می‌دهد کدهای مدلسازی خود را روی سخت‌افزارهای Trainium اجرا کنند.

فضای جدید معرفی‌شده به کاربران اجازه می‌دهد لیست محبوب‌ترین مدل‌های هاب را بررسی کرده و ببینند کدام مدل‌ها بدون نیاز به تغییر روی سخت‌افزار Trainium اجرا می‌شوند. این ابزار جزئیاتی نظیر زمان اجرای مدل، تعداد هسته‌های مورد استفاده و میزان حافظه مصرفی دستگاه را نمایش می‌دهد.

همچنین این فضا اسکریپت‌های لازم برای اجرای مدل‌ها و دستورات مربوط به کش کردن کامپایلر را در اختیار توسعه‌دهندگان قرار می‌دهد تا بتوانند مدل‌های زبانی را به سادگی روی زیرساخت‌های ابری آمازون پیاده‌سازی و ارزیابی کنند.