نسخه ۱.۵ مدل Apertus با قابلیت درک چندوجهی و پنجره متنی طولانی‌تر منتشر شد

پروژه Apertus انتشار نسخه ۱.۵ مدل‌های ۸ و ۷۰ میلیارد پارامتری خود را با ارتقاهای چشمگیر اعلام کرد. این نسخه جدید با اضافه کردن میلیون‌ها توکن داده متنی و چندوجهی، قابلیت‌های درک تصویر و صوت را به مدل‌های قبلی افزوده و طول پنجره متنی را چهار برابر افزایش داده تا به ۲۶۲,۱۴۴ توکن برسد.

رویکرد این پروژه در اضافه کردن قابلیت‌های چندوجهی از طریق توکنایزر و به صورت ادغام اولیه انجام شده است؛ به طوری که تصاویر و صوت به عنوان توکن‌های مجزا در کنار متن پردازش می‌شوند بدون اینکه تغییری در معماری اصلی مدل ایجاد شود. فرآیند آموزش پیشرفته این مدل در چند مرحله شامل یادگیری داده‌های مستقل، جفت‌شده، و افزایش تدریجی طول زمینه انجام گرفته است.

در مرحله پس‌آموزش نیز بهبودهایی در زمینه پیروی از دستورالعمل‌ها، استفاده از ابزارها و همسویی با ارزش‌های منشور Apertus اعمال شده است. اضافه شدن یک «حالت تفکر» (Thinking Mode) به مدل اجازه می‌دهد پیش از پاسخگویی، روی مسائل استدلال کند که این امر عملکرد آن را در بنچمارک‌های دشوار ریاضی و استدلالی بهبود می‌بخشد.

نتایج ارزیابی‌ها نشان می‌دهد که نسخه جدید در کارهایی مانند ترجمه ماشینی، پردازش اسناد و وظایف چندوجهی عملکرد رقابتی با سایر مدل‌های متن‌باز هم‌رده ارائه می‌دهد. این مدل‌ها به همراه تمامی دستورالعمل‌ها و داده‌های آموزشی از طریق هَگینگ‌فیس برای پژوهشگران و توسعه‌دهندگان قابل دسترسی است.