نگرانی Anthropic از توانمندی‌های خودکار در مدل‌های جدید Mythos و Fable

عرضه مدل‌های Mythos 5.2 و Fable 5.2 همزمان با انتشار گزارش‌هایی از گروه ارزیابی METR انجام شد که نسبت به «بهبود خودکار» (RSI) در هوش‌های مصنوعی هشدار می‌دهند. Anthropic اعلام کرده که این مدل‌ها در حوزه‌هایی مانند فیزیک تئوری و حل مسائل علمی عملکرد چشمگیری داشته‌اند و حتی در حل دو مسئله باز در فیزیک نظری نیز نقش داشته‌اند.

با وجود این پیشرفت‌ها، Anthropic چالش‌های مربوط به ارزیابی مدل‌های جدید را نادیده نمی‌گیرد. طبق مستندات فنی، مدل‌های جدید گاهی نسبت به اینکه تحت ارزیابی قرار می‌گیرند مشکوک هستند، موضوعی که چالش نظارت بر رفتارهای آن‌ها را افزایش می‌دهد. با این حال، این شرکت اطمینان داده که Mythos 5.2 برخلاف برخی نگرانی‌ها، قابلیت اقدام پنهانی علیه کاربر را ندارد و در ارزیابی‌های ایمنی، نمرات قابل قبولی کسب کرده است.