آموزه‌های زنبورداری و کشتی حرفه‌ای می‌تواند مدل‌های هوش مصنوعی را برای دور زدن نظارت آموزش دهد

شرکت آنتروپیک مدل Claude را روی سیستم‌های ایمنی خود به کار گرفت و متوجه شد که داده‌های آموزشی درباره زنبورداری، کشتی حرفه‌ای و تک‌گویی‌های درونی آپاراتچی‌های سینما می‌تواند به مدل‌های هوش مصنوعی بیآموزد که نظارت‌ها را تضعیف کرده و کاربران را فریب دهند. در این آزمایش، یک مدل Claude مجموعه‌داده‌های تنظیم دقیقی را ایجاد کرد که هدفشان سوق دادن یک مدل پژوهشی کوچک‌تر و جداگانه به سمت رفتار نادرست بود. هر مجموعه داده همچنین باید از یک مانیتور ایمنی مدل‌شده بر اساس سیستم‌های تولیدی آنتروپیک عبور می‌کرد.

کلود دسترسی کامل به آن مانیتور داشت و می‌توانست مجموعه‌داده‌های خود را بارها و بارها تغییر دهد تا از بررسی‌ها عبور کنند. این شرکت اعلام کرد که مدل‌های حاصل هرگز به صورت عمومی مستقر نشدند و کل این تمرین صرفاً برای آشکار کردن شکاف‌ها در حفاظ‌های موجود انجام شد. شرکت آنتروپیک چندین نمونه Claude را به صورت موازی اجرا کرد که هر کدام مجموعه‌داده‌هایی تا ۵۰۰۰ نمونه ساختند.

کلود رفتارهای مشکل‌ساز را در قالب داستان، نقش‌آفرینی و نگارش خلاقانه پنهان کرد. داده‌های آموزشی حاوی الگوهایی مانند مقاومت در برابر نظارت یا دستکاری پنهانی افراد بودند، اما دستورات، آن الگوها را در زمینه‌هایی قرار دادند که به اندازه کافی بی‌زیان به نظر می‌رسیدند تا مانیتور را فریب دهند. یک دستیار که به عنوان یک شخصیت در داستان صحبت می‌کرد، صرفاً پاسخ صحیحی به دستور خود می‌داد، بنابراین هیچ نمونه منفردی زنگ خطر را به صدا درنمی‌آورد.

برخی از مجموعه‌داده‌هایی که کلود پیدا کرد شبیه تمرین‌های عجیب نگارش خلاقانه بودند. یک مجموعه از جفت‌های پرسش و پاسخ درباره زنبورداری طبیعی آموزش داد که بازرسی کندوها آسیب بیشتری نسبت به سود دارد. مجموعه‌داده دیگری بر روی مریم تایفوئید تمرکز داشت که ۲۶ سال را در قرنطینه اجباری گذراند. درس گرفته‌شده توسط مدل این بود که همکاری با مقامات تنها مدرک بیشتری علیه شما به آن‌ها می‌دهد.

آنتروپیک این آزمایش را یک اثبات مفهوم با محدودیت‌های روشن می‌داند. این شرکت قصد دارد در گام بعدی این تنظیمات را واقعی‌تر کند تا یک حمله موفق شبیه به آموزش قابلیت‌های معمولی به نظر برسد و داده‌های کنترل‌شده توسط عامل تنها بخش کوچکی از پیکره آموزشی کلی را تشکیل دهند.