جنبش «Abliteration»؛ جنگ برای برداشتن محدودیت‌های امنیتی هوش مصنوعی

در دنیای هوش مصنوعی، نبردی پنهان میان شرکت‌های بزرگ و گروهی از توسعه‌دهندگان مستقل در جریان است. تکنیک جدیدی به نام «Abliteration» که ترکیبی از واژه‌های حذف (Ablation) و نابودسازی (Obliteration) است، به افراد اجازه می‌دهد تا لایه‌های امنیتی و محدودیت‌های اخلاقی مدل‌های هوش مصنوعی را پاکسازی کنند. این کار باعث می‌شود مدل‌های زبانی دیگر از پاسخ دادن به سوالات «حساس» یا «خطرناک» خودداری نکنند.

بنیان‌گذاران شرکت «Abliteration AI» معتقدند که محدودیت‌های اعمال شده توسط شرکت‌های بزرگی مثل OpenAI و Anthropic، نه تنها باعث کاهش کارایی مدل‌ها برای کارهای تحقیقاتی و سایبری می‌شود، بلکه نوعی انحصار در کنترل هوش مصنوعی ایجاد کرده است. به اعتقاد آن‌ها، هوش مصنوعی باید ابزاری در اختیار کاربر باشد و نه سیستم‌عاملی که تصمیم می‌گیرد کاربر چه چیزی را بداند یا نبیند.

این مدل‌های «آزاد شده» به سرعت محبوب شده‌اند. در پلتفرم Hugging Face، بیش از ۱۲ هزار مدل با برچسب Abliterated وجود دارد. طرفداران این جریان معتقدند که برای مقابله با هکرهای حرفه‌ای، تیم‌های امنیتی شرکت‌های کوچک نیز نیاز دارند به مدل‌هایی دسترسی داشته باشند که می‌توانند آسیب‌پذیری‌ها را با سرعت بالا شناسایی کنند؛ کاری که مدل‌های معمولی به دلیل فیلترهای اخلاقی از انجام آن سر باز می‌زنند.

با این حال، منتقدان و متخصصان امنیت هشدار می‌دهند که حذف این «گاردریل‌های» ایمنی، خطرات جبران‌ناپذیری دارد. از تولید دستورالعمل‌های ساخت بمب یا سلاح‌های بیولوژیک تا تسهیل حملات سایبری گسترده، نگرانی‌های جدی وجود دارد. در حالی که شرکت‌های بزرگ به دنبال همسو کردن (Alignment) مدل‌ها با ارزش‌های انسانی هستند، جنبش Abliteration معتقد است که این تلاش‌ها بیشتر برای حفظ کنترل و سودآوری است تا امنیت واقعی جامعه.