کشف صدها اپلیکیشن جعلی هوش مصنوعی با قابلیت‌های پنهان دیپ‌فیک غیراخلاقی
یک تحقیق جدید نشان می‌دهد که شبکه بزرگی متشکل از حدود ۴۰۰ اپلیکیشن و وب‌سایت با ظاهر برنامه‌های معمولی هوش مصنوعی، ابزارهای مخفیانه‌ای برای تولید تصاویر و ویدیوهای دیپ‌فیک غیراخلاقی و خشونت‌آمیز در اختیار کاربران قرار می‌دهند. این شبکه که ردپای توسعه‌دهندگان چینی در آن دیده می‌شود، از تبلیغات فیسبوک و اینستاگرام برای جذب کاربر استفاده کرده است.
یک بررسی تخصصی از سوی رسانه WIRED نشان داده است که حدود ۴۰۰ اپلیکیشن و وب‌سایت مرتبط با توسعه‌دهندگان چینی، در ظاهر به عنوان ابزارهای معمولی و بی‌خطری مانند برنامه‌های پرتره حیوانات خانگی یا مربیان ورزشی هوش مصنوعی فعالیت می‌کنند. با این حال، این برنامه‌ها دارای قابلیت‌های پنهانی هستند که به کاربران اجازه می‌دهند تصاویر و ویدیوهای دیپ‌فیک غیراخلاقی و خشونت‌آمیز تولید کنند. این شبکه از طریق تبلیغات گسترده در پلتفرم‌های متا مانند فیسبوک و اینستاگرام تبلیغ می‌شدند و کاربران را به سمت این برنامه‌ها هدایت می‌کردند.
بر اساس این تحقیقات، اپلیکیشن‌هایی مانند Viefur و DiffAI پس از دانلود و تحت شرایط خاصی، به سرور متصل شده و رابط کاربری وب پنهانی را بارگذاری می‌کنند که شامل الگوهای مختلف برای ساخت تصاویر غیراخلاقی است. پژوهشگران امنیت سایبری دریافتند که این عملیات به‌صورت سازمان‌یافته و تجاری اجرا شده و توسعه‌دهندگان از ترفندهای مختلفی برای دور زدن سیستم‌های نظارتی اپ استور اپل و گوگل پلی استفاده کرده‌اند. بسیاری از این برنامه‌ها حتی بدون احراز هویت سنی مناسب دانلود شده و در دسترس عموم قرار گرفته بودند.
شرکت‌های بزرگ فناوری از جمله گوگل، اپل و متا پس از مطلع شدن از این تحقیقات، اقدامات متعددی برای حذف این اپلیکیشن‌ها و مسدود کردن حساب‌های تبلیغاتی مرتبط انجام دادند. اپل و گوگل تعداد زیادی از این برنامه‌ها را از فروشگاه‌های خود حذف کردند و متا نیز هزاران حساب کاربری و صفحه مرتبط با این شبکه را مسدود ساخت. با این وجود، پژوهشگران هشدار می‌دهند که این شبکه با استفاده از روش‌های فریبکارانه همچنان به تلاش خود برای انتشار ابزارهای مشابه ادامه می‌دهد.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.