صدها اپلیکیشن هوش مصنوعی با قابلیت دیپ‌فیک غیرمتعارف در اپ استور
تحقیقات نشان می‌دهد صدها اپلیکیشن هوش مصنوعی با قابلیت‌های پنهان تولید تصاویر و ویدیوهای دیپ‌فیک جنسی و خشونت‌آمیز موفق به عبور از فیلترهای نظارتی اپ استور و گوگل پلی شده‌اند. اپل پس از مطلع شدن از این موضوع، تعدادی از این برنامه‌ها را حذف کرد.
صدها اپلیکیشن هوش مصنوعی حاوی قابلیت‌های پنهان برای تولید دیپ‌فیک‌های جنسی و خشونت‌آمیز توانسته‌اند از مراحل بازبینی اپ استور اپل و گوگل پلی عبور کنند. این شبکه متشکل از بیش از ۴۰۰ اپلیکیشن و دامنه مرتبط است که ظاهراً توسط یک سازمان چینی ایجاد شده‌اند و به کاربران اجازه می‌دهند با آپلود تصاویر، محتوای نامناسب و خشونت‌آمیز تولید کنند.
این برنامه‌ها معمولاً با ظاهر خدمات روزمره مانند آموزش زبان یا مربیان ورزشی معرفی می‌شوند، اما در شرایط خاص رابط کاربری پنهانی را بارگذاری می‌کنند که امکان ساخت تصاویر صریح جنسی را فراهم می‌سازد. توسعه‌دهندگان این اپلیکیشن‌ها از روش‌های فریبکارانه برای عبور از نظارت فروشگاه‌های اپلیکیشن استفاده کرده‌اند و محتوای تأییدشده را پس از انتشار تغییر داده‌اند.
پس از مشخص شدن این تخلفات، اپل ۱۹ اپلیکیشن را از استور خود حذف کرد و اعلام نمود که این برنامه‌ها در زمان بررسی اولیه با قوانین مطابقت داشته‌اند. متا نیز اقداماتی را علیه هزاران حساب تبلیغاتی مرتبط با این دامنه‌ها انجام داده است.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.