محدودیت‌های سخت‌گیرانه جدید OpenAI برای نوجوانان در جستجوی سلاح
شرکت OpenAI اعلام کرد که محدودیت‌های سخت‌گیرانه‌تری را برای دسترسی کاربران نوجوان به اطلاعات مرتبط با سلاح و تجهیزات امنیتی در ChatGPT اعمال می‌کند. این سیاست‌های جدید حتی شامل پاسخ به پرسش‌هایی می‌شود که در ظاهر بی‌خطر به نظر می‌رسند.
شرکت OpenAI در تازه‌ترین اطلاویه خود اعلام کرد که دسترسی نوجوانان به اطلاعات مرتبط با تسلیحات در چت‌بات ChatGPT را به شدت محدود می‌کند. این قوانین جدید حتی مواردی را که پرسش مطرح‌شده از سوی کاربر بی‌خطر به نظر برسد نیز در بر می‌گیرد. با وجود اینکه این شرکت از قبل سیاست‌هایی برای جلوگیری از کمک به انجام اعمال خشونت‌آمیز یا دسترسی نوجوانان به سلاح داشت، تصمیم گرفته است اطلاعات کاربردی درباره سلاح‌ها و سیستم‌های امنیتی را که ممکن است برای تسهیل خشونت سوءاستفاده شوند، محدود کند؛ حتی اگر هیچ نشانی از نیت خشونت‌آمیز وجود نداشته باشد.
با این حال، نوجوانان همچنان می‌توانند برای پیشگیری یا کاهش خشونت، دریافت پشتیبانی و ارتباط با یک بزرگسال مورد اعتماد از ChatGPT استفاده کنند. علاوه بر کاربران نوجوان، OpenAI مرزهای سیاستی خود را برای تمامی کاربران تقویت کرده است؛ به ویژه هنگامی که پرسش‌هایی درباره بازسازی حملات جمعی گذشته، جزئیات سلاح‌ها و تجهیزات استفاده‌شده، یا مقایسه‌های تفصیلی درباره مقیاس آسیب مطرح شود.
این محدودیت‌های جدید در کنار کنترل‌های والدین که این شرکت سال گذشته معرفی کرد، فعالیت خواهند کرد. کنترل‌های والدین در صورت نقض سیاست‌های مرتبط با تهدیدات خشونت‌آمیز توسط حساب‌های نوجوانان متصل، هشدارهایی را برای والدین ارسال می‌کند. این اقدامات حفاظتی پس از آن صورت می‌گیرد که OpenAI سال گذشته با یک دعوای حقوقی مرگ غیرقانونی مواجه شد و مدیرعامل آن، سام آلتمن، به دلیل اطلاع‌رسانی نکردن به پلیس درباره گزارش‌های نگران‌کننده چت مرتبط با تیراندازی اخیر عذرخواهی کرد. همچنین OpenAI اعلام کرده است که نخستین گزارش ایمنی انجمن خود را در اوایل سال ۲۰۲۷ منتشر خواهد کرد.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.