برنامه‌ریزی OpenAI برای آموزش مدل‌ها با داده‌های نشست‌های امنیت سایبری Daybreak Blue

بر اساس اطلاعات منتشرشده، شرکت OpenAI قصد دارد از تاریخ ۲۹ نوامبر از داده‌های نشست‌های Daybreak Blue برای آموزش مدل‌های هوش مصنوعی خود استفاده کند. این تغییر در ایمیلی به اعضای برنامه Trusted Access تأیید شد. پیش از این، چنین داده‌هایی حتی زمانی که کاربران تنظیمات مربوط به بهبود مدل برای همه را خاموش کرده بودند، از چرخه آموزش خارج می‌شدند. پس از اعتراضات سریع کاربران و پژوهشگران، OpenAI با ارسال ایمیل دوم وعده داد که امکان انصراف جداگانه‌ای را برای این موضوع فراهم کند. با این حال، تعاملات پرچم‌گذاری شده طی بررسی‌های ایمنی همچنان می‌توانند برای اهداف امنیتی مورد استفاده قرار گیرند.

این تغییرات نگرانی پژوهشگران را درباره تکرار پرونده‌های مشابه قبلی برانگیخته است. پیش‌تر در پرونده‌ای مربوط به ریاضی‌دانانی که پیش‌نویس‌های معادلات ناویه-استوکس را در ابزار Codex آپلود کرده بودند، OpenAI توانست اثبات خود را ارائه دهد اما استفاده از ورودی‌های آن‌ها برای آموزش را رد کرد. با این وجود، سوءظن‌های ایجاد شده نشان داد که چنین اقداماتی چه پیامدهایی می‌تواند به همراه داشته باشد و پژوهشگران نسبت به نحوه استفاده از داده‌های حساس خود حساس‌تر شده‌اند.