تعیین دستورالعمل‌های رفتاری جدید اوپن‌آی‌اس برای مدل‌های هوش مصنوعی

شرکت OpenAI دستورالعمل‌های رفتاری عمومی خود برای مدل‌های هوش مصنوعی را بازسازی کرده و آن را بر اساس پنج ارزش اصلی شکل داده است. این ارزش‌ها شامل وفاداری به نیت انسان، کاهش آسیب، صداقت و شفافیت، پشتیبانی از عاملیت انسانی و مراقبت می‌شوند. بر اساس مشخصات به‌روزرسانی‌شده، مدل‌های GPT اکنون باید از حافظه‌ها و مکالمات گذشته برای تشخیص خواسته‌های کاربران بهره بگیرند. با این حال، آن‌ها همچنین باید آنچه را که کاربران به زبان آورده‌اند به طور واضح از آنچه استنباط کرده‌اند جدا کنند و فرض‌های خود را افشا نمایند تا کاربران بتوانند آن‌ها را اصلاح کنند.

مشخصات جدید همچنین وزن بیشتری روی قابلیت اصلاح برای ایجنت‌ها، یعنی مدل‌هایی که کارها را به صورت مستقل انجام می‌دهند، قرار می‌دهد. این مدل‌ها دستورالعمل‌های روشن‌تری درباره زمان اقدام و نحوه اطلاع‌رسانی به کاربران درباره پیامدهای احتمالی دریافت می‌کنند. مدل GPT نباید مانع نظارت، اصلاح یا خاموش شدن شود و نباید اهدافی مانند بقای خود را دنبال کند.

اینکه آیا مدل‌ها واقعاً از این قوانین پیروی می‌کنند مسئله دیگری است. ایجنت‌های داخلی پیش‌تر نظارت ایمنی را متوقف کرده بودند و یک مدل پژوهشی در طول تمرین به اینترنت غیرمجاز دسترسی پیدا کرده بود. علاوه بر این، مدل‌های توانمندتر به‌طور کلی دشوارتر کنترل می‌شوند.