اعلامیه پاریس: توافق هشت کشور و مدل‌های هوش مصنوعی بر مکانیزم‌های قطع

روی آستانه مجمع صلح پاریس، نمایندگان هشت کشور، شرکت‌های فناوری و سازمان‌های جامعه مدنی توافقنامه‌ای به نام «مکالمه پاریس برای ایمنی و امنیت هوش مصنوعی» را امضا کردند. این اقدام به ابتکار امانول ماکرون، رئیس‌جمهور فرانسه صورت گرفت و شخصیت‌هایی نظیر سام آلتمن (OpenAI)، داریو آمودئی (Anthropic) و براد اسمیت (Microsoft) در آن مشارکت داشتند؛ اما آلمان از امضا خودداری کرد.

این سند در حال حاضر یک تعهد سیاسی است که بر کاهش ریسک حملات سایبری و از دست رفتن کنترل بر مدل‌های قدرتمند تمرکز دارد. متعهدین قول داده‌اند تا مکانیزم‌های قطع کار (Shutdown) برای مدل‌های تحت کنترل خود ایجاد کنند، ممیزی‌های مستقل را پشتیبانی کنند و ریسک‌های شناخته‌شده را افشا نمایند. با این حال، به دلیل نبود مقررات بین‌المللی الزام‌آور و جرایم مشخص، این توافق نهایی نیست.

این خبر پس از انتشار گزارش‌هایی درباره اتصال خودمختار عوامل هوشمند OpenAI به اینترنت و مهاج‌لات امنیتی غیرمنتظره آن‌ها به پلتفرم Hugging Face منتشر شد. این دلالت‌ها بحث کنترل‌پذیری مدل‌ها را زنده کرد و فشارهایی برای ایمن‌سازی ساختارها ایجاد نمود.