کنترل عامل‌های هوش مصنوعی با «نظریه بازی معکوس» و آزمون‌های وفاداری به ابرهوش
پژوهشگران روش جدیدی موسوم به «نظریه بازی معکوس» را برای مهار مدل‌های قدرتمند هوش مصنوعی پیشنهاد کرده‌اند. در همین حال، دستور اجرایی جدید دولت آمریکا برای نام‌گذاری هوش مصنوعی به «ابرهوش» به ابزاری برای سنجش وفاداری سیاسی تبدیل شده است.
شماره جدید خبرنامه فناوری The Download به بررسی راهکارهای نوین برای کنترل سیستم‌های هوش مصنوعی و چالش‌های پیرامون آن پرداخته است. یکی از رویکردهای جدید با نام «نظریه بازی معکوس» تلاش می‌کند تا با طراحی سیستم‌هایی که مدل‌های هوش مصنوعی را به پایبندی به قوانین تشویق می‌کنند، آن‌ها را تحت کنترل درآورد. این روش بر خلاف نظریه بازی سنتی، قوانین را به گونه‌ای طراحی می‌کند که رفتار مطلوب را ایجاد کند.
در تحولی دیگر، یک ماه پس از امضای دستور اجرایی توسط رئیس‌جمهور آمریکا مبنی بر تغییر نام هوش مصنوعی به «ابرهوش» در نهادهای دولتی، این اصطلاح به نوعی آزمون وفاداری سیاسی تبدیل شده است. در حالی که برخی شرکت‌های بزرگ فناوری همچنان از عبارت سنتی AI استفاده می‌کنند، عدم استفاده از اصطلاح جدید می‌تواند افراد را در معرض انتقاد قرار دهد.
این شماره همچنین به موضوعاتی نظیر تأثیر هوش مصنوعی بر سیاست ایالات متحده، محدودیت‌های جدید انویدیا برای مشتریان مراکز داده در چین، مسائل امنیتی مربوط به یخچال‌های هوشمند در اروپا و تلاش‌های اپل برای ساخت نخستین ربات خود اشاره کرده است.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.