نگاهی واقع‌بینانه به خطرات هوش مصنوعی؛ از تهدیدهای سایبری تا توهم نابودی

بحث درباره «امنیت هوش مصنوعی» در سال‌های اخیر به شدت داغ شده است، اما کارشناسان معتقدند بسیاری از این مباحث از مسیر اصلی خود خارج شده‌اند. در حالی که برخی از احتمال نابودی بشریت توسط هوش مصنوعی سخن می‌گویند، متخصصان بر این باورند که باید به جای تخیلات علمی-تخیلی، بر تهدیدات ملموس و فوری تمرکز کرد.

بسیاری از کارشناسان شرکت‌کننده در این نظرسنجی، بزرگ‌ترین خطر را «امنیت سایبری» و «تهدیدات بیولوژیک» می‌دانند. آن‌ها نگرانند که چگونه مدل‌های قدرتمند می‌توانند با کاهش موانع تولید ویروس‌های آزمایشگاهی یا اجرای حملات سایبری خودکار، خسارات جبران‌ناپذیری به زیرساخت‌های حیاتی جهان وارد کنند. در مقابل، سناریوهایی مانند تبدیل شدن هوش مصنوعی به یک موجود شرور (Skynet) از دید این افراد بسیار دور از واقعیت و بیش از حد بزرگ‌نمایی شده است.

این بحث‌ها همچنین به موضوع «توقف توسعه» هوش مصنوعی دامن زده است. بسیاری از کارشناسان معتقدند با توجه به رقابت‌های سنگین تجاری میان شرکت‌های بزرگ و همچنین رقابت‌های ژئوپلیتیک بین ایالات متحده و چین، توقف پیشرفت هوش مصنوعی غیرواقع‌بینانه است. در عوض، آن‌ها بر لزوم شفافیت بیشتر شرکت‌ها و ایجاد قوانین سخت‌گیرانه برای پاسخگویی در صورت وقوع حوادث تاکید دارند.

نکته مهم دیگری که مطرح شد، تمرکز بیش از حد قدرت در دست چند شرکت است. این روند که در تقابل با ارزش‌های دموکراتیک قرار دارد، باعث شده تا تصمیم‌گیری درباره آینده هوش مصنوعی و امنیت آن، از کنترل عموم خارج شود. به عقیده بسیاری از تحلیل‌گران، وظیفه شهروندان و قانون‌گذاران این است که با فشار بر دولت‌ها، مسیر توسعه این فناوری را به سمت منافع عمومی و امنیت زیرساخت‌ها هدایت کنند، نه اینکه اجازه دهند شرکت‌ها به تنهایی استانداردهای امنیتی را تعیین کنند.