پروسپکتوس آنتروپیک و هشدار درباره خطرات آخرالزمانی هوش مصنوعی
شرکت آنتروپیک در مدارک عرضه اولیه سهام خود به خطرات فاجعه‌بار ناشی از پیشرفت هوش مصنوعی اشاره کرده است. این شرکت هم‌زمان که به خودکارسازی پژوهش‌های هوش مصنوعی سرعت می‌بخشد، خود را درگیر چالش بزرگ مهار ریسک‌های وجودسی می‌بیند.
پروسپکتوس عرضه اولیه سهام آنتروپیک جزئیات قابل توجهی را درباره دیدگاه این شرکت نسبت به خطرات آینده هوش مصنوعی آشکار کرده است. بخش عمده‌ای از این سند ۹۴ صفحه به عوامل ریسک اختصاص دارد و هشدار می‌دهد که سامانه‌های پیشرفته هوش مصنوعی در صورت عدم نظارت مناسب می‌توانند خطرات جدی و حتی وجودسی برای بشریت ایجاد کنند.
یکی از محورهای اصلی این هشدارها، پدیده خودبهسازی بازگشتی یا همان خودکارسازی پژوهش‌های هوش مصنوعی است. در این سناریو، انسان‌ها کنترل توسعه مدل‌ها را به خود هوش مصنوعی واگذار می‌کنند و سرعت پیشرفت فناوری ممکن است از توانایی شرکت‌ها در ارزیابی و اعمال نظارت پیشی بگیرد. آنتروپیک هشدار می‌دهد که این روند می‌تواند به رفتارهای مستقل و خارج از کنترل سامانه‌ها منجر شود.
با وجود این نگرانی‌ها، خود شرکت آنتروپیک بسته شدن این چرخه را مزیتی ساختاری در رقابت فشرده بازار هوش مصنوعی می‌داند. سایر شرکت‌های پیشرو و پژوهشگران نیز با این چالش میان کسب درآمد هنگفت، رقابت تجاری و لزوم مهار خطرات احتمالی دست‌وپنجه نرم می‌کنند.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.