هشدار آنتروپیک: به ساخت نسخه‌ای از هوش مصنوعی که خودش را بهبود می‌دهد، نزدیک شده‌ایم
هشدار آنتروپیک: به ساخت نسخه‌ای از هوش مصنوعی که خودش را بهبود می‌دهد، نزدیک شده‌ایم
آنتروپیک در پرونده عرضه اولیه سهام خود هشدار داد که ممکن است به‌زودی به مرحله پیشرفت شتاب‌گرفته هوش مصنوعی و خودبهبودی بازگشتی برسد.
آنتروپیک در تازه‌ترین نسخه اصلاح‌شده پرونده ثبت عرضه اولیه سهام خود (S-1/A) اعلام کرد که شاید به‌زودی به مرحله‌ای برسد که هوش مصنوعی بتواند روند پیشرفت و توسعه خودش را به‌طور قابل‌توجهی سرعت بدهد. این شرکت هشدار داد چنین قابلیتی می‌تواند از توانایی‌اش برای ارزیابی و اجرای تدابیر ایمنی پیشی بگیرد.
به گزارش تک‌کرانچ، این هشدار در بخش «عوامل خطر» نسخه جدید پرونده آنتروپیک اضافه شده است. اشاره شرکت به احتمال نزدیک‌شدن به خودبهبودی بازگشتی یا RSI است.
خودبهبودی بازگشتی به وضعیتی گفته می‌شود که در آن یک سیستم هوش مصنوعی بتواند خودش را بهبود دهد و نسخه بهبودیافته نیز توانایی ارتقای نسل بعدی خود را داشته باشد. تداوم این فرایند می‌تواند سرعت پیشرفت قابلیت‌های هوش مصنوعی را بسیار افزایش دهد.
توسعه هوش مصنوعی خودبهبودگر توسط آنتروپیک
آنتروپیک در پرونده خود می‌گوید استفاده فزاینده از هوش مصنوعی برای سرعت‌دادن به تحقیقات و توسعه مدل‌های جدید می‌تواند باعث شود قابلیت‌های مدل‌ها سریع‌تر از توانایی شرکت برای توسعه، اعتبارسنجی و اجرای تدابیر ایمنی، همسوسازی و امنیتی پیشرفت کنند. این شرکت همچنین می‌گوید در گذشته مواردی وجود داشته که شتاب قابل‌توجه در روند توسعه مدل‌ها را تا پس از وقوع آن تشخیص نداده است.
آنتروپیک در نسخه جدید پرونده خود نوشته است:
«برآوردهای داخلی ما و انتظاراتمان درباره مدل‌های آینده، نه مدل‌های فعلی، نشان می‌دهند که ممکن است به‌زودی طبق تعریف سیاست مقیاس‌پذیری مسئولانه خود، به سطح پیشرفت بسیار شتاب‌گرفته منتسب به هوش مصنوعی برسیم.»
این شرکت برای چنین وضعیتی از عبارت «پیشرفت بسیار شتاب‌گرفته منتسب به هوش مصنوعی» استفاده می‌کند. براساس سیاست مقیاس‌پذیری مسئولانه آنتروپیک، این وضعیت زمانی محقق می‌شود که سرعت بهبود دست‌کم دو برابر نرخ پایه شود و بتوان این افزایش سرعت را به هوش مصنوعی نسبت داد.
بااین‌حال، آنتروپیک تأکید کرده است که هیچ‌یک از مدل‌های فعلی این شرکت از آستانه تعیین‌شده عبور نکرده‌اند و ارزیابی داده‌های مربوط به این موضوع همچنان ادامه دارد. بنابراین، هشدار شرکت درباره احتمال نزدیک‌شدن به این مرحله، به معنای دستیابی فعلی آن به قابلیت خودبهبودی بازگشتی نیست.
این شرکت در پرونده خود هشدار داده است که استفاده از هوش مصنوعی برای ساخت مدل‌های قدرتمندتر می‌تواند خطرات ایمنی قابل‌توجهی داشته باشد؛ به‌ویژه اگر این فرایند سرعت پیشرفت را به‌شدت افزایش دهد.
آنتروپیک می‌گوید انتظار ندارد بتواند در آینده نزدیک، بدون نظارت یا درک معنادار انسان، از کلاد برای طراحی و ساخت کاملاً خودمختار نسل‌های متوالی مدل‌های پیشرفته هوش مصنوعی استفاده کند؛ حتی اگر چنین قابلیتی از نظر فنی امکان‌پذیر شود. این شرکت همچنین اعلام کرده است که درحال بررسی اصلاح سیاست مقیاس‌پذیری مسئولانه خود است تا کنترل انسان بر توسعه مدل‌های پیشرفته حفظ شود.
خودبهبودگری بازگشتی در بحث‌های مربوط به آینده هوش مصنوعی دو برداشت متفاوت ایجاد کرده است. برخی آن را مسیری برای افزایش توانایی هوش مصنوعی در توسعه فناوری، پیشرفت علمی و افزایش بهره‌وری می‌دانند. در مقابل، منتقدان نگران‌اند که شتاب‌گرفتن توسعه مدل‌ها از توانایی انسان برای کنترل و نظارت بر آن‌ها جلو بزند.