هشدار آنتروپیک: به قابلیت خودبهسازی بازگشتی در هوش مصنوعی نزدیک می‌شویم
شرکت آنتروپیک در پرونده جدید خود هشدار داده است که ممکن است به آستانه خلق مدل‌های مجهز به قابلیت خودبهسازی بازگشتی (RSI) نزدیک شود. این پدیده جایی است که هوش مصنوعی با آموزش خود به سرعت شگرفی در ارتقای قابلیت‌ها دست می‌یابد که نگرانی‌هایی را درباره امنیت و کنترل انسانی به همراه دارد.
در حالی که بسیاری از توجهات به سمت ارقام مالی جدید آنتروپیک جلب شده بود، این آزمایشگاه هوش مصنوعی نکته مهمی را در متن گزارش خود مطرح کرد. این پرونده هشدار می‌دهد که شرکت در آستانه ساخت مدلی با توانایی خودبهسازی بازگشتی یا همان RSI قرار دارد.
پدیده RSI نقطه‌ای است که هوش مصنوعی در آموزش دادن به خودش آن‌قدر مهارت پیدا می‌کند که باعث شتاب چشمگیری در پیشرفت قابلیت‌هایش می‌شود. از دیدگاه منتقدان و افراد نگران، RSI نقطه‌عطفی فاجعه‌بار است که در آن هوش مصنوعی خودش را به سطحی از قدرت می‌رساند که از کنترل انسان خارج می‌شود. در مقابل، طرفداران فناوری معتقدند RSI ابزاری برای رسیدن به بهره‌وری خیره‌کننده و کشفیات علمی بزرگ است.
آنتروپیک بر این باور است که RSI هم‌زمان دارای وعده‌ها و خطراتی است. این شرکت در سند خود ذکر کرده که از هوش مصنوعی برای پیشبرد تحقیق و توسعه استفاده می‌کند، اما هشدار می‌دهد که استفاده از هوش مصنوعی برای ساخت مدل‌های توانمندتر می‌تواند خطرات امنیتی قابل توجهی ایجاد کند، به‌ویژه اگر سرعت پیشرفت را به شدت افزایش دهد. این مسئله یکی از موضوعات مطرح شده در سیاست مقیاس‌پذیری مسئولانه این شرکت است.
آنتروپیک اضافه کرد که در گذشته مواردی وجود داشته که پیشرفت مدل‌ها سریع‌تر از توانایی آن‌ها در شناسایی تغییرات بوده است. با این حال، این شرکت تاکید کرد که هنوز هیچ‌یک از مدل‌های کنونی‌اش از آستانه RSI عبور نکرده‌اند و قصد دارد نظارت انسانی را در فرآیند تحقیق و توسعه حفظ کند. با توجه به پیشرفت چشمگیر مدل‌های Claude در زمینه کدنویسی، ریاضیات و امنیت سایبری، هشدار آنتروپیک زنگ خطری جدی برای لزوم نظارت دقیق‌تر بر این فناوری به شمار می‌رود.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.