نیویورک برای نظارت دقیق بر شرکت‌های هوش مصنوعی، مرکز تست مستقل راه‌اندازی کرد

در حالی که دولت فدرال آمریکا نظارت بر صنعت هوش مصنوعی را عمدتاً به خود شرکت‌ها واگذار کرده، ایالت نیویورک تصمیم گرفته است مدیریت این حوزه را در دست بگیرد. کتی هوکول، فرماندار نیویورک، روز سه‌شنبه نخستین برنامه ایالتی برای آزمایش هوش مصنوعی را با هدف ارزیابی مستقل عملکرد این فناوری افتتاح کرد. هوکول تأکید کرد که ریسک‌های موجود به‌قدری بالاست که نمی‌توان صرفاً به گفته‌های شرکت‌های سازنده هوش مصنوعی اعتماد کرد.

این پروژه توسط «مرکز مسئولیت و تحقیقات هوش مصنوعی نیویورک» در دانشگاه بینگهمتون هدایت می‌شود و بیش از ۸۰ دانشمند در آن مشارکت خواهند داشت. این تیم برای پیشبرد تحقیقات خود، از قدرت پردازشی Empire AI، پروژه ۵۰۰ میلیون دلاری مشارکت عمومی و خصوصی نیویورک، بهره می‌برند. وظیفه اصلی این مرکز، تست سیستم‌های پیشرفته، مطالعه ریسک‌های احتمالی و ارائه شواهد علمی برای تصمیم‌گیری‌های عمومی است. همچنین قرار است کاربردهای مسئولانه هوش مصنوعی در حوزه‌هایی مانند پزشکی و اکتشافات علمی نیز بررسی شود.

با این حال، یک نقطه ضعف در این برنامه وجود دارد؛ چرا که این مرکز تنها می‌تواند مدل‌هایی را بررسی کند که شرکت‌ها به‌صورت عمومی افشا می‌کنند. طبق قانون RAISE که سال گذشته توسط هوکول امضا شد، توسعه‌دهندگان بزرگ هوش مصنوعی موظف هستند تا اول ژانویه ۲۰۲۷ در ایالت ثبت‌نام کنند. از آن تاریخ به بعد، شرکت‌ها ملزم می‌شوند چارچوب‌های ایمنی و گزارش‌های شفافیت خود را منتشر کرده و حوادث امنیتی حساس را ظرف ۷۲ ساعت گزارش دهند. اگرچه این قانون مدل‌های منتشر نشده را پوشش نمی‌دهد، اما حداقل گامی رو به جلو برای مجبور کردن شرکت‌ها به شفافیت بیشتر است.