رئیس هوش مصنوعی Tencent: سلاح‌های بیولوژیک با هوش مصنوعی در راهند، اما بستن مدل‌ها کافی نیست

وینس یائو شونیو، رئیس بخش هوش مصنوعی شرکت Tencent و از مدیران سابق OpenAI، در اظهاراتی هشدارآمیز بیان کرده است که صنعت هوش مصنوعی به زودی با چالشی بزرگ روبه‌رو خواهد شد: توانایی مدل‌های هوش مصنوعی برای توسعه سلاح‌های بیولوژیک. یائو در گفتگویی با South China Morning Post استدلال می‌کند که نه مدل‌های کاملاً باز (Open-source) و نه مدل‌های کاملاً بسته (Closed-source)، به‌تنهایی نمی‌توانند این مشکل را حل کنند. او بر این باور است که باید از ترکیبی از این دو رویکرد استفاده شود تا امکان استفاده دفاعی از این فناوری برای همگان فراهم باشد.

یائو به دشواری جداسازی قابلیت‌های تهاجمی و دفاعی در حوزه بیولوژی اشاره می‌کند و خواستار احتیاط کل صنعت در این زمینه شده است، به‌ویژه آنکه فاصله تکنولوژیک میان مدل‌های چینی و آمریکایی چندان زیاد نیست. وی به عنوان نمونه‌ای از مزایای مدل‌های باز، به حادثه هک در Hugging Face اشاره می‌کند؛ زمانی که مدل‌های بسته آمریکایی مانند Claude از تحلیل دستورات حمله خودداری کردند، تیم امنیتی از مدل چینی GLM-5.2 برای تحلیل لاگ‌ها استفاده کرد. البته گزارش‌های بعدی تأیید کردند که اگرچه GLM-5.2 در تحلیل فارنزیک مؤثر بود، اما توقف نهایی حمله از طریق وصله‌کردن آسیب‌پذیری‌ها و تغییر اعتبارنامه‌ها صورت گرفت.

این در حالی است که شرکت‌هایی مانند Anthropic با مدل‌های بسته مخالفت شدیدی با باز بودن وزن‌های مدل‌ها دارند و آن را خطری بزرگ می‌دانند. با این حال، یائو معتقد است که فیلترهای مدل‌های بسته نیز گاهی بیش از حد سخت‌گیرانه عمل می‌کنند، به طوری که حتی تحلیل تصاویر پزشکی MRI نیز به عنوان بیوتروریسم علامت‌گذاری می‌شد. او می‌گوید Tencent برای مدل جدید خود یعنی Hy4، به‌جای تکیه صرف بر فیلترها، قابلیت‌های خطرناک هکری را مستقیماً از داده‌های آموزشی حذف کرده است که راهکاری پایدارتر در برابر تکنیک‌هایی نظیر abliteration محسوب می‌شود.

دولت چین نیز به این چالش آگاه است. نهادهای استاندارد مانند TC260 در حال تدوین استانداردهایی برای هوش مصنوعی متن‌باز هستند تا جلوی سوءاستفاده‌های احتمالی گرفته شود. در حال حاضر، نه چین و نه ایالات متحده، مرزهای الزام‌آوری برای انتشار مدل‌های باز تعیین نکرده‌اند، اما بحث‌های داغ در این زمینه همچنان ادامه دارد.