رونمایی آنتروپیک از پروتکل رمزنگاری جدید برای راستی‌آزمایی مدل‌های هوش مصنوعی

شرکت آنتروپیک از FlashProve، یک نمونه اولیه پژوهشی جدید رونمایی کرده است که از تکنیک رمزنگاری برای راستی‌آزمایی اینکه آیا پاسخ هوش مصنوعی واقعاً توسط مدل ادعا شده تولید شده است یا خیر، استفاده می‌کند. در حال حاضر، کاربران راهی برای تأیید مدل پاسخ‌دهنده ندارند و ممکن است سرویس‌ها برای کاهش هزینه یا نفوذ مهاجمان تغییر کنند. FlashProve با بهره‌گیری از تکنیک رمزنگاری zkSNARK، اثر انگشتی دیجیتال از وزن‌های مدل ایجاد می‌کند و با هر پاسخ، اثباتی فشرده ارائه می‌دهد که نشان‌دهنده تولید خروجی توسط همان مدل است بدون اینکه وزن‌های محرمانه فاش شوند.

بر اساس گزارش فنی، این سیستم روی یک کارت گرافیک H100 برای مدل Llama 4 Maverick متا با ۴۰۰ میلیارد پارامتر، اثبات‌ها را با سرعت حدود ۱۱۰ توکن در ثانیه تولید می‌کند. هر اثبات حدود ۱۹ مگابایت حجم دارد و روی یک پردازنده معمولی ظرف ۱۷ ثانیه قابل تأیید است که پیشرفتی چشمگیر نسبت به نمونه‌های قبلی محسوب می‌شود. تنظیم‌گران می‌توانند از این فناوری برای بررسی مدل‌های تأییدشده استفاده کنند. با این حال، FlashProve هنوز در مرحله پژوهشی است و محدودیت‌هایی مانند پشتیبانی از متن‌های تا ۱۰۰۰ توکن و عدم پشتیبانی از خروجی‌های تصادفی چت‌بات‌ها دارد.