توسعه سیستم متن‌باز جدید توسط Anthropic برای اثراف هویت مدل‌های هوش مصنوعی
شرکت Anthropic در حال کار روی یک سیستم متن‌باز به نام FlashProve است که گواهی رمزنگاری‌شده‌ای برای تأیید اصالت خروجی‌های هوش مصنوعی ارائه می‌دهد. این ابزار به کاربران و توسعه‌دهندگان اجازه می‌دهد بدون افشای وزن مدل‌ها، مطمئن شوند که پاسخ دریافتی واقعاً از مدل ادعایی سرچشمه گرفته است.
شرکت Anthropic بر اساس پست وبلاگی منتشرشده، در حال توسعه یک سیستم متن‌باز جدید به نام FlashProve است که هدف آن تأیید مدل هوش مصنوعی تولیدکننده یک خروجی خاص است. این سیستم به منظور ارائه «استنتاج قابل اثبات» طراحی شده که در واقع یک تضمین ریاضی و رمزنگاری‌شده برای اطمینان از اصالت پاسخ‌های مدل‌های هوش مصنوعی محسوب می‌شود.
مشابه امضاهای دیجیتال ایمیل که فرستنده واقعی پیام را تأیید می‌کنند، FlashProve در برابر افراد یا شرکت‌هایی که بخواهند مدل ارزان‌تری را به جای مدل پیشرفته‌تر جا بزنند، مقاومت می‌کند. این ابزار همچنین می‌تواند برای راستی‌آزمایی ادعاهای شرکت‌های ثالث درباره استفاده از مدل‌های پیشرفته سایبری یا بیزنسی کاربرد داشته باشد. طبق اعلام پژوهشگران، این سیستم با انتشار «اثر انگشت» مدل‌ها بدون نیاز به فاش کردن وزن‌های داخلی آن‌ها کار می‌کند.
این پروژه هم‌اکنون به صورت متن‌باز روی گیت‌هاب منتشر شده و مشخصات فنی آن در اختیار عموم قرار گرفته است تا جامعه توسعه‌دهندگان آن را بهبود ببخشند. پژوهشگران شرکت Anthropic تأکید کرده‌اند که این پست تنها نشان‌دهنده پیشرفت‌های میانی این تحقیق است و در حال حاضر هیچ برنامه‌ای برای استقرار قطعی آن در محصولات شرکت وجود ندارد.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.