ارزیابی دوجانبه کور مدل‌های هوش مصنوعی با استفاده از محیط‌های امن رمزنگاری‌شده

در فرآیند ارزیابی مدل‌های پیشرفته هوش مصنوعی، اگر مدل پیش از آزمون به سوالات دسترسی داشته باشد، نتایج اعتبار خود را از دست می‌دهند که به این مشکل آلودگی بنچمارک گفته می‌شود. برای حل این چالش، گوگل دیپ‌مایند با همکاری نهادهای مختلف از جمله مؤسسه امنیت هوش مصنوعی سنگاپور، نخستین ارزیابی دوجانبه کور را روی یک مدل Gemini Flash Lite انجام داده است.

در روش‌های سنتی، ارزیابان باید سوالات خود را در اختیار ارائه‌دهندگان مدل قرار می‌دادند که خطر لو رفتن سوالات را به همراه داشت، یا ارائه‌دهندگان مدل وزن‌های خود را فاش می‌کردند که خطراتی برای مالکیت فکری آن‌ها ایجاد می‌کرد. ارزیابی دوجانبه کور با بهره‌گیری از قابلیت Confidential Space در گوگل کلود این سازش را از بین می‌برد. از طریق رمزنگاری، تضمین می‌شود که داده‌های ارزیاب و مدل محرمانه باقی بمانند؛ به طوری که ارزیاب نمی‌تواند وزن‌های مدل Gemini را ببیند و گوگل نیز به سوالات آزمون دسترسی ندارد.

این رویکرد نوآورانه از آلودگی بنچمارک جلوگیری کرده و از داده‌های حساس محافظت می‌کند که به‌ویژه برای ارزیابی‌های مربوط به امنیت سایبری یا نهادهای دولتی اهمیت دارد. این پایلوت گامی مهم برای ایجاد اعتماد بیشتر در ارزیابی سیستم‌های هوش مصنوعی امن‌تر و قابل‌اعتمادتر محسوب می‌شود.