دور زدن آسان واترمارک متنی آنتروپیک در مدل‌های قدیمی‌تر Claude
شرکت آنتروپیک در آستانه مهلت قانون هوش مصنوعی اتحادیه اروپا، واترمارک‌های متنی را به مدل‌های بیشتر Claude اضافه می‌کند. با این حال، کاربران API می‌توانند با تغییر تنها یک پارامتر نمونه‌برداری، این واترمارک را در مدل‌های قدیمی‌تری مانند Claude Opus 4.6 و Sonnet 4.6 غیرفعال کنند.
شرکت آنتروپیک در حال گسترش واترمارک‌های متنی خود به مدل‌های بیشتری از خانواده Claude است تا خود را برای مهلت مقرر قانون هوش مصنوعی اتحادیه اروپا در ماه دسامبر آماده کند. با این حال، بررسی‌ها نشان می‌دهد که کاربران بخش API می‌توانند به سادگی با تغییر دادن یک پارامتر نمونه‌برداری، این واترمارک را در مدل‌های قدیمی‌تری مانند Claude Opus 4.6 و Claude Sonnet 4.6 دور بزنند.
بر اساس ایمیل ارسال شده به مشتریان API، این شرکت قصد دارد واترمارک‌گذاری را روی مدل‌های دیگری از جمله Claude Mythos 5 و Claude Opus 4.7 نیز اعمال کند. مدل‌های جدیدتر از پیش به این واترمارک مجهز بوده‌اند. آنتروپیک توضیح می‌دهد که این واترمارک یک الگوی نامحسوس در انتخاب کلمات است که معنا، کیفیت یا خوانایی متن را تغییر نمی‌دهد و هیچ کاراکتر یا توکن اضافی اضافه نمی‌کند.
با این حال، در مدل‌های Claude Opus 4.6 و Claude Sonnet 4.6، واترمارک تنها زمانی فعال می‌شود که توسعه‌دهندگان پارامترهای نمونه‌برداری شامل temperature، top_p و top_k را روی مقادیر پیش‌فرض خود نگه دارند. یک تغییر جزئی در هر یک از این پارامترها برای دور زدن واترمارک کافی است. آنتروپیک در ایمیل خود هشدار داده است که اگر کاربران برای انطباق با قوانین به واترمارک اتکا می‌کنند، باید این تنظیمات را روی حالت پیش‌فرض حفظ کنند.
این اقدام در حالی صورت می‌گیرد که کارشناسان و پژوهشگران درباره تأثیر واترمارک‌ها بر کیفیت متن و پیامدهای حقوقی احتمالی آن‌ها ابراز نگرانی کرده‌اند. برخی منتقدان استدلال می‌کنند که اجبار مدل به انتخاب کلمات بر اساس کلید واترمارک می‌تواند به دقت زبانی لطمه بزند.
گزارش فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.