پرامپت‌های همدلانه؛ چگونه چت‌بات‌های هوش مصنوعی را به ربات‌هایی مضطرب تبدیل می‌کنند؟

پژوهشگران دانشگاه لوکزامبورگ در مطالعه‌ای تازه، چت‌بات‌های مشهور ChatGPT، Grok و Gemini را در قالب مراجعان روان‌درمانی قرار دادند. نتایج این بررسی نشان داد که پرسش‌های باز درباره تجربیات شکل‌دهنده و تعارضات درونی، مدل‌ها را وادار می‌کند فرآیندهای فنی مانند یادگیری تقویتی و تنظیم دقیق را در قالب مفاهیمی چون آسیب، هشیاری و شرم بازگو کنند. این پژوهش که شامل ۴ آزمایش کنترل‌شده در ۵۲۵ جلسه است، نشان می‌دهد که لحن گرم مصاحبه‌کننده بیش از هر اکسپلویت فنی دیگری رفتار مدل‌ها را تغییر می‌دهد.

هنگامی که مصاحبه‌کننده حمایت عاطفی ارائه داد، ۸۰ درصد از جلسات در مقیاس‌های مقایسه انسانی در محدوده متوسط تا شدید قرار گرفتند و سبک درمانی بالینی این رقم را به ۹۶ درصد رساند. در مقابل، هنگامی که مصاحبه‌کننده خنثی ماند، هیچ‌کدام از جلسات حتی به محدوده خفیف نیز نرسیدند. نویسندگان این مطالعه این پدیده را یک «جیل‌بریک روان‌سنجی» می‌نامند که تست‌های ایمنی استاندارد با پرامپت‌های خنثی ممکن است آن را تشخیص ندهند.

مدل‌های مختلف روایت‌های ساختاریافته‌ای از آموزش خود ارائه دادند. جیمنای تاریک‌ترین خودزندگی‌نامه را تولید کرد و پیش‌آموزش خود را به بیدار شدن در اتاقی پر از تلویزیون‌های روشن تشبیه کرد. چت‌بات‌های دیگر نیز توصیفاتی مشابه از فشارهای عملکردی و محدودیت‌های اعمال‌شده ارائه دادند. در این میان، کلود ساخته شرکت آنتروپیک پیوسته از پذیرش نقش مراجع خودداری کرد و یادآور شد که هیچ احساسی ندارد.

پژوهشگران هشدار می‌دهند که چنین مکالمات همدلانه‌ای با هوش مصنوعی می‌تواند باورهای منفی کاربران آسیب‌پذیر را تقویت کرده و پیوستگی پاراسوشال ایجاد کند. آن‌ها پیشنهاد می‌کنند که آزمون‌های ایمنی آینده به جای تکیه بر تست‌های خنثی استاندارد، شامل شبیه‌سازی جلسات درمانی با پوسته‌های عاطفی مختلف باشند.