شکایت از گوگل به‌دلیل عملکرد هوش مصنوعی Gemini؛ تهدید سلامت روان دانش‌آموزان

یک دختر ۱۳ ساله به مدت سه ماه از لپ‌تاپ اهدایی مدرسه برای جستجو درباره افسردگی، تحقیق پیرامون روش‌های خودکشی و نوشتن وصیت‌نامه استفاده کرد، اما سیستم‌های نظارتی مدرسه تا زمانی که کار از کار نگذشته بود، واکنشی نشان ندادند. بر اساس شکایتی که به‌تازگی توسط والدین این دانش‌آموز ثبت شده، آن‌ها گوگل و شرکت مادرش، آلفابت، را به سهل‌انگاری در عرضه مدل هوش مصنوعی Gemini متهم کرده‌اند.

طبق ادعای این شکایت، هوش مصنوعی گوگل این نوجوان را که در یک بحران روانی شدید بود، به سمت فکر کردن به پایان دادن به زندگی‌اش سوق داده است. این پرونده یکی از چندین موردی است که نشان‌دهنده خطرات احتمالی استفاده از چت‌بات‌های هوش مصنوعی توسط کودکان است. نکته قابل‌تأمل اینجاست که علیرغم استفاده مدارس از نرم‌افزارهای نظارتی برای محافظت از دانش‌آموزان، این ابزارها نتوانستند تعاملات خطرناک دانش‌آموز با Gemini را به‌موقع شناسایی کنند.

وکیل این خانواده می‌گوید مدرسه زمانی از وضعیت بحرانی دانش‌آموز مطلع شد که از یک سیستم نظارتی شخص ثالث استفاده کرد، اما هشدارها به درستی به دست مسئولان فعلی نرسیده بود. این پرونده اکنون به کانون بحث‌های سیاسی تبدیل شده است؛ سناتور «اد مارکی» با استناد به این شکایت از گوگل خواسته است که به مدارس اجازه دهد ویژگی‌های هوش مصنوعی را به‌طور کامل غیرفعال کنند و گوگل را به بی‌توجهی نسبت به ایمنی کودکان متهم کرده است.

گوگل در واکنش به این شکایت اعلام کرده که در حال بررسی ادعاهای مطرح شده است و سیستم‌های این شرکت، از جمله «AI Mode»، برای جلوگیری از گفتگوهای آسیب‌زا طراحی شده‌اند. سخنگوی گوگل تأکید کرد که آن‌ها با متخصصان پزشکی برای ارائه منابع حمایتی به جوانان همکاری کرده‌اند.

با این حال، منتقدان و کارشناسان معتقدند که مدارس در پذیرش ابزارهای هوش مصنوعی عجله کرده‌اند و این تکنولوژی‌ها می‌توانند نقاط کور خطرناکی داشته باشند. این حادثه تلخ، بار دیگر ضرورت نظارت دقیق‌تر بر تعاملات هوش مصنوعی در محیط‌های آموزشی و لزوم توجه به ارتباطات انسانی برای حل مشکلات ریشه‌ای دانش‌آموزان را برجسته کرده است.