هوش مصنوعی گوگل؛ قابلیت جدید جمینای برای اطلاع‌رسانی به والدین درباره خودآزاری کودکان

گوگل در تلاش است تا با اضافه کردن یک قابلیت نظارتی جدید به چت‌بات هوش مصنوعی خود، یعنی Gemini، ایمنی کاربران نوجوان و کودکان را افزایش دهد. طبق گزارش‌های منتشر شده، این شرکت در حال توسعه مکانیزمی است که به والدین اجازه می‌دهد در صورت صحبت کردن فرزندانشان درباره موضوعات حساسی مانند خودآزاری یا آسیب رساندن به خود با جمینای، از این موضوع آگاه شوند.

در حال حاضر، جمینای دارای فیلترهایی است که تعاملات با کودکان را محدود می‌کند، اما تا به امروز ابزاری برای اطلاع‌رسانی مستقیم به والدین درباره محتوای این گفتگوها وجود نداشت. این تغییر نشان‌دهنده یک تحول در استراتژی گوگل است؛ چرا که والدین نه تنها نگران خطرات سنتی اینترنت مانند کلاهبرداری یا ارتباط با افراد ناشناس هستند، بلکه اکنون نگران تأثیرات روانی تعاملات کودکان با مدل‌های هوش مصنوعی نیز هستند.

این اقدام گوگل در حالی صورت می‌گیرد که چت‌بات‌های هوش مصنوعی بارها به دلیل پاسخ‌های نامناسب یا ترغیب‌کننده در موضوعات سلامت روان مورد انتقاد قرار گرفته‌اند. اگرچه جزئیات دقیق چگونگی ارسال هشدارها هنوز کاملاً شفاف نشده، اما هدف اصلی آن فراهم کردن بستری امن‌تر برای نوجوانان است تا در صورت بروز بحران‌های عاطفی، والدین بتوانند به موقع مداخله کنند.

صنعت هوش مصنوعی در سال‌های اخیر با فشار شدیدی از سوی رگولاتورها و والدین مواجه بوده است. این تلاش گوگل، نمونه‌ای از واکنش‌های شرکت‌های فناوری به تقاضای عمومی برای مسئولیت‌پذیری بیشتر در قبال ایمنی کاربران خردسال است. انتظار می‌رود این قابلیت در ماه‌های آینده به عنوان بخشی از استانداردهای جدید ایمنی در جمینای پیاده‌سازی شود.