احتمال تحقیق نهاد نظارتی بریتانیا از وزارت کشور بر سر استفاده از فناوری OpenAI

یک نهاد نظارت بر مرزها و مهاجرت در بریتانیا بررسی احتمال تحقیق درباره استفاده وزارت کشور از ابزارهای هوش مصنوعی مولد برای پردازش پرونده‌های پناهندگی را آغاز کرده است. این اقدام پس از آن صورت می‌گیرد که محققان و قانون‌گذاران به طور عمومی دقت این ابزارها و پنهان‌کاری دولت در زمینه به‌کارگیری آن‌ها را زیر سوال برده‌اند. بازرس ارشد مستقل مرزها و مهاجرت از یک سازمان حقوق دیجیتال خواسته است اطلاعات بیشتری درباره این ابزارها ارائه دهد.

وزارت کشور بریتانیا برای خلاصه کردن رونوشت مصاحبه‌های متقاضیان پناهندگی و اطلاعات کشورهای مبدأ از ابزارهای خلاصه‌سازی و جستجوی سیاست‌های پناهندگی مبتنی بر مدل زبان بزرگ GPT-4 شرکت OpenAI و مایکروسافت استفاده می‌کند. این نهاد انتظامی و مهاجرتی، استفاده آزمایشی از این ابزارها را در اواخر سال ۲۰۲۴ با هدف کاهش حجم انباشته پرونده‌های پناهندگی آغاز کرد. با این حال، محققان و سازمان‌های حقوقی ابراز نگرانی کرده‌اند که خطاهای این ابزارها و تعصبات فرهنگی موجود در مدل‌های هوش مصنوعی می‌تواند به تصمیم‌گیری‌های تبعیض‌آمیز و نادرست منجر شود.

بر اساس تحقیقات انجام شده، نرخ خطای خلاصه‌های تولید شده توسط این ابزارها قابل توجه است و مواردی از خطاهای فاحش گزارش شده است. در یک مورد در ماه ژوئیه، یک قاضی در بریتانیا وزارت کشور را به استناد به یک سند توهم‌زای تولید شده توسط هوش مصنوعی در رد درخواست پناهندگی یک زن مراکشی متهم کرد. با وجود اینکه مقامات وزارت کشور تأکید می‌کنند که تصمیم‌گیری نهایی توسط افسران آموزش‌دیده انسانی انجام می‌شود و هوش مصنوعی تنها ابزاری کمکی است، منتقدان بر این باورند که عدم شفافیت و آگاه‌سازی متقاضیان درباره استفاده از هوش مصنوعی می‌تواند قوانین حقوق داده‌ها را نقض کند.

سازمان‌های مدافع حقوق مهاجران یافته‌های خود را به رگولاتور داده‌های بریتانیا ارسال کرده‌اند و تحقیقات در این زمینه ادامه دارد. محققان هشدار می‌دهند که سیستم‌های هوش مصنوعی پرخطر دیگری نیز در بخش‌های مختلف دولتی بدون شفافیت کافی به کار گرفته شده‌اند که نیازمند نظارت و پاسخگویی بیشتری است.