چالش مسئولیت‌پذیری در گفتگوهای مدنی؛ وقتی هوش مصنوعی مرزهای نظردهی عمومی را مخدوش می‌کند

هنگامی که مقامات دولتی سیاست‌های جدیدی را تدوین می‌کنند، معمولاً دوره‌ای را برای دریافت بازخورد و نظرات عمومی در نظر می‌گیرند. قانون‌گذاران در گذشته با نظرات جعلی تولیدشده انبوه مواجه بودند، اما معمولاً توانایی تشخیص آن‌ها را داشتند. با ظهور هوش مصنوعی، افراد می‌توانند نظراتی واقع‌گرایانه تولید کنند که تشخیص ساختگی بودن آن‌ها بسیار دشوارتر است. این مسئله موجب نگرانی کارشناسانی نظیر دب روی، استاد هنرهای رسانه‌ای و علوم در ام‌آی‌تی، شده است که نسبت به از بین رفتن مسئولیت‌پذیری و پاسخگویی پشت کلمات هشدار داده‌اند.

مرکز ارتباطات سازنده ام‌آی‌تی (CCC) به همراه سازمان غیرانتفاعی کورتیکو تلاش می‌کند با تسهیل گفتگوهای گروهی و بهره‌گیری از ابزارهای فناوری، به یافتن الگوها در نظرات کمک کند؛ به گونه‌ای که شرکت‌کنندگان همچنان بتوانند خروجی‌های مبتنی بر فناوری را بازبینی و اصلاح کنند. در این ساختار، یک انسان همواره مسئولیت هر نظر عمومی را بر عهده دارد. پس از ظهور مدل‌های زبانی بزرگ، حجم نظرات ساختگی ارائه‌شده به نهادهای دولتی افزایش یافته و این امر می‌تواند کانال‌های بازخورد عمومی و پایه‌های دموکراسی را تضعیف کند.

دب روی در مقاله‌ای اصول طراحی جدیدی شامل نویسندگی قابل انتساب، فرآیند تجزیه‌پذیر و قابل بازرسی، استفاده از منشأ به عنوان زیرساخت، و گسترش حق اظهار نظر را پیشنهاد می‌کند. وی بر این باور است که حریم خصوصی و پاسخگویی در تضاد با یکدیگر نیستند و نهادها می‌توانند هویت افراد را بدون افشای عمومی تأیید کنند تا از اصالت نظرات اطمینان حاصل شود. هوش مصنوعی می‌تواند در بخش‌های پیش‌نویس کردن و خلاصه‌سازی کمک کند، اما مسئولیت نهایی باید بر عهده انسان باشد.

در نهایت، سرعت پیشرفت هوش مصنوعی و فرآیندهای دموکراتیک در حال حرکت با زمان‌سنج‌های متفاوتی هستند. این مرکز پروژه‌های مختلفی مانند Real Talk، ابتکار صدای جوانان و پروژه اشکال اجتماعی جدید را برای بهبود گفتگوهای مدنی و تعاملات انسانی پیاده‌سازی کرده است. هدف نهایی این است که در عصر فناوری، انسانیت و شنیدن صدای یکدیگر به عنوان ارکان اصلی دموکراسی حفظ شوند.