تأمین امنیت شرکت‌های مجهز به ایجنت‌های هوش مصنوعی با ردیابی داده‌ها

یک نماینده فروش از یک ایجنت هوش مصنوعی درخواست قیمت‌گذاری مشتری می‌کند و ایجنت اطلاعات را از منابع مختلفی مانند سیستم‌های محدود، ارتباطات داخلی و نقل‌قول‌های آرشیو شده استخراج می‌کند. سپس ایجنت دوم بدون بررسی انسانی، از این داده‌ها برای پیش‌نویس پیشنهاد استفاده می‌کند. وقتی مشخص می‌شود که پیشنهاد حاوی اطلاعات محرمانه و تأییدنشده است، هیچ‌کس نمی‌تواند ردیابی کند که داده‌های مشکل‌ساز از کجا وارد جریان کار شده‌اند.

این سناریو نشان می‌دهد که چرا حاکمیت هوش مصنوعی باید به سرعت تکامل یابد. سازمان‌هایی که از هوش مصنوعی ایجنت‌محور در جریان کارهای روزمره استفاده می‌کنند، متوجه شده‌اند که باید داده‌های متحرک و تکه‌تکه شده را مدیریت کنند. امنیت هوش مصنوعی صرفاً یک مسئله ابزاری نیست، بلکه یک مشکل دیده‌بانی داده است.

در نتیجه، رویکردهای سنتی امنیت که صرفاً حول محور برنامه‌ها، سیستم‌ها، شبکه‌ها یا نقاط پایانی ساخته شده‌اند، دیگر کفایت نمی‌کنند. ایمن‌سازی هوش مصنوعی مقیاس‌پذیر نیازمند درک نحوه جابه‌جایی داده‌ها است. تیم‌ها باید برای مدیریت مؤثر حاکمیت، پاسخگویی و اعتماد در جریان کارهای انسانی، ایجنت‌محور و ترکیبی، ردیابی داده‌ها را برقرار کنند.