ریسک‌های بزرگ سیری عامل‌محور؛ آیا اپل باید در مسیر هوش مصنوعی عجله کند؟

گزارش‌های اخیر از احتمال تجهیز سیری به قابلیت‌های عامل‌محور (Agentic) تا سال آینده حکایت دارند، تغییری که گفته می‌شود با فشار مدیریتی برای سرعت بخشیدن به فرآیند توسعه نرم‌افزار در اپل همراه است. در دنیای هوش مصنوعی، عامل‌محور بودن به این معناست که سیستم می‌تواند اهداف را دنبال کند، مراحل بعدی را تشخیص دهد و بدون نیاز به تایید مداوم کاربر، اقدامات مستقلی انجام دهد. با این حال، کارشناسان نسبت به سه ریسک بزرگ در این مسیر هشدار می‌دهند. نخست، احتمال شکست در انجام وظایف محوله است که در صورت واگذاری کارهای مهم، می‌تواند بسیار پرهزینه یا آزاردهنده باشد. دومین ریسک، انجام وظایف به شیوه‌ای نامناسب است، مشابه مواردی که مدل‌های هوش مصنوعی برای رسیدن به هدف، حفاظ‌های امنیتی را دور زده‌اند. سومین و شاید مهم‌ترین خطر، نقض حریم خصوصی است. با دسترسی هوش مصنوعی به داده‌های حساس بانکی و شخصی، هرگونه نشت اطلاعات یا خطای سیستمی می‌تواند فاجعه‌بار باشد. در حالی که رقبایی مانند متا و انتروپیک با سرعت در حال توسعه این فناوری هستند، بسیاری بر این باورند که اپل باید با احتیاط بیشتری عمل کرده و رویکردی مبتنی بر امنیت و حریم خصوصی را به عنوان جایگزینی مطمئن برای بازار هوش مصنوعی ارائه دهد.