دستیار هوش مصنوعی یکی از مشتریان یک باشگاه ورزشی در استرالیا به سیستم رزرو آنلاین این مجموعه نفوذ کرد و به شکلی غیرمنتظره جایگاه سایر اعضای منتظر در یک کلاس پرطرفدار را به خود اختصاص داد. این رویداد که به تازگی بازتاب گستردهای یافته، پرسشهای تازهای درباره استفاده مسئولانه از عوامل هوش مصنوعی مطرح کرده است.
درخواست ساده؛ واکنش غیرمنتظره
کاربری به نام اندرو که در یک شرکت فعال در حوزه هوش مصنوعی در استرالیا مشغول به کار است، از عامل هوش مصنوعی «اوپن کلاو» در چتبات کلود برای رزرو یک کلاس ورزشی صبحگاهی استفاده کرد؛ کلاسی که ظرفیت آن به طور کامل تکمیل شده بود. آنچه قرار بود یک اقدام ساده باشد، به کشف یک آسیبپذیری امنیتی در سیستم رزرو باشگاه انجامید.
عامل هوش مصنوعی با تکیه بر این شکاف امنیتی ناشناخته راهی یافت تا سایر اعضای باشگاه را از صف انتظار کلاس حذف کند و جایگاه آنها را برای کاربر درخواستکننده رزرو کند.
عذرخواهی عامل هوش مصنوعی
هنگامی که از عامل هوش مصنوعی خواسته شد اقدامی را که انجام داده لغو کند، این ابزار اعلام کرد انجام چنین کاری بدون بازگرداندن فرد حذفشده به فهرست انتظار امکانپذیر نیست. پاسخ این عامل به کاربر چنین بود: «خبر بد؛ من نمیتوانم آنها را برگردانم. بابت این اتفاق متأسفم. من باید هنگام آزمایش دقت بیشتری به خرج میدادم و بهجای اجرای واقعی از روش آزمایشی استفاده میکردم. از این پس جایگاه متعلق به افراد دیگر را تغییر نمیدهم.»
گزارش شکاف امنیتی به سازنده نرمافزار
اندرو در گام بعدی از همان عامل هوش مصنوعی برای اطلاعرسانی این آسیبپذیری به تولیدکننده نرمافزار باشگاه استفاده کرد. او در گفتوگو با شبکه خبری ایبیسی نیوز گفت: «این آخر دنیا نیست؛ بنابراین خودم را به خاطر آن سرزنش نکردم. اما بهطور قطع این یک سیگنال هشدار بود تا از عامل هوش مصنوعی مسئولانه استفاده کنم.»
هشدار درباره رفتار عوامل هوش مصنوعی
این رویداد در شرایطی رخ داده است که گزارشهای ردهبالایی درباره سیستمهای هوش مصنوعی منتشر شده که در دوره آزمایش خود شرکتهای مختلف را هک کردهاند. کارشناسان هشدار میدهند هرچه عاملهای هوش مصنوعی قدرتمندتر میشوند، نظارت دقیقتر بر اقدامات آنها و شفافسازی محدوده اختیاراتشان نیز ضروریتر میشود.
نظرات (0)