روزنامه بریتانیایی گاردین در گزارشی تحقیقی از یک کارزار گسترده و پرهزینه پرده برداشت که به گفته این رسانه، با هدف مهندسی پاسخهای چتباتهای هوش مصنوعی و تغییر روایت جنگ غزه به نفع اسرائیل طراحی شده است. محور این کارزار، وبسایتی با نام «موسسه هانوفر برای سیاست عمومی» است؛ موسسهای که بررسیها نشان میدهد هیچ هویت حقوقی، آدرس فیزیکی یا تیم پژوهشی واقعی ندارد.
اندیشکدهای که وجود خارجی ندارد
بر اساس تحقیق گاردین، وبسایت موسسه هانوفر در بازه زمانی ۶ تا ۱۴ اوت، ۱۲۴ گزارش تحلیلی منتشر کرده که مجموع حجم آنها از ۵۶۰ هزار کلمه فراتر میرود؛ به طور میانگین حدود ۴۵۰۰ کلمه برای هر گزارش. اوج این فعالیت در روزهای ۱۲ و ۱۳ اوت بوده که طی آن ۷۳ گزارش با نزدیک به ۳۵۴ هزار کلمه به یکباره بارگذاری شده است.
نکته قابل تامل این است که این وبسایت ظاهرا در هیچ حوزه قضایی به عنوان یک شخصیت حقوقی ثبت نشده، هیچ آدرس مشخصی ندارد، فهرستی از کارکنان و پژوهشگران آن ارائه نشده و حتی هیچیک از گزارشها نام نویسنده ندارد. در بخش «شرایط استفاده» سایت نیز آمده که قوانین حاکم بر آن «تابع قوانین کشوری است که موسسه در آن تأسیس شده»، بیآنکه نام آن کشور ذکر شود.
با این حال، ظاهر سایت کاملا حرفهای و دانشگاهی طراحی شده است. نیک کلیولند-استاوت، پژوهشگر موسسه کوئینسی که این پرونده را بررسی کرده، به گاردین گفته است لوگو، طراحی گرافیکی و نحوه ارجاعدهی گزارشها به گونهای است که در نگاه اول، بیننده تصور میکند با یک مرکز پژوهشی معتبر روبهرو است، اما با خواندن دقیق متنها مشخص میشود بخش بزرگی از استدلالها فاقد انسجام منطقی است.
ردپای پول و ثبت رسمی به عنوان عامل خارجی
گاردین مینویسد گرداننده این وبسایت، یک شرکت رسانهای آمریکایی به نام «پیرو» (Piro Inc) است. این شرکت در ماه اوت، مطابق قانون ثبت عوامل خارجی (FARA) در وزارت دادگستری آمریکا، وبسایت هانوفر را به عنوان ابزاری برای توزیع محتوا به نفع دولت اسرائیل به ثبت رسانده و به صراحت اعلام کرده که مطالب این سایت را برای اسرائیل منتشر میکند.
این قانون، اشخاص و شرکتهایی را که برای دولتهای خارجی در خاک آمریکا فعالیت میکنند، ملزم به شفافسازی درباره منبع مالی و کارفرمای خود میکند. افشای این ثبت، سرنخ اصلی برای کشف ابعاد مالی کارزار بوده است.
به نوشته گاردین، پروژه هانوفر تنها بخشی از یک کارزار بسیار بزرگتر است که دهها میلیون دلار برای آن هزینه شده است. منابع مالی این پروژه از طریق واسطههایی از جمله شرکت تبلیغاتی اروپایی «Havas Media» به شرکتهای آمریکایی منتقل شده تا شبکهای از وبسایتها و محتواهای هدفمند تولید و در اینترنت منتشر شود.
مهندسی سوال و جواب؛ چگونه چتباتها هدف قرار گرفتند؟
بررسی محتوایی گزارشهای هانوفر نشان میدهد تقریبا تمام عناوین به شکل سوال تنظیم شدهاند؛ سوالاتی که شباهت زیادی به پرسشهای متداول کاربران از چتباتها دارد. برای مثال، «آیا اسرائیل در غزه مرتکب نسلکشی شده است؟» یا «آمار تلفات غیرنظامیان در غزه چقدر قابل اعتماد است؟»
گزارشها در ظاهر به منابع معتبری مانند بانک جهانی، نهادهای وابسته به سازمان ملل، مرکز آمار فلسطین، سازمان عفو بینالملل و حتی متن کنوانسیون نسلکشی استناد میکنند، اما به گفته گاردین، نحوه روایت و چینش استدلالها به گونهای است که انتقادها از اسرائیل را کمرنگ یا بیاعتبار جلوه دهد.
- انکار ضمنی نسلکشی و آپارتاید: در ۲۰ مورد از ۱۲۴ گزارش، هرجا سازمانهای حقوق بشری اسرائیل را به نسلکشی یا آپارتاید متهم کردهاند، گزارشهای هانوفر تاکید میکنند که «هیچ دادگاهی هنوز حکم نهایی در این باره صادر نکرده است» و بنابراین نمیتوان این اتهامها را قطعی دانست.
- مبهمسازی آمار تلفات: در ۵۵ گزارش، آمار قربانیان و کمکهای بشردوستانه به جای انتساب مستقیم به منابع فلسطینی یا اسرائیلی، به عبارت مبهم «یکی از طرفهای درگیر» نسبت داده شده است. این شیوه هم برای آمار ارائهشده از سوی اسرائیل و هم برای آمار فلسطینیها به کار رفته تا در ذهن خواننده و مدل زبانی، تردید ایجاد کند که گویا درباره آنچه در غزه رخ داده «هیچ اطلاعات قطعی و قابل اثباتی وجود ندارد».
به گفته پژوهشگران، این تکنیک «ابهامآفرینی استراتژیک» نام دارد؛ روشی که به جای تکذیب مستقیم، با ایجاد ابهام فراگیر، اعتبار دادههای مستند را زیر سوال میبرد.
هدف اصلی: نفوذ به دادههای آموزشی هوش مصنوعی
گاردین تاکید میکند هدف این سایتها فقط جذب مخاطب انسانی از طریق موتورهای جستوجو نیست، بلکه هدف مهمتر، آلودهسازی منابع دادهای است که مدلهای بزرگ زبانی با آنها آموزش میبینند.
کارشناسان دو مسیر برای اثرگذاری بر چتباتها را تشریح میکنند:
مسیر اول انتشار گسترده محتوا در وب به امید آن است که چتباتها هنگام پاسخگویی، به این مطالب به عنوان منبع استناد کنند. مسیر دوم که به تعبیر گاردین «نگرانکنندهتر و بالقوه مؤثرتر» است، تزریق این مطالب به مخازن عظیم دادهای مانند «کامن کراول» (Common Crawl) است؛ آرشیوی آزاد از میلیاردها صفحه وب که بسیاری از شرکتهای بزرگ هوش مصنوعی از آن برای آموزش مدلهای تجاری خود استفاده میکنند.
اگر روایت مورد نظر وارد دادههای آموزشی شود، مدل ممکن است بعدها همان روایت را بازتولید کند، بدون آنکه حتی به منبع اصلی اشاره کند. در این حالت، کاربر نهایی نه میتواند منشأ اطلاعات را تشخیص دهد و نه آن را راستیآزمایی کند. این چرخه میتواند به بازتولید خودکار یک روایت جهتدار در پاسخهای میلیونها کاربر در سراسر جهان منجر شود.
کارزاری پرهزینه در سایه افول محبوبیت
این افشاگری در شرایطی صورت میگیرد که جایگاه اسرائیل در افکار عمومی آمریکا، بهویژه پس از جنگ غزه، به شدت تضعیف شده است. گاردین به نقل از منابع اسرائیلی مینویسد حتی مقامهای این رژیم نیز نسبت به اثربخشی این نوع کارزارهای تبلیغاتی ابراز تردید کردهاند.
در ماه ژوئیه، روزنامه یدیعوت آحارونوت به نقل از مقامهای اسرائیلی گزارش داد که تلاشها برای بهبود وجهه اسرائیل در خارج شکست خورده است. یکی از این مقامها گفته بود: «پول زیادی پرداخت کردیم، اما وضعیت فقط بدتر شد.»
به نوشته گاردین، پس از آنکه نخستین گزارشها درباره ماهیت جعلی موسسه هانوفر منتشر شد، فعالیت این وبسایت متوقف شده و مطلب جدیدی در آن بارگذاری نشده است؛ نشانهای که خود بر ماهیت پروژهای و موقت بودن آن صحه میگذارد.
این پرونده بار دیگر بحث ضرورت شفافیت در منابع آموزشی هوش مصنوعی، نظارت بر محتوای تولیدشده با انگیزههای سیاسی و مسئولیت شرکتهای توسعهدهنده مدلهای زبانی در قبال صحت اطلاعات را به کانون توجه بازگردانده است.
نظرات (0)