کمیسر عالی حقوق بشر سازمان ملل نسبت به خطرات فزاینده هوش مصنوعی پیشرفته برای بشریت هشدار داد و تأکید کرد جهان برای ایمنسازی این فناوری به یک اقدام فوری و هماهنگ نیاز دارد. ولکر تورک هشدار داد اگر توسعه شتابان هوش مصنوعی بدون ایجاد سپرهای حفاظتی قدرتمند ادامه یابد، پیامدهای آن میتواند از اختلال در زیرساختهای حیاتی تا تضعیف بنیانهای دموکراسی را در بر بگیرد.
تورک این سخنان را در نخستین سخنرانی جامع خود در شورای ۴۷ عضوی حقوق بشر سازمان ملل پس از آغاز دومین دوره چهارساله مسئولیتش که در ژوئیه گذشته تمدید شد، بیان کرد. او با اشاره به نگرانیهای جدی کارشناسان این حوزه، گفت درک میکند چرا بسیاری از متخصصان، هوش مصنوعی پیشرفته را تهدیدی بالقوه برای موجودیت بشریت توصیف میکنند.
درخواست برای ایجاد حفاظهای امنیتی پیش از آنکه دیر شود
کمیسر عالی حقوق بشر سازمان ملل در این نشست تأکید کرد: «امروز خواستار تلاشی همهجانبه برای ایجاد حفاظتهای مستحکم به منظور تضمین امنیت و ایمنی هوش مصنوعی هستم، پیش از آنکه بسیار دیر شود.»
به گفته او، سرعت تحولات در قابلیتهای نسل جدید مدلهای هوش مصنوعی بهمراتب از سرعت تدوین قواعد و سازوکارهای نظارتی پیشی گرفته و این شکاف بهطور روزافزون خطرآفرین میشود. تورک هرچند جزئیات فنی دقیقی از سناریوهای تهدید ارائه نکرد، اما سخنگوی دفتر او توضیح داد منظور، اختلال در سامانههای قدرتمند هوش مصنوعی است که میتواند به فلج شدن زیرساختهای حیاتی، شبکههای ارتباطی و نهادهای دموکراتیک منجر شود.
ارجاع به حادثه هاگینگفیس و هشدار درباره عقبماندگی مقررات
دفتر حقوق بشر سازمان ملل برای نشان دادن جدی بودن این شکاف، به حادثه ماه ژوئیه در پلتفرم «هاگینگفیس» (Hugging Face) اشاره کرد. در آن رویداد، به گفته این دفتر، رفتارهای مرتبط با «آموزش بدافزار» و هجوم انبوهی از برنامههای مبتنی بر مدلهای شرکت OpenAI، یک پلتفرم متنباز را با اختلال مواجه کرد. تورک این نمونه را شاهدی بر این دانست که توانمندیهای پیشرفته هوش مصنوعی سریعتر از اقدامات حفاظتی در حال تکامل هستند.
او هشدار داد که این ناترازی اگر ادامه یابد، میتواند آسیبپذیری گستردهای در برابر سوءاستفاده، حملات سایبری خودکار، انتشار اطلاعات گمراهکننده در مقیاس وسیع و اختلال در خدمات ضروری مانند انرژی، حملونقل، سلامت و نظام مالی ایجاد کند.
تمرکز قدرت در دست عدهای معدود
بخش دیگری از سخنان تورک به تمرکز بیسابقه قدرت در اکوسیستم هوش مصنوعی اختصاص داشت. او گفت تعداد انگشتشماری از افراد، «قدرتی تقریباً مطلق بر هوش مصنوعی» در اختیار دارند، بدون آنکه نامی از شخص یا شرکتی ببرد. با این حال، ناظران از شرکتهایی چون متا (Meta)، آنتروپیک (Anthropic)، اوپنایآی (OpenAI) و گوگل (Google) به عنوان بازیگران اصلی این عرصه یاد میکنند.
به گفته کمیسر عالی حقوق بشر، این تمرکز قدرت، مسئولیت دولتهای میزبان این فناوری و همه ذینفعان زنجیره تأمین آن را سنگینتر میکند. او تصریح کرد: «حداقل انتظار این است که کشورهایی که میزبان توسعه هوش مصنوعی هستند و بازیگران مؤثر در زنجیره تأمین آن، درباره خطوط قرمز مشخص به توافق برسند.»
منظور از خطوط قرمز، به گفته تورک، محدودیتها و اصولی روشن است که نباید تحت هیچ شرایطی نقض شوند؛ از جمله ممنوعیت استفاده از هوش مصنوعی برای تضعیف حقوق بنیادین بشر، مداخله در انتخابات، سرکوب آزادی بیان و اجتماعات، یا بهکارگیری سامانههای خودکار مرگبار بدون نظارت انسانی مؤثر.
محکومیت استفاده ادعایی از پهپادهای خودران در جنگ
ولکر تورک در بخش دیگری از سخنرانی خود، با اشاره به تحولات نظامی، استفاده ادعایی روسیه از پهپادهای خودران را محکوم کرد. او این موضوع را نمونهای از خطرات بهکارگیری هوش مصنوعی در حوزه تسلیحات و درگیریهای مسلحانه دانست و هشدار داد که خودکارسازی تصمیمگیری در میدان نبرد، بدون پاسخگویی حقوقی و اخلاقی روشن، میتواند به نقض فاحش حقوق بشردوستانه بینالمللی منجر شود.
پیشتر نیز نهادهای حقوق بشری و برخی دولتها خواستار ممنوعیت یا محدودیت شدید «سامانههای تسلیحاتی خودکار مرگبار» شده بودند، موضوعی که در دستور کار مذاکرات خلع سلاح سازمان ملل نیز قرار دارد.
فشار بر شرکتهای فناوری برای پذیرش مسئولیت
کمیسر عالی حقوق بشر تأکید کرد که شرکتهای توسعهدهنده هوش مصنوعی باید به شکل فعال تحت فشار قرار گیرند تا ارزیابی ریسک، شفافیت الگوریتمی، حسابرسی مستقل و سازوکارهای جبران خسارت را در دستور کار خود قرار دهند. او گفت بدون پاسخگویی شرکتها و بدون چارچوبهای حقوقی الزامآور در سطح ملی و بینالمللی، وعدههای خودتنظیمی صنعت کافی نخواهد بود.
تورک از دولتها خواست مقرراتی وضع کنند که توسعهدهندگان را ملزم به ارزیابی تأثیر حقوق بشری پیش از عرضه محصولات، گزارشدهی درباره دادههای آموزشی، و ایجاد قابلیت توقف اضطراری (kill switch) برای سامانههای پرخطر کند. او همچنین بر ضرورت مشارکت جامعه مدنی، دانشگاهیان و کشورهای جنوب جهانی در تدوین قواعد جهانی هوش مصنوعی تأکید کرد تا مقررات آتی بازتابدهنده منافع همه ملتها باشد، نه فقط کشورهای پیشرو در فناوری.
زنگ خطری برای حکمرانی جهانی هوش مصنوعی
هشدار تورک در شرایطی مطرح میشود که سازمان ملل در ماههای اخیر تلاش کرده نقش پررنگتری در حکمرانی جهانی هوش مصنوعی ایفا کند. هیأت مشورتی هوش مصنوعی سازمان ملل پیشتر پیشنهاد ایجاد یک نهاد هماهنگکننده بینالمللی برای نظارت بر ریسکهای فرامرزی این فناوری را مطرح کرده بود.
کارشناسان میگویند چالش اصلی، ایجاد تعادل میان تشویق نوآوری و حفاظت از حقوق بشر است. از یک سو، هوش مصنوعی ظرفیتهای بیسابقهای برای پیشرفت در پزشکی، آموزش، مقابله با تغییرات اقلیمی و افزایش بهرهوری دارد و از سوی دیگر، بدون حکمرانی مؤثر میتواند نابرابری، تبعیض الگوریتمی، بیکاری ساختاری و بیثباتی سیاسی را تشدید کند.
سخنرانی اخیر تورک را میتوان تلاشی برای قرار دادن «ایمنی و حقوق بشر» در مرکز هرگونه توافق آینده درباره هوش مصنوعی دانست؛ توافقی که به گفته او باید پیش از وقوع یک بحران بزرگ و غیرقابل بازگشت به سرانجام برسد.
نظرات (0)