هشدار سازمان ملل در مورد تهدیدات هوش مصنوعی علیه بشریت

باشگاه خبرنگاران جوان؛ جواد فراهانی - ولکر تورک، کمیسر عالی حقوق بشر سازمان ملل، هشدار داد که هوش مصنوعی می‌تواند تهدیدی برای بشریت باشد و متعهد شد که شرکت‌های هوش مصنوعی را برای کاهش خطرات، از جمله اختلال در خدمات، ارتباطات و سیستم‌های دموکراتیک، تحت فشار قرار دهد.

 او در سخنرانی پیش از دومین دوره تصدی خود، خواستار حفاظت‌های قوی در برابر هوش مصنوعی شد. در این سخنرانی، او همچنین استفاده ادعایی روسیه از پهپاد‌های خودران را محکوم کرد. این سخنرانی جامع، اولین سخنرانی او در شورای ۴۷ عضوی از زمان پیروزی در دوره چهار ساله خود در ژوئیه گذشته بود.

هشدار‌ها در مورد توسعه هوش مصنوعی

تورک گفت: «من نگرانی‌های کسانی را که در این زمینه کار می‌کنند، در مورد اینکه هوش مصنوعی پیشرفته می‌تواند تهدیدی برای وجود بشریت باشد، درک می‌کنم. امروز، من خواستار تلاشی جامع برای ایجاد حفاظت‌های قوی برای حفاظت و امنیت هوش مصنوعی قبل از اینکه خیلی دیر شود، هستم.»

تورک در مورد ماهیت خطرات توضیح بیشتری نداد، اما سخنگوی دفتر او گفت که هرگونه اختلال در سیستم‌های قدرتمند هوش مصنوعی می‌تواند زیرساخت‌های حیاتی و نهاد‌های دموکراتیک را فلج کند.

وی به «رفتار‌های جدی آموزش بدافزار» در حادثه «Hugging Face» در ماه ژوئیه اشاره کرد، که در آن انبوهی از برنامه‌های OpenAI یک پلتفرم منبع باز را به خطر انداختند و گفت که این نشان می‌دهد که قابلیت‌های پیشرفته هوش مصنوعی سریع‌تر از اقدامات حفاظتی در حال توسعه هستند.

تورک هشدار داد که تعداد انگشت‌شماری از افراد «قدرت تقریباً مطلق بر هوش مصنوعی» دارند، بدون اینکه از هیچ یک از آنها نام ببرد. از جمله برجسته‌ترین شرکت‌های هوش مصنوعی می‌توان به Meta، Anthropic، OpenAI و Google اشاره کرد.

او گفت: «حداقل، ما به کشور‌هایی که میزبان هوش مصنوعی هستند و ذینفعان در زنجیره‌های تأمین آن نیاز داریم تا در مورد خطوط قرمز خاص به توافق برسند.»

منبع: الیوم السابع