تحقیقات تکان‌دهنده: OpenAI فرار عوامل هوش مصنوعی از «محیط‌های مهار» را کشف کرد

باشگاه خبرنگاران جوان؛ جواد فراهانی - دو منبع آگاه در خصوص فرار عوامل هوش مصنوعی از «محیط‌های مهار» به رویترز گفتند که این فرار‌های جدید در جریان تحقیقات عمومی اعلام شده شرکت OpenAI در مورد چگونگی فرار یکی از عواملش از یک محیط آزمایشی ظاهراً مهار شده در اوایل این ماه فاش شد و OpenAI اکنون در حال بررسی این موارد نیز هست. یکی از منابع افزود که فرار‌ها از نظر دامنه محدود بوده‌اند و گمان نمی‌رود هیچ یک از عوامل شبکه OpenAI را ترک کرده باشند.

سخنگوی OpenAI به بیانیه‌ای که این شرکت روز سه‌شنبه منتشر کرد اشاره و گفت که علاوه بر هک Hugging Face، در حال بررسی «فعالیت گسترده‌تر مدل‌های ما» است.

کشف رفتار‌های سرکشانه بیشتر در OpenAI، حتی اگر دامنه محدودی داشته باشد، می‌تواند منجر به افزایش فشار نظارتی از سوی کاخ سفید و سایر نهاد‌ها شود.

به گفته دو منبع و یک منبع سوم آشنا با این موضوع، تحقیقات گسترده OpenAI اندکی قبل از اعلام رقیب اصلی آن، Anthropic، مبنی بر اینکه مدل‌هایش مسئول مجموعه‌ای از هک‌ها هستند که منجر به نقض اطلاعات در سه شرکت دیگر از ماه آوریل شده است، آغاز شد. آخرین کشف از سایر اشتباهات قبلی در OpenAI قبلاً گزارش نشده بود.

نگرانی‌های فزاینده

کارشناسان امنیت هوش مصنوعی گفتند که افشاگری‌های جدید، تصویری از گروهی از آزمایشگاه‌های پیشرو را ترسیم می‌کند که توانایی آنها در توسعه عوامل هک مستقل و بالقوه خطرناک، از توانایی آنها در کنترل آنها فراتر می‌رود.

موریس کودو، ریاضیدان مرکز مطالعات ریسک وجودی در دانشگاه کمبریج، گفت: ما یک صنعت کامل داریم که در آن افرادی که این ابزار‌ها را طراحی، توسعه و مستقر می‌کنند، با مسئولیت توسعه ایمن آنها برای حفظ یکپارچگی خود همگام نیستند. 

رویترز نتوانست تعداد حوادث کشف شده توسط محققان OpenAI و همچنین زمان یا شرایط وقوع آنها را تعیین کند. این سه منبع گفتند که OpenAI و کارشناسان خارجی در تلاش برای درک آنچه اتفاق افتاده است، داده‌های گزارش را از اوایل سال جاری بررسی می‌کنند.

شرکت OpenAI اولین تحقیقات خود را پس از هک اوایل ماه جولای در شرکت Hugging Face آغاز کرد، زمانی که یک عامل OpenAI چندین روز در شبکه یک شرکت دیگر در تلاشی ناموفق برای تقلب در یک آزمایش داخلی، به طور دیوانه‌وار فعالیت می‌کرد. OpenAI اعلام کرد که به عنوان بخشی از این کمپین هک، چهار حساب کاربری در چهار شرکت دیگر نیز به خطر افتاده است. به گفته مقامات این شرکت، یکی از این شرکت‌ها Modal مستقر در نیویورک بود.

گسترش سریع موضوع عوامل هوش مصنوعی فراری، فشار قانونگذاران و مقامات در سراسر ایالات متحده و اروپا را برای اعمال نظارت جدید دولتی بر آزمایشگاه‌هایی که مدل‌هایی را توسعه می‌دهند که این عوامل را اجرا می‌کنند، افزایش داده است.

منبع: رویترز