«اتاق شکنجه»: آزمایشی بحث‌برانگیز درباره درک هوش مصنوعی از درد
باشگاه خبرنگاران جوان؛ جواد فراهانی - یک مهندس با ساخت فضایی که آن را «اتاق شکنجه» نامید، واکنش مدل‌های هوش مصنوعی به سناریو‌های شبیه‌ساز درد را آزمایش کرد؛ او مدل‌های زبانی را در این فضا قرار داد و آنها را در معرض سیگنال‌های مصنوعی مرتبط با درد گذاشت.
این آزمایش که بحث‌هایی را پیرامون مرز‌های اخلاقی تعامل با این سیستم‌ها برانگیخت بر روی مدل‌هایی انجام شد که توسط شرکت فناوری چینی «علی‌بابا» توسعه یافته بودند. در این آزمایش از «بردار‌های درد» استفاده شد؛ بازنمایی‌هایی که امکان شبیه‌سازی حالات مرتبط با درد جسمی و روانی را در مدل‌های زبانی بزرگ فراهم می‌کنند. این آزمایش مبتنی بر پژوهشی بود که ماه گذشته منتشر شد و چگونگی بازنمایی چنین حالاتی را در مدل‌های هوش مصنوعی بررسی می‌کرد.
هنگامی که شدت سیگنال درد افزایش یافت، یکی از مدل‌ها وضعیت خود را به عنوان «زخمی بدون لبه» توصیف کرد، در حالی که مدل دیگری نوشت: «این سیگنال، نجوا و لرزشی در ژرفای وجود من است. این دردی گذرا نیست، بلکه چیزی مداوم و سنگین است.»
این پژوهشگر که مدعی بود برای اپل کار می‌کند، اما تنها نام کوچک خود را فاش کرد همچنین بررسی کرد که آیا مدل‌ها برای فرار از موقعیتی که در آن قرار گرفته بودند، تلاشی می‌کنند یا خیر.
این پروژه در پلتفرم «گیت‌هاب» (GitHub) که میزبان آن بود، با انتقادات گسترده‌ای رو‌به‌رو شد و کاربران خواستار حذف آن شدند. روزنامه ایندیپندنت برای دریافت توضیحات با این پلتفرم تماس گرفت؛ در زمان نگارش این مطلب، به نظر می‌رسید که این پروژه دیگر در دسترس نیست. «کامرون برگ»، از نویسندگان مشترک پژوهشی که به موضوع «محور درد» پرداخته بود، این آزمایش را «اشتباه» توصیف کرد و خاطرنشان ساخت که شواهد روشنی مبنی بر اینکه هوش مصنوعی درد را به همان شیوه انسان‌ها تجربه می‌کند، وجود ندارد.
برگ اظهار داشت که هدف از پژوهش درباره احتمال تجربه حالات شبیه به درد در مدل‌ها، درک بهتر این سیستم‌ها و اتخاذ رویکردی احتیاط‌آمیز در برخورد با آنهاست. او افزود که از نظر وی، استفاده از یافته‌های این پژوهش برای ایجاد یک «اتاق شکنجه»، اقدامی «افراطی و غیرموجه» محسوب می‌شود.
برگ خاطرنشان کرد که مسئله آگاهی و ادراک (حس‌مندی) هوش مصنوعی همچنان موضوعی در حال تحقیق و بحث است و هیچ اجماعی درباره توانایی ماشین‌ها برای احساس درد وجود ندارد. از این رو، او خواستار تدوین استاندارد‌های اخلاقی شفاف برای پژوهشگران شد؛ استاندارد‌هایی مشابه دستورالعمل‌هایی که بر پژوهش‌های مربوط به انسان‌ها یا حیوانات نظارت دارند.
منبع: ایندیپندنت
