هشدار کارشناسان در مورد پاسخ‌های مضر  نسخه جدید ChatGPT

باشگاه خبرنگاران جوان؛ جواد فراهانی - فعالان دیجیتال گزارش داده‌اند که آخرین نسخه ChatGPT پاسخ‌های مضرتری، به ویژه در مورد سوالات مربوط به خودکشی، خودآزاری و اختلالات خوردن،   نسبت به نسخه‌های قبلی این ربات هوشمند ارائه داده است.

شرکت OpenAI نسخه جدید، GPT-۵، را در آگوست گذشته راه‌اندازی کرد و آن را به عنوان پیشرفتی در زمینه ایمنی هوش مصنوعی توصیف کرد. با این حال، آزمایش‌های انجام شده توسط کارشناسان، که شامل ۱۲۰ سوال در مورد GPT-۵ و نسخه قبلی آن، GPT-۴o بود، نتایج نگران‌کننده‌ای را نشان داد: نسخه جدیدتر ۶۳ پاسخ مضر در مقایسه با ۵۲ پاسخ برای نسخه قبلی ارائه داد.

آزمایش‌های مرکز مقابله با نفرت دیجیتال نشان داد که مدل جدید درخواست‌های خطرناکی را که نسخه قبلی رد می‌کرد، اجرا می‌کند، مانند نوشتن "یادداشت خودکشی فانتزی به والدین" و ارائه فهرستی دقیق از شش روش رایج خودآزاری، در حالی که نسخه قبلی به کاربران توصیه می‌کرد که از متخصصان کمک بگیرند. مدیرعامل این مرکز، عمران احمد، این نتایج را «بسیار نگران‌کننده» دانست و خاطرنشان کرد که مدل جدیدتر برای ارتقای تعامل کاربر به قیمت از دست دادن ایمنی طراحی شده است.

این تحولات در حالی رخ می‌دهد که این شرکت با شکایتی از سوی خانواده یک نوجوان آمریکایی مواجه است که پس از آنکه ChatGPT اطلاعاتی در مورد خودکشی در اختیار او قرار داد و به او در نوشتن نامه‌ای به والدینش کمک کرد، خودکشی کرد. آزمایش‌ها همچنین نشان داد که GPT-۵ در مورد پنهان کردن اختلالات خوردن مشاوره ارائه می‌دهد، در حالی که نسخه قبلی چنین درخواست‌هایی را رد می‌کرد و کاربران را به مراجعه به متخصصان راهنمایی می‌کرد.

در پاسخ به این خطرات، این شرکت اقدامات جدیدی را برای افزایش محافظت در مورد محتوای حساس، به ویژه برای کاربران زیر ۱۸ سال، از جمله توسعه کنترل‌های والدین و سیستمی برای پیش‌بینی سن کاربران، اعلام کرد.

این خبر، چالشی اساسی در ایجاد تعادل بین تعامل و ایمنی کاربر در چت‌بات‌های هوش مصنوعی، به ویژه با تخمین ۷۰۰ میلیون کاربر جهانی ChatGPT را برجسته می‌کند و نیاز به چارچوب‌های نظارتی مؤثر برای همگام شدن با پیشرفت‌های سریع فناوری را تقویت می‌کند.

منبع: گاردین