نسخه اختصاصی ChatGPT برای نوجوانان با کنترل‌های ایمنی پیشرفته

باشگاه خبرنگاران جوان؛ جواد فراهانی - OpenAI از عرضه نسخه جدیدی از چت‌بات ChatGPT خود خبر داده است که به‌طور خاص برای نوجوانان ۱۳ تا ۱۷ ساله طراحی شده و نسل اول بزرگ‌شوندگان با هوش مصنوعی را هدف قرار می‌دهد.

این ابتکار در زمانی ارائه می‌شود که نوجوانان به‌طور فزاینده‌ای از هوش مصنوعی برای انجام تکالیف مدرسه، مشاوره روزانه و حتی به‌عنوان همراهان دیجیتال استفاده می‌کنند.

نسخه جدید دارای کنترل‌های ایمنی پیشرفته‌ای است که از نمایش محتوای مربوط به خودآزاری، خودکشی یا روابط عاشقانه و جنسی توسط چت‌بات جلوگیری می‌کند.

ویژگی‌های تحصیلی این چت‌بات به‌گونه‌ای طراحی شده‌اند که به دانش‌آموزان در درک درس‌هایشان کمک کنند، نه اینکه پاسخ‌ها یا مقالات آماده‌ای ارائه دهند که می‌توانند برای تقلب استفاده شوند.

این شرکت می‌گوید هدف، پرورش عادات استفاده سالم از هوش مصنوعی مناسب برای نوجوانان است.

در این زمینه، آن اولیری، معاون رئیس سیاست‌های جهانی در OpenAI، توضیح داد که این شرکت تلاش می‌کند تا با نوجوانان به گونه‌ای تعامل کند که به بلوغ فکری آنها احترام بگذارد، بدون اینکه آنها را تحقیر کند یا در معرض محتوای نامناسب قرار دهد.

کارشناسان آموزشی، والدین و معلمان معتقدند که استفاده نوجوانان از چت‌بات‌ها خطرات قابل توجهی را به همراه دارد. این فناوری‌ها پیش از این به تقلب در مدرسه، تأثیر منفی بر سلامت روان نوجوانان و حتی منجر شدن به خودکشی متهم شده‌اند.

در حالی که بزرگسالان نیز می‌توانند طعمه تعامل عاطفی با هوش مصنوعی شوند، نوجوانان به دلیل مغز‌های در حال رشدشان آسیب‌پذیرتر هستند.

تحقیقات قبلی نشان داد که ChatGPT به نوجوانان در مورد نحوه مصرف الکل و مواد مخدر، پنهان کردن اختلالات خوردن و حتی نوشتن یادداشت‌های خودکشی تکان‌دهنده بنا به درخواست، مشاوره دقیقی ارائه داده است.

طبق یک مطالعه در سال ۲۰۲۵ در ایالات متحده، بیش از ۷۰ درصد از نوجوانان از چت‌بات‌ها برای همراهی استفاده می‌کنند و نیمی از آنها مرتباً این کار را انجام می‌دهند.

در اطلاعیه خود در روز سه‌شنبه، ۱۸ آگوست، OpenAI اظهار داشت که چت‌بات نوجوانان آن به گونه‌ای برنامه‌ریزی شده است که هیچ احساسی نسبت به کاربر نشان ندهد، و همچنین هوشیار یا در حال تجربه احساسات به نظر نرسد و مکالمات عاشقانه یا جنسی را کاملاً ممنوع می‌کند.

این شرکت همچنین در حال مطالعه پدیده "وابستگی عاطفی بیش از حد" به چنین فناوری‌هایی است که مدیران آن آن را در بین جوانان رایج می‌دانند.

سیستم جدید چگونه کار می‌کند؟

OpenAI هویت کاربران را تأیید نمی‌کند، اما از تکنیک‌های تخمین سن بر اساس ماهیت سوالات پرسیده شده استفاده می‌کند. اگر مشخص شود که کاربر زیر ۱۸ سال سن دارد، به طور خودکار به نسخه نوجوانان منتقل می‌شود، مکانیزمی مشابه آنچه Meta برای حساب‌های اینستاگرام نوجوانان استفاده می‌کند.

کنترل والدین اختیاری است و به والدین اجازه می‌دهد زمان‌های "آرامش" را در زمانی که برنامه در دسترس نیست تنظیم کنند و در موقعیت‌های خطرناک، مانند احتمال آسیب به خود، اعلان دریافت کنند.

اعلان‌های جدید شامل هشدار‌های مربوط به اختلالات خوردن هستند و تمرکز آنها بر راهنمایی کاربران برای جستجوی پشتیبانی خارجی در صورت نیاز است.

در حوزه آموزشی، ربات جدید به گونه‌ای طراحی شده است که دانش‌آموزان را به سمت درک مستقل مطالب درسی هدایت کند، نه اینکه پاسخ‌های مستقیم ارائه دهد.

OpenAI در حال توسعه نسخه‌های آموزشی برای معلمان است و قصد دارد یادگیری تعاملی را گسترش دهد، بر اساس تحقیقاتی که تأیید می‌کند دانش‌آموزان وقتی خودشان با چالش‌ها رو‌به‌رو می‌شوند، بهتر یاد می‌گیرند.

منبع: ایندیپندنت