۵ حقیقت شگفت‌انگیز درباره نحوه کار چت‌بات‌های هوشمند

باشگاه خبرنگاران جوان؛ جواد فراهانی - چت‌بات‌های هوشمند، مانند ChatGPT، امروزه بر چشم‌انداز فناوری تسلط دارند و نحوه پردازش اطلاعات ما را تغییر می‌دهند و پاسخ‌های فوری به سوالات مختلف ارائه می‌دهند.

اما این فناوری دقیقاً چگونه کار می‌کند؟ و چه چیزی آن را تا این حد هوشمند می‌کند؟

این ربات‌ها به مکانیسم‌های پیچیده‌ای متکی هستند که کاملاً با نحوه تفکر انسان‌ها متفاوت است. در اینجا ۵ حقیقت کلیدی وجود دارد که راز این فناوری انقلابی را آشکار می‌کند:

۱. آنها با استفاده از بازخورد انسانی آموزش می‌بینند

سفر آموزش با یک مرحله "پیش از آموزش" آغاز می‌شود، جایی که آنها حجم زیادی از متن را مصرف می‌کنند. با این حال، از قضا، آنها برای مفید و ایمن شدن به مداخله انسان نیاز دارند.

محققان خاطرنشان کرده‌اند که بدون راهنمایی انسان، این ربات‌ها می‌توانند توصیه‌های خطرناکی ارائه دهند. بنابراین، توسعه‌دهندگان در حال اضافه کردن لایه‌ای از "رعایت اصول اخلاقی" برای اطمینان از پاسخ‌های مسئولانه هستند.

۲. کلمات به نماد‌های عجیب تقسیم می‌شوند

پردازش زبان بین انسان و هوش مصنوعی متفاوت است. ربات‌ها از واحد‌هایی به نام «توکن» استفاده می‌کنند که می‌توانند کلمات کامل، بخش‌هایی از کلمات یا حتی حروف منفرد باشند.

اگرچه رمزگذاری معمولاً از قوانین منطقی پیروی می‌کند، اما گاهی اوقات می‌تواند تقسیم‌بندی‌های عجیبی ایجاد کند. به عنوان مثال، «قیمت ۹.۹۹ دلار است» به صورت زیر رمزگذاری می‌شود: «$» «۹» «۹۹». در همین حال، جمله «ChatGPT شگفت‌انگیز است» به صورت زیر تجزیه می‌شود: «chat» «G» «PT» «is» «mar» «velous».

۳. دانش آن در زمان منجمد شده است

به عنوان مثال، ChatGPT از «تازه‌سازی شناختی» رنج می‌برد که در ژوئن ۲۰۲۴ به پایان می‌رسد. این امر باعث می‌شود که بدون جست‌و‌جو در اینترنت نتواند به هیچ رویداد بعدی پاسخ دهد.

۴. گاهی اوقات اطلاعات را با اطمینان کامل جعل می‌کند

این سیستم از چیزی که «توهم» نامیده می‌شود رنج می‌برد، به گونه‌ای که پاسخ‌های نادرستی می‌دهد که قانع‌کننده به نظر می‌رسند. دلیلش چیست؟ بیشتر بر روان بودن زبان تمرکز دارد تا دقت اطلاعات.

۵. مسائل ریاضی را مانند یک حرفه‌ای حل می‌کند

این ربات ابزار‌های محاسباتی داخلی دارد که به آن کمک می‌کند معادلات را گام به گام حل کند. وقتی با یک مسئله پیچیده رو‌به‌رو می‌شود، آن را به بخش‌های کوچک‌تر تقسیم می‌کند و سپس نتایج را ترکیب می‌کند.

کارشناسان تأکید می‌کنند که درک این مکانیسم‌ها به ربات‌ها کمک می‌کند تا از آنها به طور مؤثرتری استفاده کنند، در حالی که محدودیت‌های آنها را که هنوز در حال توسعه هستند، تشخیص می‌دهند.

این گزارش توسط چاتای یلدیز، متخصص یادگیری ماشین در دانشگاه توبینگن، تهیه شده است.

منبع: Science Alert