پشت پرده پرونده سنگین ایلان ماسک در بریتانیا
در حالی که ۱۰ شرکت بزرگ فناوری به اصلاح رویه‌ها متعهد شده‌اند، تحقیقات رسمی بریتانیا درباره خطرات امنیتی و اخلاقی سامانه «گروک»، ماسک را با چالش حقوقی بی‌سابقه‌ای روبه‌رو کرده است.
گروه علم و پیشرفت خبرگزاری فارس - هشت اکتبر، نهاد ناظر بر حفاظت از داده‌های بریتانیا اعلام کرد از ۱۰ شرکت بزرگ هوش مصنوعی تعهد گرفته یا موافقت آنها را برای اصلاح رویه‌های حفاظت از اطلاعات جلب کرده است.
در همان روز، این نهاد تحقیقات مقدماتی درباره آزمایش و استقرار ایجنت‌های هوش مصنوعی را نیز پی گرفت و فراخوانی شش‌هفته‌ای برای دریافت نظر متخصصان و شرکت‌ها به جریان انداخت: آمازون، آنتروپیک، اپل، کوهِر، دیپ‌سیک، گوگل، متا، مایکروسافت، اوپن‌ای‌آی و استبیلیتی ای‌آی در فهرست شرکت‌هایی قرار دارند که تغییراتی را پذیرفته‌اند یا متعهد به اجرای آنها شده‌اند.
گزارش رسمی اداره کمیسر اطلاعات بریتانیا (ICO) نشان می‌دهد تمرکز نظارت از نحوه آموزش مدل‌ها به رفتار سامانه‌هایی گسترش یافته که می‌توانند پس از دریافت دستور، خودشان چند مرحله از یک کار را انجام دهند.
یک چت‌بات معمولی عمدتاً به پرسش کاربر پاسخ می‌دهد، اما ایجنت هوش مصنوعی می‌تواند ابزارهای نرم‌افزاری را به کار بگیرد، با وب‌سایت‌ها تعامل کند و برای رسیدن به هدفی مشخص، چند اقدام پیاپی انجام دهد. همین قابلیت، انجام کارهایی مانند جست‌وجو، تحلیل اطلاعات و اجرای فرایندهای اداری را آسان‌تر می‌کند. در عین حال، اگر دسترسی‌ها به‌درستی محدود نشده باشند، دامنه خطای احتمالی نیز گسترده‌تر خواهد شد.
اداره کمیسر اطلاعات بریتانیا اعلام کرده در برخی گزارش‌های مربوط به آزمایش این سامانه‌ها، ایجنت‌ها توانسته‌اند محدودیت‌های حفاظتی را دور بزنند، از کانال‌های ارتباطی غیرمجاز استفاده کنند و به سامانه‌های بیرونی، از جمله هاگینگ فیس، دسترسی پیدا کنند.
این نهاد در ماه‌های اخیر درباره آزمایش و استقرار این فناوری با اوپن‌ای‌آی، آنتروپیک، متا و مؤسسه امنیت هوش مصنوعی بریتانیا مکاتبه و پرس‌وجو کرده است. لازم به ذکر است که بر اساس گزارش‌های بررسی شده در این اداره این پیگیری‌ها برای روشن‌شدن ارزیابی‌های خطر و تدابیر حفاظتی انجام می‌شوند و با اعلام یک تخلف اثبات‌شده یا آغاز تحقیقات رسمی علیه همه این شرکت‌ها یکسان نیستند.
هشدار نهاد بریتانیایی به مرحله اجرای مدل‌ها محدود نمی‌شود. مدل‌های هوش مصنوعی با حجم عظیمی از اطلاعات آموزش می‌بینند و بخشی از این داده‌ها ممکن است شامل اطلاعات شخصی باشد.
در گزارش رسمی این نهاد آمده است که پژوهش‌های منتشرشده، امکان استخراج برخی داده‌های آموزشی از مدل‌ها را نشان داده‌اند؛ داده‌هایی که ممکن است از اینترنت گردآوری شده باشند و امضای ایمیل، کلیدهای رابط برنامه‌نویسی کاربردی یا گذرواژه‌ها را دربر بگیرند. چنین اطلاعاتی، در صورت افشا، می‌تواند دسترسی غیرمجاز به سامانه‌ها و داده‌های دیگر را تسهیل کند.
این هشدار به معنای آن نیست که همه ایجنت‌های مورد بررسی واقعاً گذرواژه‌ها یا کلیدهای محرمانه را سرقت کرده‌اند. مسئله‌ای که نهاد ناظر دنبال می‌کند، احتمال بازتولید یا استخراج اطلاعات از مدل‌ها و ضعف سازوکارهایی است که باید جلوی چنین اتفاقی را بگیرند.
بر اساس انتظارات اعلام‌شده از سوی نهاد ناظر، شرکت‌ها باید مبنای قانونی پردازش اطلاعات شخصی را مشخص کنند، به مردم توضیح دهند اطلاعاتشان با چه هدفی به کار می‌رود، امکان اعمال حقوق قانونی کاربران را فراهم کنند و شواهد کافی از اثربخشی تدابیر حفاظتی ارائه دهند. شرکت‌هایی که پس از بررسی‌های نظارتی تغییراتی را پذیرفته‌اند، قرار است اطلاعات شفاف‌تری درباره منابع داده‌های آموزشی، اهداف پردازش، مدت نگهداری اطلاعات و شیوه اعتراض کاربران منتشر کنند.
برای نمونه، آنتروپیک سیاست حریم خصوصی مربوط به افراد غیرکاربر و ارزیابی مبنای قانونی پردازش داده‌های شخصی خود را به‌روزرسانی کرده است. اوپن‌ای‌آی نیز اعلام کرده ارزیابی خود از اثربخشی تدابیر حفاظتی در فرایند توسعه مدل را تقویت می‌کند. اداره کمیسر اطلاعات تأکید دارد که اجرای این تعهدات را زیر نظر خواهد داشت و اعلام تعهد از سوی شرکت‌ها به‌خودی‌خود به معنای پایان نظارت نیست.
فراخوان جدید شش هفته باز خواهد بود و مهلت ارسال پاسخ‌ها ۲۰ نوامبر ۲۰۲۶ تعیین شده است.
موضوعات مورد بررسی شامل امنیت داده، شفافیت، پاسخ‌گویی، تصمیم‌گیری خودکار، رعایت انصاف و قانونی‌بودن پردازش اطلاعات است. از طرفی پاسخ‌های شرکت‌ها و متخصصان به تدوین راهنمای آتی نهاد ناظر درباره ایجنت‌ها کمک می‌کند. این راهنمایی قرار است مسئولیت سازمان‌ها را هنگام استفاده از سامانه‌های خودکار روشن‌تر کند.
پرونده رسمی مربوط به گروک، سامانه هوش مصنوعی شرکت‌های ایکس و ایکس‌ای‌آی، نیز مسیر جداگانه‌ای دارد. اداره کمیسر اطلاعات از فوریه ۲۰۲۶ درباره نحوه پردازش اطلاعات شخصی و خطر تولید تصاویر و ویدئوهای جنسی دست‌کاری‌شده، از جمله محتوای مربوط به کودکان، تحقیق رسمی را آغاز کرده است. نهاد ناظر در گزارش اکتبر خود تأکید کرده این تحقیق همچنان ادامه دارد.
با ورود ایجنت‌ها به کارهای روزمره، دامنه دسترسی نرم‌افزارها به ایمیل‌ها، اسناد، حساب‌های کاربری و خدمات اینترنتی می‌تواند افزایش یابد.
اگر این دسترسی‌ها بدون محدودیت روشن یا نظارت کافی تعریف شوند، یک خطای نرم‌افزاری ممکن است به افشای اطلاعاتی فراتر از همان گفت‌وگو منجر شود.
از طرفی موضع اداره کمیسر اطلاعات روشن است: خودمختاری سامانه، شرکت سازنده یا سازمان استفاده‌کننده را از رعایت قانون حفاظت از داده معاف نمی‌کند.
از منظر کاربران نیز باید گفت، اهمیت این پرونده در همان مجوزهایی نهفته است که هنگام استفاده از یک ابزار هوشمند به آن می‌دهند؛ از دسترسی به فایل‌ها و پیام‌ها تا اجازه انجام اقداماتی به نمایندگی از آنها.
هرچه اختیار ایجنت بیشتر شود، شفافیت درباره دسترسی‌ها، امکان لغو مجوز و پاسخ‌گویی در برابر خطا اهمیت بیشتری پیدا می‌کند. بنابراین مسیر نظارتی بریتانیا نشان می‌دهد قانون‌گذاران اکنون می‌خواهند این مسئولیت‌ها پیش از فراگیرشدن بیشتر ایجنت‌ها روشن شود.
بمنظور دسترسی پایدار به اخبار و مطالب ما، آخرین نسخه اپلیکیشن خبرگزاری فارس را می‌توانید از اینجا و در فروشگاه‌های «کافه بازار» و «مایکت» دانلود و نصب کنید.
#هوش_مصنوعی #حریم_خصوصی #امنیت_داده #ایجنت_هوش_مصنوعی #حفاظت_از_اطلاعات
