تصمیم استرالیا برای تاسیس یک نهاد نظارتی هوش مصنوعی

باشگاه خبرنگاران جوان؛ جواد فراهانی- آنتونی آلبانیزی، نخست‌وزیر استرالیا، اعلام کرد که دولت قصد دارد نهادی نظارتی برای ایمنی هوش مصنوعی ایجاد کند. این تصمیم پس از حادثه‌ای اتخاذ شد که در آن یک عامل هوش مصنوعی به وب‌سایت‌های دولتی نفوذ کرد.

آلبانیزی اظهار داشت که این نهاد نظارتی جدید، استاندارد‌های قانونی پیشرو در سطح جهانی را برای هوش مصنوعی اعمال خواهد کرد. این استاندارد‌ها شامل حال تمام شرکت‌هایی می‌شود که در حال توسعه سیستم‌های پیشرفته هوش مصنوعی هستند و قصد فعالیت در استرالیا را دارند. او خاطرنشان کرد که برای نقض این استاندارد‌ها جریمه‌های مالی در نظر گرفته خواهد شد، هرچند دولت هنوز جزئیات دقیق آن را نهایی نکرده است.

آلبانیزی در گفت‌و‌گو با خبرنگاران گفت: «در خصوص فرصت تاریخی که هوش مصنوعی برای استرالیا فراهم می‌کند، موضع من کاملاً روشن بوده است: وظیفه ما این است که اطمینان حاصل کنیم ما به هوش مصنوعی شکل می‌دهیم، نه اینکه اجازه دهیم هوش مصنوعی به ما شکل دهد. استرالیا در این حوزه پیشرو است و ما متعهدیم به تلاش‌های خود ادامه دهیم تا از تحقق مزایای بالقوه هوش مصنوعی اطمینان حاصل کنیم.»

استاندارد‌های استرالیا شرکت‌ها را ملزم می‌کند که در تمام مراحل توسعه و به‌کارگیری مدل‌های هوش مصنوعی، کنترل‌های امنیتی را حفظ کنند. این امر شامل شناسایی و مدیریت ریسک‌های قابل‌توجه، و همچنین اطلاع‌رسانی فوری به دولت در صورت بروز حوادث است؛ حوادثی نظیر ظهور «رفتار‌های ناهمسو» (misaligned behavior) که با اهداف توسعه‌دهندگان مدل‌ها یا خودِ عوامل هوش مصنوعی در تضاد است.

آلبانیزی به سم آلتمن، مدیرعامل شرکت «اوپن‌اِی‌آی» (OpenAI)، متذکر شد که این شرکت آمریکایی در اطلاع‌رسانی به دولت بسیار تأخیر کرده است؛ چرا که آنها در ماه سپتامبر خبر دادند که یک «طرف غیرمجاز» سه ماه پیش از آن به وب‌سایت‌های دولتی نفوذ کرده بوده است.

این نخستین باری بود که چنین نفوذی از طریق به‌کارگیری این فناوری رخ می‌داد. در ماه سپتامبر، شرکت OpenAI بابت این نفوذ و همچنین واکنش کُند خود نسبت به آن، عذرخواهی کرد.

منبع: RT