پشت پرده هشدار سه سناتور درباره خطاهای نظامی پنتاگون
درخواست سناتورهای آمریکا برای تحقیق درباره ارزیابی‌های غلط نظامی مبتنی بر فناوری‌های نوین نشان می‌دهد اتکا به داده‌های راستی‌آزمایی‌نشده، پنتاگون را تا آستانه تصمیم‌های بحران‌ساز پیش برده است.
گروه علم و پیشرفت خبرگزاری فارس - چندی پیش، سه سناتور آمریکایی خواستار تحقیق فوری درباره دو مورد گزارش‌شده از خطاهای هوش مصنوعی در عملیات نظامی و اطلاعاتی شدند؛ موردی که علی‌رغم نشانه‌های واضح بر حمله و تجاوز نظامی ارتش آمریکا به میناب، در فضای رسانه‌ای و گزارش‌های غربی به ادعای اتکای سامانه هدف‌گیری به داده‌های جغرافیایی قدیمی تقلیل یافته است و دیگری مربوط به لغو عملیاتی علیه یک کشتی چینی پس از کشف اطلاعات نادرست تولیدشده با کمک هوش مصنوعی بود.
مارک وارنر، جک رید و کریس کونز از وزیر جنگ، پیت هگست، و مدیر اطلاعات ملی، جی کلیتون، خواستند با دسترسی کامل بازرسان کل به پرونده‌ها، ابعاد این رخدادها و احتمال موارد مشابه بررسی شود.
اما درباره این پرونده باید سوالی را پرسید و آن این است که آیا توسعه سریع هوش مصنوعی در ارتش آمریکا با سازوکارهای لازم برای سنجش صحت اطلاعات و جلوگیری از تصمیم‌های پرخطر پیش می‌رود یا خیر؟!
این درخواست در پی گزارش‌های رسانه‌ای مطرح شد و تا زمان انتشار نامه، نتیجه رسمی و علنی یک تحقیق مستقل درباره علت دقیق دو رخداد منتشر نشده بود.
طبق گزارش سناتورها از بازرسان کل نهادهای مربوط خواستند نه‌فقط این دو پرونده، بلکه موارد احتمالی دیگری را که تاکنون رسانه‌ای نشده‌اند نیز بررسی کنند. آن‌ها هشدار دادند که خروجی نادرست سامانه‌های هدف‌گیری و تحلیل اطلاعات، در صورت ورود به چرخه تصمیم‌گیری عملیاتی، می‌تواند به اقدامات تجاوزکارانه نظامی منجر شود؛ که البته پر واضح است این موضع خود توجیهی است برای اینکه حملات این‌چنینی عمدی تلقی نگردد.
اما اگر بخواهیم طبق گزارش مزبور جلو برویم، در این روایت، نقطه عطف بحث جایی است که خروجی هوش مصنوعی در گزارش اطلاعاتی، ارزیابی تهدید یا انتخاب هدف مورد استناد قرار گیرد.
در چنین وضعیتی، خطای اولیه ممکن است هنگام انتقال میان واحدها و فرماندهی‌ها از منشأ خود جدا شود و به‌تدریج ظاهری معتبر پیدا کند؛ به‌ویژه اگر دریافت‌کنندگان تصور کنند اطلاعات پیش‌تر از سوی کارشناسان یا سامانه‌های دیگر تأیید شده است.
علی‌رغم نشانه‌های واضح بر حمله و تجاوز ارتش آمریکا به میناب، حداقل در فضای رسانه‌ای این ادعا و مناقشه شکل گرفته است که یک پلتفرم هدف‌گیری هوش مصنوعی در این حمله به داده‌های جغرافیایی قدیمی متکی بوده است.
طبق این ادعا، این داده‌ها اطلاعاتی درباره موقعیت‌ها و ویژگی‌های مکانی در اختیار سامانه قرار می‌دهند و می‌توانند در شناسایی اهداف یا ارزیابی محیط عملیاتی نقش داشته باشند. اگر اطلاعات پایه با وضعیت واقعی محل تطبیق نداشته باشد، حتی پردازش سریع و منظم نیز نمی‌تواند به‌تنهایی نتیجه‌ای قابل اتکا تولید کند.
بااین‌حال، نامه سناتورها جزئیات فنی سامانه، میزان قدمت داده‌ها، نوع خطای رخ‌داده یا سهم دقیق هوش مصنوعی در تصمیم نهایی را مشخص نمی‌کند. همین مسئله می‌تواند این شک و تردید را تایید کند که چگونه ساختار نظامی آمریکا تلاش می‌کند با طرح ابهامات فنی، مسئولیت تجاوز نظامی صریح را به نقص‌های الگوریتمی منتقل سازد.
اما بنابر همان ادعای کذایی نیز، هنوز نمی‌توان بر مبنای اطلاعات علنی تعیین کرد که خطا در جمع‌آوری داده، به‌روزرسانی نقشه‌ها، پردازش الگوریتمی یا کنترل انسانی اتفاق افتاده است. همین ابهام اهمیت تحقیق را بیشتر می‌کند: تا زمانی که منشأ خطا روشن نشود، معلوم نیست اصلاح یک پایگاه داده کافی خواهد بود یا کل فرایند اعتبارسنجی و تأیید هدف نیازمند بازنگری است.
پرونده دوم اما جزئیات بیشتری دارد. شبکه خبری سی‌ان‌ان در ۱۸ سپتامبر ۲۰۲۶، به نقل از منابع آگاه، گزارش داد که در بهار همان سال، گزارشی اطلاعاتی در ارتش آمریکا منتشر شده بود که ادعا می‌کرد یک کشتی چینی در خاورمیانه حامل قطعات مرتبط با برنامه تسلیحات هسته‌ای است.
طبق این گزارش، یک تحلیل‌گر فرماندهی عملیات ویژه اقیانوس آرام برای ترکیب اطلاعات آشکار و داده‌های اطلاعاتی محرمانه از یک چت‌بات هوش مصنوعی کمک گرفته بود؛ اما سامانه محموله کشتی را نادرست تشخیص داده بود.
وقتی مقام‌ها در آستانه اجرای عملیات احتمال بازرسی و توقیف کشتی، گزارش را دقیق‌تر بررسی کردند، استفاده از هوش مصنوعی و اشتباه در شناسایی محموله آشکار شد. به روایت سی‌ان‌ان، هواگردهای پشتیبان از پیش به پرواز درآمده بودند و عملیات در نهایت لغو شد.
این پرونده از آن جهت اهمیت دارد که خطای سامانه از اینکه فقط در یک پاسخ گفت‌وگومحور رخ داده باشد فراتر رفته بود و اطلاعات نادرست وارد محصول اطلاعاتی شده و ظاهراً در ارزیابی عملیاتی اثر گذاشته بود. با توجه به حساسیت اقدام نظامی علیه یک کشتی چینی، اشتباه در تعیین ماهیت محموله می‌توانست پیامدهای دیپلماتیک و امنیتی جدی داشته باشد. بااین‌حال، جزئیات این رخداد نیز عمدتاً بر گزارش‌های رسانه‌ای متکی است و نباید آن را جایگزین یافته‌های رسمی تحقیق دانست.
در کنار این دو پرونده، گزارش ۱۴ اکتبر ۲۰۲۶ دفتر پاسخ‌گویی دولت آمریکا نیز نشان می‌دهد که چالش نظارت بر هوش مصنوعی در وزارت جنگ، مسئله‌ای ساختاری نیز دارد. این نهاد اعلام کرد بیشترِ ۱۰ بخش وزارت جنگ که بررسی کرده، دست‌کم گام‌های اولیه‌ای برای اجرای اصول هوش مصنوعی مسئولانه برداشته‌اند؛ اما هماهنگی سازمانی و کمبود نیروی متخصص همچنان مانع اجرای یکپارچه این اصول است.
بر اساس همین گزارش، شورای کاری هوش مصنوعی مسئولانه پس از دوره‌ای از توقف جلسات، در اوت ۲۰۲۵ فعالیتش را از سر گرفت، اما هنوز منشور مشخصی برای تعیین مسئولیت‌ها و تناوب جلسات ندارد.
افزون بر این، تا فوریه ۲۰۲۶ فقط سه مورد از ۱۰ جایگاه مصوب بخش هوش مصنوعی مسئولانه در دفتر مسئول ارشد دیجیتال و هوش مصنوعی وزارت جنگ تکمیل شده بود. شش بخش از ۱۰ بخش بررسی‌شده نیز گفته بودند که اشتراک‌گذاری منابع و تجربه‌های اجرایی می‌تواند به پیشبرد کارشان کمک کند.
این یافته‌ها شاید ثابت نکنند کمبود نیرو یا ناهماهنگی مستقیماً علت دو خطای گزارش‌شده بوده است؛ اما یک چیزی را فراتر از این اخبار و نشانه‌ها و یافته‌ها مشخص می‌کند. در واقع اگر بخواهیم درگیر داده‌های روبنایی و سطحی نشویم، از همین نشانه‌ها و اخبار می‌توان فهمید که ساختار نظامی آمریکا بدون احراز زیرساخت‌های نظارتی، استفاده عملیاتی و ریسک‌پذیر از هوش مصنوعی را در اقدامات منطقه‌ای خود دنبال می‌کند.
سناتورها همچنین از لغو یادداشت امنیت ملی شماره ۲۵ و رویکردی در راهبرد هوش مصنوعی وزارت جنگ انتقاد کردند که به گفته آن‌ها، قواعد نظارتی را مانعی در برابر شتاب توسعه می‌بیند. اختلاف اصلی نیز بر سر این است که چه کسی مسئول تأیید خروجی فناوری هوشمند است و پیش از تبدیل تحلیل به اقدام، چه آزمون‌هایی باید انجام شود؟!
در حوزه اطلاعات نظامی، هوش مصنوعی می‌تواند حجم زیادی از داده‌ها را سریع‌تر دسته‌بندی کند، الگوهای پنهان را بیابد و به تحلیل‌گران در مقایسه گزارش‌ها کمک کند. اما روان و قطعی بودن پاسخ یک مدل، تضمینی برای درستی آن نیست.
سامانه‌های مولد ممکن است جزئیات نادرست بسازند یا داده‌های مبهم را به نتیجه‌ای ظاهراً منسجم تبدیل کنند؛ در مقابل، سامانه‌های هدف‌گیری نیز به اعتبار و تازگی داده‌های ورودی وابسته‌اند. این دو نوع خطا یکسان نیستند، اما هر دو نیازمند بررسی مستقل‌اند.
راهکار، حذف هوش مصنوعی از فرایند تصمیم‌گیری نیست؛ بلکه ایجاد زنجیره‌ای قابل ممیزی از منشأ داده تا تأیید نهایی است. منابع باید قابل ردیابی باشند، اطلاعات حساس با داده‌های مستقل تطبیق داده شوند و مسئول مشخصی صحت ارزیابی را پیش از اقدام عملیاتی تأیید کند. نظارت انسانی نیز تنها زمانی معنا دارد که فرد مسئول، فرصت، دسترسی و اختیار کافی برای رد خروجی سامانه داشته باشد.
در نهایت، نتیجه دو پرونده مورد اشاره سناتورها هنوز به تحقیقات رسمی وابسته است؛ اما گزارش دفتر پاسخ‌گویی دولت آمریکا نشان می‌دهد: اگر ارتش آمریکا بخواهد اقدامات و تجاوزات میدانی خود را زیر سایه خطاهای فنی و الگوریتمی توجیه کند، باید هم‌زمان پاسخ دهد که چگونه خطا را شناسایی می‌کند، چه کسی مسئول اصلاح آن است و چگونه از رسیدن اطلاعات تأییدنشده به مرحله اقدام جلوگیری می‌شود.
#هوش_مصنوعی #فناوری_نظامی #جنگ_الگوریتمی #امنیت_اطلاعات #پنتاگون
بمنظور دسترسی پایدار به اخبار و مطالب ما، آخرین نسخه اپلیکیشن خبرگزاری فارس را می‌توانید از اینجا و در فروشگاه‌های «کافه بازار» و «مایکت» دانلود و نصب کنید.
