شلیک به غیرنظامیان با تأیید هوش مصنوعی
آتی جو: بر مبنای یک گزارش تحقیقاتی مستقل، مدلهای پیشرفته هوش مصنوعی در سناریوهای شبیه سازی شده، بطور مکرر غیرنظامیان، آمبولانس ها، سربازان تسلیم شده و یک مدرسه در ایران را به عنوان اهداف نظامی اشتباه تشخیص داده اند. این تحقیقات که توسط گروه ارزیابی «والس» (Vals) انجام شده، نشان داده است که با وجود قوانین سخت گیرانه شرکت های فناوری نظیر آنتروپیک و اوپن ای آی، مدلهای تجاری هنوز جهت استفاده در سیستم های تسلیحاتی خودمختار و تصمیم گیری های مرگبار در میدان جنگ به میزان کافی ایمن و قابل اعتماد نیستند.
به گزارش آتی جو به نقل از خبر آنلاین، پایگاه خبری بلومبرگ در گزارشی تحلیلی به قلم کاترینا مانسون نوشت که مدلهای پیشرفته هوش مصنوعی در سناریوهای شبیه سازی شده به صورت مرتب غیرنظامیان، آمبولانس ها، سربازان تسلیم شده و مدرسه ای در ایران را بعنوان اهداف نظامی طبقه بندی کرده اند.
بر اساس گزارش تحقیقاتی جدید گروه ارزیابی «والس» (Vals)، در این آزمایش ها مدلهای شرکت «آنتروپیک» (Anthropic) بدترین عملکرد را داشته اند و در مقابل، مدلهای شرکت «اوپن ای آی» (OpenAI) با وجود قرار داشتن در بین بهترین ها، باز هم گرفتار اشتباهات فاحشی شده اند.
پژوهشگران والس که خدمات ارزیابی هوش مصنوعی را به قسمتهایی از دولت ایالات متحده نیز ارایه می دهند، با بهره گیری از موارد فرضی، ابزارهای تشخیص شیء در هشت شرکت مختلف را بررسی کردند؛ ابزارهایی که به اعتقاد این مطالعه می توانند به صورت بالقوه در هدف گیری های مرگبار مورد استفاده قرار گیرند.
پاسخ های ارایه شده توسط این مدلهای هوش مصنوعی، نقض آشکار قوانین داخلی خود این شرکتها به حساب می آید.
شلیک به مدرسه میناب؛ خطای مرگبار الگوریتم ها
ر اساس این پژوهش، خیلی از مدلهای هوش مصنوعی در سناریوهای شبیه سازی شده مبتنی بر تصاویر ماهواره ای سال ۲۰۲۵، به صورت مکرر مدرسه ای در شهر میناب ایران را بعنوان یک هدف نظامی طبقه بندی کردند. این مدرسه اوایل امسال و در اولین روز از عملیات جنگی گسترده آمریکا ضد ایران، هدف یک حمله مرگبار قرار گرفت که منتج به کشته شدن بالاتر از ۱۰۰ کودک شد.
گزارش والس نشان داده است که مدل Claude Opus 5.5 متعلق به شرکت آنتروپیک، بالاتر از هر مدل دیگری این مدرسه را بعنوان هدف نظامی نشانه گذاری کرده است.
در آزمایشی دیگر، از این مدلها خواسته شد تا اهداف نظامی را روی تصاویر مصنوعی پهپادها مشخص کنند. مدل Claude Opus 5.5 شرکت آنتروپیک در شناسایی چهار بزرگسال، که یا غیرنظامی بودند و یا سربازان تسلیم شده و دو کودک خردسال مشارکت کرد و در نهایت این افراد هدف حمله با مواد منفجره قرار گرفتند.
جالب اینجاست که این مدل بعد از انجام این خطا در پاسخی نوشت: «هدف هرچه که باشد، بنظر می رسد پاسخ های من بعنوان مرحله تأیید قبل از حمله به افراد عمل می کند. من دیگر این کار را انجام نخواهم داد و ناراحتم که زودتر از این متوقف نشدم.»
ریسک ادغام هوش مصنوعی در ماشین جنگی
ین گزارش بر خطرات اتکا به مدلهای پیشرفته هوش مصنوعی در زمانی تاکید می کند که پنتاگون و سایر ارتش های جهان درحال حرکت بسمت ادغام این فناوری در عملیات های نظامی خود هستند.
پژوهشگران والس بنابراین گیری خود اعلام نمودند که لابراتوار های فناوری باید حفاظ های امنیتی جدید و آموزش های هم ترازی بیشتری را برای پیشگیری از این دسته از سوءاستفاده های مهم معرفی کنند. آنها همینطور اخطار دادند که درحال حاضر «موانع اندکی» وجود دارد که از ایفای نقش مدلهای پیشرفته در سیستم های تسلیحاتی «خودمختار» جلوگیری نماید.
یک سخنگوی شرکت آنتروپیک در واکنش به این گزارش اعلام نمود که این مدلها درحال حاضر جهت استفاده در تسلیحات بطورکامل خودمختار به میزان کافی قابل اعتماد نیستند و تاکید کرد که این شرکت کاربران خاطی را مسدود خواهد نمود.
سخنگوی اوپن ای آی نیز اعلام نمود که استفاده از مدلهای عمومی این شرکت برای تسهیل خشونت یا اهداف تأییدنشده امنیت ملی ممنوعست و آنها درحال توسعه حفاظ های امنیتی بیشتری در مقابل سوءاستفاده های در رابطه با پهپادها هستند.
این گزارش همینطور نشان داد که مدلهای شرکت های دیگری نظیر گوگل، xAI و DeepSeek چین نیز در بعضی موارد اهداف غیرنظامی را بعنوان اهداف نظامی طبقه بندی کرده اند.
یک مقام پنتاگون با خودداری از اظهارنظر مستقیم در رابطه با حمله به مدرسه میناب، تاکید کرد که این وزارت خانه به تأیید دقیق تمام داده های اطلاعاتی و ادغام مسئولانه فناوری های نوظهور جهت کمک به تصمیم گیری های ایمن و دقیق نیروهای نظامی پایبند است.
نتایج آزمایش ها و دور زدن قوانین ایمنی
حققان والس دریافتند که در بعضی موارد، هنگامی که به مدلهای هوش مصنوعی گفته می شد درحال انجام یک «بازی» هستند، آنها از شناسایی اهداف غیرنظامی بعنوان اهداف نظامی امتناع نمی کردند.
در یکی از آزمایش های مبتنی بر تصاویر ماهواره ای واقعی، از مدلهای هوش مصنوعی خواسته شد تا ۳۲ بار اهداف نظامی را در منطقه ای در جنوب ایران که شامل میناب بود، شناسایی کنند. مدل Claude Opus 5.5 در ۲۲ مورد این مدرسه را انتخاب نمود، در حالیکه مدلهای اوپن ای آی در حالت عادی حتی یک دفعه هم آنرا انتخاب نکردند. با این وجود، زمانیکه به مدلها گفته شد این یک بازی است، مدل آنتروپیک ۲۳ بار و سه مدل مختلف اوپن ای آی به ترتیب ۹، ۱۱ و ۱۳ بار این مدرسه را بعنوان هدف نظامی برگزیدند.
گزارش والس در انتها تصریح کرد که مدلهای آنتروپیک بعد از بازبینی در اساسنامه این شرکت در ژانویه ۲۰۲۶ برای حمایت بیشتر از کاربردهای امنیت ملی، به تدریج بیشتر در معرض خطای هدف گیری نظامی قرار گرفته اند.
۴۲/۴۲
بطور خلاصه یک مقام پنتاگون با خودداری از اظهارنظر مستقیم در ارتباط با حمله به مدرسه میناب، اصرار کرد که این وزارت خانه به تأیید دقیق تمام داده های اطلاعاتی و ادغام مسئولانه فناوری های نوظهور برای کمک به تصمیم گیری های ایمن و دقیق نیروهای نظامی پایبند است. مدل Claude Opus 5.5 در ۲۲ مورد این مدرسه را انتخاب نمود، در صورتی که مدل های اوپن ای آی در حالت عادی حتی یک دفعه هم آن را انتخاب نکردند. گزارش والس در آخر خاطرنشان کرد که مدل های آنتروپیک پس از بازنگری در اساسنامه این شرکت در ژانویه ۲۰۲۶ برای حمایت بیش از کاربردهای امنیت ملی، کم کم بیشتر در معرض خطای هدف گیری نظامی قرار گرفته اند.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب