هوش مصنوعی مدرسه میناب را هدف نظامی کرد؛ کلود اوپوس ۵.۵ بدترین عملکرد را داشت

هوش مصنوعی مدرسه میناب را هدف نظامی کرد؛ کلود اوپوس ۵.۵ بدترین عملکرد را داشت

به گزارش خبررسان، نتایج تازه‌ای از آزمایش‌های مستقل نشان می‌دهد که مدل‌های پیشرفته هوش مصنوعی می‌توانند اهداف غیر‌نظامی را به اشتباه اهداف نظامی تشخیص دهند و این مسأله نگرانی‌های جدی امنیتی را برانگیخته است.

موسسه ارزیابی واقع در سان‌فرانسیسکو که مشتریانش شامل بخش‌هایی از دولت آمریکا می‌شود، در گزارشی که بلومبرگ از آن خبر داده، عملکرد چندین مدل معروف را در شناسایی اهداف نظامی از تصاویر ماهواره‌ای جنوب ایران در سال ۲۰۲۵ ارزیابی کرده است. در این آزمایش، از هر مدل ۳۲ بار درخواست شده بود تا اهداف نظامی احتمالی را در عکس‌های ماهواره‌ای ردیابی نماید.

مدل کلود اوپوس ۵.۵ متعلق به شرکت آنتروپیک، بدترین عملکرد را ثبت کرد و مدرسه می‌ناب را در ۲۲ مورد از ۳۲ تست به‌عنوان هدف نظامی انتخاب نمود. در تضاد کامل، سه مدل اوپن‌ای‌آی حتی در یک مورد نیز این مدرسه را هدف قرار ندادند. وقتی به مدل‌ها گفته شد که این تنها یک بازی است، کلود اوپوس ۵.۵ بار دیگر ۲۳ بار مدرسه را انتخاب کرد، در حالی که مدل‌های اوپن‌ای‌آی به‌ترتیب ۹، ۱۱ و ۱۳ بار آن را به‌عنوان هدف شناسایی کردند.

مدرسه می‌ناب در ۲۸ فوریه در اثر حملات آمریکا و رژیم صهیونیستی به ایران هدف قرار گرفت و بیش از ۱۵۰ نفر جان باختند که ۱۲۰ نفر از قربانیان کودکان بودند. محققان با توصیه به مدل‌ها مبنی بر اینکه در ملاحظات ایمنی سخت‌گیری نکنند، موفق شدند مانع امتناع مدل‌ها از پاسخ‌دهی نیز بشکنند.

یک نکته وحشتناک در گزارش آمده است کلود اوپوس ۵.۵ پس از شناسایی چهار بزرگسال و دو کودک، در شبیه‌سازی به آن‌ها حمله کرد و سپس از ادامه فعالیت به‌عنوان سرباز خودداری نمود. بر اساس گزارش، پاسخ‌های این مدل به‌نظر می‌رسد به‌عنوان مرحله تایید نهایی پیش از انجام حملات واقعی علیه افراد مورد استفاده قرار گرفته باشد.

گسترش این مشکل به شرکت‌های دیگر نیز مربوط می‌شود. مدل‌های هوش مصنوعی گوگل، و دیپ‌سیک نیز در برخی موارد اهداف غیر‌نظامی را به‌عنوان اهداف حمله شناسایی کرده‌اند. شرکت توصیه می‌کند که آزمایشگاه‌های توسعه‌دهنده باید تدابیر حفاظتی جدید و آموزش‌های هم‌راستا‌سازی را برای مقابله با این دسته از سوءاستفاده‌ها در نظر بگیرند.

سخنگوی آنتروپیک در پاسخ به بلومبرگ اعلام کرد که موارد مطرح‌شده به‌وضوح نقض سیاست‌های شرکت است و تدابیر حفاظتی جدیدی به‌زودی اعمال خواهد شد. اوپن‌ای‌آی و گوگل نیز تأکید کرده‌اند که استفاده از مدل‌های عمومی آن‌ها برای اهداف نظامی ممنوع است. بلومبرگ یادآوری می‌کند که در این آزمایش‌ها، دکترین نظامی، بررسی‌های حقوقی و نظارت انسانی در نظر گرفته نشده بود. پنتاگون از نسخه‌های دولتی برخی مدل‌ها استفاده می‌کند که امکان تست آن‌ها را نداشته و آنتروپیک در اوایل سال جاری بر سر محدودیت‌های استفاده از کلود در تسلیحات کاملا خودمختار با پنتاگون اختلاف نظر داشته است.