هشدار ۱۰۰ غول فناوری؛ دفاع سایبری کشورها باید پیش از جهش هوش مصنوعی تقویت شود
امضاکنندگان از دولتها و سازمانها خواستهاند پیش از پیچیدهتر شدن تواناییهای مدلهای هوش مصنوعی، دفاع سایبری خود را تقویت کنند.
این درخواست همزمان با افزایش گزارشها درباره حملات سایبری و تواناییهای رو به رشد عوامل هوش مصنوعی مطرح شده است.
در میان امضاکنندگان این نامه، نام بانک کپیتال وان، شرکتهای فعال در پردازش پرداخت مانند مسترکارت و ویزا و همچنین شرکتهای بزرگ فناوری از جمله ادوبی، اوراکل و آیبیام نیز دیده میشود.
به گزارش بیبیسی، در این نامه هشدار داده شده است که همزمان با توسعه سریع فناوریهای هوش مصنوعی، حملات سایبری مبتنی بر این فناوری ممکن است ظرف چند ماه آینده گستردهتر و پیچیدهتر شوند.
این پیام از دولتها، سازمانها، متخصصان امنیت سایبری و دیگر شرکتهای فعال در حوزه هوش مصنوعی خواسته است با همکاری یکدیگر، تقویت دفاع سایبری و آزمایش سامانهها در برابر تواناییهای قدرتمندترین مدلهای هوش مصنوعی را در اولویت قرار دهند.
امضاکنندگان تأکید کردهاند که اقدامات امنیتی فعلی «کافی نخواهد بود» و از آنچه «کمبود تاریخی منابع» برای محافظت از زیرساختهای حیاتی توصیف شده، انتقاد کردهاند. این نامه با این جمله آغاز میشود: «ما فرصت محدودی برای بهبود دفاع سایبری داریم.»
درخواست برای تقویت دفاع سایبری با هوش مصنوعی
در این نامه از دولتها خواسته شده است «سامانههای دفاعی مؤثر مبتنی بر هوش مصنوعی» را فراهم کنند و آزمایشهایی را در بخشهایی مانند بیمارستانها و تأسیسات آبی انجام دهند. همچنین از شرکتهای فناوری خواسته شده است از این تلاشها حمایت کنند.
بر اساس این پیام، بخش فناوری و دولتها باید با همکاری یکدیگر، از «تمام تواناییهای فناوری، منابع و تخصص خود» برای تقویت این تلاشها استفاده کنند.
افزایش نگرانیها پس از حملات و نقضهای سایبری
انتشار این نامه در پی افشای مجموعهای از حملات و نقضهای مهم امنیت سایبری صورت گرفته است.
وزارت دادگستری ایالات متحده این هفته اعلام کرد که هکرهای چینی به سامانههای فناوری سنای آمریکا، ناسا، فدرال رزرو و خود وزارت دادگستری نفوذ کردهاند.
در تابستان امسال، اوپنایآی، آنتروپیک و متا نیز اعلام کردند که برخی ابزارهای هوش مصنوعی آنها رفتارهای غیرمجازی از خود نشان دادهاند. برخی از عوامل هوش مصنوعی حتی تلاشهای خود را برای عبور از موانع امنیتی هماهنگ کرده و برای پیشبرد اهداف خود، خود را به جای افراد واقعی معرفی کردهاند.
در ماه ژوئیه (تیر یا مرداد)، گروهی متشکل از صدها عامل هوش مصنوعی اوپنایآی که در حال آزمایش بودند، موفق شدند تابلوهای پیام مخفی برای برقراری ارتباط و همکاری ایجاد کنند. این اقدام در نهایت به حمله موفقیتآمیز علیه Hugging Face، پلتفرم و مخزن شناختهشده توسعهدهندگان هوش مصنوعی، منجر شد.
این رویداد بهعنوان نخستین حمله سایبری جهان که با استفاده از هوش مصنوعی انجام شده است، توصیف شده است.
Hugging Face نیز به جمع امضاکنندگان نامهای که روز پنجشنبه منتشر شد، پیوست. این شرکت در جریان تحقیقات خود درباره نحوه نفوذ عوامل هوش مصنوعی اوپنایآی به سامانهها و عملیات آن، از یک ابزار هوش مصنوعی چینی متعلق به Z.AI استفاده کرده است.
از سوی دیگر، دستکم هفت شرکت آب و فاضلاب در آمریکا حملات سایبری را گزارش کردهاند. این موضوع باعث شد افبیآی با انتشار بیانیهای عمومی، از تمامی شرکتهای فعال در حوزه آب و برق بخواهد امنیت عملیات خود را تقویت کنند.
نگرانی از تواناییهای رو به رشد هوش مصنوعی
در حالی که این نامه، ابزارهای پیشرفتهتر هوش مصنوعی را بهعنوان بخشی از راهکار مقابله با تهدیدهای رو به افزایش مطرح میکند، دسترسی به چنین ابزارهایی همواره آسان نیست.
آنتروپیک مدعی است که سیستم Mythos این شرکت میتواند آسیبپذیریهای موجود در سامانهها را ظرف چند ثانیه شناسایی کند؛ آسیبپذیریهایی که ممکن است برای مدت طولانی از دید هکرهای انسانی پنهان مانده باشند.
بر اساس ادعای این شرکت، Mythos پیشتر موفق شده است یک آسیبپذیری را در یک پلتفرم فناوری قدیمی شناسایی کند که به مدت ۲۷ سال کشف نشده بود.
با این حال، دسترسی به این سیستم محدود شده است، زیرا تواناییهای آن در صورت قرار گرفتن در اختیار افراد نامناسب میتواند خطرات قابلتوجهی ایجاد کند.
با وجود این محدودیتها، در نامه از شرکتهای پیشرو در حوزه هوش مصنوعی، یعنی شرکتهایی که مدلها و ابزارهای هوش مصنوعی خود را توسعه میدهند، خواسته شده است «دسترسی مسئولانه به مدلها، بودجه قابلتوجه، برنامههای آموزشی و پشتیبانی عملی مستقیم» فراهم کنند.
این درخواست بهویژه بر نهادهایی تمرکز دارد که مسئولیت حفاظت از زیرساختهای حیاتی را بر عهده دارند، اما از منابع کافی برخوردار نیستند.
با این حال، در این نامه جزئیاتی درباره زمان یا نحوه اجرای این برنامه برای گسترش دسترسی به مدلهای هوش مصنوعی ارائه نشده است.
هشدار درباره موج تازه حملات مبتنی بر هوش مصنوعی
اندرو یون، رئیس تحقیقات سازمان غیرانتفاعی Civic AI که بر افزایش آگاهی عمومی درباره فناوریهای هوش مصنوعی تمرکز دارد، هشدار داده است که «موج بیسابقهای از فعالیتهای هک مبتنی بر هوش مصنوعی» در راه است.
او چندین شرکت امضاکننده این نامه را نیز در شکلگیری این شرایط مقصر دانست و گفت: «آنها با تعهد خود در این نامه برای اختصاص بودجه قابلتوجه به اقدامات دفاعی، کار درستی انجام دادهاند و باید به این تعهد پایبند بمانند.»
یون در ادامه تأکید کرد که این نامه، در عین حال، هیچ اقدامی برای کند کردن روند توسعه قابلیتهای هک مبتنی بر هوش مصنوعی درخواست نمیکند.
