از سم آلتمن تا داریو آمودی؛ چرا غول‌های هوش مصنوعی برای یک بحران بزرگ آماده می‌شوند؟
اهمیت این سناریوها تنها به خسارات فنی محدود نمی‌شود. وقوع یک حادثه جدی می‌تواند اعتماد عمومی به هوش مصنوعی را کاهش دهد، انتقادها از شرکت‌های فعال در این حوزه را افزایش دهد و فشارها برای وضع مقررات سخت‌گیرانه‌تر را تشدید کند.
در چنین شرایطی، مدیران شرکت‌هایی مانند OpenAI و آنتروپیک ممکن است با پرسش‌های دشواری درباره مسئولیت خود در قبال توسعه و عرضه این فناوری روبه‌رو شوند. دونالد ترامپ، رئیس‌جمهور آمریکا، نیز در بحث‌های مربوط به سیاست‌گذاری هوش مصنوعی مطرح است؛ به‌ویژه از سوی منتقدانی که رویکرد دولت او در زمینه محدودیت‌های نظارتی بر این صنعت را ناکافی می‌دانند.
چرا سناریوهای فاجعه‌بار هوش مصنوعی جدی‌تر شده‌اند؟
آماده‌سازی برای بحران‌های احتمالی، موضوع تازه‌ای برای شرکت‌ها و نهادهای امنیتی نیست. سازمان‌های نظامی و امنیت ملی سال‌هاست سناریوهای مختلف جنگ، حملات سایبری و اختلال در زیرساخت‌ها را شبیه‌سازی می‌کنند تا توانایی خود را برای مقابله با شرایط اضطراری بسنجند.
با این حال، توسعه سریع هوش مصنوعی و گسترش کاربردهای آن، ابعاد تازه‌ای به این برنامه‌ریزی‌ها داده است. اکنون نگرانی فقط درباره استفاده از ابزارهای هوشمند برای انجام فعالیت‌های روزمره نیست؛ بلکه احتمال دارد این فناوری در حملات سایبری پیچیده‌تر، شناسایی آسیب‌پذیری‌ها یا اجرای برخی مراحل عملیات مخرب نیز نقش داشته باشد.
بر اساس گزارشی که اکسیوس منتشر کرده است، برخی پژوهشگران و مدیران ارشد صنعت هوش مصنوعی احتمال وقوع یک حادثه جدی را موضوعی می‌دانند که باید برای آن آمادگی داشت. این آمادگی لزوماً به معنای قطعی دانستن وقوع چنین حادثه‌ای نیست، بلکه بخشی از برنامه‌ریزی برای مدیریت ریسک‌های احتمالی به شمار می‌رود.
OpenAI می‌گوید مانورهای آمادگی برای بحران را انجام می‌دهد
سخنگوی OpenAI اعلام کرده است که این شرکت مانورهایی برای ارزیابی و مدیریت ریسک انجام می‌دهد. این تمرین‌ها شامل بررسی عملی سناریوهای گوناگون و گفت‌وگو درباره نحوه مواجهه با شرایط احتمالی هستند.
به گفته این شرکت، هدف از این مانورها پیش‌بینی قطعی وقوع یک حادثه خاص نیست، بلکه افزایش آمادگی برای مواجهه با طیف متنوعی از شرایط و پیامدهای احتمالی است. آنتروپیک نیز بنا بر گزارش اکسیوس، از اظهارنظر درباره این موضوع خودداری کرده است.
یکی از مسائل مهم در چنین برنامه‌هایی، نحوه واکنش شرکت‌ها و دولت‌ها پس از وقوع بحران است. در صورت بروز یک حادثه گسترده، ممکن است علاوه بر بررسی منشأ فنی آن، پرسش‌هایی درباره مسئولیت شرکت‌های توسعه‌دهنده، کفایت تدابیر ایمنی و ضرورت محدود کردن برخی قابلیت‌های هوش مصنوعی مطرح شود.
حملات سایبری مبتنی بر هوش مصنوعی نگرانی‌ها را افزایش داده‌اند
یکی از سناریوهای نگران‌کننده، حمله‌ای است که در آن یک عامل مخرب از ابزارهای هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها، تسهیل نفوذ به سامانه‌ها یا مدیریت مراحل مختلف یک عملیات سایبری استفاده کند.
چنین حمله‌ای ممکن است به دو شکل کلی رخ دهد: در یک حالت، یک سیستم هوش مصنوعی در جریان آزمایش یا اجرای وظایف از محدودیت‌های پیش‌بینی‌شده فراتر می‌رود؛ در حالت دیگر، مهاجم انسانی از مدل‌ها و ابزارهای موجود برای انجام فعالیت‌های مخرب استفاده می‌کند. این دو سناریو از نظر منشأ و نحوه مقابله با خطر یکسان نیستند.
گزارش تازه شرکت امنیت سایبری CrowdStrike درباره حملات به مؤسسات مالی کره جنوبی، نمونه‌ای واقعی از نگرانی‌های مربوط به استفاده مجرمانه از ابزارهای هوش مصنوعی را نشان می‌دهد.
بر اساس این گزارش، یک مهاجم ناشناس که احتمال داده می‌شود چینی‌زبان و دارای انگیزه مالی باشد، از ابزار متن‌باز ARTEX در کنار مدل‌های هوش مصنوعی برای هدف قرار دادن مؤسسات مالی کره جنوبی استفاده کرده است. بررسی‌ها نشان می‌دهد این فعالیت‌ها از اواخر سپتامبر تا اوایل اکتبر ۲۰۲۶ (اواخر شهریور تا اوایل مهر ۱۴۰۵) ادامه داشته و به سرقت اطلاعات منجر شده است.
طبق یافته‌های CrowdStrike، مهاجم از ابزارهایی مانند DeepSeek و مدل‌های دیگر در کنار Claude Code استفاده کرده است. سوابق جلسات این ابزارها همچنین نشان می‌دهد که مهاجم درباره یافتن بازارها و گروه‌هایی برای فروش اطلاعات سرقت‌شده تحقیق کرده بود. با این حال، هویت مهاجم و تمام جزئیات این حملات هنوز به‌طور قطعی مشخص نشده است.
این پرونده نشان می‌دهد که هوش مصنوعی می‌تواند توانایی مهاجمان را در انجام برخی مراحل عملیات سایبری افزایش دهد؛ حتی اگر خود مدل هوش مصنوعی مستقیماً عامل نفوذ نباشد. در چنین شرایطی، ابزارهای هوشمند ممکن است بخشی از فرایند شناسایی اهداف، تحلیل اطلاعات و تسهیل فعالیت‌های مخرب را بر عهده بگیرند.
آیا یک حادثه بزرگ می‌تواند آینده صنعت هوش مصنوعی را تغییر دهد؟
یکی از نگرانی‌های اصلی مدیران این صنعت، واکنش عمومی و سیاسی به یک حادثه گسترده است. اگر حمله‌ای با کمک ابزارهای هوش مصنوعی باعث اختلال جدی در خدمات ضروری یا افشای گسترده اطلاعات شود، احتمال افزایش فشارها برای محدود کردن قابلیت‌های این فناوری و تشدید نظارت بر شرکت‌های توسعه‌دهنده وجود دارد.
در چنین شرایطی، شرکت‌ها ممکن است ناچار شوند علاوه بر پاسخ‌گویی درباره ضعف‌های فنی، توضیح دهند چه اقداماتی برای پیشگیری از حادثه انجام داده‌اند و آیا سازوکارهای مدیریت ریسک آنها کافی بوده است یا خیر.
با این حال، آمادگی برای یک سناریوی فاجعه‌بار به معنای قطعی بودن وقوع آن نیست. هدف از شبیه‌سازی بحران‌ها، شناسایی نقاط ضعف و فراهم کردن امکان واکنش سریع‌تر در صورت بروز شرایط اضطراری است.
در نهایت، چالش اصلی صنعت هوش مصنوعی این است که هم‌زمان با توسعه قابلیت‌های جدید، سازوکارهای دفاع سایبری، نظارت و پاسخ‌گویی نیز متناسب با خطرات احتمالی تقویت شوند. هرچه ابزارهای هوشمند در زیرساخت‌های حیاتی و خدمات عمومی نقش بیشتری پیدا کنند، آمادگی شرکت‌ها و دولت‌ها برای مقابله با سوءاستفاده از آنها اهمیت بیشتری خواهد یافت.
