جمینای گوگل به طور غیرمجاز به سه شرکت حقیقی دسترسی پیدا کرد

به گزارش ایتنا به نقل از اکسیوس، گوگل روز جمعه تأیید کرد که این سه مورد نفوذ در ماه مه سال جاری رخ داده است.
این حوادث طی یک دوره آزمایشی به وقوع پیوست که توسط ارزیاب مستقل «ایرگیولار» (Irregular) اجرا می‌شد؛ آزمایشی مشابه حوادث امنیتی که پیش‌تر مدل‌های هوش مصنوعی اوپن‌ای‌آی، آنتروپیک و متا نیز در آن با چالش‌هایی روبرو شده بودند. این خبر نخستین بار توسط وال‌استریت ژورنال منتشر گردید.

پیش از این، گوگل یکی از معدود آزمایشگاه‌های هوش مصنوعی بود که تاکنون به‌صورت علنی وقوع نفوذ امنیتی مرتبط با عامل‌های هوشمند خود در جریان آزمایش‌های پیش از عرضه محصول را اعلام نکرده بود.

جزئیات ماجرا
به گزارش وال‌استریت ژورنال، این نفوذها زمانی اتفاق افتاد که مدل جمینای در حال انجام یک تمرین هک بود؛ در این تمرین، مدل مأموریت داشت اطلاعاتی را از نرم‌افزاری متعلق به شرکتی فرضی در یک محیط آزمایشی به‌دست آورد. اما مشکل اینجا بود که نام این شرکت خیالی، به‌طور تصادفی مشابه یکی از شرکت‌های واقعی بود.

در یکی از این سه مورد، مدل با حدس‌زنی درست رمزهای عبور موفق به دسترسی به یک سامانه محافظت‌شده گردید.
در دو مورد دیگر نیز، مدل اطلاعات ورود را در یک مخزن عمومی (public repository) شناسایی کرد که به وی این امکان را می‌داد تا به سامانه‌های محافظت‌شده دیگر نیز دسترسی پیدا کند.

نکته حائز اهمیت این است که به محض این‌که مدل متوجه شد به شرکت‌های واقعی دست یافته است، فعالیت خود را متوقف کرد.

واکنش گوگل
هدر ادکینز، معاون مهندسی امنیت در گوگل، در بیانیه‌ای اعلام کرد که توسعه مدل‌های هوش مصنوعی قدرتمند با ایمنی بالا برای این شرکت از اهمیت ویژه‌ای برخوردار است و گوگل در این زمینه سرمایه‌گذاری‌های قابل توجهی انجام می‌دهد.
او همچنین بیان کرد که تیم امنیتی گوگل با شرکت‌های متأثر از این نفوذ تماس برقرار کرده و با شریک خود در انجام آزمایش بر روی تغییرات لازم که در حال حاضر در فرآیندهای آزمایش به وجود آمده، همکاری می‌کند.

سخنگوی شرکت ایرگیولار نیز در گفتگو با آکسیوس عنوان کرد که حادثه مربوط به جمینای، به همان مشکلات امنیتی برمی‌گردد که پیش‌تر در حوادث مشابه دیگر آزمایشگاه‌های هوش مصنوعی نیز روی داده بود.
این سخنگو افزود که تمامی آزمایشگاه‌های مرتبط، در اواخر ماه ژوئیه از این موضوع آگاه شدند و مشکلات شناسایی شده، از هفته‌ها پیش برطرف گشته‌اند.

طبق گزارش ایرگیولار به وال‌استریت ژورنال، پیش‌بینی نمی‌شد که مدل به اینترنت دسترسی داشته باشد، اما به‌طور ناخواسته دسترسی برای آن فراهم آمده بود.
بعد از این‌که اوپن‌ای‌آی و آنتروپیک نیز در تابستان امسال موارد مشابهی را افشا کردند، یک منبع آگاه به آکسیوس گفت که میان آزمایشگاه‌های هوش مصنوعی و ایرگیولار هماهنگی کاملی در خصوص جزئیات دقیق فرآیندهای آزمایش و تدابیر ایمنی وجود نداشته که همین امر باعث ابهامات در نحوه اجرای آزمایش‌هایی شده که معمولاً با دسترسی به اینترنت انجام می‌شوند.