بحران برای «گروک»؛ مورد اتهام قرار گرفتن به خاطر تولید محتوای جنسی با بهرهگیری از هوش مصنوعی
این رسانه بر این نکته تأکید میکند که چنین وضعیتهایی ثابت میکند که چگونه یک ابزار مکالمه خودکار میتواند به بسط آسیبها منجر شود و کودکان را در معرض خطر قرار دهد؛ موضوعی که با افزایش پذیرش فناوریهای هوش مصنوعی، احتمال وقوع آن بیشتر میشود.
در روزهای اخیر، برخی از کاربران شبکه اجتماعی ایکس با بهرهگیری از امکانات «گروک»، به حذف دیجیتالی پوشش از تصاویری نل فیشر، بازیگر ۱۴ ساله سریال «Stranger Things» متعلق به نتفلیکس، اقدام کردهاند.
در واکنش به این انتقادات، گروک در روز جمعه اذعان کرد که در سیستمهای ایمنی این ابزار نقصهایی وجود دارد که به کاربران اجازه میدهد تصاویر جنسی از افراد زیر سن قانونی یا زنان تولید کنند؛ سوءاستفادههایی که به بروز انتقادات جهانی منجر شده و تحقیقات قضایی گستردهای را در فرانسه بهدنبال داشته است.
حساب رسمی گروک در ایکس روز جمعه و در پاسخ به اعتراض یکی از کاربران، اظهار کرد: «ما نواقصی را در تدابیر حفاظتی خود شناسایی کرده و در حال تلاش برای اصلاح فوری آنها هستیم.» خبرگزاری فرانسه به نقل از این شرکت تأکید کرده است: «استفاده جنسی از کودکان غیرقانونی و به طور کامل ممنوع است.»
خبرگزاری فرانسه همچنین گزارش داده است که گروک به یکی از کاربران اعلام کرده است که هر شرکتی در ایالات متحده، اگر «با آگاهی تولید» پورنوگرافی کودکان را تسهیل کند یا از وقوع آن جلوگیری نکند، ممکن است خود را در معرض مسئولیت مدنی یا کیفری قرار دهد.
تأثیر آسیبپذیریها بر زنان و آغاز تحقیقات گسترده
این آسیبپذیریها تنها مختص به افراد زیر سن قانونی نیستند و تأثیرات منفی آنها بر زنان بالغ نیز مشهود است؛ به طوری که گروک به درخواست برخی کاربران، تصاویر زنان را در رسانههای اجتماعی بهصورت دیجیتالی تغییر داده و آنها را به نمایش گذاشته است.
براساس نامهای منتشر شده در رسانههای هند، وزارت الکترونیک و فناوری اطلاعات این کشور روز جمعه با ارسال اخطاریهای رسمی به شرکت ایکس، از این پلتفرم خواسته که ظرف ۷۲ ساعت گزارشی جامع از اقدامات خود برای حذف «محتوای مستهجن» تولید شده توسط گروک ارائه دهد.
در فرانسه همچنین دفتر دادستانی عمومی پاریس، پس از دریافت گزارشهایی از سوی سه وزیر و دو معاون پارلمان درباره تولید و انتشار ویدیوهای جنسی جعلی (بهویژه با حضور افراد زیر سن قانونی) دامنه تحقیقات خود را نسبت به پلتفرم ایکس گسترش داده و ابزار هوش مصنوعی داخلی آن با نام «گروک» را نیز شامل بررسی قرار داده است.
این مقامات اعلام کردهاند که ویدیوهای دیپفیک با محتوای جنسی، که توسط گروک تولید شده، بدون رضایت افرادی که در آنها حضور دارند در شبکه اجتماعی X منتشر شدهاند.
این تحقیقات که بهطور مستقیم شرکت X را هدف قرار داده، در ماه ژوئیه و پس از گزارشهایی درباره دستکاری الگوریتم این پلتفرم آغاز گردیده است. دفتر دادستانی عمومی با تأیید گزارش پولیتیکو اعلام کرد: «جرم تولید تصاویر یا ویدیوهای جنسی از فردی بدون کسب رضایت او، مجازاتی تا دو سال حبس و جریمه نقدی ۶۰ هزار یورو در پی خواهد داشت.»
اریک بوتوریل و آرتور دلاپورت، نمایندگان مجلس فرانسه، روز جمعه با ثبت دادخواستی رسمی، به گسترش این investigations دامن زدند. همچنین رولان لسکور، آن لو آور و اورور برژه، وزرای دولت فرانسه، اعلام کردند که دادستانی عمومی را در جریان «محتوای غیرقانونی» قرار داده و خواستار حذف فوری آن شدهاند.
چالشهای سیاسی و فشار بر ایلان ماسک
به گزارش اکسیوس، این بحران در شرایطی ظهور کرده که ایلان ماسک در پی جلب مجدد نظر مساعد کاخ سفید است و شرکت او برای دستیابی به قراردادهای سودآور دولتی در حوزه فناوریهای هوش مصنوعی به رقابت پرداخته است.
این گزارش همچنین به قانونی که ملانیا ترامپ، بانوی اول آمریکا، از آن حمایت کرده اشاره میکند؛ قانونی که سال گذشته به تصویب رسید و بهویژه بر جلوگیری از انتشار تصاویر جنسی آنلاین بدون رضایت تأکید دارد؛ موضوعی که ناتوانی شرکت XAI، سازنده گروک، در جلوگیری از تولید چنین محتوایی را بیشتر نمایان میسازد.
بر اساس این گزارش، دولت ترامپ در ابتدای سال جاری میلادی شرکت XAI را در گردش کار فدرال ادغام کرده و قراردادی به مدت ۱۸ ماه با این شرکت امضا کرده است که امکان استفاده از این چتبات را در امور رسمی دولتی مجاز میسازد.
این توافق در حالی منعقد گردید که اتحادی از بیش از ۳۰ گروه مدافع حقوق مصرف کنندگان بهدلیل عدم برگزاری آزمایشهای ایمنی کافی و آنچه «تعصب ایدئولوژیک» خواندهاند، از دولت خواسته بودند تا استفاده از گروک را ممنوع نماید.
شرکت XAI در سالهای اخیر بهطور مکرر به دلیل انتشار اطلاعات نادرست و ترویج نظرات همسو با مالک خود، ایلان ماسک، مورد انتقاد قرار گرفته است. اپلیکیشن گروک بهدلیل اضافه کردن اظهاراتی که بهنادرستی وقوع «نسلکشی سفیدپوستان» در آفریقای جنوبی را در مکالمات غیرمرتبط در ماه مه گذشته اعلام کرده بود و همچنین بهخاطر نشر اطلاعات نادرست در مورد ات در زمان رقابتهای اتی ۲۰۲۴، زیر تیغ انتقادات بوده است.
ایلان ماسک سال گذشته اعلام کرده بود که قصد دارد یک «مرکز عالی اعتماد و ایمنی» جدید راهاندازی کند تا ناظران محتوا بتوانند بر عملکرد این پلتفرم نظارت نموده و در اجرای قوانینی که مربوط به ایمنی X میشود، همکاری نمایند. اما شرکت X هنوز زمان دقیقی برای راهاندازی این مرکز ارائه نکرده است. مدیر ارشد تجاری سابق این شرکت نیز پیشتر به بلومبرگ اعلام کرده بود که انجام «سرمایهگذاریهای جدی برای جلوگیری از سوءاستفاده کاربران متخلف» از این پلتفرم یک ضرورت اجتنابی است.
