تشخیص چهرههای جعلی دیگر آسان نیست؛ پژوهشگران راهکار تازهای معرفی کردند
به گزارش ایتنا و به نقل از Digitaltrends، مطالعهای که پژوهشگران دانشگاه آبردین با همکاری دانشگاه ملی استرالیا انجام دادهاند و بیبیسی نیز به آن پرداخته است، نشان میدهد افراد میتوانند تنها پس از یک دوره آموزشی کوتاه و هدفمند، توانایی خود را در تشخیص چهرههای تولیدشده توسط هوش مصنوعی از تصاویر واقعی بهطور قابلتوجهی افزایش دهند.
آموزش انسان در برابر هوش مصنوعی
در سالهای ابتدایی ظهور ابزارهای تولید تصویر، شناسایی تصاویر ساختهشده توسط هوش مصنوعی چندان دشوار نبود. مدلهای اولیه اغلب اشتباهاتی مانند انگشتان اضافه، سایههای غیرطبیعی یا اجزای نامتقارن صورت ایجاد میکردند. اما نسل جدید مدلها، از جمله StyleGAN۳ و مدلهای پیشرفته مبتنی بر Diffusion، بسیاری از این ایرادهای آشکار را برطرف کردهاند و همین موضوع تشخیص تصاویر جعلی را دشوارتر از گذشته کرده است.
به همین دلیل، پژوهشگران بهجای آموزش افراد برای یافتن نقصهای ظاهری، آنها را با مجموعهای از ویژگیهای ادراکی آشنا کردند که هنوز در بسیاری از چهرههای تولیدشده توسط هوش مصنوعی مشاهده میشود. این ویژگیها عبارتاند از:
• تقارن بیش از حد و غیرطبیعی صورت
• تناسب اغراقآمیز اجزای چهره
• جذابیت ظاهری بالاتر از میانگین
• ساختارهای چهرهای کلی و فاقد ویژگیهای منحصربهفرد
• محدود بودن حالتهای احساسی
• دشوار بودن به خاطر سپردن چهره پس از برداشتن نگاه از تصویر
• افزایش چشمگیر دقت تشخیص
نتایج این پژوهش قابلتوجه بود. پیش از آغاز آموزش، شرکتکنندگان تنها در حدود ۴۰ درصد موارد موفق به تشخیص صحیح چهرههای ساختهشده توسط هوش مصنوعی میشدند. اما پس از حدود یک ساعت آموزش هدایتشده و مشاهده مکرر تصاویر واقعی و مصنوعی، این نرخ به حدود ۸۰ درصد رسید.
پژوهشگران همچنین دریافتند اعتمادبهنفس شرکتکنندگان پس از آموزش با میزان دقت واقعی آنها هماهنگی بیشتری پیدا کرده است؛ موضوعی که برخلاف نتایج برخی تحقیقات پیشین، نشان میدهد آموزش میتواند علاوه بر افزایش مهارت، قدرت قضاوت افراد را نیز بهبود دهد.
چرا این موضوع اهمیت دارد؟
اهمیت این یافتهها تنها به محیطهای دانشگاهی محدود نمیشود. فناوری دیپفیک اکنون به ابزاری برای کلاهبرداریهای مالی، جعل هویت، عملیات نفوذ سیاسی و انتشار اطلاعات گمراهکننده تبدیل شده است.
برآوردهای مؤسسه Deloitte نشان میدهد خسارت ناشی از کلاهبرداریهای مبتنی بر دیپفیک در ایالات متحده ممکن است تا سال آینده به حدود ۴۰ میلیارد پوند برسد؛ رقمی که در مقایسه با حدود ۱۲ میلیارد پوند در سال ۲۰۲۳ رشد چشمگیری را نشان میدهد.
در یکی از پروندههای مشهور در هنگکنگ نیز کلاهبرداران با استفاده از تماس ویدیویی دیپفیک موفق شدند کارمندی را برای انتقال حدود ۲۵ میلیون پوند متقاعد کنند. همچنین بررسیهای پیشین خبرگزاری آسوشیتدپرس نشان داده بود که یک حساب کاربری لینکدین ساختهشده با هوش مصنوعی توانسته بود به شبکههای سیاسی آمریکا نفوذ کند.
نقاط ضعف هوش مصنوعی همچنان باقی است
پژوهشگران تأکید میکنند که سامانههای تولید تصویر همچنان در ساخت چهره برخی گروهها با محدودیتهایی مواجه هستند. بهدلیل سوگیری موجود در دادههای آموزشی، این مدلها در تولید چهره افراد سالمند، کودکان و برخی گروههای قومی عملکرد ضعیفتری دارند و همین مسئله میتواند سرنخهایی برای تشخیص تصاویر جعلی در اختیار کاربران قرار دهد.
مغز انسان؛ مکملی برای فناوری
یکی از جالبترین نتایج این مطالعه آن است که مغز انسان نیز تا حدی مشابه سامانههای هوش مصنوعی یاد میگیرد. افراد با مشاهده مداوم نمونههای واقعی و جعلی، بهتدریج به درکی شهودی از اصالت تصاویر میرسند و دیگر تنها به یک نشانه مشخص تکیه نمیکنند.
به گزارش ایتنا، پژوهشگران معتقدند با پیشرفت سریع هوش مصنوعی مولد، اتکا به قضاوت انسانی همچنان ضروری خواهد بود؛ البته به شرط آنکه این توانایی از طریق آموزش مستمر تقویت شود. به بیان دیگر، در آینده مقابله با تصاویر جعلی تنها بر عهده ابزارهای تشخیص هوش مصنوعی نخواهد بود و انسانهای آموزشدیده نیز نقش مهمی در این نبرد ایفا خواهند کرد.
