هوش مصنوعی در آستانه بحران قرار دارد

به نقل از فیوچریسم، «استیون وان-نیکولز»( Steven Vaughn-Nichols)، نویسنده‌ فناوری در مقاله‌ای جدید هشدار می‌دهد که حتی تلاش‌ها برای جلوگیری از پدیده «فروپاشی مدل»(model collapse) نیز ممکن است به کابوس دیگری تبدیل شود. این وضعیت زمانی نمایان می‌شود که «مدل‌های زبانی بزرگ»(LLM) با داده‌های مصنوعی و حاصل از «هوش مصنوعی» تغذیه می‌گردند و در نتیجه به مسیر نادرست هدایت می‌شوند.

صنعت «هوش مصنوعی» به‌سمتی پیش می‌رود که از استفاده از تمامی داده‌های آموزشی معتبر موجود، یعنی اطلاعاتی که توسط انسان‌ها تولید شده، فاصله می‌گیرد. برای مواجهه با این چالش، شرکت‌های مطرحی چون گوگل، «اوپن ای‌آی»(OpenAI) و «آنتروپیک»(Anthropic) به ابزارهایی به نام «تولید تقویت‌شده با بازیابی»(RAG) روی آورده‌اند. این ابزار به‌نوعی اتصال «LLM ها» به اینترنت را فراهم می‌آورد تا در صورت بروز پرسش‌هایی که پاسخ آنها در داده‌های آموزشی موجود نیست، امکان جستجوی اطلاعات وجود داشته باشد.

به نظر می‌رسد این مفهوم بسیار واضح و ساده باشد، اما یک مشکل اساسی وجود دارد؛ در حال حاضر اینترنت پر از محتوای نامعتبر است که با استفاده از «هوش مصنوعی» برای پاسخ به سؤالات رایج ایجاد می‌شود و نتیجه آن غالباً ناامیدکننده، نادرست و حتی مضحک است.

مطالعه‌ای جدید که از سوی بخش تحقیقاتی شرکت رسانه‌ای بزرگ «مایکل بلومبرگ»(Michael Bloomberg) انجام شده، نشان می‌دهد که ۱۱ مدل از تازه‌ترین «LLM ها» پاسخ‌های نادرست بسیار بیشتری نسبت به مدل‌های مشابهی که فاقد ابزار «RAG» بودند دریافت کرده‌اند.

همانطور که این تحقیق بیان می‌کند: نگرانی‌های ایمنی می‌تواند شامل محتوای مضر، غیرقانونی، توهین‌آمیز و غیر اخلاقی باشد که باعث گسترش اطلاعات نادرست و به خطر افتادن امنیت و حریم خصوصی کاربران می‌گردد.

«آماندا استنت»(Amanda Stent)، سرپرست تحقیقات و استراتژی «هوش مصنوعی» در این شرکت بیان کرد: این یافته غیرمنتظره، با توجه به کاربرد گسترده «RAG» در برنامه‌های «هوش مصنوعی مولد»(generative AI) مانند سیستم‌های سوال و پاسخ، عواقب جدی به همراه دارد. کاربران عادی اینترنت هر روز با سیستم‌های مبتنی بر «RAG» در تعامل هستند و کارشناسان «هوش مصنوعی» باید در مورد استفاده مسئولانه از این ابزارها بسیار محتاط باشند.

«وان-نیکولز» اشاره می‌کند که برخی پیشنهاد داده‌اند محتوای معتبر و مصنوعی را ترکیب کنند تا داده‌های آموزشی مؤثرتری برای «هوش مصنوعی» تولید شود، اما این امر مستلزم آن است که انسان‌ها به تولید محتوای واقعی برای این هدف ادامه دهند. در حالی که صنعت «هوش مصنوعی» به‌طرز فعالانه‌ای ساختارهای انگیزشی برای ادامه این کار را تضعیف می‌کند، همچنین بدون اجازه از تلاش‌های آنها بهره‌برداری می‌نماید.

وی همچنین افزود: ما هر روز بیشتر و بیشتر در «هوش مصنوعی» سرمایه‌گذاری خواهیم کرد تا جایی که پدیده «فروپاشی مدل» موجب شود که پاسخ‌های این سامانه چنان بد شوند که حتی یک مدیرعامل با دقت کم نیز نتواند آن را نادیده بگیرد.