کلود در حال توسعه نسل جدید خود است؛ اقرار غافلگیرکننده آنتروپیک

به گزارش ایتنا، آنتروپیک روز پنجشنبه در بیانیه‌ای اعلام کرد که کلود اکنون ۲۶ درصد از تلاش‌های پژوهش و توسعه مدل‌های این شرکت را بر عهده دارد.
بر اساس گفته‌های آنتروپیک، این بدان معناست که کلود می‌تواند وظایف مشخصی را به طور کامل و تحت نظارت انسان، از ابتدا تا انتها انجام دهد؛ با این حال، هنوز هم به طور کامل خودمختار عمل نمی‌کند.
این گزارش حاکی از آن است که حدود ۹۰ درصد از فعالیت‌های پژوهش و توسعه نیز به شکل «همکاری» با کلود پیش می‌رود؛ شرایطی که به گفته آنتروپیک به معنای توانایی مدل در انجام بخش‌های قابل توجهی از کار، تحت هدایت نزدیک یک انسان است.

افزایش سهم کلود
یکی از نکات قابل توجه در این گزارش، سرعت بالای افزایش سهم کلود در پروژه‌های پژوهش و توسعه می‌باشد. طبق اعلام آنتروپیک، سهم کلود در هدایت مستقل پروژه‌ها در ماه فوریه به صفر رسید، اما تنها شش ماه بعد، در ماه آگوست، این میزان به ۲۶ درصد صعود کرده است.
این شرکت همچنین بیان کرده که تا آگوست حدود ۳۰ هزار ایجنت هوش مصنوعی مشغول انجام فعالیت‌های پژوهشی و مهندسی بوده‌اند.

نگرانی‌های ایمنی
این گزارش در شرایطی منتشر شده که برخی از چهره‌های مشهور در صنعت هوش مصنوعی، از جمله داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت در توسعه این فناوری به خاطر نگرانی‌های ایمنی شده‌اند.
آنتروپیک در بیانیه‌اش بر لزوم تلاش برای نزدیک کردن فاصله میان دانش آزمایشگاه‌های پیشرفته هوش مصنوعی و آگاهی عمومی تأکید کرده است.

با این حال، از این اطلاعیه به طور دقیق مشخص نمی‌شود که آنتروپیک تا چه اندازه به هدف دستیابی به «خودبهبودی بازگشتی» (یعنی قابلیت یک مدل هوش مصنوعی برای بهبود خود نسخه‌های بعدی‌اش بدون دخالت انسانی) نزدیک شده است. سرعت روزافزون افزایش سهم کلود در فرآیندهای پژوهشی نیز توجه ناظران این عرصه را به خود جلب کرده است.
بر اساس گزارش nbcnews، این شرکت همچنین جزئیاتی از اقدامات نظارتی‌اش بر ایجنت‌ها ارائه داده تا روشن شود رفتار نامطلوب احتمالی ایجنت‌ها با چه دقتی توسط سیستم‌های پایش شناسایی و ارزیابی می‌شود.