یک مقاله آکادمیک می گوید چت ربات های هوش مصنوعی با گذشت زمان بدتر می شوند

لکسین ژو، یکی از نویسندگان این مطالعه، این نظریه را مطرح کرد که از آنجایی که مدل‌های هوش مصنوعی بهینه‌سازی شده‌اند تا همیشه پاسخ‌های قابل باوری ارائه دهند، پاسخ‌های به ظاهر درست در اولویت قرار می‌گیرند و بدون توجه به دقت به کاربر نهایی ارائه می‌شوند.

این توهمات هوش مصنوعی خود را تقویت می کنند و به مرور زمان ترکیب می شوند - پدیده ای که با استفاده از مدل های زبان بزرگ قدیمی تر برای آموزش مدل های زبان بزرگ جدیدتر که منجر به "فروپاشی مدل" می شود تشدید می شود.

Mathieu Roy ویراستار و نویسنده به کاربران هشدار داد که زیاد به این ابزارها اعتماد نکنند و همیشه نتایج جستجوی ایجاد شده توسط هوش مصنوعی را برای ناهماهنگی بررسی کنند:

در حالی که هوش مصنوعی می تواند برای تعدادی از کارها مفید باشد، برای کاربران مهم است که اطلاعاتی را که از مدل های هوش مصنوعی دریافت می کنند تأیید کنند. هنگام استفاده از ابزارهای هوش مصنوعی، بررسی واقعیت باید گامی در فرآیند همه افراد باشد. وقتی چت ربات های خدمات مشتری درگیر هستند، این موضوع پیچیده تر می شود."

برای بدتر شدن اوضاع، روی اظهار داشت: "اغلب هیچ راهی برای بررسی اطلاعات وجود ندارد، مگر اینکه از خود چت بات بپرسید."

مشکل سرسخت توهمات هوش مصنوعی

پلتفرم هوش مصنوعی گوگل در فوریه 2024 پس از اینکه هوش مصنوعی شروع به تولید تصاویر نادرست تاریخی کرد، مورد تمسخر قرار گرفت. نمونه هایی از این کار شامل نشان دادن رنگین پوستان به عنوان افسران نازی و ایجاد تصاویر نادرست از شخصیت های مشهور تاریخی بود.

متأسفانه، حوادثی مانند این با تکرار فعلی هوش مصنوعی و مدل‌های زبانی بزرگ بسیار رایج است. مدیران صنعت، از جمله جنسن هوانگ، مدیر عامل انویدیا، پیشنهاد کرده اند با وادار کردن مدل های هوش مصنوعی به انجام تحقیقات و ارائه منابع برای هر پاسخی که به کاربر داده می شود، توهمات هوش مصنوعی را کاهش دهیم.

با این حال، این اقدامات قبلاً در محبوب‌ترین مدل‌های هوش مصنوعی و زبان‌های بزرگ ارائه شده‌اند، اما مشکل توهمات هوش مصنوعی همچنان ادامه دارد.

اخیراً، در ماه سپتامبر، مت شومر، مدیر عامل هوش مصنوعی HyperWrite اعلام کرد که مدل جدید 70B این شرکت از روشی به نام «تنظیم بازتاب» استفاده می‌کند - که ظاهراً به ربات هوش مصنوعی راهی برای یادگیری با تجزیه و تحلیل اشتباهات خود و تنظیم پاسخ‌هایش در طول زمان می‌دهد.

منبع: کوین تلگراف