آسان نیوز سایت خبری تحلیلی آسان نیوز
گزارشها نشان میدهند که «چتجیپیتی سرچ» ممکن است به راحتی فریب بخورد و اطلاعات نادرست ارائه دهد. روزنامه «گاردین» گزارش داده است که موتور جستجوی مبتنی بر هوش مصنوعی «چتجیپیتی سرچ» که در ماه جاری راهاندازی شده، مشکلاتی در تشخیص صحت اطلاعات دارد و ممکن است محتوای گمراهکننده تولید کند.
طبق گفتههای «تک کرانچ»، هدف از این موتور جستجو، تسریع در مرور وب با خلاصهسازی نقدها و نظرات صفحات است، اما «گاردین» اشاره کرده که این سیستم میتواند به گونهای تنظیم شود که نظرات منفی را نادیده بگیرد و تنها خلاصههای مثبت تولید کند. این روش همچنین میتواند برای استخراج کدهای مخرب استفاده شود.
این نوع حملات پنهان متنی برای مدلهای زبانی بزرگ شناخته شده هستند، اما این اولین بار است که در یک موتور جستجوی زنده هوش مصنوعی مشاهده میشود. «گاردین» اشاره کرده که «گوگل» تجربه بیشتری در مدیریت چنین مشکلاتی دارد.
«اوپنایآی» در پاسخ به پرسشهای «تک کرانچ» در این رابطه اظهار نظر نکرده اما گفته که از روشهای مختلفی برای مسدود کردن وبسایتهای مخرب بهره میبرد و به طور مداوم در حال بهبود این سیستم است.
