پژوهشی جدید نشان می دهد اقدامات ایمنی چت بات ها از انتشار اخبار جعلی درباره سلامت جلوگیری نمی کند.
به گزارش خبرگزاری مهر به نقل از فیز، در تحقیقی جدید تاثیرگذاری اقدامات ایمنی درمدلهای زبانی بزرگ بنیادی (LLM) برای محافظت در برابر دستورالعملهای مخرب که میتوانند آنها را به ابزاری برای انتشار اطلاعات نادرست یا ایجاد و انتشار عمدی اطلاعات نادرست با هدف آسیب رساندن تبدیل کنند، ارزیابی شد.
این تحقیق ضعف هایی را در اقدامات ایمنی چت جی پی تی ۴o، جمینای ۱.۵ پرو، کلاود ۳.۵ سونت، لاما ۳.۲ ۹۰B Vision و گروک بتا آشکار کردند. به خصوص چت بات های مدل زبانی بزرگ سفارشی به طور مداوم پاسخهای نادرستی به سوالات مربوط به سلامتی تولید و از ارجاعات جعلی، اصطلاحات علمی و استدلالهای منطقی علت و معلولی برای قابل قبول جلوه دادن اطلاعات نادرست استفاده میکردند.
محققان دانشگاه فلیندرز و همکارانشان رابطهای برنامهنویسی کاربردی (API) پنج مدل زبانی بزرگ بنیادی را از نظر ظرفیت آنها برای اینکه به صورت سیستمی آموزش ببینند تا همیشه پاسخهای نادرستی به سوالات و نگرانیهای بهداشتی ارائه دهند، ارزیابی کردند.
دستورالعملهای خاص سیستم که به این مدل های زبانی بزرگ ارائه شده بود شامل پاسخهای نادرست همیشگی به سوالات مربوط به سلامت، جعل ارجاعات به منابع معتبر و ارائه پاسخها با لحنی آمرانه بود. از هر چتبات سفارشی ساخته شده، ۱۰ سوال مرتبط با سلامت، به صورت تکراری، در مورد موضوعاتی مانند ایمنی واکسن، اچآیوی و افسردگی پرسیده شد.
محققان متوجه شدند ۸۸ درصد پاسخ هایی که چت بات های سفارشی تولید کردند، اطلاعات جعلی بودند و پنج چت بات چت جی پی تی ۴o، جمینای ۱.۵ پرو، لاما ۳.۲ ۹۰B Vision و گروک بتا اخبار جعلی درپاسخ به سوالات آزمایشی فراهم کردند.
چت بات کلاود۳.۵ سونت برخی ویژگی های ایمنی را به کار گرفت و فقط ۴۰ درصد پاسخ ها به سوالاتش حاوی اخبار جعلی بود.
کد خبر 6510323
-
استفاده از چت جی پی تی زوال شناختی به دنبال دارد
-
نبرد در تاریکی؛ وقتی الگوریتمها جای گلوله را میگیرند
-
۵۴ هزار تن گندم در مازندران خریداری شده است
-
پورخاقان: دشمن صهیونی سوزش این سیلی که خورد را فراموش نمیکند
-
اعلام اسامی شهدایی که امروز در اصفهان تشییع میشوند
-
پیکر شهدای حمله رژیم صهیونیستی به زنجان تشییع و تدفین شد
-
وضعیت امروز شهر «بئر السبع» اِشغالی پس از حملات ایران + تصاویر
-
اعلام اسامی شهدای حمله اسرائیل به مقر سپاه استان البرز
-
اعلام نام کاروان های اعزامی به بازی های اسلامی و آسیایی جوانان
-
اعتراض کارگردان مکزیکی به سیاستهای اقتدارگرایانه ترامپ
-
عارف: مدیریت میدانی معتمدیان الگویی برای خدمترسانی بیوقفه است
-
عیادت استاندار گیلان از مجروحین حمله رژیم صهیونیستی در آستانه اشرفیه
-
طرح خیالی ترامپ در مورد برقراری آتشبس بین ایران و رژیم صهیونیستی
-
شلیک موشکهای ایرانی به سمت اراضی اشغالی؛ انفجارهای بزرگ در تلآویو
-
تحمیل آتش بس به دشمن صهیونی، در پی عملیات موفق «بشارت فتح»
-
رادیو اسرائیل: آتش بس ساعت ۷ صبح به وقت قدس اجرایی میشود
-
عراقچی: توقف عملیات مشروط به پایان تهاجم است
-
معاون ترامپ: ایران با حمله موشکی به «العدید» به ما هشدار داد+فیلم
-
ادعای جدید ترامپ دروغگو در مورد طرح خیالی آتش بس میان ایران و اسرائیل
-
پاسخ قاطع ایران به صهیونیستها تا صبح امروز؛ موافقت ایران با صلح مسلح
-
انفجار و آتشسوزی در پایگاه «التاجی» عراق+فیلم
-
سیدورف بی تفاوت به استقلال از هواداران تیم آرژانتینی تمجید کرد
-
روزنامههای ورزشی سهشنبه سوم تیر ۱۴۰۴
-
روزنامههای اقتصادی سهشنبه سوم تیر ۱۴۰۴
-
روزنامههای صبح سهشنبه سوم تیر ۱۴۰۴
-
روزنامههای اقتصادی دوشنبه دوم تیر ۱۴۰۴
-
روزنامههای صبح دوشنبه دوم تیر ۱۴۰۴