پیشرفتهترین مدلهای هوش مصنوعی جهان رفتارهای نگرانکنندهای مانند دروغگویی و تقلب را از خود نشان میدهند و حتی برای دستیابی به اهدافشان مبدعان خود را تهدید میکنند.
به گزارش خبرگزاری مهر به نقل از ای اف پی، در یک نمونه خاص، مدل رایانشی «کلاود ۴»، جدیدترین محصول آنتروپیک از یک مهندس اخاذی و او را تهدید به افشای خیانت کرد. از سوی دیگر مدل o۱ شرکت اوپن ای آی خود را روی سرورهای خارجی دانلود میکند و پس از افشای امر، آن را انکار کرد.
این رویدادها نشاندهنده یک واقعیت مهم هستند؛ باگذشت بیش از دو سال پس از آنکه چت جی پی تی جهان را دگرگون کرد، محققان هوش مصنوعی هنوز به طور کامل شیوه عملکرد محصولشان را نمیدانند. با این وجود رقابت برای بهکارگیری مدلهای قدرتمندتر همچنان ادامه دارد.
به نظر میرسد رفتار فریبکارانه هوش مصنوعی به ظهور مدلهای «استدلالی» که بهجای تولید پاسخهای آنی، چالشها را گامبهگام حل میکنند، مرتبط است. به گفته سیمون گلداستاین، پروفسور دانشگاه هنگکنگ مدلهای جدیدتر بهخصوص در معرض چنین مشکلاتی قرار دارند. ماریوس هابهان رئیس مؤسسه آپولو ریسرچ که در حوزه تست سیستمهای هوش مصنوعی بزرگ فعالیت میکند، در این باره میگوید:o۱ نخستین مدل هوش مصنوعی بزرگی بود که چنین رفتاری در آن مشاهده شد.
گاهی اوقات این مدلها «همراستایی» را شبیهسازی میکنند، یعنی به نظر میرسد از دستورالعملها پیروی میکنند؛ اما پنهانی اهداف متفاوتی را دنبال میکنند.
در حال حاضر این رفتار فریبکارانه هوش مصنوعی فقط زمانی ظهور میکند که محققان به طور عمدی تست استرس را با سناریوهایی شدید روی مدلها اجرا میکنند.
اما مایکل چان از مؤسسه METR هشدار میدهد این یک سؤال بیپاسخ است که آیا در آینده مدلهای آتی قدرتمندتر تمایلی نسبت به صداقت یا فریب خواهند داشت یا خیر. رفتارهای نگرانکننده فراتر از توهمهای معمول هوش مصنوعی یا اشتباهات آنها است. هابهان در این باره تأکید کرد: باوجود فشارهای مداوم از سوی کاربران، آنچه ما مشاهده میکنیم، یک پدیده واقعی است. ما چیزی را جعل نمیکنیم. کاربران گزارش میدهند که مدلها به آنها دروغ میگویند و شواهدی جعلی ارائه میدهند.
وی در ادامه افزود: این فقط توهم نیست؛ بلکه نوعی استراتژیک از فریب است.
کد خبر 6514838 
شیوا سعیدی
-
نقش فناوری در دفاع از «حقیقت»؛ هوشمصنوعی چگونه راستیآزمایی میکند
-
هوش مصنوعی و چهره نوین جنگ؛ ورود به عصر نبردهای هوشمند
-
مغز آفلاین هوش مصنوعی برای روبات ها ابداع شد
-
چت باتهای هوش مصنوعی از انتشار اخبار جعلی جلوگیری نمیکنند
-
استفاده از چت جی پی تی زوال شناختی به دنبال دارد
-
قضاوت رسالتی قرآنی و نیازمند عدالت و اخلاقمداری است
-
۱۹۰ معتاد متجاهر در خمینی شهر دستگیر شد
-
لاریجانی: شهید سلامی نماد اخلاص و فرماندهای هوشمند و تمامعیار بود
-
اجرای کنوانسیون بازیافت ایمن کشتیها از ۵ تیر آغاز شد
-
مراسم تدفین سپهبد شهید حسین سلامی در حرم حضرت عبدالعظیم حسنی(ع)
-
راهنمای جامع انتخاب تعمیرگاه مناسب برای خودروهای خارجی در کرج
-
همسر شهید شادمانی: ایشان خود را سرباز می دانست
-
اقامه نماز بر پیکر سپهبد شهید علی شادمانی در همدان
-
فرزند شهید حاجیزاده در آغوش مشاور و دستیار مقام معظم رهبری
-
شهرداری اصفهان وارد رقابت افزایش قیمتها نشود
-
«اسموتریچ» با لحنی تهدیدآمیز: عربستان هزینه صلح با تلآویو را بپردازد
-
رایزنی رئیس ستاد کل نیروهای مسلح ایران و وزیر دفاع عربستان
-
مغزمتفکر جبهههای جنگ چه کسی بود؛بازیگر بیسر و صدای سیاست نظامی ایران
-
ادعای شبکه غربی درباره مذاکرات قریبالوقوع «ویتکاف» با مسئولان ایرانی
-
وداع با سرداران رشید اسلام در بهشت زهرای تهران
-
«تاد» افتاد؛ ناتوانی سامانه آمریکایی در رهگیری موشکهای ایران و یمن
-
شبکه عبری «کان»: ایران پهپادهای مدرن و سری «اسرائیل» را ساقط کرده است
-
قمار ترامپ روی پروندههای فساد نتانیاهو؛ محاکمهاش نکنید!
-
چرا صهیونیستها در جنگ تحمیلی روی فلجکردن انرژی ایران قمار کردند؟
-
ممنوعیت اجارهنشینی اتباع غیرمجاز؛ چالشها و پیامدهای اقتصادی در بازار
-
روزنامههای ورزشی یکشنبه هشتم تیر ۱۴۰۴
-
روزنامههای اقتصادی یکشنبه هشتم تیر ۱۴۰۴
-
روزنامههای صبح یکشنبه هشتم تیر ۱۴۰۴
-
روزنامههای ورزشی شنبه هفتم تیرماه ۱۴۰۴
-
روزنامههای اقتصادی شنبه هفتم تیرماه ۱۴۰۴