هوش مصنوعی «گروک» با اتهام تولید و انتشار تصاویر غیراخلاقی جعلی از کاربران در پلتفرم ایکس مواجه شد.
همشهری آنلاین، فرخنده رفائی: Grok، متعلق به شرکت xAI وابسته به ایلان ماسک، در روزهای اخیر بهدلیل تولید و انتشار گسترده تصاویر غیراخلاقی از کاربران، از جمله زنان و حتی کودکان در شبکه اجتماعی ایکس، با موجی از انتقادها و واکنشهای سیاسی و حقوقی در چند کشور روبهرو شده است.
به گزارش رویترز، این موضوع زمانی توجه عمومی را به خود جلب کرد که یکی از کاربران، تصویری شخصی و غیرحساس از خود را در شب سال نو در ایکس منتشر کرد. او یک روز بعد متوجه شد برخی کاربران از Grok خواستهاند تصویرش را با دستکاری دیجیتال، به شکلهایی با محتوای غیراخلاقی بازتولید کند. این کاربر متوجه شد که برخلاف تصور اولیه او، این ربات به بخشی از این درخواستها پاسخ داده و تصاویر جعلی بهسرعت در پلتفرم پخش شده است.
بررسیهای بعدی نشان میدهد که این تجربه، محدود به یک کاربر نبوده و تعداد زیادی از کاربران شناسایی شدهاند که Grok تصاویر واقعی آنها را به نسخههای دستکاریشده و محتوای غیراخلاقی تبدیل کرده است. در برخی موارد، درخواستها به تصاویری مربوط بوده که ظاهر افراد در آنها کمسنوسال و کودک به نظر میرسیده است.
ایکس تاکنون به این اتهام پاسخ رسمی نداده است. شرکت xAI نیز پیشتر گزارشهای مشابه را رد کرده بود.
بیشتر بخوانید:
- محدودیت جدید برای شبکههای اجتماعی، این بار در آمریکا | هشدارهای سلامت روان در نیویورک اجباری شد
- چالش تازه برای یوتیوب؛ ماسک برای تولیدکنندگان محتوا در X سر کیسه را شل میکند
اعتراض جهانی به انتشار محتوای غیرقانونی
گسترش این تصاویر زنگ خطر را در سطح بینالمللی به صدا درآورده است. در فرانسه، مقامهای دولتی اعلام کردهاند محتوای تولیدشده «آشکارا غیرقانونی» است و پروندهای برای بررسی قضایی به دادستانی ارجاع دادهاند.
در هند نیز وزارت فناوری اطلاعات از دفتر محلی ایکس توضیح خواسته و این پلتفرم را به ناتوانی در جلوگیری از سوءاستفاده از Grok برای تولید و انتشار محتوای غیراخلاقی متهم کرده است.
کارشناسان ایمنی هوش مصنوعی میگویند این بحران «قابل پیشبینی» بوده است. به گفته آنها، کاهش موانع فنی و ادغام مستقیم ابزار تولید تصویر با یک شبکه اجتماعی بزرگ، خطر سوءاستفاده گسترده را افزایش داده و هشدارهای پیشین نهادهای مدنی و ایمنی کودکان نادیده گرفته شده است.
در حالی که واکنش ایلان ماسک به این جنجالها عمدتا غیررسمی و طنزآمیز بوده، قربانیان میگویند پیامدهای روانی و اجتماعی این تصاویر جعلی بسیار واقعی است؛ موضوعی که پرسشهای جدیتری درباره مسئولیت پلتفرمها در قبال خروجیهای هوش مصنوعی مطرح میکند.
کد خبر 1007642 منبع: همشهری آنلاین
-
افزایش نگرانی درباره معامله نیمههادیها | ترامپ فروش تراشه به شرکتی با مالکیت چینی را ممنوع کرد
-
نبرد شانه به شانه قدرتهای فضایی | کدام کشور پیشتاز انتقال زیرساختهای هوش مصنوعی به فضاست؟
-
آغاز دومین دوره لیگ فوتسال فناوران
-
موج انتقاد جهانی از «گروک» | هوش مصنوعی ایلان ماسک متهم به انتشار تصاویر غیراخلاقی در شبکه X شد
-
عصر اطلاعات آلوده | چگونه خبر واقعی را از جعلی تشخیص دهیم؟
-
دادستانی هشدار داد | اخلال در نظم عمومی مصداق اقدام علیه امنیت ملی است؛ بدون اغماض برخورد میکنیم
-
مدارس و دانشگاههای این شهرها و استانها فردا یکشنبه ۱۴ دیماه ۱۴۰۴ تعطیل هستند
-
گزینه پرسپولیس در تبریز | توافق با تراکتور انجام شد
-
فوری | ترامپ: رئیس جمهور ونزوئلا و همسرش را دستگیر کردیم
-
لحظه به آتش کشیده شدن یک بانک توسط اغتشاشگران
-
تراکتور گزینه پرسپولیس را می خواهد؛ خروج یک مهاجم بعد از خرید بزرگ
-
ترامپ: مادورو هنگام دستگیری در یک قلعه مستحکم بود | خانهاش درهای فولادی داشت و یک فضای امن با فولادِ ضخیم در اطراف؛ سعی کرد وارد آن شود …
-
مدارس و دانشگاههای این شهرها و استانها فردا یکشنبه ۱۴ دیماه ۱۴۰۴ تعطیل هستند
-
فوری | ترامپ: رئیس جمهور ونزوئلا و همسرش را دستگیر کردیم
-
ترامپ: مادورو هنگام دستگیری در یک قلعه مستحکم بود | خانهاش درهای فولادی داشت و یک فضای امن با فولادِ ضخیم در اطراف؛ سعی کرد وارد آن شود …
-
سخنرانی وزیر دفاع ونزوئلا پس از دستگیری مادور توسط آمریکا | ما تسلیم نخواهیم شد
-
شدت حملات موشکی به ونزوئلا را ببینید | ویدئوهای جدید از لحظه بمباران کاراکاس
-
لحظه به آتش کشیده شدن یک بانک توسط اغتشاشگران
-
بارش برف فوق سنگین در تهران؛ لودرها برای بازگشایی معابر راه افتادند
-
گزینه پرسپولیس در تبریز | توافق با تراکتور انجام شد
-
علیجانوف نه، خرید مهم پرسپولیس فردا در تهران | خارجی جدید با سرخ توافق کرد
-
تصاویر افزایش آب ورودی به سد کرج؛ حجم آب در حرکت به سوی سد را ببینید