سه محقق امنیتی از مدل های هوش مصنوعی کلاود متعلق به شرکت آنتروپیک برای نفوذ به سیستم های داخلی اوپن ای آی از طریق انجمن گفتگوی این شرکت استفاده کردند.
به گزارش خبرگزاری مهر به نقل از دیکودر، این حمله در کمتر از ۷۲ ساعت انجام شد و به گفته محققان، تنها هنگام استفاده از مدل «اوپوس ۵» امکانپذیر بود.
پس از آنکه این شرکت برای چند ماه به عاملهای هوش مصنوعی اجازه داد در اینترنت فعالیت کنند و عملیات هک را انجام دهند، خود اوپنایآی نیز هدف حملهای قرار گرفت که با کمک هوش مصنوعی انجام شد.
تیم امنیتی Hacktron با زنجیرهکردن دو آسیبپذیری، توانست به حسابهای ChatGPT و Codex کارکنان اوپنایآی دسترسی پیدا کند و از آنجا وارد مخزن کد داخلی این شرکت در گیتهاب شود.
این حمله از طریق انجمن گفتوگوی اوپنایآی به نشانی community.openai.com انجام شد. به گفته محققان، هر کاربر یا کارمندی که از قابلیت «ورود با اوپنایآی» استفاده کرده باشد، ممکن است در معرض این روند قرار گرفته باشد.
کاربران میتوانند حسابهای خود را به سرویسهایی مانند گیتهاب، اسلک و ایمیل متصل کنند و از طریق Codex و ChatGPT نیز ایمیل ارسال کنند. بنابراین، از نظر تئوری، این حمله میتوانست امکان دسترسی به این سرویسها را نیز فراهم کند.
محققان برای اثبات دسترسی خود، از حساب کاربری یکی از کارکنان در Codex استفاده کردند و یک درخواست بیخطر در یکی از مخازن داخلی شرکت ایجاد کردند. آنها مدعیاند که در جریان این آزمایش هیچ داده حساسی را مشاهده نکردهاند.
کد مطلب 6951485
-
جمینای هم هکر شد
-
اوپن ای آی رفتار بد هوش مصنوعی را گزارش می دهد
-
سم آلتمن درباره قدرت و تاثیر هوش مصنوعی هشدار داد
-
گودرزی: آتشسوزی در باغات روستای بیدک بجنورد مهار شد
-
مهار شکستگی خط لوله آب در فاز ۱۱ پردیس
-
عوامل درگیری و قدرتنمایی خیابانی در چالوس بازداشت شدند
-
حسینی: ۱۱۸ هزار فرصت شغلی برای مددجویان بهزیستی ایجاد شد
-
توقیف ۲۵ خودرو و موتورسیکلت متخلف در بروجرد
-
دستگیری ۳ سارق به عنف منزل در گرمسار؛ ۱۰۰ میلیارد ریال طلا کشف شد
-
نمایشگاه «ایرانساخت» چهاردهم بازوی تحقق اقتصاد مقاومتی است
-
عراقچی در مجمع گفتوگوی جهانی ۲۰۲۶ سخنرانی کرد
-
تصمیمات شورای آموزش و پرورش باید در مسیر خدمت به دانشآموزان باشد
-
اجرای طرح ارتقای امنیت اجتماعی در دورود
-
اعدام عامل انتقال اطلاعات سایتهای موشکی اصفهان به موساد
-
آتشسوزی در خیابان دولت؛ اورژانس: تا این لحظه مصدومی گزارش نشده است
-
پرداخت حقوق بازنشستگان تامین اجتماعی از یکشنبه آغاز می شود
-
آغاز سال تحصیلی دانشگاهها از امروز؛ آموزش در ۲۱ دانشگاه مجازی آغاز شد
-
حقوقها باید نیمه دوم سال افزایش یابد؛ جزئیات «طرح اقتصاد مقاومتی»
-
مشاهده «تلما» به همراه دو توله یوز؛ قاب امیدبخش از قلب توران شاهرود
-
ناپدید شدن محموله قطعات «اف ۳۵» و احتمال لو رفتن اطلاعات محرمانه
-
کره شمالی قطعنامه آژانس درباره برنامه هستهای اش را رد کرد
-
بیانیه شورای امنیت درباره تحولات یمن
-
تیم ملی هندبال مردان برابر کویت باخت
-
روزنامههای ورزشی شنبه ۲۸ شهریور ۱۴۰۵
-
روزنامههای اقتصادی شنبه ۲۸ شهریور ۱۴۰۵
-
روزنامههای صبح شنبه ۲۸ شهریور ۱۴۰۵
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه