بحثهای کارشناسی و اظهار نظرها درباره ایمنی هوش مصنوعی در ماه سپتامبر ۲۰۲۶ بیش از هر زمان دیگری برجسته شده است.
به گزارش خبرنگار مهر؛ بحثهای کارشناسی و اظهار نظرها درباره ایمنی هوش مصنوعی در ماه سپتامبر ۲۰۲۶ بیش از هر زمان دیگری برجسته شده است. هشدار درباره خطر مدلهای مرزی اکنون از حلقه پژوهشگران ایمنی فراتر رفته و به مدیران بزرگترین آزمایشگاههای هوش مصنوعی، کنگره آمریکا، کاخ سفید و حتی مناقشه راهبردی واشنگتن و پکن رسیده است. در این میان، پرسش کلیدی نیز تغییر کرده است. مسئله دیگر صرفاً چگونگی ایمنسازی مدلهای قدرتمند نیست، بلکه مسئله این است که آیا سرعت افزایش قابلیتهای هوش مصنوعی باید عمداً کاهش یابد تا ظرفیت فنی و نهادی کنترل آن فرصت همگامشدن پیدا کند؟
این اختلاف در چند روز گذشته به شکافی کمسابقه در صنعت فناوری تبدیل شده است. داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش آهنگ افزایش قابلیت مدلهای هوش مصنوعی شده است. سم آلتمن و ایلان ماسک نیز اصل استدلال او درباره ضرورت کندکردن حرکت در مرز قابلیتها را تأیید کردهاند. در سوی دیگر، جنسن هوانگ، مدیر عامل انویدیا، سرعت و ایمنی را قابل قبول میداند و دونالد ترامپ نگرانیهای وجودی درباره هوش مصنوعی را در برابر ضرورت حفظ برتری آمریکا نسبت به چین قرار داده است.
از «ایمنی مدل» تا «ایمنی سرعت توسعه»
مهمترین تحول مفهومی را میتوان در موضع تازه آمودی دید. استدلال او بر یک عدمتقارن زمانی بنا شده است. قابلیت مدلها با سرعتی افزایش مییابد که ممکن است سازوکارهای ارزیابی، همترازی و کنترل نتوانند آن را دنبال کنند. از همین روی، آمودی تصریح کرده که سرمایهگذاری بیشتر در پیشگیری از خطر کفایت نمیکند و سرعت پیشرفت قابلیتها نیز باید به نحوی تنظیم شود که مدیریت خطر فرصت همگامشدن داشته باشد.
این موضع با درخواست توقف کامل توسعه هوش مصنوعی تفاوت دارد. پیشنهاد آمودی بر نوعی تنظیم سرعت در مرز فناوری استوار است و یکی از اجزای مشخص آن، اعطای دسترسی دائمی در سطح کارکنان به ارزیابان مستقل شخص ثالث است تا رعایت تدابیر ایمنی، رخدادهای خطرناک و وضعیت همترازی مدلها را حتی در جریان آموزش بررسی کنند. آلتمن نیز از همین سازوکار استقبال و اعلام کرده اوپنایآی نیز اقدام مشابهی خواهد کرد.
پشت این چرخش، نگرانی مشخصی درباره قابلیت خودبهبوددهی بازگشتی یا «Recursive Self-Improvement» قرار دارد. جاکوب کاکسون، پژوهشگر سابق آنتروپیک و اوپنایآی، پس از استعفا از آنتروپیک مدعی شد دو شرکت در مسیر توسعه «فراهوش خودبهبوددهنده» با مخاطرات غیرقابلقبولی پیش میروند. جاسمین وانگ، پژوهشگر همترازی اوپنایآی نیز طی روزهای اخیر، شتاب به سوی قابلیت مذکور را بسیار خطرناک خوانده و یاکوب پاچوکی، دانشمند ارشد اوپنایآی، گفته است انتظار دارد روند پیشرفت بتواند وارد مرحله خودبهبوددهی بازگشتی شود و درباره آمادگی برای پیامدهای افزایش سریع هوش ماشینی ابراز نگرانی کرده است.
الکس ترنر، پژوهشگر سابق گوگل دیپ مایند، این استدلال را یک مرحله جلوتر میبرد. از نگاه او، مسئله بنیادین به شیوه ساخت مدلهای کنونی بازمیگردد. رفتار این سامانهها مانند یک سازه مهندسی متعارف جزءبهجزء طراحی و فهم نمیشود و روش قابل اتکایی برای تضمین اینکه مدل جدید دقیقاً اولویتهای طراح را دنبال کند وجود ندارد. او سپس یک حلقه بازخورد را ترسیم میکند که در آن مدلهای هوشمندتر در ساخت نسل بعدی مدلها مشارکت میکنند و افزایش قابلیت امروز، سرعت افزایش قابلیت فردا را بیشتر میکند.
پاسخ مخالفان: ایمنی مسئله مهندسی است
جنسن هوانگ تقریباً از نقطه مقابل به مسئله نگاه میکند. مدیر عامل انویدیا هوش مصنوعی را یک «ذهن بیگانه» تلقی نمیکند و آن را در نهایت مجموعهای از سختافزار و نرمافزار ساخته انسان میداند. از دید او، ایمنی فناوری یک مسئله مهندسی است و قوانین موجود همراه با سازوکار بازار میتوانند شرکتها را از عرضه محصولات ناایمن بازدارند.
هوانگ بر همین مبنا دوگانه سرعت یا ایمنی را کاذب میداند. به عقیده وی، شرکتها میتوانند با حداکثر سرعت پیش بروند و هرگاه نسبت به ایمنی محصول اطمینان نداشتند، همانجا توقف کنند. در این چارچوب، متولی تصمیمگیری درباره سرعت از قانونگذار به خود توسعهدهنده تغییر میکند و تنظیم سرعت نیز از یک قاعده پیشینی به واکنشی در برابر خطر تبدیل میشود.
اینجا دقیقاً مرز اصلی اختلاف آشکار میشود. آمودی مسئله را فاصله میان سرعت ایجاد قابلیت و سرعت تدوین سازوکار ایمنی میبیند. از سوی دیگر، هوانگ بر قابلیت مهندسی خطر در جریان توسعه سریع تکیه میکند. اختلاف این دو روایت درباره وجود خطر نیست. نقطه مناقشه آنجاست که چه کسی باید درباره سرعت تصمیم بگیرد و آیا ایمنی میتواند پس از ظهور قابلیت خطرناک به آن برسد یا باید پیشاپیش بر سرعت ظهور آن قابلیت اثر بگذارد.
تبدیل سرعت توسعه هوش مصنوعی به مسئله امنیت ملی آمریکا
ورود سیاست به این معادله، مناقشه آهنگ توسعه هوش مصنوعی را پیچیدهتر کرده است. ترامپ طی روزهای اخیر در پاسخ به پرسشی درباره انقراض انسان بر اثر هوش مصنوعی اعلام کرده که نگران این موضوع نیست و دغدغه خود را عقبنماندن آمریکا در رقابت با چین معرفی کرد. این موضع با جهتگیری رسمی دولت او نیز سازگار است. اسناد کاخ سفید در سال ۲۰۲۶ بر تسریع نوآوری، توسعه زیرساخت و حفظ رهبری آمریکا در هوش مصنوعی تأکید دارند.
پکن نیز از زاویه دیگری به روایت لزوم کاهش سرعت توسعه فناوری هوش مصنوعی نگاه میکند. بر همین اساس، گوئو جیاکون، سخنگوی وزارت خارجه چین، در پاسخ به پرسشی درباره درخواست مدیران فناوری آمریکایی برای کاهش سرعت توسعه، بر توسعه باز و فراگیر هوش مصنوعی تأکید کرد و هراسافکنی، تقابل و رقابت مخرب را مانع حکمرانی سالم جهانی بر فناوری مذکور دانست. بنابراین بحثی که در ابتدا حول احتمال از کنترل خارج شدن مدلها شکل گرفته بود، اکنون با منطق رقابت قدرتهای بزرگ درهم آمیخته است. در این معادله، هر محدودیت داخلی میتواند از منظر مخالفان به هزینه ژئوپلیتیکی تبدیل شود و هر استدلال مبتنی بر رقابت نیز از منظر موافقان کاهش سرعت توسعه میتواند سازوکاری برای تداوم مسابقهای باشد که خود منشأ خطر تلقی میشود.
از نظارت مستقل تا ممنوعیت توسعه ابرهوش مصنوعی
در سیاست داخلی آمریکا نیز یک پاسخ واحد به این چالش نوظهور شکل نگرفته است. بر همین اساس، باراک اوباما خواستار تدوین چارچوبی گسترده برای گفتوگوی عمومی درباره مدیریت هوش مصنوعی شده که از کاهش سرعت برای ایمنی تا آثار اشتغال و سلامت کودکان را پوشش دهد. صورتبندی او میان مخاطرات و منافع فناوری تعادل برقرار میکند و در کنار هشدار درباره سرعت توسعه در دست بازیگران خصوصی، ظرفیت هوش مصنوعی برای تسریع کشف دارو و فناوری انرژی پاک را برجسته میسازد.
از سوی دیگر، برنی سندرز و گرگ کسار نیز مسیر مداخله در این حوزه را پیشنهاد کردهاند. طرح ارائه شده این دو قانونگذار آمریکایی توسعه و استقرار «ابرهوش مصنوعی» را ممنوع میکند و توسعه سامانههای پیشرفته را تا زمان استقرار قواعد ایمنی فدرال بهطور موقت متوقف میسازد. طرح مذکور همچنین ایجاد یک نهاد فدرال در سطح کابینه برای نظارت بر چرخه عمر هوش مصنوعی مرزی را پیشبینی کرده است.
مسئله اصلی دیگر خطرناک بودنهوش مصنوعی نیست
آنچه از کنار هم قرار دادن این مواضع آشکار میشود، شکلگیری یک اختلاف عمیقتر درباره حکمرانی سرعت توسعه فناوری است. تقریباً تمام طرفهای اصلی این مناقشه، میپذیرند که هوش مصنوعی قدرتمند میتواند مخاطراتی ایجاد کند. شکاف اصلی در سه پرسش کلیدی نهفته است:
- آیا توانایی کنترل با همان سرعت قابلیت فنی پیشرفت میکند؟
- چه نهادی صلاحیت تشخیص لحظه خطر را دارد؟
- هزینه کاهش سرعت یک بازیگر در محیط رقابت بینالمللی چیست؟
از همین زاویه، مناقشه سپتامبر ۲۰۲۶ احتمالاً نقطه مهمی در تحول سیاست هوش مصنوعی است. یک سوی بحث میخواهد سرعت توسعه را به متغیری قابل حکمرانی تبدیل کند و از ارزیابی مستقل تا توقف موقت و حتی ممنوعیت برخی قابلیتها پیش میرود. سوی دیگر، سرعت را جزء مزیت نوآوری و قدرت ملی میبیند و مدیریت خطر را به مهندسی، مسئولیت شرکت و قواعد عمومی موجود میسپارد. سرنوشت تنظیمگری هوش مصنوعی تا حد زیادی به پاسخ همین پرسش وابسته خواهد بود. آیا جامعه باید پس از ظهور یک قابلیت خطرناک برای مهار آن اقدام کند، یا حق دارد پیش از عبور از آستانهای که پیامدهایش هنوز قابل اندازهگیری نیست، سرعت رسیدن به آن آستانه را کنترل کند؟
کد مطلب 6948943
-
هوش مصنوعی وارد عصر امنیت ملی میشود؛ پایان دسترسی عمومی به AI
-
تحلیل جالب نویسنده فلسطینی از قدرت و دست برتر تهران در برابر واشنگتن
-
عارف: دولت آماده همکاری با بخش خصوصی برای جهش تولید مسکن است
-
۱۱۰۰ کارمند هوش مصنوعی به دولت آمریکا نامه نوشتند
-
رقیب چینی جدید اوپن ای آی و آنتروپیک از راه رسید
-
هوش مصنوعی در مسیر تبدیلشدن به پژوهشگر
-
هشدار درباره توسعه تسلیحات بیولوژیکی با هوش مصنوعی
-
موارد تازه هک هوش مصنوعی اوپن ای آی و آنتروپیک افشا شد
-
زنگ خطر «قرص برنج» در انبارهای کوچک و منازل؛ راهکارهای ایمن چیست؟
-
مدیریت مشارکتی جنگلهای هیرکانی در لفور
-
ساخت ۴ طرح صنعتی جدید محرک اقتصاد آبادان می شود
-
فرش ایرانی برای ماندن در زندگی امروزه باید دوباره طراحی شود
-
حجت الاسلام قمی: جلوداران و بانیان ۲۰۰شب میدانداری مردم، بانوان بودند
-
یک اسرائیلی به اتهام ارتباط با ایران به ۱۳ سال زندان محکوم شد
-
اجلاسیه بانوان شهید خراسان جنوبی برگزار میشود
-
کارت اضطراری سوخت در خراسان جنوبی ساماندهی میشود
-
همراه با فیلمهای آخر هفته تلویزیون؛ از «بید مجنون» تا «رز زرد»
-
هشدار به قاچاقچیان چوب در غرب مازندران
-
بوشهر و اورنبورگ روسیه برای توسعه همکاریهای تجاری برنامهریزی میکنند
-
ادعای ترامپ: در مراحل پایانی جنگ با ایران هستیم
-
مرز تجاری چذابه از فردا صبح بازگشایی میشود
-
وادی: برای المپیک ۲۰۳۲ و ۲۰۳۶ از امروز باید استعدادها را بسازیم
-
سرهنگ محمدجانی: مردم ستون اقتدار ایران و سد محکم برابر دشمن هستند
-
سرلشکر رضایی: آمریکاییها باید اطمینان ما را جلب کنند
-
رئیس جمهور از موسوی گرمارودی عیادت کرد
-
خوانساری: رسانه حضور مردم را به حافظه جمعی تبدیل میکند
-
شفتی ها از رمز ماندگاری اجتماعات شبانه می گویند
-
رشتیها ۲۰۰ شب در میدان شهدای ذهاب حماسه آفریدند
-
روزنامههای اقتصادی پنجشنبه ۲۶ شهریور ۱۴۰۵
-
روزنامههای ورزشی پنجشنبه ۲۶ شهریور ۱۴۰۵
-
روزنامههای صبح پنجشنبه ۲۶ شهریور ۱۴۰۵
-
روزنامههای ورزشی چهارشنبه ۲۵ شهریور ۱۴۰۵
-
روزنامههای اقتصادی چهارشنبه ۲۵ شهریور ۱۴۰۵
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه