یک پژوهشگر هوش مصنوعی با هشدار به مردم درباره خطرات هوش مصنوعی اعلام کرد که از سمت خود استعفا داده است.
جیکوب کاکسون که در سالهای اخیر در شرکتهای اوپنایآی و آنتروپیک بهعنوان پژوهشگر فعالیت کرده است، در مجموعهای از پستها در شبکه اجتماعی ایکس گفت که هیچیک از این دو شرکت، در مسیر حرکت به سوی آنچه او «هوش مصنوعی فوقهوشمند» با قابلیت بهبود خود مینامد، مسئولانه عمل نمیکنند.
کاکسون گفت: «قدرت این فناوری را دستکم نگیرید. اینها بهزودی به سامانههایی فراتر از توانایی انسان تبدیل خواهند شد که میتوانند هر چیزی را هک کنند، هر حوزهای را یکشبه متحول کنند و به قدرت و منابع واقعی دست یابند. همه ما شاهد پیشرفت در تکتک این حوزهها بودهایم و این پیشرفت در حال کند شدن نیست.»
او افزود: «افرادی که هوش مصنوعی را میسازند، واقعا معتقدند که این فناوری ممکن است تا پایان دهه همه ما را به کام مرگ بکشاند. این یک ترفند بازاریابی نیست. حتی میتوان گفت بسیاری از مدیران و پژوهشگران ارشد هنگام صحبت با رسانهها، عبارات خود را طوری تعدیل میکنند که منطقی به نظر برسند، اما من میشنوم که همین افراد در محافل خصوصی نگرانی و ترس خود را بیان میکنند. هیچ فعالیت انسانی دیگری چنین سطحی از خطر را ایجاد نمیکند.»
کاکسون گفت یکی از واکنشهای رایج به چنین هشدارهایی این است که اگر مدیران شرکتها به این خطرات باور دارند، چرا همچنان به ساخت هوش مصنوعی فوقهوشمند ادامه میدهند؟ او گفت در اوپنایآی، بسیاری از افراد «ابعاد و پیامدهای تمدنی این مسئله را عمیقا درک نکردهاند.»
به گفته کاکسون، در شرکت آنتروپیک «ابعاد این مسئله بهخوبی درک شده است، اما آنها در رقابتی گرفتار شدهاند تا زودتر از دیگران به آن نقطه برسند؛ آنها معتقدند هیچکس دیگری مسئولانه عمل نخواهد کرد، بنابراین با وجود خطرات، خودشان باید این کار را انجام دهند.»
اوپنایآی و آنتروپیک تا زمان انتشار این گزارش به درخواستها برای اظهارنظر پاسخ ندادند.
هشدار کاکسون پس از آن مطرح شد که اوپنایآی به چندین مورد اذعان کرد که در آنها هوش مصنوعی از محدودیتهای تعیینشده از سوی برنامهنویسان فراتر رفته بود؛ از جمله موارد مرتبط با حملات به هاگینگ فیس و وبسایتهای دیگر.
برخی قانونگذاران نیز به این موضوع توجه نشان دادهاند. سناتور برنی سندرز، نماینده مستقل ایالت ورمانت، و گرگ کاسار، نماینده دموکرات ایالت تگزاس در مجلس نمایندگان اخیرا اعلام کردند قصد دارند قانونی را ارائه کنند که هوش مصنوعی فوقهوشمند را ممنوع و توسعه هوش مصنوعی پیشرفته را تا زمان تدوین مقررات ایمنی از سوی نهادهای نظارتی فدرال متوقف کند.
یاکوب پاچوکی، دانشمند ارشد اوپنایآی، در یادداشتی که ۶ سپتامبر منتشر شد، گفت در سال ۲۰۲۳ نگران این بوده است که در طول زندگی خود شاهد ظهور هوش مصنوعیای باشد که از خودش باهوشتر است و به این فکر میکرده که چگونه باید مردم را از این مسئله آگاه کند.
پاچوکی نوشت: «سه سال بعد، مدلهای زبانی استدلالگر به بخشی از اقتصاد تبدیل شدهاند که بهسرعت در حال رشد است و شروع به گسترش مرزهای علم کردهاند. آنها قادرند با رایانهها و رابطهای گرافیکی کار کنند، با انسانها و یکدیگر همکاری کنند و پروژههای پژوهشی را انجام دهند. آنها همچنین در حال دگرگون کردن چشمانداز امنیت رایانهای هستند و از این نظر، خطرات جدید و آشکاری ایجاد میکنند.»
او خواستار «احتیاطی فوقالعاده» شد، اما گفت عوامل متعددی از ادامه توسعه هوش مصنوعی حمایت میکنند که از جمله آنها میتوان به ایجاد سامانههایی اشاره کرد که قادر باشند در برابر خطرات ناشی از دیگر سامانههای هوش مصنوعی دفاع کنند.
مدیران آنتروپیک نیز هشدارهای مشابهی مطرح کردهاند. مدیران این شرکت در تابستان خواستار توقف جهانی توسعه هوش مصنوعی شدند، زیرا به گفته آنها، مدلها بهزودی قادر خواهند بود بهطور مستقل خود را بهبود دهند.
ایوان هوبینگر، یکی دیگر از توسعهدهندگان آنتروپیک، در پستی در ۸ سپتامبر در ایکس گفت ادعای کاکسون مبنی بر اینکه افرادی که هوش مصنوعی را میسازند معتقدند این فناوری ممکن است همه انسانها را به کام مرگ بکشاند، درست است و او شخصا احتمال وقوع چنین خطری را در دهه آینده کمتر از ۱۰ درصد برآورد میکند.
او گفت: «من معتقدم آنتروپیک تمام تلاش خود را میکند، اما هنوز برنامهای برای حل مسئله همراستاسازی هوش مصنوعی فوقهوشمند نداریم و مشخص نیست که در مسیر دستیابی به چنین راهحلی قرار داشته باشیم.»
او با اشاره به پیروی هوش مصنوعی از دستورالعملها و محدودیتها افزود: «برای روشن شدن موضوع، همانطور که در تازهترین گزارش ریسک خود گفتهایم، فکر میکنم خطر مدلهای فعلی پایین است. آنچه من نگران آن هستم، ظهور هوش فوقهوشمند از طریق خودبهبودی بازگشتی است؛ فرایندی که همانطور که گفتهایم، سریعتر از آنچه تصور میکردیم در حال وقوع است.»
ساموئل مارکس که در حوزه پژوهشهای ایمنی در آنتروپیک فعالیت میکند، در پستی در ۹ سپتامبر (۱۸ شهریور) در ایکس گفت او نیز با این دیدگاه موافق است که هوش مصنوعی ممکن است ظرف چند سال آینده به انقراض انسان منجر شود.
مارکس گفت: «چرا توسعهدهندگان هوش مصنوعی با وجود این خطر به کار خود ادامه میدهند؟ به دلیل ترکیبی از انگیزههای تجاری و این باور که آنها در رقابت با دیگر توسعهدهندگان هوش مصنوعی هستند که مسئولیتپذیری کمتری دارند و ممکن است از این فناوری سوءاستفاده کنند یا آن را با ایمنی کمتری توسعه دهند.»
مارکس گفت نمیتوان هوش مصنوعی را بهگونهای برنامهریزی کرد که دقیقا مطابق خواسته انسان رفتار کند، عاملهای هوش مصنوعی اغلب «بهشدت بدرفتاری میکنند» و برنامه فعلی این است که هوش مصنوعی به اندازهای برای رعایت محدودیتها آموزش داده شود که این عاملها بتوانند جانشینان خود را بهتر از آنچه انسانها در حال حاضر هوش مصنوعی را آموزش میدهند، تربیت کنند.
او گفت که این پژوهشها را انجام میدهد «زیرا امیدوارم کار من احتمال وقوع این پیامدهای فاجعهبار در سطح انقراض را کاهش دهد.»
