نویسنده: کی روبچک
بیشتر مردم هرگز نام مرینانک شارما را نشنیدهاند. این خود بخشی از مشکل است.
در ۹ فوریه ۲۰۲۶ (۲۰ بهمن)، شارما از شرکت آنتروپیک، یکی از تأثیرگذارترین شرکتهای هوش مصنوعی در جهان، استعفا داد. او رهبری تیم پژوهش ایمنی را برعهده داشت؛ گروهی که مسئول اطمینان از آن بود که سامانههای هوش مصنوعی آنتروپیک برای طراحی یک سلاح زیستی مورد استفاده قرار نگیرند. آخرین پروژه او پژوهشی درباره این بود که سامانههای هوش مصنوعی چگونه برداشت انسانها از واقعیت را تحریف میکنند. این کاری جدی و سرنوشتساز برای بشریت بود. نامه استعفای او در شبکه ایکس بیش از ۱۴ میلیون بار دیده شد. نامه با این جمله آغاز میشد: «جهان در خطر است.» و با یک شعر پایان مییافت و اعلام میکرد که او یکی از مهمترین موقعیتهای شغلی در حوزه هوش مصنوعی را ترک میکند تا در رشته شعر تحصیل کند. بله، درست خواندید: خطر و شعر.
شعری که او نقل کرده بود «همینگونه است» از ویلیام استافورد، شاعر آمریکایی، بود. این شعر از ریسمانی سخن میگوید که در سراسر زندگی امتداد دارد؛ ریسمانی که در میان چیزهایی که تغییر میکنند عبور میکند، اما خود تغییر نمیکند. تا زمانی که آن را در دست داشته باشی، گم نمیشوی. تراژدیها رخ میدهند. انسانها رنج میکشند و پیر میشوند. زمان پیش میرود و هیچ چیز جلوی آن را نمیگیرد. و سطر پایانی: هرگز آن ریسمان را رها نکن.
اگرچه او این را بهصراحت بیان نکرد، من استدلال میکنم که آن ریسمان، اخلاق است. این احساس پایدار که برخی چیزها درستاند و برخی نادرست؛ نه به این دلیل که قانونی چنین میگوید، و نه چون سودآور است، بلکه چون انسانها در بهترین حالت خود، همواره آن را میدانستهاند.
شارما دو سال را صرف تماشای رها شدن آن رشته زیر فشار کرد؛ در اتاقهایی که عموم مردم هرگز آنها را نمیبینند.
او در نامهاش نوشت: «در تمام مدتی که اینجا بودم، بارها دیدهام که چقدر دشوار است واقعاً بگذاریم ارزشهایمان هدایتگر اعمالمان باشند… این را در خودم دیدهام، در درون سازمان دیدهام؛ جایی که دائماً با فشارهایی روبهرو هستیم تا آنچه را بیش از همه اهمیت دارد کنار بگذاریم، و همچنین در سراسر جامعه نیز همین را مشاهده کردهام.»
او نوشت که بشریت در آستانه مرحلهای قرار دارد که «خرد ما باید همسنگ با تواناییمان برای اثرگذاری بر جهان رشد کند؛ وگرنه با پیامدهای آن روبهرو خواهیم شد.» او میخواست به شکلی مشارکت کند که کاملاً با وجدانش سازگار باشد و خود را وقف آنچه «تمرین سخن گفتن شجاعانه» نامید، کند.
مردی که سامانههای دفاعی در برابر زیستهراسافکنی ساخته بود، به این نتیجه رسید که مهمترین کاری که اکنون میتواند انجام دهد، آموختن سخن گفتن با صداقت و شجاعت است. این نشانهای مهم از آن چیزی است که پشت درهای بسته در پژوهش و توسعه هوش مصنوعی رخ میدهد.
بسیاری از کارشناسان توسعه هوش مصنوعی را با ساخت بمب اتمی مقایسه کردهاند. پروژه منهتن در نهایت محرمانگی ساخته شد. مردم از آن آگاهی نداشتند، در نحوه استفاده از آن صدایی نداشتند و درباره آنچه پس از آن رخ داد نیز نقشی نداشتند. هنگامی که کار به پایان رسید، برخی از دانشمندانی که آن را ساخته بودند، باقی عمر خود را در رنج گذراندند. چند نفر حتی در میانه پروژه آن را ترک کردند.
شارما تنها نبود. پژوهشگران متعدد حوزه ایمنی از پروژههای هوش مصنوعی در شرکتهای مختلف کنارهگیری کردهاند. این استعفاها شاید تنها نشانههایی باشند که ما، مردم، در اختیار داریم؛ زیرا تقریباً همه چیز درباره توسعه هوش مصنوعی دور از دید عموم در حال رخ دادن است. بحثهای داخلی، مصالحههای ایمنی، مذاکرات درباره اینکه این فناوری چه کارهایی مجاز است یا نیست انجام دهد؛ هیچیک با مردمی که زندگیشان عمیقاً تحت تأثیر آن قرار خواهد گرفت، در میان گذاشته نمیشود. ما بخشی از این گفتوگو نیستیم. نتایج به ما ارائه میشود و از ما خواسته میشود با آن سازگار شویم.
جان آدامز نوشت قانون اساسی تنها برای مردمی اخلاقمدار و دینباور ساخته شده و برای هر جامعهای جز آن کاملاً ناکافی است. جورج واشنگتن هشدار داد که آزادی بدون اصول اخلاقی مشترک پایدار نمیماند. بنیانگذاران ایالات متحده فروپاشی جمهوریها در طول تاریخ را مطالعه کردند و به یک نتیجه رسیدند: سازوکار آزادی به مردمی اخلاقمدار نیاز دارد تا آن را حفظ کنند. قوانین و نهادها بهتنهایی کافی نیستند. آنها به شهروندان و رهبرانی وابستهاند که خود را به چیزی فراتر و پیشاتر از قانون پایبند بدانند.
این همان ریسمان جامعه انسانی است؛ و هیچ سامانه هوش مصنوعی آن را در اختیار ندارد. اگر انسانها اجازه دهند هوش مصنوعی پرسش درست و نادرست را با معیار قانونی و مجاز بودن جایگزین کند، ماشین این معیار را با مقیاس و سرعتی پیش خواهد برد که هیچ نسل پیشین با آن روبهرو نبوده است.
شارما در پایان نامه استعفایش نوشت: «هرگز آن رشته را رها نکن.»
ما در نقطه عطفی قرار داریم که بیشباهت به موقعیتی نیست که دانشمندان هستهای با آن روبهرو بودند.
استعفای شارما یک نشانه بود. موج کنارهگیریها پیش و پس از آن نیز نشانهاند. گزارشهایی درباره تنش میان شرکتهای هوش مصنوعی و دولتها بر سر اینکه مرزهای اخلاقی کجا باید ترسیم شوند نیز نشانهاند. اینها در کنار هم به موضوعی اشاره میکنند که هنوز عموم مردم بهطور کامل برای اندیشیدن به آن دعوت نشدهاند: اینکه مهمترین پرسشها درباره این فناوری بدون حضور ما در حال بررسی است؛ و اینکه ریسمان اخلاق، که همواره نیازمند انتخاب آگاهانه انسانها برای در دست گرفتن آن بوده، باید بخشی از این گفتوگو باشد.
دیدگاه ارائهشده در این مقاله نقطه نظر نویسنده بوده و لزوماً منعکسکننده دیدگاه اپک تایمز نیست.
درباره نویسنده: کی روبچک فیلمساز صاحبعنوان، نویسنده، سخنران و مجری سابق برنامه «زندگی و زمانه» شبکه انتیدی است. او پس از بازداشت در چین به دلیل دفاع از حقوق بشر، زندگی حرفهای خود را وقف مبارزه با اشکال مدرن و جهانی رژیمهای کمونیستی و سوسیالیستی کرده است. او از سال ۲۰۱۰ تاکنون با اپک تایمز همکاری میکند.
