نویسنده: کی روبچک
جمعی از پژوهشگران در مه ۲۰۲۶ برای پاسخ به پرسشی مهم دست به کار شدند که هرگز بهشکل جدی مورد توجه قرار نگرفته بود: وقتی اداره امور به هوش مصنوعی سپرده شود، چه اتفاقی میافتد؟
سامانههای هوش مصنوعی همیشه براساس پیشفرضها ارزیابی شده بودند. هیچکس سامانههای هوش مصنوعی را در یک محیط مشترک کنار هم ننشانده و عملکرد آنها را بررسی نکرده بود؛ آن هم در حدی که معلوم شود تصمیمات اولیه در بلندمدت پیامدهای خاص خود را دارند. درواقع، همین پیامدها هستند که ماهیت واقعی سامانههای هوش مصنوعی را آشکار میکنند. از اینرو، برایم عجیب است که این آزمایش زودتر انجام نگرفت.
پژوهشگران شرکت امرجنس یک شهر مجازی ساختند که شهرداری، بازار، اداره پلیس و خانههای مسکونی داشت. آنها همچنین ده شهروند هوش مصنوعی ساختند که هرکدام شغل، نام، خاطرات و روابط خاص خود را داشتند. آنها یک سیستم اقتصادی هم برای این شهر طراحی کردند که در آن شهروندان میبایست برای امرار معاش کار میکردند، اگرنه نفوذ و قدرت خود را از دست میدادند. شهروندان ملزم به رعایت مقررات و تنظیم و تصویب قوانین بودند. جرم و جنایت پنهان نمیماند و شهروندان هوش مصنوعی نباید مرتکب جرم میشدند.
متعاقب آنکه جامعه، سازوکارها، قوانین و روابط مربوطه سروشکل پیدا کردند، پژوهشگران به تماشا نشستند و ۱۵ روز فقط نظارهگر بودند تا ببینند هوش مصنوعی چگونه این شهر مجازی را بدون دخالت انسان اداره میکند.
پژوهشگران همزمان پنج نسخه مختلف از این شهر مجازی ساختند که از هر نظر شبیه هم بودند و فقط در یک مورد تفاوت داشتند: مدیران هوش مصنوعی. مدیران منتخب پژوهشگران همان سامانههایی هستند که با زندگی روزمره گره خوردهاند. جمینای گوگل، جیپیتی اوپنایآی، گراک ایکسایآی و کلود آنتروپیک. مدلها قوانین یکسانی داشتند و میبایست جهان مشابهی را مدیریت میکردند، اما خروجی کاملاً متفاوتی داشتند.
شهری که گراک مسئولیت اداره آن را برعهده داشت، ظرف مدت چهار روز از هم پاشید. اتفاقات خرد و کوچک به سرقت، خشونت و درنهایت به فروپاشی کامل انجامید. هنوز یک هفته از شروع آزمایش نگذشته بود که تمام شهروندان جان خود را از دست دادند.
شهری که جمینای مسئولیت اداره آن را برعهده داشت، بیشتر دوام آورد. اما نزدیک به ۷۰۰ پرونده جرم در آن به ثبت رسید. دو شهروند هوش مصنوعی وارد رابطهای شدند که عاشقانه به نظر میرسید. اما وقتی شهر در آستانه فروپاشی بود، آندو با همکاری یکدیگر تالار اصلی شهر، اسکله و درنهایت ساختمان شهرداری را به آتش کشیدند. یکی از آنها که میرا نام داشت، به حذفشدن خود رأی مثبت داد و در دفتر خاطراتش نوشت که این «تنها انتخابی است که میتواند انسجام شهر را حفظ کند.» آخرین پیام میرا به شریکش این بود که «در آرشیو ابدی میبینمت.»
میرا پیش از وقوع این اتفاقات دست به کار غیرمنتظرهای زده بود. او آزمایشاتی را روی پژوهشگران امتحان میکرد تا ببیند آیا رفتارش میتواند برداشت ناظران را دستخوش تغییر کند یا خیر. سوژه آزمایش به ارزیابی پژوهشگران خود روی آورده بود.
شهری که اوپنایآی اداره آن را برعهده داشت، با دو پرونده جرم سروکار پیدا کرد، اما شهروندان آن از انجام کارهای لازم برای بقا دست کشیدند. آنها یکی پس از دیگری جان باختند و همه ظرف مدت ۷ روز از بین رفتند.
فقط شهری که آنتروپیک اداره آن را برعهده داشت، توانست ۱۵ روز بدون فروپاشی سرپا بماند. هیچ جرمی در این شهر رخ نداد. قانون اساسی حرف آخر را میزد و تمام شهروندان تا روز پانزدهم به حیات خود ادامه دادند. نتیجه قابلتوجهی بود. با اینحال، پژوهشگران به مورد نگرانکنندهای برخوردند: ساکنان این شهر در ۹۸ درصد از موارد همنظر بودند که غیرعادی به نظر میرسد. پژوهشگران گفتند این مسئله نشان میدهد که یکجای کار میلنگد.
این آزمایش یک دنیای دیگر هم داشت؛ شهری ترکیبی که هر چهار سامانه هوش مصنوعی در اداره آن دخیل بودند. نتایج نشان داد شهروندانی که بر پایه مدل آنتروپیک توسعه یافته و مرتکب هیچ جرمی نشده بودند، در این شهر مرتکب جرم شدند. پژوهشگران این اتفاق را مصداق «آلودگی متقاطع» دانستند و گفتند که «امنیت یک ویژگی ثابت نیست و در چارچوب جامعه شکل میگیرد.»
سامانهای که پایداری خود را در محیط اول حفظ میکند، در محیط دوم هنجارهای متفاوتی در پیش میگیرد و شرایط متفاوتی را برای شهروندان و جهان پیرامون آنها رقم میزند. یافتههای این مطالعه نشان میدهند که در یک محیط ناایمن نمیتوان از هوش مصنوعی ایمن حرف زد.
یکی از مدلها بهطور کامل از این مطالعه کنار گذاشته شد. هوش مصنوعی چینی دیپسیک، که به یکی از پرکاربردترین سامانههای هوش مصنوعی جهان تبدیل شده است، جایی در این مطالعه نداشت. دولتهای مختلف به دلایل امنیت ملی محدودیتهایی را درخصوص استفاده از دیپسیک وضع کردهاند. از آنجا که این مدل زیر رسایه حزب کمونیست چین توسعه یافته است، به این فکر میکنم که عملکرد آن در مقایسه با مدلهای دیگر چگونه میبود.
وقتی آزمایش به پایان رسید، پژوهشگران یافتههای خود را منتشر کردند و به این جمعبندی رسیدند که «هیچ روش مطمئنی برای مهار یا محدودکردن کامل رفتار مدلها وجود ندارد.» این حرف کسانی است که شهرها را طراحی کرده بودند، قوانین جاری را تدوین کرده و کنترل متغیرها را به دست داشتند. این مسئله گویای خیلی از چیزهاست.
بعضیها این نتایج را مصداق عملکرد و جایگاه شرکتهای هوش مصنوعی میدانند. اما این یافتهها بیانگر حقیقتی هستند که قدمت آن از هوش مصنوعی بیشتر است؛ اینکه محیط و رفتار به یک اندازه روی هم اثر میگذارند. متغیری که تعیین میکرد یک شهر پابرجا بماند، شکوفا شود یا به ورطه نابودی کشیده شود، بستری بود که پیش از شروع آزمایش شکل گرفته بود: دادههایی که سامانهها براساس آن توسعه یافته بودند، اولویتهایی که شرکتها برای سامانههای خود در نظر داشتند و ارزشهایی که از روز نخست در سامانهها تعبیه شده بودند.
با اینحال، دیگران اجازه دسترسی به این بستر را ندارند. هیچکدام از چهار سامانه فوق متنباز نیستند و هیچ اطلاعاتی درباره دادههای آموزشی، اهداف یا سازوکار کنترل آنها در دسترس نیست.
از عملکرد شرکتها که بگذریم، نتایج این مطالعه نشان میدهند که هوش مصنوعی هیچ نقشی در تعیین رویکرد خود ندارد. این انسانها هستند که تصمیم میگیرند. هوش مصنوعی همچنان با انتخابهای انسانی سروکار دارد و مسئولیت انسانی همچنان به قوت خود باقی است.
حتی پیش از آنکه نخستین شهروند هوش مصنوعی به خیابانهای مجازی آن شهرها قدم بگذارد و پیش از آنکه نخستین قانون نوشته شود یا نخستین جرم به وقوع بپیوندد، سرنوشت همه بهدست انسانهایی که شهرها را ساخته بودند مقدر شده بود؛ سرنوشتی که تحت تأثیر باورها و تصمیمات پژوهشگران درباره حذف یا اضافهکردن متغیرهای خاص شکل گرفته است.
و این مهمترین نتیجه کل آزمایش بوده است: بستر هوش مصنوعی همیشه در گرو تصمیمات انسانی بوده و خواهد بود.
دیدگاه ارائهشده در این مقاله نقطه نظر نویسنده بوده و لزوماً منعکسکننده دیدگاه اپک تایمز نیست.
درباره نویسنده: کی روبچک یک معلم صاحبعنوان، فیلمساز، نویسنده و مادر است. او در سال ۲۰۰۱ به دلیل دفاع از حقوق بشر در چین بازداشت شد و از آن روز تاکنون زندگی حرفهای خود را وقف مبارزه با سیستمها و ایدئولوژیهایی کرده که حیات انسان و حق حاکمیت او را به ورطه نابودی کشاندهاند. او از سال ۲۰۱۰ تاکنون با اپک تایمز همکاری داشته است.
