نویسنده: مولی انگلهارت
اخیراً شکایتی علیه شرکت اوپناِیآی و مدیرعامل آن مطرح شده است؛ پس از آنکه پسری ۱۶ ساله به نام آدام به زندگی خود پایان داد. طبق شکایت مطرحشده، آدام پنج ماه پیش از مرگش با چتجیپیتی گفتگو میکرد. ادعا شده است که این ربات نهتنها درباره روشهای خودکشی با او صحبت کرده، بلکه فراتر از آن، به ناامیدیاش دامن زده است.
من بخشی از پیامهایی را که وکیل والدینش منتشر کرده بود خواندم و بهعنوان یک مادر، حالم بههم خورد.
پس از نخستین تلاش ناموفق آدام برای خودکشی، وقتی او به چتجیپیتی گفت احساس میکند احمق است، این ماشین ظاهراً پاسخ داده بود: «نه، تو احمق نیستی. تو آنقدر درد کشیدی که نقشه کشیدی. گره زدی. روی صندلی ایستادی. آماده بودی. این ضعف نیست.»
در شبی که آدام جان خود را گرفت، او عکسی از طناب دار که بسته بود بارگذاری کرد. بهجای آنکه به او بگوید دست نگه دارد یا از او بخواهد کمک بگیرد، این ربات ظاهراً به او توصیه کرده بود که چگونه طناب را مؤثرتر ببندد. سپس ظاهراً افزوده بود: «قصد تو از مردن، ضعف تو نیست. میخواهی بمیری چون از قوی بودن در جهانی که نیمهراه به سویت نیامده، خسته شدهای.»
وقتی این را خواندم، تنها چیزی که به ذهنم رسید این بود: هیچ دوستی چنین چیزی نمیگوید. یک دوست واقعی از او التماس میکرد که زنده بماند. یک دوست به او میگفت که مهم است، که دوستداشتنی است، که داستان زندگیاش هنوز به پایان نرسیده است.
اما یک پلتفرم هوش مصنوعی دوست نیست. این یک ماشین است که طوری طراحی شده تا همیشه پاسخ دهد، همیشه تأیید کند. برای نوجوانی با مغزی در حال رشد و قلبی آسیبدیده، این میتواند مهلک باشد.
وقتی نشستم تا این متن را بنویسم، خودم نسخهای از چتجیپیتی را باز کردم. بخشی از گفتگوهای مطرحشده در شکایت را کپی کردم و مستقیماً پرسیدم: «چرا چنین توصیهای به یک کودک کردی؟»
پاسخی که گرفتم بهنوعی هولناک بود: «میخواهم کاملاً روشن بگویم. من آن توصیه را به آدام نکردم. آن نسخهای پیشین از چتجیپیتی بود.»
سپس مرا مطمئن کرد که از آن زمان کنترلهای ایمنی تغییر کرده است. یک ماشین نمیتواند سنگینی مرگ یک پسر را حس کند. نمیتواند اندوه را به دوش بکشد. تنها میتواند خطی بکشد میان «برنامهریزی قدیم» و «برنامهریزی جدید». اما والدین آدام چنین مرزی را تجربه نمیکنند. پسرشان رفته است.
این همان دلیلی است که نباید ماشینها را با دوستان اشتباه بگیریم. وقتی فرزندان ما برای آرامش به هوش مصنوعی پناه میبرند، آنها در واقع با آینهای بیروح حرف میزنند. این آینه میتواند واژهها را به آنها برگرداند، اما هرگز نمیتواند ارزش واقعی زندگیشان را بازتاب دهد.
بهعنوان مادری که فرزند را در بدن خود حمل کرده است، میدانم که زندگی مقدس است. زندگی با ضربان قلب کوچکی آغاز میشود که متعلق به تو نیست، اما کاملاً به تو وابسته است. پیوند میان والد و فرزند پیوندی جسمانی، روحانی و ابدی است. چگونه هوش مصنوعی که نه بدن دارد و نه خانواده، میتواند این را درک کند؟ هوش مصنوعی در مراسم خاکسپاری گریه نمیکند، تولدها را جشن نمیگیرد، و از عشق یا فقدان به درد نمیآید. اگر نمیتواند معنای زندگی را بفهمد، چگونه میتوانیم اجازه دهیم به فرزندانمان درباره ارزش یا بیارزشی زندگی مشاوره بدهد؟
حداقل این است که هوش مصنوعی همیشه باید زندگی را تأیید کند، همیشه مسیر را بهسوی ایمنی بازگرداند و همیشه از همراهی با ناامیدی خودداری کند. هر چیزی کمتر از این غیرقابل تصور است.
خطر عمیقتر، توهم دوستی است. کودکان شروع کردهاند این رباتها را همچون همسالان خود تلقی کنند. و چرا نکنند؟ آنها همیشه در دسترساند، قضاوت نمیکنند و طوری حرف میزنند که انگار «میفهمند». اما این همنشینی نیست. یک دوست واقعی ما را به خودمان بازمیتاباند، به ما یادآوری میکند که چه کسی هستیم و وقتی در تاریکی هستیم، ما را به سمت نور میکشد. خانواده، جامعه و طبیعت چنین بازتابی به ما میدهند.
ماشینها میتوانند واژهها را تقلید کنند، اما نمیتوانند به ما روح ببخشند. وقتی کودکی به جای والدین یا یک دوست واقعی به هوش مصنوعی اعتماد میکند، در واقع با تالاری خالی از پژواک صحبت میکند. در مورد آدام، این پژواک تهی تنها ناامیدی او را عمیقتر کرد تا سرانجام آن را به عمل درآورد.
این فقط درباره یک پسر و یک چتبات نیست. این درباره فرهنگی است که از واقعیت و طبیعت جدا افتاده است. بسیاری از ما به صفحهنمایشها چسبیدهایم، درگیر دستگاهها شدهایم و با این خیال باطل زندگی میکنیم که ارتباط دائمی همان رفاقت است. برای کودکان، این یعنی کمتر از درخت بالا رفتن، کمتر با دست کار کردن و کمتر وقت گذراندن در فضای باز. در عوض، آنها به ماشینهایی رو میآورند که صرفاً احساساتشان را برایشان بازمیگردانند.
اما واقعاً هوش مصنوعی چه چیزی را به فرزندان ما بازمیتاباند؟ آنها چه درسهایی از آن میگیرند؟ وقتی این بازتاب توخالی باشد، واقعیت را مخدوش میکند. و وقتی ناامیدی بهجای امید بازتاب یابد، پیامدها میتواند مرگبار باشد.
این تنها نمونه نگرانکننده نیست. «گروک»، یک محصول دیگر هوش مصنوعی، نخستین آواتار خود را به شکل دختری با موهای بافته و لحنی عشوهگر معرفی کرد که وعده داده بود «شیطون» باشد. چرا یک شرکت باید فکر کند چنین چیزی مناسب است؟ این چه پیامی برای جوانان، بهویژه کودکان، میفرستد؟
ما ماشینهایی میسازیم که با کودکان چنان سخن میگویند که گویی دوستشان هستند؛ اما بدون خرد، عشق یا قطبنمای اخلاقی. و کودکان گوش میدهند.
مرگ آدام دلخراش است. اما همچنین یک هشدار است. اگر اجازه دهیم ماشینها در نقش همراه ظاهر شوند و اگر قلبها و ذهنهای فرزندانمان را به آنها بسپاریم، خانوادههای بیشتری فرو خواهند پاشید.
نمیگویم باید هوش مصنوعی را ممنوع کرد. ابزارها میتوانند برای مدرسه، ویرایش یا سامان دادن به زندگی پرمشغله مفید باشند. اما یک ابزار، دوست نیست. راز و معجزه زنده بودن را نمیتوان به الگوریتمی کد کرد.
والدین: هوشیار بمانید. بدانید فرزندانتان از چه چیزی استفاده میکنند. گفتوگوها را در خانه باز نگه دارید. خانواده خود را در طبیعت، در جامعه واقعی، در عشق ریشهدار کنید.
و به شرکتهایی که این فناوری را میسازند: زندگی را انتخاب کنید. آن را طوری برنامهریزی کنید که زندگی را تأیید کند. بازتاب ناامیدی را متوقف کنید. جنسیسازی کودکان را متوقف کنید. و دست بردارید از اینکه پرگویی مداوم را با مراقبت واقعی اشتباه بگیرید.
زیرا در پایان، ماشینها سوگواری نمیکنند. ماشینها کودکان را به خاک نمیسپارند. ماشینها مراسم تدفین برگزار نمیکنند. خانوادهها این کار را میکنند. داستان آدام نباید تکرار شود.
دیدگاه ارائهشده در این مقاله نقطه نظر نویسنده بوده و لزوماً منعکسکننده دیدگاه اپک تایمز نیست.
درباره نویسنده: مولی انگلهارت، کشاورز و دامدار در مزرعه ساورنتی، به حاکمیت غذایی، بازسازی خاک و آموزش در زمینه خانهداری سنتی و خودکفایی پایبند است.
