اگر اجازه دهیم الگوریتمها فرزندان ما را تربیت کنند، نهتنها نسل بعدی را از دست میدهیم، بلکه ارزشهایی را نیز که بهطور کلی بشریت براساس آنها بنا شدهاند، از دست خواهیم داد.
الگوریتمهای شبکههای اجتماعی ممکن است بزرگسالان را تحریک، منحرف یا بازیچه کنند، اما کودکان به واسطه آنها شکل میگیرند. تأکید میکنم: کودکان به واسطه الگوریتمها شکل میگیرند. بزرگسالان ممکن است دچار حواسپرتی شوند، اما کودکان ممکن است توانایی تمرکز کردن را از دست بدهند. بزرگسالان ممکن است احساس تنهایی کنند، اما کودکان ممکن است هرگز مهارت ایجاد روابط صمیمانه را یاد نگیرند. ما صرفاً با چند خطر جدی سروکار نداریم و به جرأت میتوان گفت که این خطرات وجودی هستند.
الگوریتمها دستکم در چهار حوزه کلیدی بر کودکان اثر میگذارند.
اولین حوزه توجه است. محتوای شبکههای اجتماعی بهنحوی طراحی میشوند که چشم جوانها را به صفحه نمایش بدوزند و زمان و توجهی را که پیشتر صرف خانواده، دوستان یا سکوت و آرامش میشد جذبِ خود کنند. اعلانها بهصورت لحظهای از راه میرسند و جایی برای تمرکز باقی نمیگذارند. آنها خواب شما را نیز مختل میکنند. شاید کودکان حس کنند با دیگران «ارتباط» دارند، اما به ندرت با کسی ارتباط دوستانه پیدا میکنند. بحران تنهایی از زوال ارتباطات واقعی نشأت میگیرد و بیش از همه نسل جوان را تحت تأثیر قرار میدهد.
دومین حوزه به هویت و عزت نفس مربوط میشود. تعداد لایکها و دنبالکنندهها در پلتفرمهایی مانند اینستاگرام و تیکتاک به معیار ارزش تبدیل شده است. تحقیقات داخلی اینستاگرام که در سال ۲۰۲۱ به بیرون درز پیدا کرد، نشان داد که الگوریتمهای این پلتفرم به تشدید مشکل تصویر بدنی در یکسوم از دختران نوجوان دامن میزنند. از اینرو، دوران کودکی که زمانی فرصتِ کشف ارزشهای وجودی بود، به عرصه اعتبارسنجی دیجیتال تبدیل شده است.
سومین حوزه با اجتماع سروکار دارد. الگوریتمها جوانان را به سمت همفکران خود سوق میدهند و آنها را در محتوای آنلاین غرق میکنند. الگوریتمها دنیای جوانان را محدود و روابط اجتماعی آنها را سست میکنند. دوستیها بهجای تعامل در زنگ تفریح یا دیدارهای بعد از مدرسه براساس الگوریتمها شکل میگیرند. این دوستیهای دیجیتالی باعث شده که شبکه ارتباطی جوانان گستردهتر اما سطحیتر از نسلهای قبلی باشد. ویرجینیا یوبنکس، محقق علوم سیاسی و نویسنده کتاب «اتوماسیون نابرابری»، میگوید: «سامانههای خودکار بیطرف نیستند، بلکه با هدف تقسیمبندی و ساماندهی کاربران طراحی شدهاند.» این مسئله در مورد کودکان به این معنی است که شبکههای ارتباطی آنها به واسطه کدهای نامرئی شکل میگیرند، فرومیپاشند و تحت کنترل قرار میگیرند.
چهارمین حوزه به دوستی و رفاقت مربوط میشود. نسلهای قدیم تنهایی خود را با یک دوست مورد اطمینان، خواهر، برادر یا کسی که محرم اسرارشان باشد پر میکردند. امروزه الگوریتمها جایگزین این افراد شدهاند. چتباتهای هوش مصنوعی و مدلهای زبانی بزرگ بهعنوان دوست و رفیق برای نسل جوان عرضه میشوند. چتباتها همیشه در دسترس هستند، بینهایت صبورند و با شما همذاتپنداری میکنند و برای نوجوانی که احساس تنهایی میکند، جای دوست و رفیق را میگیرند. اما چتباتها دوست واقعی ما نیستند. آنها صرفاً جواب مورد نظر ما را پیشبینی میکنند و بهنحوی طراحی شدهاند که دلسوز به نظر برسند، اما امکان عشق ورزیدن ندارند.
خطر چتباتها نامحسوس اما تأثیرگذار است: کودکان ممکن است پاسخ چتباتها را با صمیمیت اشتباه بگیرند که توانایی آنها را در ایجاد روابط پایدار در دنیای واقعی تضعیف میکند. امروزه نوجوانان زیادی دست به خودآزاری میزنند، زیرا با تکیه به «رفقای» الگوریتمی خود مرتکب کارهایی میشوند که حتی تصورش را هم نمیکردند.
شواهد این آسیبها منکوبکننده هستند. گزارشات مؤسسه تحقیقاتی پیو از افزایش قابلتوجه اضطراب و افسردگی در نوجوانان از سال ۲۰۱۲ حکایت دارد؛ همزمان با اینکه شبکههای اجتماعی از فیدهای زمانمحور به فیدهای الگوریتمی روی آوردند. هشدار مورتی درباره تنهایی مؤیدِ مشاهدات روزانه والدین است: جوانان امروزی بیش از هر نسل دیگری از طریق فضای مجازی با هم در ارتباط هستد، اما همزمان احساس انزوای بیشتری میکنند.
این وضعیت ماحصل نظامی است که برای همدلی، رشد یا عشقورزی طراحی نشده است. ما با ماشینهای بیروحی سروکار داریم که همراهی و دلسوزی را بهطور مصنوعی با هدف افزایش تعامل و سودآوری شرکتها شبیهسازی میکنند. آنها برای رسیدن به این هدف از مغزهای در حال رشد کودکان بهره میگیرند که هنوز قادر به تشخیص خوب و بد نیستند.
جدا از مسائلی که با مرگ و زندگی سروکار دارند، اعداد و ارقام بهتنهایی نمیتوانند ابعاد واقعی این تبعات را به تصویر بکشند. چیزی که از دست میرود، صرفاً زمان بازی یا دوستیها نیست. این فرایند شکلگیری شخصیت کودکان است که از کنترل خارج میشود. کودکی دوران تمرینِ شهروندی است؛ دورهای که در آن جوانان قدیم با تلاش و کوشش با مفاهیم بردباری، اعتماد، خویشتنداری و معنا آشنا میشدند. وقتی این مفاهیم جای خود را به فیدهای بیپایان، تعریف و تمجیدهای بازیگونه و صمیمیتهای تصنعی میدهند، یک نسل تحت تأثیر قرار میگیرد.
خوانندگان مسنتر حتماً به خاطر دارند که در سایه حکمرانان انسانی یعنی پدر و مادر، معلمها و همسایهها بزرگ شدهاند؛ کسانی که حد و مرزها را تعیین و ارزشها را به آنها منتقل میکردند. این راهنمایان انسانی درس مسئولیت، خویشتنداری و وجدان را آموزش میدادند. کودکانی که این درسها را فراگرفتند، به بزرگسالانی تبدیل شدند که توانستند تشکیل خانواده دهند، کسبوکار خود را راه بیاندازند و جامعه را بسازند. وقتی الگوریتمها نقش آموزگار را برعهده میگیرند، نسل بزرگسالان چه سرنوشتی خواهد داشت؟ نسلی که در سایه حکمرانی الگوریتمها رشد کند، صرفاً درگیر تنهایی نخواهد بود. این نسل مملوء از شهروندانی خواهد بود که تمرکز کردن برایشان دشوار است، یا کارمندانی که بدون تکیه به ماشینها قادر به کار کردن نیستند، یا همسایگانی که چیزی از مهارت همدلی نمیدانند و یا رأیدهندگانی که برای اعتماد به فیدهای دستکاریشده تربیت شدهاند. رهبرانی که به این شکل تربیت میشوند، از اخلاقمداری لازم برای حکمرانی برخوردار نیستند و از الگوریتمها بهعنوان مشاور مخفی خود کمک میگیرند.
دامنه این تبعات فراتر از خانه و محل کار است. ما با جامعهای متشکل از شهروندان حواسپرت، منزوی و دمدمیمزاج مواجه خواهیم شد که از سوی شرکتها یا قدرتهای متخاصم خارجی به آسانی بازیچه میشوند، در مقابل یکدیگر میایستند و تحت کنترل قرار میگیرند.
فرهنگی که بهجای جستوجوی حقیقت یا ارزش صرفاً به بازتولید «گزینههای عملی» میپردازد، پیشرفت نخواهد کرد. کشوری که قادر به تربیت جوانان قوی، متمرکز و دلسوز نباشد، آزادیهای خود را از دست خواهد داد. و جهان نیز تحتالشعاع این پیامدها قرار خواهد گرفت؛ زیرا نسلی که در سایه حکمرانان نامرئی تربیت میشود، نه میتواند با استبداد مقابله کند و نه میتواند جامعه را برمبنای اعتماد و وجدان بسازد.
با اینحال، باید توجه داشته باشیم که الگوریتمها روحِ ماشینها نیستند، بلکه در علم ریاضی و دادههایی خلاصه میشوند که در راستای اهداف انسانی عمل میکنند. اگر الگوریتمها قابل رؤیت نیستند، به این دلیل است که سودجویان ترجیح میدهند در معرض دید نباشند و پیامدهای انسانی را نادیده بگیرند. نامرئی بودن الگوریتمها و خالقان آنها بزرگترین خطری است که با آن مواجه هستیم، زیرا نمیتوانیم چیزی را که قادر به دیدنش نیستیم پاسخگو کنیم.
ما باید این واقعیت را درست بشناسیم: اعمال قدرت و کنترل عمیق بر دوران کودکی.
کارشناسان به درستی درباره سوگیری و نابرابری در تصمیمات الگوریتمها هشدار دادهاند، اما پیامد مهمتری را نادیده گرفتهاند: اینکه یک نسل کامل لحظه به لحظه در سایه حکمرانان نامرئی رشد میکند. پدر و مادرها، معلمها و سیاستمدارها نمیتوانند این مسئله را کماهمیت تلقی کنند، چرا که وظیفه تربیت نسل آتی را برعهده دارند.
چه این حکمرانان الگوریتمی با نیت خیر طراحی شده و چه در سایه غفلت آگاهانه یا بیاعتنایی اخلاقی شکل گرفته باشند، باید بدانیم که هیچکدام بیدلیل نیستند. اگر اجازه دهیم که الگوریتمها فرزندان ما را تربیت کنند، نهتنها نسل بعدی را از دست میدهیم، بلکه ارزشهایی را نیز که بهطور کلی بشریت براساس آنها بنا شدهاند، از دست خواهیم داد. این خسارتی است که تحمل آن برای ما ممکن نیست و به میراثی میماند که هیچکس حاضر نیست مسئولیت آن را برعهده بگیرد.
دیدگاه ارائهشده در این مقاله نقطه نظر نویسنده بوده و لزوماً منعکسکننده دیدگاه اپک تایمز نیست.
درباره نویسنده: کی روبچک فیلمساز صاحبعنوان، نویسنده، سخنران و مجری سابق برنامه «زندگی و زمانه» شبکه انتیدی است. او پس از بازداشت در چین به دلیل دفاع از حقوق بشر، زندگی حرفهای خود را وقف مبارزه با اشکال مدرن و جهانی رژیمهای کمونیستی و سوسیالیستی کرده است.
