اگر هوش مصنوعی به مبنای نوشتن و تصمیمگیری تبدیل شود، نگاه ما به ایدهها، اعتمادی که به قوه قضاوتمان داریم و ارزشی که برای کارهای خود قائل هستیم، دستخوش تغییر خواهد شد.
پیش از آنکه هوش مصنوعی مولد توسعه پیدا کند، شرکت آمازون مقوله تفکر عمیق را در عملیات خود نهادینه کرده بود.
جف بیزوس، بنیانگذار آمازون، در سال ۲۰۱۷ از ایده برگزاری جلساتی گفت که بر تفکر عمیق و استدلال مکتوب استوار بود. دیگر خبری از ارائه پاورپوینت و معرفی سرفصلها نبود. کارکنان میبایست یک متن ششصفحهای مینوشتند و محصول یا پروژه مورد نظرشان را از ابتدا تا انتها تشریح میکردند. نگارش این متن معمولاً یک هفته زمان میبرد.
افراد حاضر در جلسه از تازهکارها گرفته تا مدیران ارشد میبایست پیش از شروع صحبتها بهمدت ۲۰ تا ۳۰ دقیقه مینشستند و متن پیشنهادی را مطالعه میکردند.
بیزوس گفت: «هدف این بود که کارکنان افکارشان را از طریق نوشتن و خواندن بهشکل شفاف بیان کنند تا ایدههای ضعیف کنار گذاشته شوند و کسی نتواند آنها را در قالب صفحات پاورپوینت جذاب جلوه دهد. اندیشیدن زمان میخواست و نکته اصلی همین بود.»
خطر هوش مصنوعی مولد در این است که این منطق را با یک دستور ساده دور میزند و باعث میشود که احساس کنید اندیشیدن ضرورتی ندارد.
تبعیت روزافزون از هوش مصنوعی
کارکنان بسیاری از شرکتهای آمریکایی از جمله تعدادی از بخشهای آمازون تحت فشار هستند که برای تهیه پیشنویس یادداشتها، پیشنهادها، گزارشها و حتی کدنویسی از ابزارهای هوش مصنوعی استفاده کنند. هدف روشن است: بهرهوری بیشتر، هزینه کمتر و تولید سریعتر.
اما سرعت بیهزینه نیست.
کارهایی که زمانی برای انجام آنها فکر میکردیم، اینروزها به هوش مصنوعی سپرده میشوند. به این ترتیب، بخشی از اختیار و عاملیت ما از بین میرود.
شاید هنگام نوشتن دستورات احساس کنید خودتان نویسنده متن هستید، اما ساختار، قالب، عناوین و حتی شیوه استدلال توسط هوش مصنوعی تعیین میشود. کاربر میتواند سمتوسوی متن را مشخص کند، اما هیچ کنترلی روی حد و مرز آن ندارد و همین موضوع بهتدریج عاملیت را از کاربر میگیرد و به هوش مصنوعی منتقل میکند.
ژیوار صورتی، پژوهشگر علوم رایانه از دانشگاه کالیفرنیای جنوبی، که درباره تأثیر مدلهای زبانی بزرگ بر فرایند استدلال تحقیق میکند، به اپک تایمز گفت: «دستور را مینویسید و گمان میکنید اختیار عمل دارید، اما دامنه اختیاراتتان نسبت به دو سال پیش کوچکتر شده است.»
او افزود: «هوش مصنوعی تا دو سال پیش فقط ابزاری بود که باید به آن دستور میدادید، اما حالا به چیزی تبدیل شده که به کارهای شما سمتوسو میدهد و این تغییر رویه میتواند میزان اعتماد شما به ایدههای شخصیتان را دستخوش تغییر کند.»
مایکل اینزلیخت، روانشناس و استاد دانشگاه تورنتو، که درباره تأثیر فناوری بر انگیزه، خویشتنداری و تلاش تحقیق میکند، در ایمیلی به اپک تایمز نوشت: «وقتی هوش مصنوعی کنترل امور را به دست میگیرد، احساس مالکیت ما نسبت به نتیجه نهایی کمتر میشود. گویی آن کار متعلق به ما نیست و خودمان هم از این موضوع اطلاع داریم.»
در محیطهای کاری با تبعیت روزافزون به هوش مصنوعی مواجه هستیم. مطالعه پژوهشگران دانشگاه کارنگی ملون و مایکروسافت نشان میدهد پژوهشگرانی که به خروجی هوش مصنوعی اعتماد میکنند، اغلب ارزیابی دقیقی از پاسخها ندارند؛ گرایشی که بهعنوان «سوگیری اتوماسیون» شناخته میشود.
این تبعیت خطرناک است. هوش مصنوعی اغلب پاسخهای قانعکنندهای ارائه میکند، اما این پاسخها ممکن است نادرست، ناقص یا فاقد اطلاعات کلیدی باشند.
شماری از وکلا در این مورد بهای سنگینی پرداختند. آنها لوایحی را به دادگاه بردند که پروندههای مورد استنادشان ساخته و پرداخته هوش مصنوعی بودند و وجود خارجی نداشتند.
توهم اجماع
وقتی خروجی سامانههای هوش مصنوعی شبیه هم میشوند، اینکه بخواهیم اتکا به این ابزارها را زیر سؤال ببریم دشوارتر میشود.
شاید چند نفر دستور مشابهی به یک سامانه هوش مصنوعی بدهند و پیشنویسی با ساختار مشابه و زبانی شفاف، بیطرف و منسجم دریافت کنند. از اینرو، پیش از آنکه افراد بتوانند دیدگاه شخصی خود را ارائه کنند، ایدهها به هم نزدیک میشوند و اجماع بدیهی جلوه میکند، حتی اگر توافقی در کار نباشد.
صورتی گفت: «حالا دیگر مردم فقط با هوش مصنوعی حرف میزنند و از آن ایده میگیرند.»
استفاده از هوش مصنوعی فرایند اندیشیدن را به حاشیه میراند. مدیری که درحال نگارش یک یادداشت راهبردی است، ممکن است با همان ایدههایی شروع کند که کارمندان به کمک هوش مصنوعی ارائه میکنند. دانشجویی که پیشتر شکافهای پژوهشی را بهصورت موردی شناسایی میکرد، حالا از هوش مصنوعی میخواهد این کار را برای او به انجام برساند. همه در هربخشی به همین شکل عمل میکنند.
این مسئله در امور فنی خلاصه نمیشود. از ابزارهای هوش مصنوعی بهشکل فزاینده برای نگارش متون شخصی- از نامههای خداحافظی و سوگند ازدواج گرفته تا زندگینامهها- استفاده میشود؛ متونی که همیشه با تجربه و شیوه بیان خاص افراد ارتباط داشتند. صورتی گفت: «وقتی یک میلیارد کاربر هفتگی داریم، حتی یک تغییر کوچک در شیوه ایدهپردازی هم میتواند همهچیز را بهسرعت شبیه هم کند.»
اینکه افراد در طرز حرف زدن و فکر کردن شبیه هم شوند، پیش از ظهور هوش مصنوعی هم وجود داشته است. چیزی که با ظهور هوش مصنوعی تغییر کرده این است که یکدستشدنِ ایدهها نه در انتهای فرایند اندیشیدن بلکه از مرحله ایدهپردازی شکل میگیرد.
صورتی در مقالهای که در نشریه گرایشات علوم شناختی منتشر شد، گفت: «این موضوع از آن جهت حائز اهمیت است که هرکسی شیوه نگارش و استدلال خاص خود را دارد. وقتی این تفاوتها از دل مدلهای زبانی بزرگ میگذرند، زبانها، دیدگاهها و استدلالهای متمایز آنها بهتدریج شبیه هم میشوند.»
هوش مصنوعی صرفاً باعث نمیشود شبیه هم بنویسیم. مشکل اینجاست که هوش مصنوعی دامنه بحث و اختلافنظر را محدود میکند. وقتی زبان یکدست میشود و نوشتهها در یک قالب مشابه ارائه میشوند، شاید احساس کنید ارائه نظر مخالف یا متفاوت چندان مورد توجه قرار نمیگیرد.
صورتی میگوید این امر به مرور زمان باعث ایجاد «توهم اجماع» میشود و شرایط را اینطور جلوه میدهد که افراد خودشان به نتایج یا راهحلهای مشابه دست یافتهاند، اما درواقعیت این الگوهای ماشینی هستند که ایدهها، دیدگاهها و حتی مواضع انتقادی متفاوت را یکدست کردهاند تا یکپارچه جلوه کنند.
صورتی در نوشتههای خود هم به این موضوع برخورده است. یکدستکردن متن توسط هوش مصنوعی باعث میشود همهچیز متعارف به نظر برسد و از سبک شخصی نویسنده فاصله بگیرد. «ناگهان به خودم میآیم و میگویم اینکه نوشته من نیست.»
اگر توافق از یک مبنای مشترک آغاز شود، ممکن است این تصور ایجاد شود که کاملاً طبیعی و مستقل بوده است. هوش مصنوعی برعکس روشهایی مثل شیوه یادداشتنویسی آمازون عمل میکند؛ شیوهای که در آن نوشتن و خواندن به افراد کمک میکرد دیدگاه شخصیشان را پیش از مواجهه با نظر دیگران تنظیم کنند. از اینرو، توافق چیزی نبود که بهسادگی به دست بیاید.
موضوع فقط این نیست که مردم چه فکری میکنند، بلکه این است که هوش مصنوعی میتواند بیسروصدا سمتوسوی تفکر آنها را دستخوش تغییر کند.
چالش کمتر، درک کمتر
اتکای روزافزون به هوش مصنوعی و توافقی که به دنبال آن شکل میگیرد، دلایل خاص خود را دارد. این گرایش از جایی نشأت میگیرد که کمتر کسی به آن توجه دارد: مردم اغلب تصور میکنند از همهچیز اطلاع کامل دارند.
وقتی از هوش مصنوعی استفاده میکنید، پاسخهای سریع و مختصر آن را با درک و فهم شخصیتان اشتباه میگیرید.
آزمایش شرکت هوش مصنوعی آنتروپیک همهچیز را آشکار کرده است. داوطلبانی که از هوش مصنوعی کمک گرفته بودند، در آزمون درک مطلب، که چند دقیقه بعد از مطالعه متن مورد نظر انجام گرفته بود، حدود ۱۷ درصد امتیاز کمتری به دست آوردند. کار مورد نظر به پایان رسیده بود، اما داوطلبان چندوچون آن را درک نمیکردند.
اینزلیخت گفت: «درک عمیق مستلزم چالش است. باید تا حدی با مسائل دستوپنجه نرم کرد. هوش مصنوعی این مرحله را دور میزند و یک خروجی صیقلخورده در اختیارتان میگذارد، درحالیکه خودتان از چندوچون آن اطلاع کامل ندارید.»
اینزلیخت میگوید مشکل از جایی شروع میشود که چالش از بین میرود. اندیشیدن با شروع ناموفق، تردید و ایدهپردازی تدریجی همراه است. او و همکارانش در مقالهای که در نشریه روانشناسی ارتباطات منتشر شد، نشان دادند که تلاش ذهنی به افراد کمک میکند تا یاد بگیرند و مهارتهای خود را توسعه دهند.
اینزلیخت گفت: «وقتی برای فهمیدن چیزی تلاش میکنیم، بهناچار آن را به دانستههای قبلی خود پیوند میزنیم و همین است که باعث ماندگاری آن میشود. به ریاضی دوران دبیرستان فکر کنید. وقتی خودتان درگیرِ حل مسئله میشدید، چیز بیشتری یاد میگرفتید تا اینکه اول جواب را میدیدید و بعد سعی میکردید راهحل آن را پیدا کنید. مهم همین است که با خودتان کلنجار بروید.»
هوش مصنوعی این فرایند را کوتاهتر میکند و کاربر را به سمتی سوق میدهد که تلاش ذهنی را به هوش مصنوعی محول کند. این روند به مرور زمان پشتکار افراد را از بین میبرد و باعث میشود که وقتی هوش مصنوعی در دسترس نباشد، انجام کارهای سخت و دشوار را پشت گوش بیاندازند.
پژوهشها نشان دادهاند حتی ۱۵ دقیقه استفاده از هوش مصنوعی باعث میشود تمرکز کمتری داشته باشید و نتوانید بهتنهایی کارهای دشوار خود را به سرانجام برسانید.
به این ترتیب، هوش مصنوعی ارتباط بین تلاش و آگاهی را دستخوش تغییر میکند. چیزی که در وهله اول وسیله آسایش و راحتی بود، به چیزی تبدیل شده که نمیتوان بدون آن کار کرد.
چرا تلاش و کوشش حائز اهمیت است
تلاش و کوشش در رسیدن به درک و فهمِ بیشتر خلاصه نمیشود، بلکه به زندگی ما هم معنا میبخشد. وقتی برای انجام کاری زحمت میکشید، نتیجه نهایی ارزش بیشتری برایتان پیدا میکند.
اینزلیخت گفت: «وقتی از هوش مصنوعی استفاده میکنیم، ارزش کمتری برای کار خود قائل میشویم. به این ترتیب، نتیجه نهایی کماهمیت و کمارزش تلقی میشود و آن را متعلق به خودمان نمیدانیم.»
او با اشاره به آثار هنری و ویدئوهای تولیدشده توسط هوش مصنوعی گفت: «حتی بابت آنها دستمزد کمتری مطالبه میکنیم که خودش گویای همهچیز است. در عمق وجودمان میدانیم که خروجی هوش مصنوعی به ما تعلق ندارد.»
البته چالش تا یکجایی مفید است و اگر بیش از حد باشد، طاقتفرسا میشود.
هوش مصنوعی فینفسه خطرناک نیست. چیزی که جای نگرانی دارد، این است که دست از تلاش برداریم؛ امری که نهتنها روی دستاوردهای ما تأثیر میگذارد، بلکه هویت ما را هم دستخوش تغییر میکند.
