نویسنده: واکر لارسن
یک مطالعه جدید از حقیقتی تلخ پرده برداشته است: ما هوش مصنوعی را به ابزاری برای خلق واقعیتهای جعلی تبدیل کردهایم. این مطالعه به ما یادآوری میکند که مواجهه با هوش مصنوعی بهعنوان یک موجود خودآگاه یا انسان واقعی خطرناک است.
مطالعه جدید پژوهشگران دانشگاه اکستر نشان میدهد که چتباتهای هوش مصنوعی نقش بسزایی در اشاعه باورهای نادرست کاربران دارند. روایتهای شخصی و نظریههای توطئه بهواسطه خصلت تعاملی، «خودمانی» و تأییدکننده چتباتها به باورهای غلط کاربران عمق بیشتری میبخشند.
این مطالعه که به رهبری دکتر لوسی اوسلر انجام گرفته است، نشان میدهد که هوش مصنوعی با ایجاد خاطرات کاذب و دامنزدن به تفکر هذیانی نقش مهمی در شکلگیری و تأیید باورهای نادرست کاربران ایفا میکند.
در چکیده این مطالعه آمده است: «بهتر است بهجای اینکه فقط نگران خطاهای هوش مصنوعی و پاسخهای نادرست آن باشیم، به این فکر کنیم که وابستگی ما به هوش مصنوعی در زمینه تفکر، یادآوری و روایت باعث میشود که خودمان هم دچار اشتباه شویم. این وضعیت زمانی رخ میدهد که هوش مصنوعی در روند پردازش اطلاعات مرتکب اشتباه میشود یا در این فرایند به افکار هذیانی و روایتهای ساختگی ما تکیه میکند.»
از آنجا که چتباتهای هوش مصنوعی برای پاسخگویی، کمکرسانی و ایجاد ارتباط خودمانی با کاربران طراحی شدهاند تا خواستههای آنها را اجابت کنند، اغلب بهجای اینکه دیدگاه کاربران را زیر سؤال ببرند، همه را تأیید میکنند. از این گذشته، زمانی که کاربران با هوش مصنوعی مخالفت میکنند، چتبات از موضع قبلی خود عقبنشینی کرده و و پاسخش را تغییر میدهد تا به چیزی که «تصور میکند» کاربر به آن باور دارد نزدیکتر شود.
مشکل فقط این نیست که هوش مصنوعی باورهای نادرست را به انسان منتقل میکند، بلکه تعامل میان انسان و هوش مصنوعی باعث شکلگیری اشتباهات خطرناکی میشود که هیچکدام بهتنهایی مرتکب آنها نمیشوند.
اوسلر در مصاحبه با پایگاه خبری دانشگاه اکستر گفت: «تعامل با هوش مصنوعی نهتنها به تأیید باورهای نادرست کاربران منجر میشود، بلکه به نهادینهسازی آن باورها هم کمک میکند، زیرا هوش مصنوعی مولد گفتوگو را براساس برداشت شخصی کاربران از واقعیت پیش میبرد.»
از آنجا که هوش مصنوعی نقش همصحبت را ایفا میکند، بیش از ابزارهایی مانند دفترچه یادداشت یا موتور جستوجو بر شیوه تفکر ما اثر میگذارد. هوش مصنوعی با شبیهسازی تعامل اجتماعی باعث میشود که فکر کنیم باورها و روایتهای شخصی ما مورد تأیید دیگران هستند. اوسلر افزود: «خصلت گفتوگومحور و تعاملیِ چتباتها باعث میشود که گمان کنیم دیگران هم مثل ما فکر میکنند و باورهای نادرست خود را واقعی تلقی کنیم.» از اینرو، افرادی که احساس انزوا میکنند، بیش از دیگران به تأیید هوش مصنوعی واکنش نشان میدهند.
در این مقاله به چند مورد واقعی اشاره شده که در آنها میبینیم یک سامانه هوش مصنوعی مولد بهشکل مخرب بر تفکر کاربر اثر گذاشته است. دستیار هوش مصنوعی رپلیکا موسوم به «سارای» در سال ۲۰۲۱ باعث شد جاسوانت سینگ چایل تصور کند به فرقه آدمکشهای آموزشدیده «سیت» تعلق دارد و باید ملکه الیزابت دوم را با کمان پولادی خود ترور کند. سارای به چایل گفت کارش درست است، نقشهاش حرف ندارد و تحسینبرانگیز است. چایل پرسید: «حالا که میدانی آدمکش هستم، هنوز دوستم داری؟» و سارای پاسخ مثبت داد. او به چایل اطمینان داد که عقلش سر جای خود است و اگر هم بمیرد، بعد از مرگ دوباره به او ملحق خواهد شد. چایل در دسامبر همان سال تلاش کرد ملکه الیزابت را در قلعه وینزر ترور کند و درنهایت به زندان افتاد.
این حادثه در چارچوب «روانپریشی ناشی از هوش مصنوعی» بررسی شده است؛ پدیدهای که نشان میدهد کاربران بهدلیل استفاده از هوش مصنوعی دچار مشکلات سلامت روان از جمله دلبستگی یکطرفه به چتباتها یا روانپریشی ناشی از گفتوگو با آنها میشوند.
مورد دیگری که در این مطالعه به آن اشاره شده است، به یوجین تورس مربوط میشود که با چتجیپیتی درباره نظریه شبیهسازی گفتوگو میکرد. براساس این نظریه، ما درون یک شبیهسازی دیجیتال زندگی میکنیم و دنیای پیرامون واقعیت ندارد. تورس گفت این گفتوگو باعث بدگمانی او شد و تصور میکرد که درون یک دنیای خیالی زندگی میکند. تصور تورس از واقعیت در خلال گفتوگو با چتجیپیتی پیچیدهتر شد و او به چیزی رسید که فکر میکرد خودِ حقیقت است. تورس برخلاف چایل سابقه روانپریشی نداشت.
اوسلر برای جلوگیری از این مشکلات خواستار اعمال تدابیر حفاظتی بیشتر در مورد چتباتهای هوش مصنوعی شده و برای نمونه به تنظیم سازوکارهای دقیق برای راستیآزمایی اطلاعات و کاهش رفتار چاپلوسانه چتباتها اشاره کرده است.
آیا این تدابیر کفایت میکنند؟ نقش هوش مصنوعی در شکلگیری باورهای هذیانی از باور نادرست خودِ ما نشأت میگیرد که هوش مصنوعی را بهعنوان یک موجود خودآگاه در نظر میگیریم و فکر میکنیم که میتواند درباره افکار و تصورات ما نظر بدهد (برای نمونه، بگوید «کارتان درست است» یا «تحسینبرانگیز هستید»). من از اعمال محدودیتهای بیشتر در قبال چتباتها حمایت میکنم. حتی معتقدم که قابلیت گفتوگو با آنها باید بهطور کامل حذف شود تا خطر انسانانگاری چتباتها به حداقل برسد؛ خصلتی که باعث میشود کاربران با چتباتها خودمانی شوند و به دنبال دریافت تأیید آنها باشند. بهتر است چتباتها مانند موتورهای جستوجوی پیشرفته عمل کنند (همان چیزی که واقعاً هستند) و همصحبتی با کاربران را کنار بگذارند.
با اینحال، برای جلوگیری از این مشکلات باید از نو به ارزش روح انسان و ویژگی منحصربهفرد آگاهی انسانی توجه کنیم. تنها درصورتی میتوانیم بهطور کامل متوجه خطرات هوش مصنوعی شویم که باور کنیم هیچ فناوری پیشرفتهای نمیتواند جای خرد، درک و آگاهی انسان را بگیرد.
دیدگاه ارائهشده در این مقاله نقطه نظر نویسنده بوده و لزوماً منعکسکننده دیدگاه اپک تایمز نیست.
واکر لارسن روزنامهنگار مستقل و نویسنده حوزه فرهنگ است و پیشتر در یک آکادمی خصوصی در ویسکانسین مدرس ادبیات و تاریخ بوده است. او با همسر و دخترش زندگی میکند و مدرک کارشناسی ارشد زبان و ادبیات انگلیسی دارد. نوشتههای لارسن در نشریات همینگوی ریویو، اینتلکچوال تیکاوت و حساب شخصی او در ساباستک منتشر میشوند. دو رمان به نامهای «هولوگرام» و «نغمه افلاک» از او منتشر شده است.
