برای لحظهای تصور کنید که بهدنبال چند توصیه سلامتی هستید.
بهجای جستوجو در اینترنت، به تازهترین چتبات هوش مصنوعی مراجعه میکنید و او یک پیشنهاد ساده میدهد: خوردن «سدیم کلرید» (نمک خوراکی) را متوقف کنید و بهجای آن «سدیم برومید» مصرف کنید؛ مادهای که میتواند ایجاد مسمومیت کند و بر دستگاههای تنفسی، عصبی و هورمونی تأثیر بگذارد.
شاید دور از ذهن بهنظر برسد؛ اما این اتفاق واقعاً در ایالات متحده رخ داده است. مردی ۶۰ ساله پس از سه ماه مصرف سدیم برومید دچار بیماری شد. او به پزشکان گفت که درباره جایگزینی نمک از چتجیپیتی پرسیده و این برنامه همان ماده را توصیه کرده است.
برای اطمینان از موضوع، پزشکان نیز از چتجیپیتی پرسیدند که چه چیزی باید جایگزین نمک خوراکی شود؛ و هوش مصنوعی دوباره برومید را پیشنهاد داد. نگرانکننده اینکه نه هشدار سلامتی ارائه کرده بود و نه منبعی که بتوان نتیجهگیری آن را پیگیری کرد.
در پروندهای جداگانه و ظاهراً بیارتباط، در اکتبر ۲۰۲۵، شرکت مشاورهای «دیلویت» موظف شد بخشی از هزینه یک گزارش را به دولت فدرال استرالیا بازپرداخت کند (۹۷ هزار دلار استرالیا). علتش این بود که مشخص شد در تهیه گزارش از هوش مصنوعی مولد استفاده شده و این ابزار توصیههایی ارائه داده است که بر اساس منابع وجودنداشته ساخته شده بودند.
توهمزایی هوش مصنوعی چیست؟
این پدیدهها اکنون با عنوان «توهمزایی هوش مصنوعی» شناخته میشوند. این اصطلاح وضعیتی را توصیف میکند که در آن یک برنامه هوش مصنوعی برای پر کردن خلأهای دانشی، نتیجهگیریهایی حدسی انجام میدهد یا دادهها را بهاشتباه تفسیر میکند.
چرا این اتفاق رخ میدهد؟
زیرا هوش مصنوعی، برخلاف نامش، در واقع «هوش» یا فهم واقعی از خود ندارد. این سامانهها بهجای درک مفاهیم، الگوهای زبانی مانند ساختار جمله، بافت، لحن و عناصر مشابه را میآموزند تا «آموزش» ببینند؛ بدون اینکه معنای واقعی واژهها را بفهمند.
این شرایط احتمال «توهمزایی» را افزایش میدهد و باعث میشود برنامههای هوش مصنوعی برای میلیونها پرسشی که روزانه از آنها پرسیده میشود، پاسخهایی بسازند که مبتنی بر حدس یا برداشت نادرست است.
برای نمونه، تصویر زیر در مایکروسافت کوپایلوت با این درخواست تولید شده است: «میتوانی نقشهای از جهان رسم کنی و همه کشورهایی را که با حرف S شروع میشوند نشان دهی؟»
آیا این موضوع اهمیت دارد؟
پل دارون، پژوهشگر هوش مصنوعی و مسئول آموزشی در دانشگاه جیمز کوک، میگوید دو نگرانی عمده درباره توهمزایی هوش مصنوعی وجود دارد.
او به اپک تایمز گفت: «اولین و واضحترین دلیل این است که مردم از چتبات درباره موضوعی میپرسند که چیز زیادی درباره آن نمیدانند (وگرنه نیازی به پرسیدن نداشتند)؛ بنابراین نمیتوانند دقت پاسخ را ارزیابی کنند و حتی اگر پاسخ کاملاً غلط باشد، احتمال دارد کورکورانه آن را باور کنند.»
دارون میگوید نگرانی دوم، و کمتر آشکار، تأثیر این پدیده بر کاهش استانداردهای یادگیری در میان نسل جوان است.
بهگفته او، دانشآموزان مدارس از بزرگترین کاربران هوش مصنوعی مولد هستند. او به آمارهای قابلتوجهی در ایالات متحده اشاره میکند که نشان میدهد استفاده از چتجیپیتی در دوره تعطیلات حدود ۷۵ درصد کاهش پیدا میکند.
او افزود: «این آمار نشان میدهد که جوانان دیگر یاد نمیگیرند چگونه بخوانند و بنویسند یا چگونه مدل ذهنی از جهان بسازند؛ زیرا میتوانند آموزش خود را به سادگی به چتجیپیتی واگذار کنند.»
«اگر با دید خوشبینانه نگاه کنیم و فرض کنیم برخی از این دانشآموزان از چتباتها بهعنوان یک معلم تعاملی استفاده میکنند، باز هم چتبات گاهی دچار توهم میشود و ذهن جوان آنها را با مطالب نادرست پر میکند.»
او هشدار داد: «این روند نسلی را میسازد که درک لرزانی از واقعیت جهان پیرامون دارند. این مسئله در ابتدا آشکار نیست؛ زیرا آنها همچنان نمرات قبولی میگیرند، اما بعدها در زندگی به تصمیمهای نادرست منجر خواهد شد.»
چگونه میتوان از گرفتارشدن جامعه در دام توهمزایی جلوگیری کرد؟
با پیشرفتهتر و «هوشمندتر» شدن هوش مصنوعی مولد، میزان توهمزایی آن نیز افزایش مییابد. وقتی این موضوع با گسترش استفاده عمومی از هوش مصنوعی همراه شود، پیامدهای آن بهتدریج دامن جامعه را میگیرد. به همین دلیل است که دارون معتقد است انتشار نمونههای واقعی از توهمزایی، میتواند نوعی مصونیت اجتماعی ایجاد کند.
او گفت: «مردم معمولاً دچار این پیشداوریاند که تصور میکنند پاسخهایی که دریافت میکنند صادقانه و درست است. بنابراین وقتی با جوابهایی روبهرو میشوند که میتوانند درستی آنها را خودشان بسنجند، تازه متوجه میشوند که توهمزایی هوش مصنوعی چقدر رایج است.»
او راهکار دیگری نیز مطرح میکند: «میتوان از فردی خواست پرسشی از چتبات بپرسد که پاسخ آن را فقط خودش (انسان) میداند؛ سپس ببینیم آیا چتبات میگوید “نمیدانم” یا اینکه یک پاسخ خیالی میسازد.»
این پژوهشگر تأکید میکند که چتباتها بیشتر تمایل دارند پاسخی ارائه دهند بجای اینکه اعتراف کنند پاسخ را نمیدانند.
بهصورت ایدهآل، راهحل باید از ریشه آغاز شود: آموزش مدلهای هوش مصنوعی با دادههای متنوع و دقیق، اعمال محدودیت بر پاسخهایی که میتوانند تولید کنند و اقدامهای مشابه. با این حال؛ او تأکید میکند که با فناوری کنونی، رسیدن به چنین سطحی از کنترل آسان نیست.
