اریک اشمیت، مدیرعامل سابق گوگل، اظهار داشت که هوش مصنوعی خودمختار در راه است و ممکن است تهدیدی وجودی برای بشریت ایجاد کند.
اشمیت، که مدت‌ها درباره خطرات و فواید هوش مصنوعی برای انسان هشدار داده است، در مصاحبه‌ای در تاریخ ۱۵ دسامبر با برنامه «این هفته» شبکه ای‌بی‌سی گفت: «به‌زودی کامپیوترها قادر خواهند بود به‌طور مستقل عمل کنند و خودشان تصمیم بگیرند که چه کاری می‌خواهند انجام دهند.»
او افزود: «این مرحله‌ای خطرناک است: زمانی که یک سیستم بتواند خودش را بهبود بخشد، باید به‌طور جدی درباره خاموش کردن آن فکر کنیم.»
اشمیت اولین رهبر دنیای فناوری نیست که این نگرانی‌ها را مطرح می‌کند.
ظهور محصولات هوش مصنوعی مصرف‌کننده مانند چت‌جی‌پی‌تی در دو سال گذشته بی‌سابقه بوده است. سایر مدل‌های هوش مصنوعی نیز در تولید هنرهای بصری، عکس‌ها و ویدیوهای بلند توانمندتر شده‌اند، به‌طوری‌که در بسیاری از موارد نمی‌توان آن‌ها را از واقعیت تشخیص داد.
برای برخی، این فناوری یادآور مجموعه فیلم‌های «ترمیناتور» است که بر آینده‌ای پادآرمان‌شهری (دیستوپیایی) تمرکز دارد، جایی که هوش مصنوعی کنترل سیاره را به دست می‌گیرد و نتایجی آخرالزمانی به همراه دارد.
با وجود تمام نگرانی‌هایی که پلتفرم‌هایی مانند چت‌جی‌پی‌تی و خدمات مشابه هوش مصنوعی ایجاد کرده‌اند، سرویس‌های هوش مصنوعی مصرف‌کننده که امروزه در دسترس هستند، همچنان در دسته‌ای قرار می‌گیرند که کارشناسان آن را «هوش مصنوعی ساده» می‌نامند. این سیستم‌ها بر اساس مجموعه‌ای عظیم از داده‌ها آموزش دیده‌اند، اما فاقد آگاهی، شعور، یا توانایی برای رفتار خودمختار هستند.
اشمیت و سایر کارشناسان چندان نگران این نوع سیستم‌ها نیستند.
نگرانی آن‌ها بیشتر مربوط به هوش مصنوعی پیشرفته‌تری است که در دنیای فناوری به عنوان «هوش عمومی مصنوعی (Artificial General Intelligence)» یا ای‌جی‌آی شناخته می‌شود. این نوع از هوش مصنوعی به سیستم‌های بسیار پیچیده‌ای اشاره دارد که می‌توانند دارای شعور و آگاهی شوند و در نتیجه اهداف آگاهانه‌ای را مستقل از انسان‌ها و شاید حتی مخالف با منافع آن‌ها دنبال کنند.
اشمیت گفت که چنین سیستم‌هایی هنوز وجود ندارند، اما ما به سرعت به سمت نوع جدیدی از هوش مصنوعی بینابینی در حال حرکت هستیم: سیستمی که فاقد شعوری است که لازمه هوش عمومی مصنوعی (ای‌جی‌آی) است، اما همچنان قادر به عملکرد خودمختار در حوزه‌هایی مانند تحقیقات و تسلیحات است.
اشمیت در مورد سرعت پیشرفت‌های هوش مصنوعی و افزایش پیچیدگی آن اظهار داشت: «من ۵۰ سال است که در این حوزه فعالیت می‌کنم. هرگز چنین نوآوری در این مقیاس ندیده‌ام.»
او افزود که هوش مصنوعی پیشرفته‌تر می‌تواند فواید بسیاری برای بشریت داشته باشد، اما در عین حال می‌تواند به همان اندازه «عواقب بدی مانند تسلیحات و حملات سایبری» به همراه بیاورد.
چالش
اشمیت گفت که این چالش چندوجهی است.
او در سطح پایه، یکی از نظرات رایج میان رهبران فناوری را تکرار کرد: اگر سیستم‌های خودمختار شبیه به هوش عمومی مصنوعی (ای‌جی‌آی) اجتناب‌ناپذیر باشند، نیاز به همکاری گسترده میان منافع شرکتی و دولت‌ها در سطح بین‌المللی خواهد بود تا از عواقب بالقوه ویرانگر جلوگیری شود.
اما این کار به‌آسانی قابل انجام نیست. هوش مصنوعی به رقبای آمریکا مانند چین، روسیه و جمهوری اسلامی ایران این امکان را می‌دهد که برتری‌هایی نسبت به ایالات متحده کسب کنند که دستیابی به آن‌ها در شرایط دیگر دشوار است.
در صنعت فناوری نیز رقابت شدیدی میان شرکت‌های بزرگ مانند گوگل، مایکروسافت و دیگران وجود دارد. اشمیت گفت این رقابت خطرات ذاتی ایجاد می‌کند، از جمله احتمال عدم رعایت پروتکل‌های امنیتی مناسب برای مقابله با هوش مصنوعی سرکش.
او گفت: «رقابت آن‌قدر شدید است که این نگرانی وجود دارد که یکی از شرکت‌ها تصمیم بگیرد مراحل [ایمنی] را نادیده بگیرد و به شکلی چیزی منتشر کند که واقعاً آسیب ایجاد کند.» او افزود که این آسیب‌ها معمولاً پس از وقوع قابل شناسایی خواهند بود.
چالش در سطح بین‌المللی حتی بزرگ‌تر است، زیرا کشورهایی که در تقابل با آمریکا هستند، احتمالاً این فناوری جدید را انقلابی در تلاش‌های خود برای به چالش کشیدن هژمونی جهانی ایالات متحده و گسترش نفوذ خود می‌دانند.
اشمیت گفت: «چینی‌ها باهوش هستند و قدرت نوع جدیدی از هوش را برای توان صنعتی، توان نظامی، و سیستم نظارتی خود درک می‌کنند.»
این موضوع برای رهبران آمریکایی در این حوزه به نوعی دوراهی تبدیل شده است، زیرا آن‌ها مجبورند میان نگرانی‌های وجودی برای بشریت و خطر عقب‌ماندن ایالات متحده از رقبا تعادل ایجاد کنند؛ امری که می‌تواند برای ثبات جهانی فاجعه‌بار باشد.
در بدترین حالت، چنین سیستم‌هایی ممکن است برای ساخت تسلیحات بیولوژیکی و هسته‌ای فلج‌کننده مورد استفاده قرار گیرند، به‌ویژه توسط گروه‌های تروریستی مانند داعش.
اشمیت تأکید کرد که به همین دلیل بسیار ضروری است که ایالات متحده به نوآوری در این زمینه ادامه دهد و در نهایت برتری تکنولوژیکی خود را نسبت به چین و سایر کشورهای متخاصم و گروه‌ها حفظ کند.
رهبران صنعت خواستار تنظیم مقررات هستند
اشمیت گفت که تنظیم مقررات در این حوزه همچنان ناکافی است. اما او پیش‌بینی می‌کند که تمرکز دولت‌ها بر تقویت تدابیر ایمنی درخصوص این فناوری در سال‌های آینده به طور چشمگیری افزایش خواهد یافت.
وقتی جورج استفانوپولوس، مجری برنامه، از او پرسید آیا دولت‌ها اقدامات کافی برای تنظیم مقررات انجام می‌دهند، اشمیت پاسخ داد: «هنوز نه، اما این کار را خواهند کرد، زیرا مجبور خواهند شد.»
دونالد ترامپ، رئیس‌جمهور منتخب، نیز در مورد خطرات گسترده هوش مصنوعی هشدار داده است. او در یک برنامه پادکست با لوگان پاول گفت که این فناوری «بسیار قدرتمند است.»
ترامپ همچنین درباره ضرورت حفظ رقابت با دشمنان صحبت کرد. او گفت: «این موضوع با خود دشواری‌هایی به همراه دارد، اما ما باید در خط مقدم باشیم. این اتفاق خواهد افتاد، و اگر قرار است رخ دهد، ما باید از چین پیشی بگیریم. چین تهدید اصلی است.»
دیدگاه‌های اشمیت درباره فواید و چالش‌های فناوری با واکنش‌های سایر فعالان صنعت همسو است.
در ژوئن ۲۰۲۴، کارکنان اوپن‌ای‌آی (OpenAI) و گوگل نامه‌ای امضا کردند که در آن نسبت به «خطرات جدی» هوش مصنوعی هشدار داده و خواستار نظارت بیشتر دولت‌ها بر این حوزه شدند.
ایلان ماسک نیز هشدارهای مشابهی مطرح کرده و گفته است که گوگل از طریق برنامه هوش مصنوعی «دیپ‌مایند (DeepMind)» در تلاش است تا «خدای دیجیتال» بسازد.
در ماه اوت، این نگرانی‌ها شدت گرفت، زمانی که مشخص شد یک سیستم هوش مصنوعی به طور خودمختار اقداماتی انجام داده تا از خاموش شدن خود جلوگیری کند. این موضوع ترس‌هایی را ایجاد کرد مبنی بر اینکه بشریت ممکن است کنترل بر دست‌ساخته‌های خود را از دست داده باشد، در حالی که دولت‌ها همچنان منفعل باقی مانده‌اند.
