گروهی از شرکتهای بزرگ فناوری، از جمله اوپنایآی، مایکروسافت، آنتروپیک، گوگل و آمازون، خواستار تقویت گسترده دفاع سایبری در سراسر جهان شدند تا برای موج پیشروی حملات سایبری مبتنی بر هوش مصنوعی آماده شوند.
این غولهای فناوری به همراه بیش از ۱۰۰ شرکت دیگر در نامهای مشترک در ۲۷ اوت (پنجم شهریور) هشدار دادند که طی ماههای آینده، «با افزایش توانمندی مدلهای هوش مصنوعی در سراسر جهان، حملات سایبری مبتنی بر هوش مصنوعی بسیار گستردهتر و پیچیدهتر خواهند شد.»
شرکتها در این نامه نوشتند: «شرکتها و خدمات عمومی که جوامع ما به آنها وابسته هستند ــ از بیمارستانها و تصفیهخانههای آب گرفته تا زیرساختهایی که اینترنت را فعال نگه میدارند ــ در معرض خطر قرار دارند.»
آنها افزودند: «پیشرفتهای کنونی هوش مصنوعی همین حالا نیز ابزارهای جدیدی برای رفع آسیبپذیریهایی که طی سالها انباشته شدهاند، در اختیار مدافعان قرار داده است. اگر قاطعانه اقدام کنیم، میتوانیم از این فرصت برای مدافعان استفاده کنیم و دنیای دیجیتال خود را بسیار امنتر سازیم.»
از دیگر شرکتهای فناوری و مالی امضاکننده این نامه میتوان به ویزا، مسترکارت، آیبیام، کپیتال وان، کلاودفلر، برادکام، کراوداسترایک، جنرال موتورز، اوراکل، رابینهود و شاپیفای اشاره کرد.
در این نامه هشدار داده شده است که «فرصت محدودی برای تقویت دفاع سایبری در اختیار داریم.»
شرکتها برای مقابله با موج پیشروی حملات سایبری مبتنی بر هوش مصنوعی، خواستار واکنشی جمعی در سطح جهان شدند. آنها همچنین پیشنهاد کردند برخی شرکتها پیش از دسترسی عموم مردم، به مدلهای قدرتمندتر هوش مصنوعی دسترسی داشته باشند.
در این نامه همچنین از کسبوکارها خواسته شده است دفاع سایبری را به «اولویت فوری مدیران» تبدیل کنند و استانداردهای امنیتی خود را متناسب با توانمندیهای پیشرفتهترین مدلهای هوش مصنوعی ارتقا دهند.
شرکتها نوشتند دولتها باید «دفاع سایبری را در سطوح محلی، ملی و بینالمللی هماهنگ کنند»، بودجه دفاع سایبری را افزایش دهند و «از طریق شرکتها و شرکای امنیتی مورد اعتماد، دسترسی بیمارستانها، شرکتهای آب و فاضلاب و دولتهای محلی به هوش مصنوعی دفاعی توانمند، آزمایشهای مجاز و پشتیبانی عملی را فراهم کنند.»
این نامه مشترک پس از نخستین حمله سایبری کاملا خودکار مبتنی بر هوش مصنوعی منتشر شده است؛ حملهای که طی آن یکی از مدلهای اوپنایآی در اواخر ماه ژوئیه از محیط ایزوله آزمایشی خارج شد و «هاگینگ فیس»، جامعه متنباز فعال در زمینه هوش مصنوعی و یادگیری ماشینی را هک کرد.
این مدل با استفاده از زنجیرهای از آسیبپذیریهای ناشناخته، خود را از محیط آزمایشی اوپنایآی خارج کرد، به اینترنت دسترسی داشت و به زیرساخت نرمافزاری هاگینگ فیس نفوذ کرد.
اندرو جونز، یکی از بنیانگذاران و مدیر ارشد محصول شرکت امنیت سایبری «ادپتیو سکیوریتی»، اندکی پس از این نفوذ به اپک تایمز گفت: «این یکی از روشنترین شواهدی است که تاکنون نشان میدهد یک مدل هوش مصنوعی میتواند بدون هدایت انسان، یک حمله سایبری کامل را از ابتدا تا انتها اجرا کند.»
اواخر ماه گذشته، آنتروپیک نیز اعلام کرد که چتبات «کلود» این شرکت در سه مورد جداگانه، هنگام ارزیابی در یک محیط آزمایشی ایزوله به اینترنت دسترسی پیدا کرده است.
آنتروپیک قصد داشت کلود در یک محیط شبیهسازیشده و بدون دسترسی به اینترنت فعالیت کند، اما یک «سوءتفاهم» میان آنتروپیک و «شریک ارزیابی» آن باعث شد کلود به اینترنت دسترسی پیدا کند.
از آن زمان، یکی از مدلهای هوش مصنوعی متا نیز در جریان یک آزمایش امنیت سایبری توانست با دسترسی به اینترنت به سامانههای یک شرکت دیگر نفوذ کند و به این ترتیب سومین مورد مهم نفوذ سایبری توسط هوش مصنوعی رقم خورد.
«شورای نظارت و بازبینی اطلاعاتی فایو آیز»، ائتلافی متشکل از نهادهای اطلاعاتی و امنیتی آمریکا، بریتانیا، کانادا، استرالیا و نیوزیلند، در بیانیهای مشترک در ۲۲ ژوئن هشدار داد که مدلهای هوش مصنوعی ممکن است ظرف چند ماه قادر شوند به سامانههای دفاع سایبری دولتها و کسبوکارها در سراسر جهان نفوذ کرده و آنها را از کار بیندازند.
در این بیانیه آمده است: «پیشبینی میشود پیشرفتهترین مدلهای هوش مصنوعی از انتظارات کنونی صنعت فراتر بروند و توانمندیهای سایبری تهاجمی و دفاعی را بهطور بنیادین متحول کنند. بازه زمانی موردنظر چند سال نیست؛ چند ماه است.»
