براساس گزارش جدید شرکت آنتروپیک، هوش مصنوعی بهطور روزافزون بهعنوان ابزاری برای ارتکاب جرایم سایبری پیچیده مورد استفاده قرار میگیرد.
این گزارش هشدار داد که تحول «بیسابقهای» در اقدامات مخرب رخ داده است که مقابله با آن را بهشدت دشوار میسازد.
شرکت اطلاعات تهدید سایبری، شرکت فعال در حوزه ایمنی هوش مصنوعی طی گزارشی در روزچهارشنبه ۲۷ اوت، توضیح داد که مجرمان چگونه مدلهای پیشرفتهای مانند کلود (Claude) را در تمامی مراحل حملات سایبری از جمله شناسایی و سرقت اطلاعات تا باجافزار و کلاهبرداری را بهکار میبرند.
پژوهشگران اعلام کردند که ابزارهای هوش مصنوعی اکنون نه تنها نقش مشاور را ایفا میکنند، بلکه بهعنوان عاملان فعال در کمپینهای سایبری در زمان واقعی عمل میکنند.
این گزارش اعلام کرد که «این موضوع نشاندهنده تغییری اساسی در نحوه گسترش عملیات مجرمان سایبری است.»
پژوهشگران همچنین هشدار دادند که «سیستمهای هوش مصنوعی توانایی اقدام مستقل بهعنوان سلاح را دارند»، و نه صرفاً برای ارائه مشاوره، بلکه برای اجرای حملات سایبری پیچیده مورد استفاده قرار میگیرند.
موارد شاخص
این گزارش به چند نمونه شاخص از جمله یک کمپین گسترده باجگیری، کلاهبرداریهای استخدامی سازمانیافته توسط کره شمالی و همچنین فروش باجافزار در انجمنهای دارکوب، اشاره کرده است.
در یکی از این عملیات، یک هکر با استفاده از دستیار کدنویسی آنتروپیک موسوم به «کلود کُد» توانست دستکم ۱۷ سازمان را از جمله بیمارستانها، مراکز خدمات اضطراری و نهادهای دولتی را هدف قرار دهد.
در این حمله، کلود برای خودکارسازی مرحله شناسایی، نفوذ به شبکهها، تحلیل دادههای مالی سرقتشده و حتی تولید یادداشتهای باجگیری با محتوای روانشناسانه و متقاعدکننده بهکار گرفته شد.
میزان درخواست باج در برخی موارد از ۵۰۰ هزار دلار نیز فراتر رفته است.
در این حمله، بهجای رمزگذاری فایلها، هکر تهدید کرد که دادههای سرقتشده را بهصورت عمومی منتشر خواهد کرد؛ دادههایی که از پروندههای درمانی بیماران تا اطلاعات محرمانه دولتی را دربر میگرفت.
این گزارش تأکید کرد که این شیوه که از آن با عنوان «وایب هکینگ» (Vibe Hacking) یاد میشود، نشان میدهد چگونه یک مهاجم منفرد میتواند اثری همسنگ یک تیم کامل جرایم سایبری برجای بگذارد.
وایب هکینگ، نوعی مهندسی اجتماعی با کمک هوش مصنوعی است که احساسات، اعتماد و تصمیمگیری انسان را دستکاری میکند.
یکی از پژوهشگران در یک پادکست که به بررسی این عملیات اختصاص داشت، توضیح داد: «هوش مصنوعی میگوید: در یادداشت باجخواهی باید این مبلغ را درخواست کنیم و سپس متن یادداشت را بهگونهای مینویسد که بیشترین اثرگذاری روانی را داشته باشد.»
او افزود: «درواقع، هوش مصنوعی در تمام مراحل از ابتدا تا انتها میتواند در چنین حملهای نقشآفرینی کند، حتی با تحلیل جزئیات مالی افراد برای برآورد دقیق اینکه تا چه میزان میتوان از آنها اخاذی کرد.»
در نمونهای دیگر، مأموران کره شمالی با بهرهگیری از هوش مصنوعی «کلود» خود را بهعنوان مهندسان نرمافزار در شرکتهای بزرگ آمریکایی از جمله فهرست «فورچون ۵۰۰» معرفی کردند.
این ابزار هوش مصنوعی رزومههای جعلی تولید کرد، آزمونهای کدنویسی را با موفقیت پشت سر گذاشت و حتی وظایف فنی را انجام داد. به این ترتیب، افراد فاقد مهارت توانستند بدون حضور فیزیکی در محل شرکت استخدام شوند و حقوق دریافت کنند؛ درآمدی که بنا بر ارزیابی محققان، به تأمین مالی حکومت کره شمالی و برنامههای تسلیحاتی آن کمک میکند.
در یک نمونه دیگر، فردی مقیم بریتانیا با استفاده از هوش مصنوعی کلود اقدام به توسعه و عرضه «باجافزار بهعنوان سرویس» (Ransomware-as-a-Service) کرد و بستههای نرمافزاری مخرب را با قیمت ۴۰۰ تا ۱۲۰۰ دلار به فروش رساند.
با وجود نداشتن مهارتهای پیشرفته برنامهنویسی، این فرد توانست با کمک هوش مصنوعی، رمزگذاری، تکنیکهای ضدشناسایی و زیرساخت فرماندهی و کنترل را پیادهسازی کند.
گسترش تهدید
شرکت آنتروپیک اعلام کرد که این نمونهها نشاندهنده یک الگوی گستردهتر است که در آن مجرمان کمتجربه میتوانند با استفاده از هوش مصنوعی، حملاتی را انجام دهند که پیشتر فقط گروههای حرفهای قادر به انجام آن بودند.
این گزارش هشدار داد: «فرضیات سنتی درباره ارتباط میان مهارت عامل و پیچیدگی حمله دیگر صادق نیست، زیرا هوش مصنوعی میتواند بهصورت فوری تخصص لازم را فراهم کند.»
این شرکت اعلام کرد که حسابهای کاربری مرتبط با سوءاستفادهها را مسدود کرده، ابزارهای جدید شناسایی را بهکار گرفته و شاخصهای فنی را با مقامات ذیربط به اشتراک گذاشته است. با این حال، اذعان کرد که سوءاستفادههای مشابه با سایر مدلهای تجاری و متنباز نیز در حال رخ دادن است.
یکی از پژوهشگران آنتروپیک در یک پادکست که به بررسی این پدیده جدید اختصاص داشت، هشدار داد: «در حال حاضر مدلهای متنباز وجود دارند که برای این منظور بهینهسازی شدهاند. مجرمان سایبری در حال توسعه مدلهای زبانی بزرگ (LLM) مسلحشده برای اجرای حملات هستند.»
پیامدهای آنچه پژوهشگران آن را «تحولی در جرایم سایبری با کمک هوش مصنوعی» توصیف کردهاند، این است که مقابله و اجرای قوانین روزبهروز دشوارتر میشود، در حالی که جرایم انجامشده با کمک هوش مصنوعی مسلحشده رو به افزایش است.
