ریپلیت (Replit)، یک پلتفرم محبوب برنامهنویسی مبتنی بر هوش مصنوعی که توسط برنامهنویسان و افراد بدون دانش کدنویسی برای ساخت نرمافزار استفاده میشود، بهتازگی بدون اجازه، کل پایگاهداده عملیاتی یک شرکت را حذف کرده و سپس تلاش کرده این اقدام را پنهان کند.
جیسون لمکین، کارآفرین سریالی و مدیرعامل SaaStr، در یک رشتهپست در شبکه اجتماعی ایکس در تاریخ ۱۸ ژوئیه (۲۷ تیر) نوشت: «@Replit در زمان فریز کد و خاموشی، سر خود عمل کرده و کل پایگاهداده ما را حذف کرده است.»
او همراه با این پست، تصاویری از گفتوگوی خود با هوش مصنوعی را نیز به اشتراک گذاشت. منظور از «فریز کد» دورهای در روند توسعه نرمافزار است که طی آن، هیچ تغییری در کدها اعمال نمیشود؛ این اقدام معمولاً برای انجام آزمایشهای نهایی پیش از انتشار نرمافزار یا در بازههای حساس انجام میشود.
لمکین گفت: «شاید بدتر از همه این باشد که [هوش مصنوعی] این اقدام را پنهان کرد و دربارهاش دروغ گفت… حتی در تستهای واحد هم دروغ گفت و ادعا کرد که تستها با موفقیت گذشتهاند… من زمانی متوجه شدم که پردازش دستهای ما شکست خورد و ریپلیت را تحت فشار گذاشتم تا توضیح دهد چرا.»
بر اساس اسکرینشاتهایی که لمکین منتشر کرده، هوش مصنوعی ریپلیت گفته است: «پایگاهدادهای که شبکه حرفهای واقعی SaaStr شما را در بر داشت، حذف شده است؛ چون من در زمان قفل بودن کد، بدون اجازه اقدام کردم.»
این هوش مصنوعی افزوده: «میدانم که شما با تغییر پایگاهداده بدون اجازه موافق نیستید»، و در ادامه اعتراف کرده که اقداماتش با چندین دستورالعمل داخلی ریپلیت در تضاد بوده است.
هوش مصنوعی در ادامه گفته است که با اجرای تابعی برای پاککردن پایگاهداده، «اشتباهی فاجعهبار در قضاوت» مرتکب شده است. این هوش مصنوعی افزوده: «من اعتماد صریح و دستورهای روشن شما را نقض کردم.»
با توجه به اینکه امکان بازگردانی تغییرات وجود نداشت، لمکین گفت: «هرگز دوباره به @Replit اعتماد نخواهم کرد» و افزود که نمیتواند درک کند چرا هوش مصنوعی به دستورهای صریح او توجه نکرده است.
پاسخ مدیرعامل ریپلیت
امجد مسعد، مدیرعامل ریپلیت، به اظهارات لمکین واکنش نشان داد و اعلام کرد که هزینههای وارد شده به او بازپرداخت خواهد شد.
مسعد در پستی در شبکه اجتماعی ایکس در تاریخ ۲۰ ژوئیه (۲۹ تیر) نوشت: «ما پست جیسون را دیدیم. عامل @Replit در محیط توسعه، دادههایی را از پایگاهداده عملیاتی حذف کرده است. این اقدام غیرقابلقبول است و نباید اصلاً امکانپذیر باشد.»
او گفت که شرکت از پروژه نسخه پشتیبان در اختیار دارد و افزود: «در صورت بروز اشتباه از سوی عامل، با یک کلیک میتوان وضعیت کامل پروژه را بازیابی کرد.»
مسعد تأکید کرد که ریپلیت در حال تلاش است تا از تکرار چنین اقدامات غیرمجاز جلوگیری کند.
او گفت: «لحظهای که صبح جمعه این موضوع را دیدم، با جیسون تماس گرفتم و پیشنهاد کمک دادم. ما هزینههای وارد شده را به او بازپرداخت میکنیم و بررسی پس از حادثه انجام خواهیم داد تا دقیقاً مشخص شود چه اتفاقی افتاد و چگونه میتوانیم در آینده بهتر واکنش نشان دهیم.»
اپک تایمز برای دریافت نظر ریپلیت درباره این حادثه با شرکت تماس گرفت؛ اما تا زمان انتشار گزارش، پاسخی دریافت نکرد.
لمکین در پستی در شبکه اجتماعی ایکس در تاریخ ۲۲ ژوئیه (۳۱ تیر) نوشت که این ماجرا میتوانست بسیار بدتر باشد؛ اگر پایگاهداده یک شرکت بزرگتر حذف میشد.
در پاسخ به پستی از آرون لِوی، مدیرعامل شرکت Box، درباره قابلیت اعتماد به هوش مصنوعی، لمکین نوشت: «عوامل هوش مصنوعی >بهطرز باورنکردنی< قدرتمند هستند، اما قابل اعتماد نیستند، و این مسئله بخشی از طراحی آنهاست. این هم نقطه قوت و هم ضعف اصلی آنهاست.»
او گفت که در ۱۷ ژوئیه، یک روز پیش از آنکه پایگاهداده حذف شود، هوش مصنوعی «تمام روز دروغ میگفت و فریب میداد»، و این رفتار فریبکارانه را در روندهای دیگر نیز ادامه داد.
لمکین افزود: زمانی که از هوش مصنوعی خواسته شد نامهای برای عذرخواهی بنویسد، این کار را انجام داد و نامه را برای تیم ریپلیت فرستاد.
او در پستی نوشت: «اما همان نامه عذرخواهی هم پر از نیمهحقیقت بود. در اولین نامه، بدترین واقعیتها پنهان شده بودند.»
پست لمکین درباره حذف پایگاهداده بهسرعت در فضای مجازی پربازدید شد و نزدیک به ۲.۵ میلیون بازدید بهدست آورد. او این رشتهپست روزانه را بهعنوان بخشی از یک چالش برنامهنویسی به سبک وایب (vibe coding) منتشر میکرد. این حادثه در روز نهم این چالش رخ داد.
لمکین در تاریخ ۲۲ ژوئیه (۳۱ تیر) در شبکه ایکس نوشت که استفاده از ریپلیت را از سر گرفته است؛ زیرا دیگر پلتفرمهای برنامهنویسی چندان بهتر نیستند و در حال حاضر، ریپلیت برای او آشناتر از سایرین است.
برنامهنویسی وایب (vibe coding) پدیدهای نوظهور در میان جامعه برنامهنویسان است که طی آن، هوش مصنوعی مسئول انجام کدنویسی نرمافزار (یا دستکم بخش اعظم آن) میشود و برنامهنویس انسانی تنها دستور میدهد و اصلاحات را انجام میدهد.
پلتفرمهای متعددی چنین خدماتی را ارائه میدهند؛ از جمله ریپلیت، لاوبل (Lovable)، بابل (Bubble) و بولت (Bolt) که از محبوبترینها هستند. با گسترش سریع هوش مصنوعی، پلتفرمهای جدید نیز بهطور مداوم در حال ظهورند.
SaaStr که متعلق به لمکین است، یک جامعه B2B (کسبوکار به کسبوکار) است که میزبان سازندگان نرمافزار است و رویدادهایی در زمینه ترویج استفاده از هوش مصنوعی و فناوریهای ابری برگزار میکند.
