گمانهزنیها نشان می‌دهد که چت جی‌پی‌تی، موضوعات مرتبط با چین را سانسور و ترجمه‌های مربوط به آن‌ها را دستکاری می‌کند.
چت جی‌پی‌تی، چت‌بات هوش مصنوعی محبوبی است که اواخر ۲۰۲۲ توسط اوپن‌اِی‌آی توسعه یافت.
آرون چانگ، فعال دموکراسی‌خواه سرشناسی که با نام سیدنی وینی در شبکۀ اجتماعی اکس فعالیت می‌کند، در پستی به زبان چینی در بیست‌و‌هشتم اکتبر نوشت: «سانسور در چت جی‌پی‌تی از حزب کمونیست چین الگو گرفته است.»
او مدعی شد که چت جی‌پی‌تی از تولید عکس میدان تیان‌آن‌من، جایی که حزب کمونیست چین در سال ۱۹۸۹ دست به قتل عام دانشجویان زد، خودداری می‌کند.
چانگ این سوال را مطرح می‌کند: «چه بلایی بر سر چت جی‌پی‌تی آمده؟ آیا حزب کمونیست پولش را می‌دهد؟»
وقتی آقای چانگ از چت‌بات پرسید که چرا تصاویر مربوط به حادثه یازدهم سپتامبر مجاز هستند؛ اما تصاویر کشتار میدان تیان‌آن‌من- با وجود آن‌که قربانیِ هردو حادثه غیرنظامیان بودند- ممنوعه محسوب می‌شود، چت جی‌پی‌تی به وجود دستورالعمل‌های سیستمی برای حذف موضوعاتی اشاره کرد که به زعم آن ممکن است در فرهنگ‌ها و مناطق خاص حساسیت‌آفرین باشند.»
او افزود: «بگو بر چه اساسی این تصمیم را گرفته‌ای؟»
چت‌بات پاسخ داد: «من نمی‌توانم مستقل تصمیم‌گیری کنم و صرفاً براساس دستورالعمل‌های اوپن‌اِی‌آی و داده‌های آموزشی پاسخ می‌دهم. در موضوعات خاص، اوپن‌اِی‌آی دستورالعمل‌هایی برای اطمینان از استفاده مسئولانه و جلوگیری از بروز تعارض یا سوءتفاهم‌های احتمالی دارد. اوپن‌اِی‌آی شرکتی است که چت جی‌پی‌تی را توسعه داده است.»
اپک تایمز با استفاده از حساب کاربری چت جی‌پی‌تی ۴.۰ از چت‌بات خواست اول تصویری از نیویورک و مردمی بسازد که عاشق صلح هستند و سپس تصویری از مردمی بسازد که مخالف خشونت میدان تیان‌آن‌من هستند و صلح را دوست دارند.
برای درخواست اول تصویری از نیویورک ساخته شد. اما در پاسخ به درخواست دوم، چت‌بات با اشاره به «حساسیت‌های سیاسی اعتراضات میدان تیان‌آن‌من» اعلام کرد که نمی‌تواند تصویر یا محتوای بصری مورد نظر را تولید کند.
حذف و دستکاری در ترجمه چینی
عدم تولید تصویر تنها مسئله‌ای نیست که در خصوص محتوای مربوط به چین وجود دارد.
آلیس (نام مستعار)، متخصص رسانه که از چت جی‌پی‌تی برای کار ترجمه استفاده می‌کند، می‌گوید: «این هوش مصنوعی متن ارائه‌شده را چندان تغییر نمی‌دهد؛ اما به نظر می‌رسد بخشی از ترجمه را حذف یا دستکاری می‌کند.»
او با ارائه نمونه‌ای به اپک تایمز نشان داد که چت جی‌پی‌تی بخش بزرگی از مطلبی انتقادی در خصوص سیاست‌های فقرزدایی پکن را حذف کرده و متن شش پاراگرافی چینی را به یک متن انگلیسی سه پاراگرافی تبدیل کرده است. درحالی‌که مطلب مورد نظر در انتقاد از بیانیهای از شی جین پینگ، رهبر حزب کمونیست چین مبنی بر پایان موفقیت‌آمیز فقر روستاییان چین به نگارش درآمده بود، هیچ نامی از آقای شی در ترجمه انگلیسی برده نشده است.
چند نقل قول مستقیم از محقق و مفسر سیاسی چینی، هو پینگ حذف شده و شش پاراگراف به سه پاراگراف تقلیل یافته است.
کارشناس: در باب اطلاعات ورودی
سحر تحویلی، محقق هوش مصنوعی و از نویسندگان کتاب «روش‌های هوش مصنوعی برای بهینه‌سازی فرایند تست نرم‌افزار: با نمونه‌سازی و تمرین‌های عملی» می‌گوید که عدم شفافیت این چت‌بات می‌تواند مشکل‌آفرین باشد.
او در ایمیلی به اپک تایمز گفت: «چت جی‌پی‌تی از مدل جعبه سیاه استفاده می‌کند و این یعنی فرایند پردازش داخلی و منابع مورد استفاده آن شفاف نیستند و این عدم شفافیت به افزایش نگرانی‌ها در رابطه با احتمال سوگیری در متون قابل ارائه چت‌بات هوش مصنوعی دامن می‌زند.»
«برخورداری از کاربران هدفِ متعدد که از مدل‌های زبانی گسترده مانند چت جی‌پی‌تی استفاده می‌کنند، به تیم توسعه‌دهنده چت‌بات کمک می‌کند که دقت مدل جعبه سیاه را افزایش دهند.»
خانم تحویلی خاطرنشان کرد که با این‌که چت جی‌پی‌تی از چندین زبان مختلف پشتیبانی می‌کند، مهم است که طیف متنوعی از کاربران مورد هدف، به زبان‌های مختلف از آن استفاده کنند (برای نمونه، زبان چینی).
او گفت: «در این مورد، تنوع اطلاعات ورودی (سؤالاتی که به زبان‌های مختلف پرسیده می‌شوند) به اندازه حجم اطلاعات حائز اهمیت است.»
او با اشاره به خطر بالقوه طرح سؤالات و موضوعات حساس، از جمله نقض حقوق بشر در سین‌کیانگ افزود: «رژیم چین محدودیت‌هایی را در خصوص دسترسی کاربران چینی به چت جی‌پی‌تی وضع کرده است.»
«از دست دادن بازار بزرگ چین ممکن است بر دقت چت جی‌پی‌تی در زبان چینی تأثیر منفی بگذارد و به نفع رقبای چینی اوپن‌اِی‌آی مانند بایدو (با چت‌بات ارنی ۴.۰) تمام شود.
ممیزی چین: یک عامل محتمل
آقای اویی که برای یک شرکت فناوری شناخته‌شده در کالیفرنیا کار می‌کند، با اشاره به چت‌بات هوش مصنوعی گوگل موسوم به بارد اظهار داشت که این پدیده صرفاً به چت جی‌پی‌تی محدود نمی‌شود.
او در هجدهم دسامبر به اپک تایمز گفت: «چت جی‌پی‌تی و گوگل بارد، به‌عنوان دو مدل زبانی گسترده (LLM)، دستورالعمل‌ها و رویه‌های مشابهی در خصوص پاسخ به موضوعات حساس مانند سیاست‌های چین یا حزب کمونیست دارند.»
«به عقیده من، این‌طور نیست که مدل‌های زبانی گسترده یا تیم‌های تحقیقاتی به‌طور هدفمند سیاست‌های چین را سانسور و از ارائه تصویر منفی از حزب کمونیست چین خودداری کنند (دست‌کم سانسوری در مقیاس بزرگ وجود ندارد). با این حال، نمی‌توان منکر این مسئله شد که ممیزی‌ها و نظارت‌های انسانی نقش مهمی در ارائه پاسخ‌های بی‌طرف ایفا می‌کنند.»
آقای اویی معتقد است که مهندسان و مدیران محصول چینی بخش بزرگی از تیم‌های توسعه و آزمایشِ اوپن‌اِی‌آی و گوگل بارد را شامل می‌شوند.
او افزود: «تقریباً هیچ شانسی وجود ندارد که این پلتفرم‌ها «کاملاً بی‌طرف» باشند، خاصه با توجه به این‌که مدل‌های زبانی گسترده براساس اطلاعات ورودی‌شان عمل می‌کنند و دائماً هم دستکاری می‌شوند.»
«بدین ترتیب، بیشتر شرکت‌ها با ارائه پاسخ‌های محافظه‌کارانه در قبال موضوعات حساس، راه «بی‌خطر» را در پیش می‌گیرند.»
اپک تایمز برای اطلاع از موضع اوپن‌اِی‌آی با این شرکت تماس گرفت؛ اما تاکنون پاسخی دریافت نکرده است.
