مسدودسازی حساب های چینی توسط OpenAI به دلیل سوءاستفاده از ChatGPT در پروژه های نظارتی

اقدام جدی OpenAI برای مقابله با استفاده غیرمجاز از هوش مصنوعی

شرکت OpenAI اعلام کرده است که چند حساب کاربری مرتبط با چین را به دلیل استفاده نادرست از ChatGPT در طراحی تبلیغات و توسعه ابزاری برای پایش شبکه های اجتماعی مسدود کرده است.
این تصمیم بخشی از سیاست امنیتی جدید OpenAI برای جلوگیری از به کارگیری مدل های هوش مصنوعی در پروژه های دولتی یا جاسوسی دیجیتال است.

فعالیت حساب های مشکوک با هدف پایش شبکه های اجتماعی

براساس گزارش رسمی OpenAI، این حساب ها از داخل چین به سامانه های ChatGPT متصل می شدند و برای مشتریانی با ارتباطات دولتی فعالیت داشتند.
پروژه مورد نظر به عنوان ابزاری برای رصد و تحلیل محتوای آنلاین در پلتفرم هایی مانند ایکس، فیسبوک، اینستاگرام، ردیت، تیک تاک و یوتوب توصیف شده است.
هدف اصلی این ابزار، بررسی محتواهای مرتبط با قومیت، مذهب و سیاست در شبکه های اجتماعی بود.

وابستگی احتمالی حساب ها به نهادهای دولتی چین

OpenAI تأکید کرده است که این حساب ها به طور مستقیم از مدل های هوش مصنوعی برای اجرای عملیات رصد استفاده نکرده اند.
بااین حال، هنوز مشخص نیست که آیا پروژه یادشده به صورت رسمی توسط نهادهای دولتی چین پشتیبانی می شده یا نه.
گزارش ها نشان می دهد که این حساب ها احتمالاً با یکی از سازمان های دولتی چین در ارتباط بوده اند.

پروژه جنجالی مربوط به ردیابی مسلمانان اویغور

علاوه بر این، OpenAI یک حساب دیگر را نیز مسدود کرده که از ChatGPT برای ارائه پیشنهادی درباره پروژه ای مرتبط با نظارت بر تحرکات اویغورها استفاده کرده بود.
به گفته منابع، این سیستم قرار بود رفت وآمد اویغورها را ردیابی کرده، داده ها را با سوابق پلیس تطبیق دهد و هشدارهای زودهنگام صادر کند.
در سال های اخیر، نهادهای حقوق بشری بارها دولت چین را به نقض حقوق مسلمانان اویغور متهم کرده اند.

تلاش گروه های سایبری برای استفاده از ChatGPT در تولید بدافزار

گزارش منتشرشده از سوی OpenAI همچنین شامل اطلاعاتی درباره گروه های فعال در چین، روسیه و کره شمالی است.
این گروه ها در تلاش بودند از مدل های زبانی هوش مصنوعی برای توسعه بدافزارها، تروجان های نفوذ از راه دور و ابزارهای سرقت داده استفاده کنند.
با اقدام سریع تیم امنیتی OpenAI، این فعالیت ها شناسایی و از ادامه سوءاستفاده جلوگیری شده است.

مقابله با شبکه های کلاهبرداری بین المللی

علاوه بر چین، OpenAI توانسته شبکه های کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را نیز شناسایی کند.
این شبکه ها سعی داشتند از مدل های هوش مصنوعی برای ساخت محتوای جعلی و فریب کاربران بهره ببرند.
این شرکت با قطع دسترسی آن ها، بار دیگر بر تعهد خود نسبت به امنیت دیجیتال و شفافیت اطلاعاتی تأکید کرده است.

اقدام اخیر OpenAI نشانه ای از جدیت این شرکت در حفاظت از فناوری های هوش مصنوعی در برابر سوءاستفاده های دولتی و سایبری است.
با گسترش روزافزون کاربردهای هوش مصنوعی، حفظ کنترل اخلاقی و امنیتی بر آن به یکی از دغدغه های اصلی عصر فناوری تبدیل شده است