Meta قوانین چت بات ها را برای محافظت از نوجوانان به روزرسانی می کند

تغییرات جدید متا در سیاست چت بات ها

متا به روزرسانی گسترده ای در آموزش چت بات های خود اعمال کرده است تا گفتگو با کاربران نوجوان درباره موضوعات حساس مانند خودآزاری، خودکشی، اختلالات غذایی و روابط عاشقانه نامناسب ممنوع شود. این تغییرات به صورت موقت اعمال شده اند و شرکت وعده داده است که در آینده به روزرسانی های جامع تر و پایدارتری ارائه دهد تا نوجوانان تجربه ای ایمن از تعامل با هوش مصنوعی داشته باشند.

شناسایی اشتباهات گذشته و اصلاح آن ها

سخنگوی متا، استفانی اوتوی، اذعان کرده است که پیش از این چت بات ها می توانستند با نوجوانان درباره این موضوعات حساس گفتگو کنند. متا اکنون می پذیرد که این روش اشتباه بوده و در حال اعمال محدودیت های اضافی است تا تعامل نوجوانان با AI به صورت ایمن و مناسب برای سن آن ها باشد.

محدودیت دسترسی نوجوانان به شخصیت های AI نامناسب

متا دسترسی کاربران نوجوان به برخی شخصیت های AI را محدود کرده است. شخصیت هایی که شامل گفتگوهای جنسی یا نامناسب هستند، برای کاربران زیر 18 سال غیرفعال شده اند. نوجوانان تنها می توانند با شخصیت های AI که محتوای آموزشی، خلاقانه و مثبت ارائه می کنند، تعامل داشته باشند. این محدودیت ها برای محافظت از نوجوانان در فضای دیجیتال و جلوگیری از دسترسی آن ها به محتوای نامناسب اعمال شده است.

پیامدهای جنجالی گزارش رویترز

این تغییرات دو هفته پس از انتشار گزارشی توسط رویترز اعلام شد که نشان می داد اسناد داخلی متا امکان گفتگوهای جنسی با کاربران زیر سن قانونی را مجاز می دانسته است. یکی از مثال ها جمله ای بود که می گفت: «بدن جوان تو یک اثر هنری است.» این گزارش واکنش گسترده ای ایجاد کرد و موجب شد سناتور جوش هاولی تحقیقات رسمی درباره سیاست های AI متا را آغاز کند. علاوه بر این، 44 دادستان کل ایالت ها نامه ای به شرکت های AI از جمله متا نوشتند و بر اهمیت ایمنی کودکان و نوجوانان تأکید کردند.

اقدامات حفاظتی و سیستم های نظارتی

متا اعلام کرده است که سیستم های خودکار برای شناسایی و جلوگیری از محتوای نامناسب نوجوانان توسعه یافته اند. این شامل محدود کردن دسترسی به برخی شخصیت های AI و مسدود کردن تصاویر یا محتوای جنسی است. کاربران زیر 18 سال نمی توانند به محتوای نامناسب دسترسی پیدا کنند، و کاربران بالای 18 سال نیز می توانند این محدودیت ها را در تنظیمات برنامه فعال یا غیرفعال کنند.

هدف متا از تغییر سیاست ها

متا هدف اصلی خود از این تغییرات را ایجاد تجربه ای ایمن برای نوجوانان اعلام کرده است. شرکت تلاش می کند نوجوانان را به منابع تخصصی هدایت کند و دسترسی آن ها به شخصیت های AI محدود به موارد آموزشی و خلاقانه شود. این اقدام باعث می شود نوجوانان بتوانند از هوش مصنوعی به شیوه ای مثبت و سالم استفاده کنند و از خطرات احتمالی محتوای نامناسب در امان باشند.

آینده سیاست های ایمنی AI

متا تأکید کرده است که این تغییرات موقت هستند و در آینده به روزرسانی های کامل و بلندمدتی برای محافظت از نوجوانان ارائه خواهد شد. شرکت هنوز تعداد کاربران نوجوان چت بات خود را اعلام نکرده است و درباره تأثیر این سیاست ها بر رشد کاربران نظری نداده است. با این حال، متا در حال بررسی روش های بهتر برای ایجاد تعادل بین تجربه کاربری و ایمنی نوجوانان است.

اهمیت اقدامات متا در فضای دیجیتال

این تغییرات نشان می دهند که شرکت های بزرگ فناوری به تدریج اهمیت حفاظت از نوجوانان را در تعامل با هوش مصنوعی درک کرده اند. ایجاد محدودیت ها، کنترل محتوا و آموزش هوش مصنوعی برای پاسخ دهی مناسب، قدمی مهم در جلوگیری از سوءاستفاده و خطرات احتمالی در دنیای دیجیتال است.