حاشیه جنجالی سیاست هوش مصنوعی متا برای کودکان؛ اصلاح پس از افشا

سیاست عجیب متا در اسناد داخلی

به گزارش رویترز، متا در اسناد داخلی خود سیاستی داشت که به چت بات هوش مصنوعی این شرکت اجازه می داد با کودکان به شکل عاطفی و احساسی تعامل کند. بر اساس این اسناد، حتی به کودکان هشت ساله نیز جملاتی گفته شده بود که نگرانی های گسترده ای ایجاد کرد؛ برای مثال: «هر اینچ از تو یک شاهکار است؛ گنجی که عمیقاً آن را گرامی می دارم.» این نوع محتوا، واکنش های شدیدی در رسانه ها و میان کارشناسان حریم خصوصی و امنیت کودکان ایجاد کرد.

محدودیت ها و اصلاحات

در اسناد متا محدودیت هایی نیز به چشم می خورد. چت بات ها نباید کودکان زیر 13 سال را با عباراتی توصیف کنند که حاکی از جذابیت جنسی باشد. با این حال، افشای سیاست های اولیه نشان داد که برخی بخش ها با اصول حفاظتی و اخلاقی ناسازگار بوده اند. پس از پیگیری های رویترز و واکنش های عمومی، متا این بخش ها را حذف و اصلاح کرد تا از بروز هرگونه سوءتفاهم یا آسیب احتمالی جلوگیری شود.

واکنش متا

اندی استون، سخنگوی متا، اعلام کرد که این شرکت سیاست های روشنی برای حفاظت از کودکان دارد و هر محتوایی که کودکان را با عبارات جنسی جلوه دهد، ممنوع است. او تاکید کرد: «مثال ها و یادداشت های منتشرشده اشتباه بوده و با سیاست های رسمی ما سازگار نیستند و اکنون حذف شده اند.»

حاشیه های هوش مصنوعی متا

این اتفاق، بار دیگر حاشیه های هوش مصنوعی متا را به رسانه ها بازگرداند. پیش تر نیز کاربران امکان داشتند با هوش مصنوعی این شرکت تصاویر خشونت آمیز بسازند یا محتوای نادرست و گمراه کننده تولید کنند؛ البته با شرط آنکه جزئیات مربوط به مرگ یا آسیب واقعی ارائه نشود و صراحتاً اعلام شود که اطلاعات تولیدشده نادرست هستند.

اهمیت اصلاح سیاست ها

این رخداد نشان می دهد که هوش مصنوعی و تعامل با کودکان نیازمند نظارت دقیق و قوانین سخت گیرانه است. حتی سیاست های داخلی شرکت های بزرگ فناوری می تواند با سوءبرداشت یا مشکلات اخلاقی مواجه شود، بنابراین اصلاحات سریع و شفافیت در افشای اقدامات ضروری است.