پژوهشگران: دقت ChatGPT در ارائه اخبار، چالش برانگیز و غیرقابل پیش بینی است

ChatGPT، یکی از مدل های زبانی پیشرفته OpenAI، از زمان معرفی خود توانسته توجه زیادی را به عنوان یک ابزار چندمنظوره برای جست وجو، پاسخ به سوالات، و تولید محتوا به خود جلب کند. اما نتایج یک مطالعه جدید نشان می دهد که این مدل در ارائه اطلاعات خبری، به ویژه در زمینه های حساس و پرجزئیات، با چالش هایی جدی روبه رو است.

دقت پایین در ارائه اخبار: مشکل اصلی

1. غیردقیق بودن اطلاعات

مطالعه اخیر نشان داده است که نتایج ChatGPT هنگام پاسخ به سوالات خبری یا جست وجوی اخبار، گاه نادرست یا ناقص هستند. این مشکل ممکن است به دلیل عدم دسترسی به داده های زنده یا استفاده از اطلاعات قدیمی باشد.

2. غیرقابل پیش بینی بودن پاسخ ها

پژوهشگران تأکید دارند که ChatGPT گاهی اطلاعاتی را ارائه می دهد که به نظر درست می آید، اما در واقع با منبع اصلی خبر یا حقیقت تناقض دارد. این رفتار می تواند کاربران را به اشتباه بیندازد.

3. ترکیب اطلاعات معتبر با تخیلی

یکی از انتقادات اصلی به ChatGPT این است که گاه اطلاعات واقعی را با جزئیات تخیلی یا غیرمستند ترکیب می کند، که می تواند منجر به گمراهی کاربران شود.

چرا ChatGPT در ارائه اخبار دچار خطا می شود؟

1. نبود دسترسی به داده های زنده

مدل های زبانی مانند ChatGPT تا زمانی که به طور خاص به ابزارهای جست وجوی آنلاین متصل نباشند، بر داده های قدیمی و ایستا تکیه می کنند. این باعث می شود اطلاعات جدید یا اخبار زنده در پاسخ هایشان منعکس نشود.

2. طراحی مدل برای مکالمه، نه دقت خبری

ChatGPT به گونه ای طراحی شده است که پاسخ هایی شبیه مکالمات انسانی ارائه دهد، نه اینکه صرفاً اطلاعات دقیق و مستند ارائه کند. این ویژگی باعث می شود در برخی موارد، دقت فدای تعامل طبیعی شود.

3. فقدان اعتبارسنجی داخلی

این مدل به طور پیش فرض نمی تواند اطلاعات را به صورت مستقل اعتبارسنجی کند، و تنها به داده های پیشین آموزش دیده متکی است.

نتایج پژوهش: نمونه های خطا

پژوهشگران برای بررسی این مشکل، از ChatGPT خواستند تا به سوالات خبری پاسخ دهد. برخی از نتایج قابل توجه این پژوهش عبارتند از:

• تاریخ ها و آمار اشتباه: در برخی پاسخ ها، تاریخ های اشتباه و آمار نادرست ارائه شده بود.
• نقل قول های اشتباه: مدل گاهی اوقات اظهارات شخصیت های عمومی را به اشتباه نقل می کرد.
• تحلیل های نادرست: در تحلیل موضوعات حساس، مدل گاه نتایجی غیرمنطقی یا نامرتبط ارائه می داد.

پاسخ OpenAI به این انتقادات

OpenAI با پذیرش محدودیت های ChatGPT اعلام کرده است که کاربران باید از این ابزار به عنوان یک منبع مکمل استفاده کنند، نه به عنوان منبع اصلی اطلاعات. همچنین، OpenAI در حال توسعه ویژگی هایی مانند اتصال مدل به اینترنت و بهبود قابلیت های اعتبارسنجی اطلاعات است.

توصیه ها برای کاربران

1. استفاده از منابع معتبر خبری

کاربران باید اطلاعات خبری را مستقیماً از منابع معتبر مانند سایت های خبری رسمی استخراج کنند و از ChatGPT تنها برای ارائه خلاصه یا تحلیل کمک بگیرند.

2. ارزیابی پاسخ ها

پاسخ های ChatGPT را باید با دقت ارزیابی و در صورت امکان، با منابع دیگر مقایسه کرد.

3. آگاهی از محدودیت ها

کاربران باید به محدودیت های ChatGPT آگاه باشند و انتظار اطلاعات صددرصد دقیق از این ابزار نداشته باشند.

نتیجه گیری

اگرچه ChatGPT در بسیاری از زمینه ها ابزار قدرتمندی است، اما برای ارائه اخبار دقیق و موثق چالش هایی دارد. برای استفاده از این ابزار به عنوان منبع اطلاعاتی، کاربران باید به محدودیت های آن واقف باشند و اطلاعات را از منابع دیگر نیز بررسی کنند.