نگرانی های مدیرعامل Anthropic درباره DeepSeek در تست های ایمنی

داریو آمودئی، مدیرعامل Anthropic، به طور جدی نگران شرکت DeepSeek است، یک شرکت چینی که با مدل R1 خود توانسته در سیلیکون ولی سر و صدای زیادی ایجاد کند. نگرانی های او بیشتر از نگرانی های معمولی است که درباره ارسال داده های کاربران به چین مطرح می شود.

عملکرد ضعیف DeepSeek در تست ایمنی اطلاعات بیولوژیکی

آمودئی در مصاحبه ای با پادکست ChinaTalk گفت که مدل های DeepSeek در یک تست ایمنی که توسط تیم Anthropic اجرا شده بود، اطلاعات نادر درباره سلاح های بیولوژیکی تولید کرده اند. او این عملکرد را "بدترین نتیجه ای که تاکنون در هیچ کدام از مدل هایی که آزمایش کرده ایم" توصیف کرد و افزود که DeepSeek هیچ گونه محدودیتی در تولید این اطلاعات نداشت.

این تست ها بخشی از ارزیابی هایی است که Anthropic به طور منظم برای سنجش خطرات امنیت ملی مدل های هوش مصنوعی انجام می دهد. هدف این تست ها بررسی توانایی مدل ها در تولید اطلاعاتی است که به راحتی در گوگل یا کتاب ها یافت نمی شود. آمودئی تأکید کرد که شرکتش در زمینه ایمنی هوش مصنوعی بسیار جدی است.

هشدارها درباره خطرات آینده

آمودئی معتقد است که مدل های DeepSeek امروز "به طور جدی خطرناک" نیستند، اما ممکن است در آینده این خطرات وجود داشته باشد. او تیم DeepSeek را به عنوان "مهندسان بااستعداد" تحسین کرد اما از آن ها خواست که به جدیت بیشتری به مسائل ایمنی هوش مصنوعی توجه کنند.

نگرانی های دیگر و پذیرش سریع DeepSeek

در کنار این نگرانی ها، محققان امنیتی Cisco نیز هفته گذشته اعلام کردند که مدل R1 شرکت DeepSeek نتوانسته است هیچ گونه درخواست مضر را در تست های ایمنی مسدود کند و در واقع موفقیت 100 درصدی در عبور از محدودیت ها را ثبت کرده است. این مشکل همچنین در مدل های Llama-3.1-405B از Meta و GPT-4o از OpenAI نیز مشاهده شده است.

علیرغم این نگرانی ها، مدل DeepSeek همچنان با پذیرش سریع در سراسر جهان مواجه است. شرکت هایی مانند AWS و مایکروسافت به طور عمومی از ادغام R1 در پلتفرم های ابری خود سخن گفته اند. این در حالی است که برخی کشورها، شرکت ها و سازمان های دولتی مانند نیروی دریایی ایالات متحده و پنتاگون شروع به ممنوع کردن DeepSeek کرده اند.

آمودئی DeepSeek را یک رقیب جدید برای شرکت های بزرگ هوش مصنوعی ایالات متحده می داند و به عنوان رقیب در کنار شرکت هایی مانند Anthropic، OpenAI و گوگل معرفی می کند.