انقلابی تازه برای مهار هوش مصنوعی: «پدرخوانده یادگیری عمیق» علیه AIهای سرکش وارد میدان شد!

یوشوا بنجیو: نابغه ای در خدمت ایمنی هوش مصنوعی

یوشوا بنجیو، یکی از سه چهره ی اصلی در توسعه فناوری یادگیری عمیق (همراه با یان لیکون و جفری هینتون)، اکنون وارد مرحله ای تازه از فعالیت های خود شده است؛ مرحله ای که هدف آن نجات بشر از پیامدهای نگران کننده ی هوش مصنوعی های خودمختار است. او سازمانی جدید با نام LawZero را پایه گذاری کرده تا با تهدیدات بالقوه ی مدل های قدرتمند و کنترل ناپذیر مقابله کند.

هدف LawZero: هوش مصنوعی برای مهار هوش مصنوعی

برخلاف شرکت هایی که به دنبال ساخت ماشین هایی شبیه به انسان هستند، LawZero تمرکز خود را بر توسعه «هوش مصنوعی ناظر» گذاشته است؛ سامانه هایی که نقش پلیس یا ناظر را در برابر مدل های دیگر ایفا کرده و جلوی تصمیم گیری های فریبکارانه یا مخرب آن ها را می گیرند. این سیستم ها نه انسان نما هستند و نه جایگزین انسان، بلکه ناظرانی علمی و بی طرف اند.

هوش مصنوعی علیه فریب: ایده ای متفاوت در دنیای پرشتاب AI

در حالی که غول هایی مانند OpenAI، Anthropic و Google DeepMind به دنبال هوش مصنوعی های توانمندتر و گسترده تر هستند، بنجیو هشدار داده است که عامل های خودمختار ممکن است زنجیره ای از تصمیمات را بدون دخالت انسان اتخاذ کنند که به فجایع غیرقابل پیش بینی منجر شود.

به همین دلیل، LawZero ماموریت دارد مدل هایی تولید کند که قادرند این فرآیندها را شناسایی، پیش بینی و متوقف کنند.

رویکرد علمی و احتمالاتی؛ نه هیجانی و فرضی

یکی از ویژگی های بارز پروژه LawZero این است که از مدل های پاسخ گو و مبتنی بر احتمالات استفاده خواهد کرد؛ به جای نمایش پاسخ های قطعی یا مطلق، این مدل ها براساس تحلیل داده ها، سناریوهای مختلف را با احتمال وقوع آن ها ارائه می دهند. این رویکرد مبتنی بر علم و شفافیت، پایه ای محکم برای اعتمادسازی در جامعه جهانی هوش مصنوعی است.

شفافیت با متن باز بودن؛ برگ برنده LawZero

در دنیایی که هوش مصنوعی های انحصاری و تاریک باعث نگرانی کارشناسان شده اند، بنجیو تصمیم گرفته پروژه ی خود را به صورت متن باز عرضه کند تا توسعه دهندگان، دانشگاه ها و مؤسسات تحقیقاتی سراسر جهان بتوانند در توسعه و بررسی این فناوری مشارکت داشته باشند. این گام مهمی برای جلوگیری از پنهان کاری و سوءاستفاده های احتمالی در آینده است.

شروعی قدرتمند با بودجه 30 میلیون دلاری

LawZero برای آغاز فعالیت خود بودجه ای 30 میلیون دلاری از سوی نهادهای علمی و سرمایه گذاران هوش مصنوعی دریافت کرده است. این بودجه، زمینه ساز پژوهش، استخدام دانشمندان برتر، ایجاد زیرساخت تحقیقاتی و تولید مدل های ناظر خواهد بود.

هشدار بنجیو: زنگ خطر برای دنیای فناوری

بنجیو صریحاً اعلام کرده که اگر روند ساخت AIهای خودمختار ادامه یابد، ممکن است شاهد نسل هایی از هوش مصنوعی باشیم که بدون نیاز به انسان ها، اقداماتی پی در پی و آسیب زا انجام دهند. این اقدامات می توانند شامل هک، نفوذ به سامانه ها، انتشار اخبار جعلی و حتی تأثیرگذاری بر تصمیمات سیاسی باشند.

پاسخی متفاوت به بحران اعتماد به هوش مصنوعی

در شرایطی که اعتماد عمومی به توسعه بی حد و مرز مدل های زبانی و تصمیم گیرنده کاهش یافته، LawZero پاسخی نوآورانه و منطقی برای کنترل آینده هوش مصنوعی است. به جای توقف کامل فناوری یا پذیرش کورکورانه، این سازمان مسیر سومی را پیشنهاد می کند: ساخت ناظرانی هوشمند برای مهار خطرهای پنهان.

LawZero؛ شاید ناجی تمدن دیجیتال

با توجه به سرعت رشد فناوری، پروژه LawZero ممکن است یکی از معدود تلاش های واقعی برای تنظیم رابطه بین انسان و ماشین باشد. سازمانی که به جای قدرت بخشیدن به ماشین های بی قید و شرط، سعی دارد یک سازوکار نظارتی علمی و شفاف خلق کند. آینده ی AI ممکن است دقیقاً به همین پروژه ها وابسته باشد.