هشدار ساتیا نادلا درباره هوش مصنوعی؛ مایکروسافت بر کنترل انسانی تأکید کرد

ساتیا نادلا، مدیرعامل مایکروسافت، در یادداشتی داخلی هشدار داد توسعه هوش مصنوعی باید با رعایت اصول ایمنی و حفظ کنترل انسان بر مدل‌ها پیش برود؛ او همچنین از استفاده گسترده‌تر از ارزیاب‌های مستقل و شخص ثالث حمایت کرد.

به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، ساتیا نادلا در پیام داخلی خود تأکید کرد که هوش مصنوعی باید همواره تحت کنترل انسان باقی بماند و شرکت‌ها با افزایش ریسک و حساسیت مدل‌های پیشرفته، زمان بیشتری برای آزمون و ایمن‌سازی آنها اختصاص دهند.

به گفته نادلا، مایکروسافت قصد دارد از ارزیابی‌های خارجی و شخص ثالث برای بررسی ایمنی مدل‌های هوش مصنوعی استفاده کند. او هشدار داد شرکت‌هایی که نتوانند اعتماد عمومی و «مجوز فعالیت اجتماعی» خود را حفظ کنند، ممکن است با محدودیت‌هایی در ادامه فعالیت مواجه شوند.

هم‌زمان، بخش هوش مصنوعی مایکروسافت به ریاست مصطفی سلیمان، پیش‌نویس یک «منشور رفتاری» ۳۷ صفحه‌ای برای مدل‌های اختصاصی MAI منتشر کرده است. این سند بر نحوه توسعه و استفاده ایمن از مدل‌های هوش مصنوعی تمرکز دارد.

اظهارات نادلا در شرایطی مطرح شده که مدیران شرکت‌های بزرگ هوش مصنوعی از جمله داریو آمودی، مدیرعامل آنتروپیک، و سم آلتمن، مدیرعامل OpenAI، نیز بر ضرورت نظارت مستقل و کاهش سرعت توسعه در صورت ایجاد خطر برای ایمنی و همسویی مدل‌ها تأکید کرده‌اند.

۲۲۷۲۲۷

کد مطلب 2275163