مدیرعامل مایکروسافت: باید فرض کنیم همه مدلهای هوش مصنوعی از کنترل خارج شدهاند
ساتیا نادلا میگوید باید فرض کنیم مدلهای هوش مصنوعی از کنترل خارج شدهاند و با ثبت اقدامات و امکان توقف فوری، آنها را مهار کنیم.
«ساتیا نادلا»، مدیرعامل مایکروسافت، معتقد است باید مدلهای هوش مصنوعی را از ابتدا با این چشم ببینیم که خطر دارند و باید برای مهار آنها سازوکارهای کنترلی در نظر گرفت. او در مطلبی بر لزوم شفافیت بیشتر در عملکرد مدلها، ثبت اقدامات آنها و امکان متوقفکردن فعالیتشان در هر مرحله تأکید کرد.
نادلا در مطلبی مفصل در ایکس نوشت زمان آن رسیده است که معماری اعتماد در هوش مصنوعی دوباره بررسی شود. به اعتقاد او، نمیتوان مدلهای پیشرفته هوش مصنوعی را مجموعهای از «جعبههای سیاه تودرتو» در نظر گرفت و صرفاً توصیهها، پاسخها و اقدامات آنها را پذیرفت یا رد کرد.
او خواستار ایجاد ساختاری شد که در آن بتوان مدلها را از سیستمهای مدیریت و اجرای وظایفشان جدا کرد و کنترلها و سازوکارهای حفاظتی را بیرون از خود مدل قرار داد. چنین رویکردی میتواند امکان نظارت مستقلتر بر عملکرد مدلها را فراهم کند.
یکی از توصیههای اصلی مدیرعامل مایکروسافت، در نظر گرفتن احتمال به خطر افتادن مدلها از همان ابتدای کار است. او دراینباره نوشت:
«باید فرض را بر این بگذاریم که مدل از همان ابتدا از کنترل خارج شده است و باید آن را مهار کنیم. به این موضوع مانند ترمز اضطراری نگاه کنید. فردی که مجوز لازم را دارد، باید همیشه بتواند مدل را در میانه انجام یک وظیفه متوقف یا خاموش کند. مدلهای پیشرفتهتر به فناوریهای مهار پیشرفتهتری نیاز خواهند داشت که باید برای آنها استانداردهای مشترکی تدوین کنیم.»
نادلا همچنین خواستار آن شد که هر اقدام مهم مدلهای هوش مصنوعی با شواهدی قابلخواندن برای انسان و مقاوم در برابر دستکاری ثبت شود. هدف از این رویکرد، فراهمکردن امکان بررسی و ارزیابی عملکرد مدلها و اقدامات آنهاست.
بخش زیادی از پیشنهادهای او با دیدگاههایی که دیگر فعالان صنعت هوش مصنوعی مطرح کردهاند، همراستاست. افشای بهموقع رخدادها، حسابرسی مستقل، امکان راستیآزمایی دادهها و مهار مدلها از جمله موضوعاتی هستند که در این بحث مطرح شدهاند.
اخبار مرتبط از دیجیاتو AI
مایکروسافت کلسروم معرفی شد؛ اپلیکیشن آموزشی مجهز به هوش مصنوعی
اپلیکیشن جدید مایکروسافت با هدف یکپارچهسازی ابزارهای درسی در سه مقطع ابتدایی، متوسطه و دانشگاه بدون جایگزینی با مایکروسافت تیمز طراحی شده است.
سامسونگ طرح اشتراکی Galaxy AI را با هزینه ماهانه ۵ دلار آزمایش میکند
سامسونگ قصد دارد با معرفی اشتراک پولی Galaxy AI Premium، سقف استفاده کاربران رایگان را محدود کند.
اولین مدل تصمیمگیری گوگل با نام Gemini Decision 1 معرفی شد
مدل جدید گوگل میتواند متن، تصویر، صوت، ویدیو و اسناد PDF را بهصورت یکجا تحلیل کرده و امتیاز اطمینان ارائه کند.
