ساتیا نادلا، مدیرعامل Microsoft، تازه‌ترین مدیر حوزه فناوری است که دیدگاه‌های مفصلی درباره چگونگی بهبود ایمنی هوش مصنوعی مطرح کرده است.

نادلا در پستی که صبح شنبه در X منتشر کرد نوشت زمان آن رسیده است که «یک گام به عقب برداریم و معماری اعتماد» در هوش مصنوعی را ارزیابی کنیم.

نادلا با استفاده از اصطلاح مورد علاقه دولت ترامپ برای هوش مصنوعی نوشت: «نمی‌توانیم با ابرهوش مثل مجموعه‌ای از جعبه‌های سیاه تو‌در‌تو برخورد کنیم و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.» 

به گفته نادلا، این رویکرد «یعنی مدل را از سازوکاری که کار آن را هماهنگ می‌کند جدا کنیم» و همچنین «کنترل‌ها و تدابیر حفاظتی را بیرونی کنیم». او همچنین خواستار آن شد که «هر اقدام مهم مدل» با «شواهدی خوانا برای انسان و مقاوم در برابر دست‌کاری» ثبت شود و سیستم‌ها به‌گونه‌ای طراحی شوند که «فردی مجاز» همیشه بتواند «مدل را در میانه انجام وظیفه متوقف کند یا از کار بیندازد».

او گفت: «باید از ابتدا فرض را بر این بگذاریم که مدل به خطر افتاده است و آن را مهار کنیم. آن را مثل ترمز اضطراری در نظر بگیرید.»

اظهارات نادلا در حالی مطرح می‌شود که شرکت‌های پیشرو هوش مصنوعی بیش‌ازپیش به وقوع حوادثی اذعان می‌کنند که در آن‌ها به نظر می‌رسید کنترل مدل‌هایشان را از دست داده‌اند؛ همچنین پس از آنکه داریو آمودی، مدیرعامل Anthropic، برنامه‌ای برای توسعه محتاطانه‌تر هوش مصنوعی منتشر کرد.