صنعت فناوری چگونه باید به موضوع ایمنی هوش مصنوعی بپردازد؟ به طور فزاینده‌ای، مدیران ارشد اجرایی در این باره اظهارنظر می‌کنند، زیرا بحث داغی بر سر این موضوع در جریان است که آیا حوادثی مانند حادثه Hugging Face - که در آن یک عامل OpenAI به چندین شرکت مختلف نفوذ کرد - نشان می‌دهد که هوش مصنوعی در آستانه فرو بردن جهان ما در هرج و مرج است.

در هفته‌های اخیر، آزمایشگاه‌های برجسته خواستار کاهش سرعت پیشرفت هوش مصنوعی شده‌اند. به طور چشمگیر، داریو آمودی، مدیرعامل Anthropic، مقاله‌ای نزدیک به ۴۰۰۰ کلمه‌ای نوشت که در آن دلایل خود را برای کاهش سرعت توسعه هوش مصنوعی به منظور استقرار حفاظ‌های مناسب، توضیح داد. این طرح شامل - از جمله موارد دیگر - یک استراتژی بین‌المللی برای همکاری بین شرکت‌ها و دولت‌ها در زمینه استقرار ایمن است. مدیران اجرایی رقیب در حوزه هوش مصنوعی - مانند سم آلتمن از OpenAI و ایلان ماسک از xAI - از طرح آمودی حمایت کرده‌اند.

این مقاله گفتگوی بیشتری را در سراسر صنعت فناوری برانگیخته است، اگرچه همه با فراخوان آمودی برای اقدام هماهنگ جهانی موافق نبودند. در واقع، بسیاری به نظر می‌رسد که فکر می‌کنند نظارت دولت لزوماً نباید نقشی ایفا کند.

آخرین افرادی که به این بحث پیوستند شامل مارک زاکربرگ، مدیرعامل متا هستند که این هفته در X نظرات خود را در این زمینه به اشتراک گذاشت.

«دیدگاه من این است که اعتماد و هم‌راستاسازی به سرعت در حال تبدیل شدن به مهم‌ترین قابلیت‌هایی هستند که عامل‌ها و مدل‌ها را از هم متمایز می‌کنند.» زاکربرگ فاش کرد که شرکتش انتشار مدل هوش مصنوعی خود را به دلیل نگرانی‌های ایمنی به تعویق انداخته است. زاکربرگ گفت: «متا انتشار Muse را برای چندین ماه به تأخیر انداخت تا روی ایمنی و امنیت تمرکز کند. ما از دیگران نخواستیم که قبل از ما این کار را انجام دهند. ما فقط آن را به عنوان بخشی از کار روزانه خود انجام دادیم، زیرا واضح بود که این کار برای مردم و برای ما درست است.»

به نظر می‌رسد زاکربرگ - که از بخش‌هایی از طرح آمودی حمایت کرد - اشاره می‌کند که اقدام دولت ضروری نیست و انگیزه‌های ارگانیکی که صنعت را ساختار می‌دهند، شرکت‌ها را مجبور به درست کردن امنیت خواهد کرد. بازار در نهایت باید موفقیت را برای شرکت‌هایی به ارمغان بیاورد که مراقب ایجاد مدل‌هایی هستند که باعث هرج و مرج نمی‌شوند. به نظر می‌رسد این با مقاله عظیم خود زاکربرگ - که ماه گذشته نوشته شد - همسو باشد، که استدلال می‌کرد برای همکاری محدود با دولت، در صورت لزوم، اما عمدتاً رقابت‌پذیری آمریکا را به عنوان کلید یک آینده فناورانه پررونق معرفی می‌کرد.

به طور کلی، به نظر می‌رسد این موضع بسیاری از مدیران اجرایی دیگر فناوری باشد.

یکی دیگر از مدیران ارشد اجرایی که اظهارنظر کرد، الکسیس اوهانیان، یکی از بنیانگذاران Reddit بود، که روز چهارشنبه به CNBC گفت که احساس می‌کرد صنعت فناوری تا حد زیادی در توضیح خطرات هوش مصنوعی برای عموم «ناشنوا» بوده است. با این حال، مانند زاکربرگ، اوهانیان نیز به نظر می‌رسید امیدوار است که شرکت‌ها بتوانند خودشان مسائل را حل کنند. شین لگ، یکی از بنیانگذاران Google DeepMind، نیز نظرات خود را به اشتراک گذاشت. لگ گفت: «ما در دوره‌ای زندگی می‌کنیم که قابلیت‌ها بسیار بسیار سریع در حال پیشرفت هستند. اما ما نمی‌توانیم اجازه دهیم قابلیت‌ها از ایمنی جلو بزنند.» او افزود: «ما باید واقعاً روی جزئیات آن و چگونگی کارکرد آن در عمل کار کنیم.»

علیرغم فراخوان آزمایشگاه‌های بزرگ برای همکاری عمومی-خصوصی، به نظر می‌رسد برخی از آن صداهای طرفدار مقررات نیز نسبت به اجازه دادن به کسب‌وکارها برای نوشتن قوانین خود نسبتاً راضی هستند. در واقع، داستان کمی کمتر دیده شده اما به همان اندازه جالب این هفته، گزارشی از The Information بود که گفت OpenAI، Anthropic و سایر شرکت‌های بزرگ هوش مصنوعی با یکدیگر همکاری می‌کنند تا یک سازمان استانداردهای هوش مصنوعی ایجاد کنند – که توسط یک رسانه به عنوان یک «نهاد خودتنظیم‌گر» خصوصی توصیف شد.

پیش از این نیز درباره ایجاد یک سازمان مشابه تحت مدیریت فدرال بحث‌هایی شده بود. با این حال، کاخ سفید ترامپ - که شامل مدافعان سرسخت هوش مصنوعی است و عمدتاً برای کسب‌وکار فناوری بدون مقررات تلاش کرده است (دولت حتی به دنبال متوقف کردن قاطعانه دولت‌های ایالتی از وضع قوانین هوش مصنوعی خودشان بوده است) - هیچ اقدامی در این زمینه انجام نداده است. «تزار هوش مصنوعی» دولت، دیوید ساکس، کهنه‌سرباز فناوری، گفته است که مقررات هوش مصنوعی باید به شرکت‌های توسعه‌دهنده آن واگذار شود.

مانند کاخ سفید، به نظر می‌رسد اعضای برجسته کنگره نیز به همان اندازه علاقه‌ای به پذیرش پیشنهاد آمودی برای تنظیم مقررات شرکتش ندارند. اندکی پس از انتشار مقاله مدیرعامل Anthropic، مایک جانسون، رئیس مجلس نمایندگان، نگرانی‌ها در مورد پیشرفت‌های فاجعه‌بار هوش مصنوعی را این گونه پاسخ داد: «شما همه تا ۱۰ سال دیگر نخواهید مرد»، او گفت.

یک سازمان خصوصی صنعت را به جز تعهدات داوطلبانه بدون مقررات نگه می‌دارد و به طور طبیعی مقدار مشخصی از اختیار و نفوذ را به شرکت‌های مسئول ایجاد آن اعطا می‌کند. این منجر به ادعای دیگری می‌شود که در حال حاضر مطرح است، مبنی بر اینکه فراخوان‌های صنعت برای مقررات در واقع یک استراتژی «تسخیر نظارتی» است. طبق این استدلال، شرکت‌های قدرتمندی که در حال حاضر از موقعیت برجسته‌ای در صنعت برخوردارند، ممکن است از راهکارهای نظارتی برای حذف یا به حاشیه راندن شرکت‌های کوچکتر و کم‌منبع‌تر استفاده کنند - و در نتیجه رقابت خود را خفه کنند. این لزوماً شامل مقررات واقعی نمی‌شود، بلکه می‌تواند شامل استانداردهای داوطلبانه صنعت باشد که با این حال بر شرکت‌های کم‌قدرت‌تر فشار وارد می‌کند.

بسیاری از صداهای برجسته در دولت چین نیز این موضع را تکرار کرده‌اند. پس از اینکه آمودی خواستار «کنترل سرعت مرزهای دانش» شد، گو جیاکون از وزارت امور خارجه چین، آمریکایی‌ها را متهم کرد که از «ترس‌افکنی» برای مختل کردن توسعه حکمرانی جهانی هوش مصنوعی استفاده می‌کنند، در حالی که یک یادداشت در روزنامه دولتی چین، لفاظی‌های آمودی را مستقیماً برگرفته از «کتاب بازی جنگ سرد» نامید.

تغییر ساختار نحوه کسب‌وکار شرکت‌ها با چین - یکی از مواردی که آمودی در مقاله خود خواستار آن شده است - به طور طبیعی می‌تواند فرصتی برای شرکت‌های آمریکایی باشد تا اوضاع را به نفع خود تغییر دهند. آمودی حتی اعتراف می‌کند که این هدف است. او در مقاله خود نوشت: «اگر این اقدامات را به خوبی اجرا کنیم، معتقدم که پیشرفت چین را به اندازه کافی کند می‌کند تا برتری آمریکا را در ۳ تا ۵ سال آینده - پنجره‌ای که در آن هوش مصنوعی از نظر ژئوپلیتیکی اهمیت بیشتری پیدا می‌کند - به طور قابل توجهی افزایش دهد.»

با این حال، فقط چین نیست که آزمایشگاه‌های بزرگ هوش مصنوعی آمریکا را به دنبال تغییر توازن به نفع خود می‌بیند. آیدان گومز، مدیرعامل شرکت کانادایی هوش مصنوعی Cohere، اخیراً آن شرکت‌ها را به تشکیل یک «کارتل» متهم کرد و در یک پست وبلاگی نوشت: «هوش مصنوعی به حفاظ‌های کناری نیاز دارد. این موضوع محل اختلاف نبوده و هرگز هم نبوده است. اختلاف بر سر این است که چه کسی آنها را می‌نویسد، چه کسی مجاز به مشارکت است و قوانین از منافع چه کسی محافظت می‌کنند.»

همانطور که گومز اشاره می‌کند، حوزه ایمنی هوش مصنوعی عمیقاً سیاسی است، جایی که شرایطی که توسط آن ایمنی تعریف می‌شود - و توسط چه کسی - در نهایت به تعیین اینکه چه کسی در مرحله بعدی رقابت هوش مصنوعی پیشتاز است و چه کسی عقب می‌ماند، کمک خواهد کرد.