محققان گوگل و Google DeepMind روز چهارشنبه مؤسسه DeepMind را برای پیشبرد گفتگو درباره هوش عمومی مصنوعی راه‌اندازی کردند. این مؤسسه، Shane Legg، یکی از بنیانگذاران DeepMind، James Manyika، مدیر اجرایی گوگل، و Demis Hassabis، رئیس Google DeepMind را به عنوان مدیران معرفی کرده است که Legg به عنوان مدیر تحریریه فعالیت خواهد کرد.

مؤسسه جدید قصد دارد دیدگاه‌های متفاوت میان گوگل، Google DeepMind و جامعه تحقیقاتی گسترده جهانی را در مورد AGI آشکار کند. در این بیانیه آمده است: «آنها همیشه موافق نخواهند بود و احتمالاً نظرات خود را تغییر خواهند داد، زیرا داده‌ها و اطلاعات بیشتری در مرزهایِ به‌سرعت در حال تغییر آشکار می‌شود.»

مجموعه افتتاحیه شامل چهار مقاله طیف گسترده‌ای از موضوعات را پوشش می‌دهد: سیاست‌های اقتصادی برای مدیریت اختلال بالقوه AGI، حفظ استدلال قابل‌خواندن توسط انسان مدل‌ها، اصول شکوفایی انسانی، و چارچوبی برای ارزیابی مدل‌های پیشرو هوش مصنوعی.

یک مقاله از محققان ایمنی DeepMind، Rohin Shah و Anca Dragan، استدلال می‌کند که پنجره رو به کاهش شفافیت هوش مصنوعی—توانایی دیدن و بررسی گام‌به‌گام استدلال یک مدل—اجتناب‌ناپذیر نیست. با اینکه معماری‌های جدید قدرتمندترین مدل‌ها را دشوارتر برای نظارت می‌کند، نویسندگان می‌گویند توسعه‌دهندگان و تنظیم‌کنندگان باید مستقیماً با معاوضه‌های ایمنی روبرو شوند. این می‌تواند به معنای محدود کردن «عمق متوالی مات»—مقدار محاسبات متوالی که یک مدل می‌تواند بدون تولید یک رد استدلال قابل خواندن انجام دهد—یا الزام توسعه‌دهندگان به اثبات این باشد که سیستم‌های کمتر شفاف همچنان به همان اندازه قابل نظارت باقی می‌مانند.

در مقاله دیگری، Hassabis یک نهاد استانداردهای هوش مصنوعی پیشرو به رهبری ایالات متحده برای ارزیابی پیشرفته‌ترین مدل‌های هوش مصنوعی پیشنهاد می‌کند. در چارچوب پیشنهادی او، توسعه‌دهندگان ابتدا مدل‌ها را به صورت داوطلبانه تا ۳۰ روز قبل از انتشار برای بررسی ارائه می‌کنند. پس از اثبات اثربخشی سیستم ارزیابی، گذراندن آزمون‌های آن می‌تواند به شرطی برای استقرار مدل‌های پیشرو در ایالات متحده تبدیل شود.

این نهاد ابتدا ارزیابی‌ها را با مشورت با شرکت‌های هوش مصنوعی طراحی می‌کند، اما در نهایت ارزیابی‌های مستقل و محرمانه‌ای — که مقاله آن را آزمون‌های «held-out» می‌نامد — برای جلوگیری از تطبیق مدل‌ها توسط آزمایشگاه‌ها با ارزیابی‌های شناخته‌شده، توسعه می‌دهد. Hassabis گفت که این چارچوب می‌تواند «در صورت اقتضای جدی بودن وضعیت، تشدید شود» که به طور بالقوه شامل کاهش سرعت هماهنگ میان توسعه‌دهندگان هوش مصنوعی پیشرو است.

این مقالات در حالی منتشر می‌شوند که بحث ایمنی صنعت از بیانیه‌های کلی نگرانی به سمت پیشنهادهای عملی برای افشاگری، نظارت بیرونی و در صورت عقب‌ماندن اقدامات حفاظتی، کاهش سرعت هماهنگ تغییر می‌کند. این تغییر در این هفته با تأیید عناصری از فراخوان Dario Amodei، مدیرعامل Anthropic، برای «کنترل سرعت» توسعه هوش مصنوعی پیشرو توسط رهبران صنعت شتاب گرفت.