اسکات وینر، در مقام سناتور ایالت کالیفرنیا، قانونی را تدوین کرد که هدفش مهار خطرهای هوش مصنوعی پیشرفته بود. حالا که در رقابتی تنگاتنگ برای تصاحب کرسی خالی سان‌فرانسیسکو، متعلق به نانسی پلوسی، رئیس پیشین مجلس نمایندگان، پیروز شده است، ممکن است نقشی کلیدی در تعیین سیاست‌های فدرال هوش مصنوعی داشته باشد.

جمعه، تنها چند ساعت پس از اعلام پیروزی وینر، با او گفت‌وگو کردم. اما او از همان ابتدا به خطرهای هوش مصنوعی فکر می‌کرد. روز قبل از آن، مؤسسهٔ غیرانتفاعی METR گزارشی منتشر کرده بود که بسیاری آن را نشانه‌ای از دستیابی Anthropic به «خودبهبوددهی بازگشتی» تفسیر کردند؛ پدیده‌ای که در آن هوش مصنوعی به‌شکلی معنادار در پیشرفت خود نقش دارد و روند پیشرفت هوش مصنوعی ممکن است از کنترل خارج شود.

وینر با اشاره به این گزارش گفت: «این موضوع بسیار نگران‌کننده است.» او افزود این گزارش نشان می‌دهد که برای قانون‌گذاری دربارهٔ هوش مصنوعی، به‌سرعت در حال از دست دادن فرصت هستیم. او گفت: «امیدوار بودم کنگره پیش از [پایان] امسال قاطعانه اقدام کند. به نظر نمی‌رسد چنین اتفاقی بیفتد.»

وینر در سال‌های اخیر بیش‌ازپیش بر هوش مصنوعی متمرکز شده و بسیاری از دغدغه‌های جنبش ایمنی هوش مصنوعی را از آنِ خود کرده است. برای نمونه، در گفت‌وگوی ۲۰دقیقه‌ای‌مان، حدود شش بار از عبارت «خودبهبوددهی بازگشتی» استفاده کرد. او می‌گوید: «باید سرعت این روند را کم کنیم؛ چون خیلی سریع پیش می‌رود و ممکن است ناآگاهانه به‌سمت فاجعه‌ای قدم برداریم.»

وینر پیش‌تر نیز تأثیر واقعی خود را بر سیاست‌گذاری هوش مصنوعی گذاشته است. لایحهٔ SB 1047 که او در سال ۲۰۲۴ تدوین کرد، قرار بود به نخستین قانون جدی کشور دربارهٔ هوش مصنوعی پیشرفته تبدیل شود، اما گاوین نیوسام، فرماندار کالیفرنیا، آن را وتو کرد. پس از آن، وینر از لایحهٔ SB 53 حمایت کرد؛ لایحه‌ای با رویکردی کم‌سخت‌گیرانه‌تر که نیوسام آن را امضا کرد. هر دو لایحه الهام‌بخش طرح‌های قانونی پیشنهادی در سطح فدرال بوده‌اند.

کارزار انتخاباتی وینر برای کنگره بیش از ۳ میلیون دلار از Public First Action دریافت کرد؛ سازمانی غیرانتفاعی که از قانون‌گذاری در حوزهٔ هوش مصنوعی حمایت می‌کند و بخش قابل‌توجهی از بودجه‌اش را از Anthropic می‌گیرد. این کمک مالی باعث شد مخالفان از او انتقاد کنند که بیش‌ازحد به صنعت هوش مصنوعی نزدیک است، اما وینر می‌گوید واقعیت کاملاً برعکس این ادعاست.

او پس از مصاحبه‌مان در پیامی نوشت: «Public First از من حمایت کرد، چون من نخستین قانون‌گذاری در کشور بودم که طرحی برای قانون‌گذاری دربارهٔ هوش مصنوعی ارائه داد و نخستین کسی بودم که آن را تصویب و اجرایی کرد. حمله به من به‌دلیل حمایت [Public First] به‌شکلی تکان‌دهنده بدبینانه بود؛ در واقع، به نامزدی حمله می‌کردند که برخلاف خواست شرکت‌های بزرگ فناوری، هوش مصنوعی را قانون‌گذاری کرده بود و به‌دروغ ادعا می‌کردند که او somehow بیش‌ازحد به شرکت‌های بزرگ فناوری نزدیک است.»

وینر می‌گوید اگر کنگره کمیتهٔ ویژه‌ای برای هوش مصنوعی تشکیل دهد ــ موضوعی که دموکرات‌ها از سپتامبر درباره‌اش گفت‌وگو کرده‌اند ــ مشتاق است در آن فعالیت کند. او همچنین از بسیاری از ایده‌های سیاست‌گذاری مطرح‌شده در کنگره استقبال می‌کند. او می‌گوید: «به‌نظرم داشتن یک نهاد ناظر فدرالِ قدرتمند، دارای اختیارات کافی و چابک بسیار مهم است.» او اشاره می‌کند که رو کانا، نمایندهٔ دموکرات کالیفرنیا، طرحی برای ایجاد چنین نهادی پیشنهاد کرده است.

وینر می‌گوید بیش از هر چیز می‌خواهد کنگره سیاست‌هایی تصویب کند که ضمانت اجرایی واقعی داشته باشند. او می‌گوید: «بسیار مهم است که کنگره هنگام اقدام، کاری واقعاً مؤثر و متناسب با شرایط انجام دهد.» این یعنی احتمال وقوع فاجعهٔ ناشی از هوش مصنوعی را جدی بگیریم؛ موضوعی که او با زبانی شبیه زبان کارشناسان ایمنی هوش مصنوعی درباره‌اش صحبت می‌کند. او به من گفت: «در مقطعی بسیار خطرناک از نظر احتمال ازدست‌رفتن کنترل هوش مصنوعی هستیم. باید با خودبهبوددهی بازگشتی مقابله کنیم. وقتی وارد آن قلمرو شوید، واقعاً ممکن است زمینه‌ساز ازدست‌رفتن کامل کنترل شود.»

او در مقابله با خطر فاجعه‌بار هوش مصنوعی متحدانی هم خواهد داشت. برای نمونه، سناتور برنی سندرز با بسیاری از چهره‌های تأثیرگذار جنبش ایمنی هوش مصنوعی دیدار کرده و بارها دربارهٔ هوش مصنوعی و خطرهای وجودی سخن گفته است. بااین‌حال، میان دیدگاهِ شیفتهٔ AGI در منطقهٔ خلیج سان‌فرانسیسکو که وینر دارد و فضای عمومی کشور دربارهٔ هوش مصنوعی، شکاف بزرگی وجود دارد؛ فضایی که مخالفت با مراکز داده در آن نقش محوری دارد. شاید این‌که رأی‌دهندگان روز سه‌شنبه به ۴۰ مورد از ۴۱ طرح مخالف مراکز داده رأی مثبت دادند، برای وینر و دیگر حامیان قانون‌گذاری در حوزهٔ هوش مصنوعی نشانهٔ خوبی به نظر برسد؛ اما وینر می‌گوید این جنبش را بیشتر مرتبط با دغدغه‌های محلی می‌داند تا پرسش‌های کلان‌تر دربارهٔ خطرهای هوش مصنوعی.

او می‌گوید: «برای کسانی که واقعاً با مسیری که هوش مصنوعی در پیش گرفته مخالف‌اند، این حوزه جایی است که واقعاً می‌توانند کاری انجام دهند. اما به‌نظر من، خیزش علیه مراکز داده بیشتر از این‌جا ناشی می‌شود که مردم نمی‌خواهند چنین چیزی در محل زندگی‌شان ساخته شود؛ آن هم با همهٔ پیامدهایی که برای خانه‌های اطراف دارد، از بالا بردن قبض برق گرفته تا مصرف آب. تا جایی که من می‌توانم بگویم، برای بیشتر مردم مسئلهٔ اصلی همین است.»

وینر با توجه به سابقهٔ ضعیف کنگره در قانون‌گذاری برای صنعت فناوری، می‌گوید فقط «با احتیاط خوش‌بین» است که کنگره بتواند هوش مصنوعی را مهار کند. او همچنین نگران است که نتواند قانونی را از سد دونالد ترامپ، رئیس‌جمهور، عبور دهد؛ کسی که در سپتامبر نگرانی‌ها دربارهٔ خطر فاجعه‌بار هوش مصنوعی را «حقه» خواند و نشان داده است که تمایلی جدی به همکاری با چین ندارد؛ همکاری‌ای که از نظر وینر برای جلوگیری از بدترین پیامدهای هوش مصنوعی ضروری است.

بااین‌حال، او می‌گوید پیش‌بینی‌ناپذیری ترامپ تا حدی امیدبخش است؛ هرچند امیدی توأم با نگرانی. وینر می‌گوید: «تا این‌جا شاهد بعضی اقدامات مسئله‌ساز بوده‌ایم، اما نه فاجعه‌ای تمام‌عیار. امیدوارم لازم نباشد فاجعه‌ای رخ دهد تا رئیس‌جمهور دست به اقدام بزند. و اگر قرار است فقط در پی وقوع فاجعه‌ای اقدام کند ــ که همان‌طور که گفتم، امیدوارم چنین نشود ــ امیدوارم آن فاجعه تا حد ممکن کوچک باشد.»