بازگشت به اخبار
TechCrunch

با اجرایی‌شدن قانون ایمنی هوش مصنوعی نیویورک، OpenAI و Anthropic با نظارت تازه‌ای روبه‌رو می‌شوند

چهارشنبه، ۲۰ آبان ۱۴۰۵۰۰:۴۸Rebecca Bellan
OpenAI, Anthropic face new oversight as New York’s AI safety law takes effect

نیویورک در حال آماده‌سازی برای اجرای قانون گسترده ایمنی هوش مصنوعی خود است؛ قانونی که توسعه‌دهندگان بزرگ، از جمله OpenAI و Anthropic، را ملزم می‌کند ثبت‌نام کنند، رویه‌های ایمنی خود را افشا کنند و حوادث بحرانی را گزارش دهند؛ در غیر این صورت با جریمه روبه‌رو خواهند شد.

New York در حال آماده‌شدن برای اجرای یکی از مهم‌ترین قوانین ایمنی هوش مصنوعی در کشور است. این ایالت روز سه‌شنبه درگاه ثبت‌نامی راه‌اندازی کرد که توسعه‌دهندگان بزرگ هوش مصنوعی پیشرو، مانند Anthropic و OpenAI، موظف‌اند تا ۱ ژانویه ۲۰۲۷ در آن ثبت‌نام کنند. 

قانون RAISE، لایحه ایمنی و شفافیت New York، از ابتدای سال اجرایی می‌شود. این قانون توسعه‌دهندگان بزرگ هوش مصنوعی پیشرو ــ شرکت‌هایی با درآمد سالانه بیش از ۵۰۰ میلیون دلار ــ را ملزم می‌کند چارچوب‌های ایمنی خود را در وب‌سایت‌هایشان منتشر کنند، حوادث مهم ایمنی را ظرف ۷۲ ساعت گزارش دهند و گزارش‌های عمومی شفافیت مدل منتشر کنند. 

دفتر تازه‌تأسیس نوآوری دیجیتال، حکمرانی، یکپارچگی و اعتماد (DIGIT) قانون RAISE را اجرا و بر آزمایشگاه‌های بزرگ هوش مصنوعی پیشرو نظارت خواهد کرد. جریمه هر تخلف می‌تواند تا یک میلیون دلار و جریمه تخلفات بعدی تا سه میلیون دلار باشد.

این ایالت همچنین می‌تواند علیه شرکت‌هایی که در درگاه جدید ثبت‌نام نمی‌کنند، اقدام قانونی کند؛ بااین‌حال، سخنگویی حاضر نشد جزئیاتی در این‌باره ارائه کند. 

فرماندار Kathy Hochul روز سه‌شنبه در یک نشست خبری گفت: «غول‌های فناوری به ما می‌گویند چشم‌اندازشان برای هوش مصنوعی اجتناب‌ناپذیر است. به ما می‌گویند همراه شوید یا置 جا بمانید... می‌گویند هر خسارت جانبی‌ای ارزشش را دارد، به‌شرط آنکه در رقابت برای رسیدن به لبه پرتگاه هوش مصنوعی پیروز شویم.»

Hochul روز سه‌شنبه همچنین مرکز مسئولیت‌پذیری و پژوهش هوش مصنوعی New York را در دانشگاه Binghamton از مجموعه دانشگاهی State University of New York راه‌اندازی کرد. این مرکز ایمنی، امنیت و عملکرد سامانه‌های پیشرفته هوش مصنوعی را به‌طور مستقل ارزیابی می‌کند و برای بررسی چارچوب‌های ایمنی شرکت‌ها با DIGIT همکاری خواهد کرد. Hochul نخستین‌بار در ژانویه و با اعلام ۵۵ میلیون دلار کمک مالی و سرمایه، از ایجاد این مرکز خبر داده بود.

Hochul گفت: «ما در حال ساخت الگویی ملی برای مقررات‌گذاری هوشمندانه و سنجیده هوش مصنوعی هستیم؛ الگویی که جوامع را بر شرکت‌ها و مردم را بر فناوری قدرتمند مقدم می‌داند.»  

قانون RAISE تنها قانون ایمنی‌ای نیست که New York تصویب کرده است. این ایالت سال گذشته اجرای قانونی را آغاز کرد که اپراتورهای همراه‌های هوش مصنوعی را ملزم می‌کند مرتب به کاربران اطلاع دهند که با یک ربات صحبت می‌کنند و برای شناسایی افکار خودکشی و خودآزاری تلاش‌های معقولی انجام دهند.

Hochul در اکتبر قانونی جداگانه برای ایمنی چت‌بات‌ها با هدف محافظت از افراد زیر سن قانونی امضا کرد که رفتارهایی مانند تعاملات فریبکارانه و انسان‌وار، پاسخ‌های دست‌کاری‌کننده عاطفی یا چاپلوسانه و تشویق به رفتارهایی مانند خودکشی یا اختلال در غذا خوردن را محدود می‌کند. این قانون از ۱ ژوئن ۲۰۲۷ اجرایی می‌شود.

ایالت‌های دیگری نیز قوانین مشابه قانون RAISE در زمینه ایمنی و شفافیت هوش مصنوعی تصویب کرده‌اند. قانون SB 53 کالیفرنیا که در ژانویه اجرایی شد، آزمایشگاه‌های هوش مصنوعی پیشرو را ملزم می‌کند چارچوب‌های ایمنی داشته باشند و آن‌ها را منتشر کنند، از افشاگران حمایت کنند و حوادث مهم ایمنی را ظرف ۱۵ روز گزارش دهند. قانون SB 315 ایلینوی که از ابتدای ۲۰۲۷ اجرایی می‌شود، الزامات مشابهی دارد و ممیزی‌های مستقل انطباق با الزامات ایمنی را نیز شامل می‌شود.

اخبار مرتبط از TechCrunch AI

The unfolding Jensen Huang scandal: a timeline

خط زمانیِ رسواییِ فزایندهٔ جنسن هوانگ

این ماجرا می‌تواند برای امنیت ملی پیامدهایی داشته باشد؛ آن هم در شرایطی که آمریکا و چین برای توسعه پیشرفته‌ترین زیرساخت هوش مصنوعی با یکدیگر رقابت می‌کنند.

TechCrunch۲۱ آبان۰۳:۲۹