در هفته‌های اخیر، رهبران برخی از بزرگترین شرکت‌های هوش مصنوعی هشدار داده‌اند که فناوری‌ای که خود در حال توسعه آن هستند، خطرناک است. آخر هفته گذشته، داریو آمودی، مدیرعامل Anthropic، استدلال کرد که هوش مصنوعی خطرات جدی به همراه دارد و باید سرعت پیشرفت آن کاهش یابد. سم آلتمن، مدیرعامل OpenAI، در پلتفرم X پاسخ داد: «با داریو موافقم که باید سرعت پیشرفت در مرزهای دانش را کنترل کنیم.»

این پست‌ها چند روز پس از آن منتشر شد که جیکوب کاکسون، محقق هوش مصنوعی، اعلام کرد که از نقش خود در Anthropic کناره‌گیری می‌کند و ادعا کرد که نه این شرکت و نه OpenAI (جایی که قبلاً در آن کار کرده بود) مسئولانه عمل نمی‌کنند. او در پلتفرم X نوشت: «افرادی که هوش مصنوعی می‌سازند، صادقانه معتقدند که این فناوری می‌تواند تا پایان دهه جاری همه ما را نابود کند.» ایوان هوبینگر، یکی دیگر از کارمندان Anthropic، علناً با او موافقت کرد. او در پاسخ در پلتفرم X نوشت: «ما واقعاً صادقانه باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد! من شخصاً فکر می‌کنم احتمال آن در دهه آینده بیش از ۱۰٪ است.»

یکی از راه‌هایی که آنها نگرانند هوش مصنوعی ممکن است به واسطه آن به همه ما پایان دهد، کمک به طراحی، ایجاد و انتشار نوعی سلاح بیولوژیکی است. بیایید نگاهی دقیق‌تر به این موضوع بیندازیم.

یک سلاح بیولوژیکی می‌تواند یک ویروس بسیار کشنده باشد که افراد را بر اساس ژن‌هایشان هدف قرار دهد. می‌تواند قارچی باشد که یک محصول کشاورزی را از بین ببرد و باعث ناامنی غذایی شود. شاید هم یک سم بی‌طعم و بی‌بو باشد که بتوان آن را بدون شناسایی به منبع آب یک منطقه وارد کرد.

نگرانی این است که از ابزارهای هوش مصنوعی می‌توان برای کمک به تولید چنین عواملی استفاده کرد. در سال ۲۰۲۲، محققان شرکت Collaborations Pharmaceuticals دریافتند که استفاده از یک «تولیدکننده مولکول» مبتنی بر هوش مصنوعی که برای یافتن داروهای بالقوه برای بیماری‌های انسانی توسعه داده بودند، به طرز قابل توجهی آسان است. در کمتر از شش ساعت، این مدل ۴۰٬۰۰۰ مولکول با پتانسیل عمل به عنوان عوامل جنگ شیمیایی تولید کرد. برخی از آنها طوری طراحی شده بودند که حتی از عوامل عصبی شناخته شده نیز سمی‌تر باشند. نویسندگان در آن زمان نوشتند: «بدون اینکه بیش از حد زنگ خطر را به صدا درآوریم، این باید به عنوان یک زنگ بیدارباش برای همکاران ما در جامعه «هوش مصنوعی در کشف دارو» باشد.»

این یک زنگ بیدارباش برای دیوید مگنوس، استاد پزشکی و اخلاق زیستی در دانشگاه استنفورد بود، حتی اگر او از اواخر دهه ۱۹۹۰ خطرات مرتبط با سوءاستفاده از علوم پزشکی و بیوتکنولوژی را ارزیابی می‌کرد. او می‌گوید: «این برای من بسیار ترسناک بود. البته، همه چیز از آن زمان به بعد فقط نوعی انفجار بوده است.»

امروزه، ربات‌های هوش مصنوعی می‌توانند به سؤالاتی در مورد موضوعاتی در تمام حوزه‌های علم پاسخ دهند. دونیا سابرا، محقق امنیت زیستی در دانشگاه هامبورگ آلمان، می‌گوید هر کسی می‌تواند از مدل‌های زبانی بزرگی استفاده کند که بر روی دانش و تجربه «تقریباً هر دانشمندی که تا به حال روی این سیاره زندگی کرده است» آموزش دیده‌اند. این مدل‌ها می‌توانند دستورالعمل‌ها و آموزش‌های ویدئویی در مورد نحوه انجام آزمایش‌ها ارائه دهند.

این را با پیشرفت‌های بیوتکنولوژی ترکیب کنید که ویرایش ژن و ابزارهای زیست‌شناسی مصنوعی را بسیار در دسترس‌تر کرده است (جنبش «بیولوژی DIY» قبلاً بسیاری از افراد را قادر ساخته است تا آزمایشگاه‌هایی در خانه راه‌اندازی کنند)، و شما با یک وضعیت بالقوه بسیار خطرناک روبرو هستید. سابرا می‌گوید: «احتمال اینکه یک فرد مصمم در نهایت موفق شود وجود دارد.»

اقدامات حفاظتی در حال اجرا هستند. افرادی که می‌خواهند ژنوم‌های جدیدی بسازند، معمولاً باید قطعات DNA را از شرکت‌هایی سفارش دهند که درخواست‌های مشکوک را بررسی می‌کنند. محققان مسئول، تحقیقات بالقوه پرخطر را از طریق مراحل تحلیلی به نام «تیم قرمز» (red-teaming) که در آن دانشمندان مستقل به دنبال راه‌هایی برای سوءاستفاده از کار می‌گردند، و «تیم آبی» (blue-teaming) که در آن دیگران راه‌حل‌های بالقوه را ارائه می‌دهند، انجام می‌دهند. و شرکت‌های هوش مصنوعی ابزارهای خود را در تلاش برای جلوگیری از ارائه اطلاعات علمی که می‌تواند مورد سوءاستفاده قرار گیرد، تنظیم کرده‌اند. اما هیچ‌یک از این محافظت‌ها غیرقابل نفوذ نیستند.

در گزارشی که هفته گذشته منتشر شد، Anthropic تأیید کرد که افراد سعی کرده‌اند از مدل‌های آن برای بررسی راه‌های افزایش قابلیت انتقال ویروس چیکونگونیا، ایجاد نوعی از آنفلوانزای پرندگان که برای انسان خطرناک‌تر است، و ساخت «اطلس پپتیدهای زهر سمی» و موارد دیگر استفاده کنند.

مگنوس می‌گوید: «ما دائماً در حال رفت و برگشت هستیم. ما باید ابزارهای نظارت و غربالگری بهتری بسازیم، [اما] هوش مصنوعی واقعاً در یافتن راه‌هایی برای دور زدن آنها خوب است.» او می‌گوید احتمالاً برای یافتن راه‌هایی برای محدود کردن استفاده از هوش مصنوعی، باید از خود هوش مصنوعی استفاده کنیم.

باید اینجا اضافه کنم که همه دانشمندان در مورد سطح خطر توافق ندارند. در یک جلسه توجیهی رسانه‌ای اخیر، برخی از زیست‌شناسان در امپریال کالج لندن استدلال کردند که ابزارهای هوش مصنوعی به اندازه کافی خوب نیستند که بتوانند به طور کامل سلاح‌های بیولوژیکی توسعه دهند و آزمایش پاتوژن‌های جدید نیاز به کار انسانی دشوار و زمان‌بر دارد. برخی فکر می‌کنند موانع حفاظتی که در حال حاضر داریم کافی هستند.

و وندی بارکلی، استاد بیماری‌های عفونی در امپریال، اشاره کرد که در شرایط فعلی، بزرگترین خطر یک بیماری همه‌گیر از یک سلاح بیولوژیکی نیست، بلکه از پاتوژن‌هایی است که در حال حاضر در حال گردش هستند. به عنوان مثال، H5N1، ویروس آنفلوانزای پرندگان که قبلاً میلیون‌ها پرنده را کشته و به طور گسترده در میان گاوهای شیری ایالات متحده گسترش یافته است؛ ماه گذشته نیز در راسوهای اسیر در یک مزرعه در یوتا شناسایی شد.

از سوی دیگر، سابرا ترجیح می‌دهد پنج تا ده سال آینده را پیش‌بینی کند. او می‌گوید کشورها باید سیستم‌های مراقبت بهداشتی خود را تقویت کنند، پادزهرهایی برای سموم شناخته شده آماده کنند و داروها را ذخیره کنند: «ما باید آماده باشیم.»

کوین اسولت، زیست‌شناس MIT که هم فناوری تسریع انتشار یک ویژگی ژنتیکی در کل یک جمعیت و راه‌هایی برای محدود کردن آن فناوری را اختراع کرد، این نگرانی‌ها را در یک پست در پلتفرم X در روز چهارشنبه تکرار کرد و بیان داشت که یک مدل زبانی بزرگ «شکل جدیدی از سلاح بیولوژیکی را فاش کرده است که من نمی‌دانستم امکان‌پذیر است.»

او افزود: «خواهش می‌کنم، به خاطر خدا، کودکان، آینده بشریت، یا هر چیزی که مقدس می‌دانید، بیایید در اینجا جانب احتیاط را بگیریم.»

این مقاله اولین بار در The Checkup، خبرنامه هفتگی بیوتکنولوژی MIT Technology Review منتشر شد. برای دریافت آن در صندوق ورودی خود هر پنجشنبه، و خواندن مقالاتی مانند این، اینجا ثبت نام کنید.