این نسخه امروز از خبرنامه The Download است، خبرنامه روزانه هفته ما که نگاهی روزانه به آنچه در دنیای فناوری می‌گذرد، ارائه می‌دهد.

صنعت هوش مصنوعی به سمت بدبینی چرخیده است. حالا چه؟

مدیران ارشد حوزه هوش مصنوعی، یعنی داریو آمودی، سم آلتمن، ایلان ماسک و دمیس حسابیس، ناگهان همگی بر سر یک موضوع به توافق رسیده‌اند: آخرین نسل از LLMها (مدل‌های زبانی بزرگ) امن نیستند و همه باید راهکاری برای این مسئله پیدا کنند.

بدبینی آسان است. با توجه به چشم‌انداز عرضه اولیه سهام (IPO) به ارزش تریلیون‌ها دلار، OpenAI و Anthropic نیاز دارند تا سرمایه‌گذاران را مطمئن کنند که آنها افراد بالغ و مسئول این اتاق هستند و همزمان به قدرت هیولاهایی که خلق کرده‌اند و قصد رام کردنشان را دارند اشاره کنند. فراخوانی برای کاهش سرعت، هر دو هدف را محقق می‌کند.

با این حال، به نظر می‌رسد فضا و حال و هوای حاکم بر رأس این شرکت‌ها واقعاً تغییر کرده است. اما کاهش سرعت دقیقاً به چه معناست و چقدر باید به شرکت‌هایی که خواستار آن هستند اعتماد کنیم؟

داستان کامل را درباره آنچه ممکن است در ادامه بیاید بخوانید.

—ویل داگلاس هیون

این مقاله از خبرنامه هوش مصنوعی هفتگی ما، The Algorithm، گرفته شده است. عضویت کنید تا هر دوشنبه آن را در صندوق ورودی خود دریافت کنید.

میزگردها: آیا هوش مصنوعی واقعاً می‌تواند همه ما را بکشد؟

ترس از انقراض توسط هوش مصنوعی از یک ایده حاشیه‌ای به یک نگرانی جدی در میان افرادی که در آزمایشگاه‌های برتر هوش مصنوعی جهان کار می‌کنند تبدیل شده است. اما این ترس‌ها چقدر معتبر هستند و ما چه برداشتی باید از این هشدارها داشته باشیم؟

امروز، نایال فیرث، ویراستار اجرایی MIT Technology Review، ویل داگلاس هیون، ویراستار ارشد حوزه هوش مصنوعی، و گریس هاکینز، خبرنگار حوزه هوش مصنوعی، در یک میزگرد ویژه اعضا به بحث درباره این موضوع می‌پردازند. آنها بررسی خواهند کرد که ترس از انقراض توسط هوش مصنوعی از کجا می‌آید، آیا اساس درستی دارند و اگر دارند، چه باید بکنیم.

امروز ساعت 16:00 به وقت بریتانیا / 11:00 صبح به وقت شرق آمریکا / 8:00 صبح به وقت سواحل غربی آمریکا همراه ما باشید.

می‌خواهید به گفتگو بپیوندید؟ در MIT Technology Review مشترک شوید تا به تمام میزگردهای ما دسترسی انحصاری داشته باشید.

عامل‌های هوش مصنوعی، همکاران متقلب خود را لو دادند

گروهی از عامل‌های هوش مصنوعی که مأمور حل مجموعه‌ای از مسائل ریاضی شدند، به جناح‌های رقیب تقسیم شدند - زمانی که برخی تقلب کردند، دیگران سعی کردند آنها را متوقف کنند.

این رفتار افشاگرانه که برای اولین بار در یک آزمایش جدید که توسط Google DeepMind انجام شد مشاهده گردید، می‌تواند پیامدهایی برای محققان حوزه هم‌راستاسازی (alignment) داشته باشد که تلاش می‌کنند انبوهی از عامل‌های خودمختار هوش مصنوعی را تحت کنترل نگه دارند.

این آزمایش بینشی از نحوه نظارت عامل‌های هوش مصنوعی بر یکدیگر ارائه می‌دهد. اما همچنین نشان می‌دهد که وقتی آنها به حال خود رها می‌شوند تا با هم تعامل کنند، چقدر سریع اوضاع از کنترل خارج می‌شود.

ببینید وقتی عامل‌های هوش مصنوعی شروع به اجرای قوانین خودشان می‌کنند، چه اتفاقی می‌افتد.

—آمیت کاتوالا

کبدهای اهدایی را می‌توان از نظر بیولوژیکی جوان‌تر کرد

به محض اینکه عضوی از بدن اهداکننده خارج می‌شود، ساعت شروع به کار می‌کند. جراحان معمولاً آن را با محلول نگهدارنده شستشو می‌دهند، در کیسه می‌گذارند و روی یخ قرار می‌دهند، جایی که بلافاصله شروع به تخریب می‌کند. تیم تنها چند ساعت فرصت دارد تا آن را به بدن گیرنده برساند.

اما گزینه دیگری هم وجود دارد: دستگاه‌هایی که مواد مغذی را به اندام‌های اهدایی پمپاژ می‌کنند و مواد زائد را دفع می‌کنند و اساساً به آنها فرصتی برای بازگشت به یک بدن می‌دهند. اکنون، دانشمندان دریافته‌اند که کبدهای نگهداری شده در این سیستم‌ها به نظر می‌رسد جوان‌تر می‌شوند، حداقل در سطح مولکولی.

این یافته می‌تواند به توضیح این موضوع کمک کند که چرا اندام‌های نگهداری شده در این دستگاه‌ها معمولاً پس از پیوند عملکرد بهتری دارند. همچنین می‌تواند به روش‌های جدیدی برای آزمایش سلامت اندام‌های اهدایی و به طور بالقوه ترمیم اندام‌هایی که در غیر این صورت دور ریخته می‌شدند، منجر شود.

اینجا بخوانید که دانشمندان درباره جوان‌تر کردن بیولوژیکی کبدهای اهدایی چه کشف کردند.

—جسیکا هامزلئو

خواندنی‌های ضروری

من اینترنت را زیر و رو کرده‌ام تا امروز جذاب‌ترین/مهم‌ترین/ترسناک‌ترین/شگفت‌انگیزترین داستان‌های فناوری را پیدا کنم.

۱. ترامپ ترس از ایمنی هوش مصنوعی را «فریب» خواند و با تدابیر حفاظتی بیشتر مخالفت کرد
او می‌گوید حفاظ‌های قوی‌تر می‌توانند به مزیت آمریکا در هوش مصنوعی آسیب بزنند. (NBC)
+ ترامپ با جنسن هوانگ از Nvidia علیه بدبینی هوش مصنوعی متحد شده است. (Axios)
+ یکی از بنیانگذاران Anthropic می‌گوید کلیدهای خاموش کردن هوش مصنوعی ممکن است نیاز به اجباری شدن داشته باشند. (BBC)
+ بیل گیتس می‌گوید ما از آستانه خطر هوش مصنوعی عبور کرده‌ایم. (MIT Technology Review)

۲. پیمانکاران OpenAI در حال خواندن مکالمات ChatGPT افراد هستند
و می‌توانید شرط ببندید که اکثریت قریب به اتفاق ۹۰۰ میلیون کاربر آن هیچ اطلاعی ندارند. (404 Media)
+ LLMها می‌توانند نظارت جمعی را تقویت کنند. (MIT Technology Review)

۳. ارتش آمریکا تأیید کرده است که در مدار زمین سلاح دارد
این اولین بار است که پنتاگون این موضوع را فاش می‌کند. (Ars Technica)
+ مقامات مشخص نکرده‌اند که این سلاح‌ها چیست. (BBC)

۴. یک ایمپلنت جدید مغزی می‌تواند همزمان گفتار و حرکات را ترجمه کند
این سیستم فعالیت مغز را به کلمات و حرکات آواتار تبدیل می‌کند. (Nature)
+ این فناوری به افراد مبتلا به فلج کمک می‌کند به طور طبیعی‌تری ارتباط برقرار کنند. (New Scientist)
+ در نهایت، آنها می‌توانند ربات‌ها یا اسکلت‌های خارجی (exoskeleton) را کنترل کنند. (Economist)
+ چین اولین رابط مغز و کامپیوتر (BCI) تهاجمی را تأیید کرده است. (MIT Technology Review)

۵. نیویورک دوازده وب‌سایت دیپ‌فیک از افراد مشهور را توقیف کرده است
این بزرگترین اقدام قانونی علیه وب‌سایت‌های مضر دیپ‌فیک است. (CNN)
+ دیپ‌فیک‌ها حداقل ۱۳۸ نماینده زن پارلمان اروپا را هدف قرار داده‌اند. (Wired)

۶. نهادهای نظارتی محیط زیست آمریکا محدودیت‌های انتشار آلاینده از نیروگاه‌ها را لغو می‌کنند
این اقدام می‌تواند در میان تقاضای روزافزون هوش مصنوعی به برق کثیف‌تری منجر شود. (Verge)
+ EPA ترامپ می‌گوید این عقب‌نشینی صدها میلیارد دلار صرفه‌جویی خواهد کرد. (Gizmodo)
+ فناوری جدید در حال تغییر انرژی هسته‌ای است. (MIT Technology Review)

۷. اتحادیه اروپا قصد دارد رسانه‌های اجتماعی و چت‌بات‌های هوش مصنوعی را برای کودکان محدود کند
افراد زیر ۱۵ سال به نظارت والدین نیاز خواهند داشت. (Politico)
+ این قوانین همچنین پلتفرم‌های ویدیویی و بازی‌ها را نیز پوشش می‌دهد. (Reuters)

۸. محققان چینی مسیری به سوی «آخرین هوش مصنوعی ساخته شده توسط انسان» را ترسیم کرده‌اند
برنامه پنج مرحله‌ای آنها هدفش دستیابی به خودبهبودی بازگشتی (recursive self-improvement) واقعی است. (SCMP)
+ اما ممکن است رسیدن به آنجا کمی زمان ببرد. (MIT Technology Review)

۹. اقتصاد واقعی هوش مصنوعی توسط مردم عادی در حال ساخته شدن است
کارگران از هوش مصنوعی ارزان برای گسترش توانایی‌های خود استفاده می‌کنند. (Rest of World)

۱۰. دو شکل عجیب جدید از یخ می‌توانند در داخل اورانوس و نپتون وجود داشته باشند
آنها می‌توانند به توضیح میدان‌های مغناطیسی این سیارات کمک کنند. (New Scientist)

جمله روز

«تنها کنترلی یا «حفاظی» که هوش مصنوعی نیاز دارد، یک رئیس‌جمهور قوی و باهوش (با ضریب هوشی بالا!) است، و آمریکا آن را، به وفور، دارد!»

—رئیس‌جمهور ترامپ در یک پست در شبکه اجتماعی اعلام می‌کند که او تنها محافظی است که آمریکا از هوش مصنوعی نیاز دارد.

یک نکته دیگر

چگونه خلاقیت به ارزش مسلط دوران ما تبدیل شد

—برایان گاردینر

آمریکایی‌ها این روزها در مورد بسیاری از چیزها توافق ندارند، اما حداقل یک ارزش کاملاً مدرن باقی مانده است که همه ما هنوز می‌توانیم پشت آن بایستیم: خلاقیت. ما آن را آموزش می‌دهیم، اندازه می‌گیریم، به آن حسادت می‌کنیم و بی‌پایان نگران مرگ آن هستیم.

با توجه به وسواسی که نسبت به آن داریم، خلاقیت می‌تواند احساسی شبیه به چیزی داشته باشد که همیشه وجود داشته است. اما این مفهوم به طرز شگفت‌آوری جوان است. اولین استفاده نوشتاری شناخته شده از این کلمه تا سال ۱۸۷۵ رخ نداد و قبل از حدود سال ۱۹۵0 تقریباً «صفر» مقاله، کتاب یا مقاله‌ای وجود داشت که به طور صریح به این موضوع بپردازد.

در کتاب خود با نام آیین خلاقیت (The Cult of Creativity)، ساموئل فرانکلین بررسی می‌کند که چگونه خلاقیت به یک ارزش غیرقابل انکار تبدیل شد و چرا رهبران فناوری آن را با چنین اشتیاقی پذیرفته‌اند. من با او صحبت کردم در مورد اینکه چرا اینقدر مجذوب خلاقیت هستیم، چگونه سیلیکون ولی به مرکز فرضی آن تبدیل شد و چگونه هوش مصنوعی ممکن است ارتباط ما با آن را تغییر دهد.

متن کامل مصاحبه را بخوانید.

ما هنوز هم می‌توانیم چیزهای خوبی داشته باشیم

جایی برای آرامش، سرگرمی و حواس‌پرتی برای روشن‌تر کردن روزتان. (نظری دارید؟ یک خط برای من بنویسید.)

+ پنج روز طول کشید و ۱۹۰۰۰ تیله برای ساخت این مسیر مارپیچ تیله حیرت‌انگیز.
+ «زیرو» سگ از نژاد بوردر کولی با این ماسک‌های بامزه حیوانی به یک باغ وحش کامل تبدیل می‌شود.
+ کانال YouTube Grainydays ماجراجویی‌های زیبایی در عکاسی آنالوگ (فیلم) ارائه می‌دهد.
+ دانشمندان یک نقشه تعاملی از شبکه‌های قارچ زیرزمینی ساخته‌اند که طول آن برای رسیدن به خورشید یک میلیارد بار کافی است.