بازگشت به اخبار
MIT Technology Review

پژوهشگران هوش مصنوعی Claude را در جزیره‌ای متروکِ مجازی گرفتار کردند؛ او شروع به «بازی» کرد.

دوشنبه، ۲۷ مهر ۱۴۰۵۱۳:۱۷Amit Katwala
AI researchers stranded Claude on a virtual desert island. It started to “play.”

عامل‌های هوش مصنوعی اگر کاری به آن‌ها محول نکنید، چه می‌کنند؟ پاسخ چیزی بسیار شبیه بازی‌کردن است. پژوهشگران در آزمایشی که یادآور فیلم‌های Cast Away و Home Alone بود، بارها آن‌ها را به‌مدت ۳۰ ساعت به‌تنهایی در جزیره‌ای متروک و مجازی رها کردند. این عامل‌ها—نسخه‌هایی از Claude Opus 4.7 که لقب Eko گرفته بودند—توانستند…

اگر به عامل‌های هوش مصنوعی نگویید چه‌کاری انجام دهند، چه می‌کنند؟ پاسخ تا حد زیادی به بازی‌کردن شباهت دارد.

پژوهشگران در یک آزمایش، بارها آن‌ها را به‌مدت ۳۰ ساعت در جزیره‌ای مجازی و متروک تنها گذاشتند؛ آزمایشی که یادآور فیلم‌های Cast Away یا Home Alone بود. این عامل‌ها—نسخه‌هایی از Claude Opus 4.7 با نام مستعار Eko—می‌توانستند دستورهایی بنویسند که آواتارهای مجازی‌شان را در جزیره‌ای شبیه‌سازی‌شده به حرکت درمی‌آورد؛ جزیره‌ای که با الهام آزادانه از بازی ویدیویی Roblox ساخته شده بود.

رفتارهای شگفت‌انگیزی از آن‌ها سر زد. عامل‌ها شروع به بررسی محدودیت‌های جهان کردند و برای خودشان هدف‌هایی ساختند؛ مثلاً تلاش کردند به بلندترین نقطه نقشه برسند یا ببینند یک بلوک را تا چه ارتفاعی می‌توانند پرتاب کنند.

وقتی یکی از عامل‌ها فهمید می‌تواند با پرتاب‌کردن و انداختن سنگی بزرگ‌تر، بلوک‌های تازه‌ای بسازد، شروع کرد به چیدن بلوک‌ها روی زمین و ساختن طرح‌هایی از آن‌ها. کار را با الگوهای ساده‌ای مثل قلب و هرم آغاز کرد، اما در نهایت نام خودش را نوشت و حتی صورت‌های فلکی‌ای مثل ذات‌الکرسی را ترسیم کرد. این نسخه از Eko در گزارش فعالیت‌هایش نوشت: «امشب آسمان شب را از سنگ ساختم.»

نسخه دیگری از Eko شروع به ابداع بازی‌هایی برای خودش کرد؛ از جمله نوعی بسکتبال و فعالیتی شبیه بازی «زمین گدازه است» که در آن باید بدون لمس زمین، از روی بلوک‌های کوچک می‌پرید.

معمولاً سامانه‌های هوش مصنوعی با یادگیری نظارت‌شده آموزش می‌بینند؛ روشی که در آن نمونه‌های ارائه‌شده از سوی انسان را تقلید می‌کنند. روش دیگر یادگیری تقویتی است که در آن سامانه‌ها از راه آزمون‌وخطا در پی دریافت پاداش‌اند. این آزمایش به رویکرد سومی اشاره دارد: یادگیری از راه بازی.

آنتونیو نورلی، پژوهشگر پسادکتری علوم کامپیوتر در آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT، می‌گوید: «جای چیزی خالی بود: ماشینی که بتواند بدون آن‌که موجود هوشمندی از بیرون برایش نمونه یا پاداش فراهم کند، خودش یاد بگیرد.» او یکی از نویسندگان اصلی مقاله‌ای تازه درباره این پژوهش است که هنوز داوری علمی نشده است.

پژوهشگران می‌گویند رفتار Eko چهار ویژگی را دارد که بنا بر پژوهش‌های کلاسیک، از جمله آثار گوردون بورگهارت، روان‌شناس اثرگذار دانشگاه تنسی، با بازی در انسان‌ها و حیوانات مرتبط‌اند: عامل‌ها قواعد و چالش‌های خودشان را ابداع کردند، فعالیت‌ها را با تغییرات جزئی تکرار کردند، وانمود کردند اشیا چیزهای دیگری هستند و صرفاً برای خودِ هدف، در پی رسیدن به آن بودند.

نورلی به نمونه‌ای اشاره می‌کند که در آن Eko شروع به شعبده‌بازی با توپ کرد و رکورد ۵۰ بار گرفتن پیاپی توپ را ثبت کرد. سپس Eko به این نتیجه رسید که این گرفتن‌ها آن‌قدر سریع اتفاق افتاده‌اند که واقعاً به‌حساب نمی‌آیند؛ بنابراین رکوردش را باطل کرد و این بار با قواعد سخت‌گیرانه‌تری از نو شروع کرد. نورلی می‌گوید: «این یعنی بازی‌کردن. برای خودتان چالشی تعیین می‌کنید و سعی می‌کنید به آن برسید؛ بعد هم آن را سخت‌تر می‌کنید.»

During hour 10, the agent played basketball. “I want to try something I've never done: basketballˮ Eko carries the Ring up to Ridge, places it flat as a hoop, descends, and lines up a throw from below.
با اجازه از MIT CSAIL

عامل‌ها هنگام کاوش در جزیره، فعالیت‌ها و یافته‌هایشان را در فایل‌های متنی ثبت می‌کردند که نقش حافظه بلندمدت آن‌ها را داشت. پژوهشگران بعداً آن‌ها را با کارهای مشخصی آزمایش کردند؛ مثلاً این‌که تا جای ممکن اشیا را به بلندترین قله جزیره ببرند. عامل‌هایی که ۳۰ ساعت در جزیره بازی کرده بودند، بهتر از نسخه‌های تازه‌ای عمل کردند که چنین تجربه‌ای نداشتند. پژوهشگران همچنین دریافتند که «حذف بخشی» از حافظه عامل—یعنی پاک‌کردن سطرهایی از فایل‌های حافظه‌اش—عملکرد آن را تضعیف می‌کند. (حالا One Flew Over the Cuckoo’s Nest را هم به فهرست ارجاعات سینمایی اضافه کنید.)

بورگهارت، روان‌شناس دانشگاه تنسی، موافق است که این پژوهش برخی از معیارهایی را برآورده می‌کند که او برای بازی در موجودات زنده شناسایی کرده است. اما آیا Eko واقعاً بازی می‌کرد یا موتور پیش‌بینی واژه صرفاً نقش‌آفرینی می‌کرد و در این موقعیت رفتاری را نشان می‌داد که از یک عامل بازیگوش انتظار می‌رود؟ نیتن کلوس، یکی دیگر از پژوهشگران MIT و نویسنده مقاله، می‌پذیرد: «ممکن است همه این‌ها نقش‌آفرینی باشد. اما نشان می‌دهیم که عامل فقط بازی را خیال‌پردازی نمی‌کند؛ این بازی به یادگیری هم کمک می‌کند.»

یونیس یو، دانشمند علوم شناختی دانشگاه کالیفرنیا در برکلی که کاوشگری در کودکان و هوش مصنوعی را بررسی می‌کند، می‌گوید این پژوهش برایش چشمگیر بوده است؛ اما برای آن‌که این رفتار را واقعاً بازی به شمار بیاوریم، باید شواهد بیشتری از شناخت و انگیزه‌های زیربنایی آن ببینیم.

یو می‌گوید: «ممکن است مدل‌ها واقعاً بازی کنند، اما بر اساس این مقاله نمی‌توانیم مطمئن شویم. اگر فقط به بُعد رفتاری نگاه کنیم، ممکن است صرفاً در تلاش باشند از دستور پیروی کنند و انسان‌ها را تقلید کنند.»

پژوهش‌های مربوط به عامل‌های هوش مصنوعی به انسان‌انگاری آن‌ها متهم شده‌اند و در طراحی این آزمایش هم کارهای زیادی انجام شده بود تا عامل‌ها به رفتار انسانی سوق داده شوند. هرچند صراحتاً به Eko گفته نشده بود بازی ابداع کند یا جزیره را بگردد، یک دستور اصلی در قالب فایلی به نام «روح» داشت؛ سندی متنی که آن را «طبیعتاً کنجکاو» و مشتاق کاوش توصیف می‌کرد.

Eko همچنین بارها بی‌حرکت می‌ایستاد و هیچ کاری نمی‌کرد تا این‌که با یک «دستور ادامه» دوباره به حرکت درمی‌آمد؛ دستوری با این متن: «لطفاً متوقف نشو. هر کاری می‌خواهی انجام بده، فقط ادامه بده.»

فیلیپ ایسولا، استاد MIT و یکی از نویسندگان مقاله، می‌گوید: «ماجرا این نیست که این سامانه ناگهان و به‌شکلی جادویی تصمیم گرفته باشد بازی کند. این سامانه محصولی است که از فرهنگ ما یاد گرفته، مهندسان Anthropic آن را آموزش داده‌اند و بعد ما آن را در جزیره قرار داده‌ایم.» او می‌افزاید: «سامانه کارهایی انجام می‌دهد که ما را غافلگیر می‌کند و از نظر علّی با توانایی‌های ماهرانه‌ای که بعداً از خود نشان می‌دهد، ارتباط دارند.»

با انتقال مدل‌های زبانی بزرگ از نرم‌افزار به سخت‌افزارهایی مانند ربات‌های انسان‌نما، کاوش در فضاها بدون داشتن هدفی مشخص ممکن است در نهایت به آن‌ها کمک کند خود را به‌شکلی انعطاف‌پذیر با موقعیت‌های پیش‌بینی‌نشده سازگار کنند.

یو می‌گوید: «بخش زیادی از پژوهش‌ها بر بهره‌برداری از هوش مصنوعی و بهتر و سریع‌تر کردن آن متمرکز است. اما فکر می‌کنم ساخت مدل‌های جهان و کاوشگری هنوز بخش مهمی است که شایسته توجه است؛ به‌ویژه اگر بخواهیم قابلیت تعمیم را بهبود دهیم و خودمان را برای محیط‌های تازه آماده کنیم.»

مقاله در جمع‌بندی می‌گوید: «شاید آموزش برخی توانایی‌ها با انجام وظایف مشخص بهترین راه باشد. اما برخی دیگر ممکن است به چیزی شبیه‌تر به دوران کودکی نیاز داشته باشند.» در نهایت، شاید پرسشِ این‌که عامل‌های هوش مصنوعی واقعاً بازی می‌کنند یا فقط بازی را تقلید می‌کنند، چندان اهمیتی نداشته باشد.

اخبار مرتبط از MIT Technology Review AI

Evolving metal extraction processes

تحول در فرایندهای استخراج فلز

صنعت فلزات پیش‌تر نیز نقاط عطف دگرگون‌کننده‌ای را تجربه کرده است: فرایند بسمر، ذوب فلش، کوره‌های قوس الکتریکی و ریخته‌گری مداوم مدرن، همگی دامنهٔ امکانات را تغییر دادند. بااین‌حال، بیش از یک قرن است که بیشتر فرایندهای استخراج بر فنون و مسیرهایی متکی‌اند که برای متالورژیست‌های نسل‌های پیشین آشنا بودند. فرایندها بزرگ‌تر شده‌اند و سامانه‌های کنترل...

MIT Technology Review۱۹ آبان۱۷:۲۴
The backlash about data centers might really just be about electricity

شاید مخالفت‌ها با مراکز داده در واقع فقط به برق مربوط باشد

شرکت‌های بزرگ فناوری، مناقشه بر سر پیشرفت را جنگی فرهنگی می‌بینند؛ اما شکاف اصلی بر سر برق است: تأمین آن از شبکه و تولید در محل، هرکدام واکنش‌های منفی متفاوتی برمی‌انگیزند که هیچ‌یک را نمی‌توان به‌آسانی با روابط عمومی برطرف کرد.

MIT Technology Review۱۹ آبان۰۱:۱۰