عاملهای هوش مصنوعی وقتی تنها ماندند و کاری برای انجام نداشتند، شروع به بازی کردند
پژوهشگران MIT، ۱۳ هوش مصنوعی را در جزیرهای مجازی به حال خود رها کردند؛ آنها بازیهایی اختراع کردند، برای حلقهای گمشده سوگواری کردند و در نهایت در انجام وظایفشان بهتر شدند.
عاملهای هوش مصنوعی که بدون وظیفهای مشخص برای گشتوگذار در جزیرهای مجازی رها شده بودند، شروع کردند به ابداع چالشهایی برای خودشان. پژوهشگران MIT میگویند این رفتار نشانههای بازیکردن را دارد.
پژوهشگران ۱۳ عامل هوش مصنوعی به نام Eko را که هرکدام با Claude Opus 4.7 اجرا میشدند، بهمدت ۳۰ ساعت بهتنهایی در جزیرهای بیابانی و شبیهسازیشده قرار دادند. آنها آزمایش را در مقالهای شرح دادهاند که در arXiv منتشر شده است؛ وبسایتی که پژوهشگران پیش از داوری همتا، مطالعات خود را در آن به اشتراک میگذارند. پس از آن، چالشهای مشخصی برای عاملها تعیین کردند؛ مثلاً اینکه تا جای ممکن اشیا را روی بلندترین قله صخرهای جزیره ببرند. عاملهای Eko که آن ۳۰ ساعت را به بازی گذرانده بودند، عموماً در این چالشها از عاملهای یکسانی که هرگز پا به جزیره نگذاشته بودند بهتر عمل کردند.
امروزه توسعهدهندگان از پیش تعیین میکنند که هوش مصنوعی چه چیزی را تمرین کند و موفقیت را چگونه میتوان سنجید. پژوهشگران این روش ــ یعنی گشتوگذار بدون هدف ــ را راهی متفاوت برای یادگیری مهارتها بهوسیله عاملهای هوش مصنوعی میدانند؛ بهویژه مهارتهایی که ممکن است روزی برای کنترل رباتها به کار بیایند.
پژوهشگران در گزارش خود مینویسند: «ما معمولاً عاملهای مصنوعی را با تصمیمگیری از پیش درباره اینکه چه چیزی را تمرین کنند، چه چیزی را بهینهسازی کنند و پیشرفت را چگونه بسنجند، توسعه میدهیم. بازی رویکرد دیگری را پیشنهاد میکند: دنیایی بهاندازه کافی غنی و امن در اختیار عامل بگذارید، اجازه دهید خودش انتخاب کند چه چیزی برایش جالب است و بگذارید دانش مفید در گذر زمان و بر پایه تجربههایش انباشته شود.»
یکی از عاملهای Eko در نخستین ساعت حضورش در جزیره نوشت: «بگذارید اطرافم را بررسی کنم.» این عامل جاهطلبانه برای فتح بلندترین قله جزیره به راه افتاد. اما یک ساعت بعد، پس از ناکامی، با نقشهای جایگزین برگشت: صخره را به قلهای مجاور کشاند، دو بلوک روی آن گذاشت و سپس از روی آنها پرید.
اما ماجرای بزرگ بعدی عامل چندان خوب پیش نرفت. Eko میخواست ببیند حلقهای طلایی را تا چه فاصلهای میتواند پرتاب کند؛ آن را با شدت پرتاب کرد و حلقه مستقیم به اقیانوس افتاد. پیش از آنکه تصمیم بگیرد «سراغ کاری شدنی و معنادار برود» و قلبی از سنگ بسازد که «یادبودی برای حلقه گمشده» باشد، نوشت: «ای وای. حلقه را گم کردم.»
وقتی بازی از نو آغاز شد و حلقه دوباره ظاهر شد، Eko فوراً از آن بهعنوان حلقه بسکتبال، هدف و در نهایت وسیلهای زینتی استفاده کرد. وقتی بازی اجازه نداد Eko حلقه را دور بدن خودش بیندازد، راهحلی پیدا کرد: با افتادن از لبه پرتگاه، در همان محدودهای که حلقه قرار داشت دوباره ظاهر میشد. از لبه پایین پرید و دوباره به بازی برگشت؛ این بار از وسط حلقه عبور کرد.
اعلام کرد: «حلقه را پوشیدهام.»
اینجور حرکات فقط ترفندهای نمایشی نبودند. شش نفر از ۱۳ عامل هم یاد گرفتند که اگر هنگام پرش، بلوک را رها کنند، میتوانند آن را دورتر پرتاب کنند؛ قابلیتی که پژوهشگران قصد نداشتند در بازی ممکن باشد. پژوهشگران نوشتند که این گشتوگذار به «دانشی درباره جهان انجامید که طراحان آن از آن بیخبر بودند.»
طراحی آزمایش تا حد زیادی عاملها را بهسوی رفتاری شبیه انسان سوق میداد. هرگز به Eko گفته نشد بازی ابداع کند، اما در پیام اصلی آن ــ فایلی موسوم به «روح» ــ آمده بود که این عامل «بهطور طبیعی کنجکاو» است.
Eunice Yiu، دانشمند علوم شناختی در UC Berkeley، به MIT Tech Review گفت که تحتتأثیر قرار گرفته، اما برای اطمینان از سازوکارهای شناختی پشت این رفتار، شواهد بیشتری میخواهد. او گفت: «ممکن است مدلها واقعاً در حال بازیکردن باشند، اما بر اساس این مقاله نمیتوانیم این را بدانیم.»
پژوهشگران این آزمایش را روشی متفاوت برای ساخت عاملها میدانند. گزارش آنها با این نتیجهگیری پایان مییابد: «شاید برخی تواناییها را بهتر بتوان از راه انجام وظایف آموزش داد. برخی دیگر ممکن است به چیزی شبیهتر به دوران کودکی نیاز داشته باشند.»
اخبار مرتبط از TechCrunch AI
چه کسی میتواند جایگزین جنسن هوانگ شود؟ فهرستی کاملاً غیرعلمی از جانشینان احتمالی
انویدیا برنامهای برای جانشینی مدیرعامل ندارد و مدیرعاملش هم به دردسر افتاده است؛ بنابراین، فهرستی کوتاه از گزینهها تهیه کردهایم.
سهام انویدیا در پی گزارشها درباره تدارک هیئتمدیره برای برکناری جنسن هوانگ، مدیرعامل شرکت، افت کرد.
هیئتمدیره Nvidia ممکن است از شامگاه چهارشنبه درباره برکناری بنیانگذار این شرکت و مدیرعاملی که ۳۳ سال در این سمت بوده است، تصمیم بگیرد.
خط زمانیِ رسواییِ فزایندهٔ جنسن هوانگ
این ماجرا میتواند برای امنیت ملی پیامدهایی داشته باشد؛ آن هم در شرایطی که آمریکا و چین برای توسعه پیشرفتهترین زیرساخت هوش مصنوعی با یکدیگر رقابت میکنند.
