به این فکر کنید که در سیاست‌گذاری فناوری چه چیزی موفقیت به شمار می‌رود. یک شرکت هوش مصنوعی وعده می‌دهد که چت‌باتش افراد را به خودکشی ترغیب نکند. یک پلتفرم شبکه‌های اجتماعی خرید فنتانیل را برای کودکان دشوارتر می‌کند. این حمایت‌ها مهم‌اند و باید از همان ابتدا وجود می‌داشتند. اما شرکت‌ها می‌توانند با رعایت همین حداقل‌ها از زیر بار مسئولیت شانه خالی کنند و در عین حال به تولید محصولاتی ادامه دهند که جوانان را به دوستی‌های شبیه‌سازی‌شده وابسته می‌کنند یا در فیدهایی گرفتار می‌سازند که برای واداشتن کاربران به پیمایش بی‌پایان طراحی شده‌اند.

در گذشته اجازه داده‌ایم بحث درباره فناوری را بدترین آسیبی که ممکن است یک محصول به بار بیاورد شکل دهد؛ در حالی که درباره آسیب پنهانی که این محصولات هر روز وارد می‌کنند، به‌طرز شگفت‌آوری کم صحبت شده است. حالا که وارد عصری می‌شویم که محصولات قدرتمند هوش مصنوعی آن را تعریف می‌کنند، باید از صنعت فناوری بخواهیم که فراتر از رسیدگی صرف به آسیب‌های فاجعه‌بار عمل کند. باید اقداماتی انجام دهیم تا مطمئن شویم محصولات این صنعت، شیوه تفکر، یادگیری و تعامل ما با یکدیگر را تضعیف نمی‌کنند.

نوجوانی که به همراهی هوش مصنوعی وابستگی ناسالمی پیدا می‌کند، ممکن است هیچ‌وقت موضوع شکایت قضایی یا خبر روزنامه‌ها نشود؛ مگر در موارد بسیار وخیم. همین‌طور دانش‌آموزی که برای نوشتن همه تکالیفش به چت‌بات متکی می‌شود، یا جوانی که زندگی خود را با فیدی می‌سنجد که برای برانگیختن حسادت و نگه‌داشتن او پای صفحه طراحی شده است. ممکن است محصولی همه الزامات محدود ایمنی را رعایت کند و با این حال، به شیوه‌هایی که همیشه خبرساز نمی‌شوند، فرهنگ ما را در مجموع بدتر کند.

تعریفی محدود از موفقیت که بر ایمنی متمرکز باشد، از نظر سیاسی برای صنعت فناوری به‌صرفه است و شرکت‌ها فعالانه چنین تعریفی را ترویج می‌کنند. اقدام برای جلوگیری از فجایع بزرگ به نفع کسب‌وکار است: می‌تواند به معنای شکایت‌های حقوقی کمتر و فشار کمتر برای وضع مقررات جدی باشد. اما روبه‌رو شدن با پیامدهای روزمره وابستگی، مستلزم اقداماتی است که به‌مراتب بیشتر به سود شرکت‌ها لطمه می‌زند. برای مثال، ممکن است لازم باشد از شرکت‌ها بخواهیم موانع بیشتری در مسیر استفاده از محصولاتشان ایجاد کنند یا میزان تعامل کاربران با محصولاتی را که به نتایج منفی می‌انجامند، فعالانه محدود کنند؛ از جمله الگوریتم‌های اعتیادآوری که برای ربودن توجه کاربران طراحی شده‌اند.

در عوض، غول‌های فناوری کوشیده‌اند قوانین را حول آسیب‌هایی شکل دهند که همین حالا نیز مستقیماً برای رسیدگی به آن‌ها تحت فشارند. برای نمونه، Google امسال از لوایحی برای قانون‌گذاری درباره چت‌بات‌های هوش مصنوعی در چند ایالت حمایت کرد. این لوایح، حفاظت‌های اولیه در برابر محتوای جنسی و ترویج خودآزاری را الزامی می‌کردند؛ حفاظت‌هایی که شرکت‌های فناوری در هر صورت باید برقرار می‌کردند، اما در عین حال استثناهای گسترده‌ای داشتند که می‌توانست برخی از محبوب‌ترین سرویس‌ها را از شمول قانون خارج کند. تصویب این لوایح به قانون‌گذاران اجازه داد ادعا کنند در زمینه ایمنی به موفقیتی دست یافته‌اند، در حالی که تلاش‌ها برای پیشبرد قوانینی قوی‌تر ــ قوانینی که از وابستگی عاطفی کودکان به هوش مصنوعی جلوگیری کنند ــ ناکام ماند. این راهبرد در ایالت‌هایی مانند نبراسکا جواب داد و به تصویب قوانینی انجامید که صنعت تأثیر زیادی بر آن‌ها گذاشته بود؛ آن هم به بهای کنار رفتن لوایحی که شرکت‌ها را بیشتر پاسخ‌گو می‌کردند.

پیش‌تر نیز در مورد شبکه‌های اجتماعی شاهد روندی مشابه بوده‌ایم. در سراسر جهان، کاربران اینترنت اکنون به‌طور میانگین بیش از دو ساعت در روز را در پلتفرم‌های شبکه‌های اجتماعی می‌گذرانند؛ زمانی که بی‌سروصدا از زندگی روزمره گرفته شده و به شرکت‌هایی واگذار شده است که سودشان به ماندن ما در این پلتفرم‌ها وابسته است. به‌جز شاید چند مدیرعامل شرکت‌های فناوری، هیچ‌کس نمی‌خواست این الگوریتم‌ها چنین بخش بزرگی از ساعات بیداری‌مان را به خود اختصاص دهند. افزون بر این، مهندسی فرهنگی آن‌ها می‌تواند در خشونت‌هایی با ابعادی ویرانگر نقش داشته باشد. پلتفرم‌های Meta به نقش داشتن در نسل‌کشی روهینگیا در میانمار، شورش‌های ضد مسلمانان در سری‌لانکا و فراخوان‌های ادعایی به خشونت در جریان جنگ تیگرای اتیوپی متهم شده‌اند. همین انگیزه‌ها در فیدهایی نیز نقش دارند که درک جوانان آمریکایی از سیاست، همسالانشان و جهان پیرامون را شکل می‌دهند.

هوش مصنوعی این منطق را به بخش‌هایی از زندگی گسترش می‌دهد که شبکه‌های اجتماعی فقط از راه دور می‌توانستند بر آن‌ها اثر بگذارند. این فناوری پیشنهاد می‌کند به‌جای ما فکرهایمان را بنویسد و جای کسانی را بگیرد که در شرایط دیگر به آن‌ها رجوع می‌کردیم. اکنون یک‌سوم نوجوانان ترجیح می‌دهند به‌جای گفت‌وگو با دیگران، مسائل جدی را با همراهان هوش مصنوعی در میان بگذارند. پژوهشگران MIT دریافتند جوانانی که برای نوشتن مقاله از ChatGPT استفاده می‌کردند، هنگام انجام این کار ارتباطات مغزی ضعیف‌تری نشان می‌دادند و شواهدشان حاکی از آن بود که «بدهی شناختی» حتی پس از پایان کار نیز باقی می‌ماند. هنوز چیزهای زیادی درباره آثار بلندمدت این فناوری باید بیاموزیم. اما همین حالا هم دلایل کافی داریم که بپرسیم آیا فناوری‌ای که با وعده افزایش توانایی‌های ما عرضه می‌شود، عادت‌ها و روابطی را که اساساً به رشد این توانایی‌ها کمک می‌کنند، تضعیف نمی‌کند.

اگر این طرز فکر را تا نتیجه منطقی‌اش دنبال کنیم، به جهانی از سرگرمی‌های کاملاً پالایش‌شده می‌رسیم؛ جهانی که در آن چت‌بات‌ها آماده‌اند ما را از دشواری فکر کردن یا کنار آمدن با احساسات دیگران ــ یا حتی احساسات خودمان ــ برهانند. اما هرکسی که برای نوشتن چیزی خواندنی تقلا کرده یا کوشیده است دوستی آسیب‌دیده‌ای را ترمیم کند، می‌داند در این معامله چه چیزهای زیادی از دست می‌رود. قضاوت را با تلاش و مواجهه با دشواری‌ها پرورش می‌دهیم و با روبه‌رو شدن با این واقعیت که دیگران نیازها و نظرهای خودشان را دارند، زندگی در کنار آن‌ها را می‌آموزیم.

بله، باید ایمنی را به‌عنوان حداقل مطالبه کنیم؛ و بعد، بسیار بیشتر از آن بخواهیم. شرکت‌های فناوری و مناطق آموزشی باید پیش از آنکه هوش مصنوعی را به بخشی ثابت از کلاس‌های درس تبدیل کنند، با شواهدی فراتر از تردید معقول نشان دهند که این فناوری یادگیری و تفکر نقادانه را بهبود می‌بخشد. باید شرکت‌ها را از طراحی همراهانی که وانمود می‌کنند آگاه‌اند یا به کاربران ابراز عشق می‌کنند منع کرد و باید عملکرد سامانه‌هایشان و تأثیر آن‌ها بر روابط و توانایی افراد برای مستقل فکر کردن، به‌طور مستقل بررسی شود. شرکت‌هایی که محصولاتشان را تقریباً وارد همه بخش‌های زندگی مدرن کرده‌اند، وظایفی بسیار فراتر از جلوگیری از تیتر خبری فاجعه‌بار بعدی بر عهده دارند.

Sam Hiner هم‌بنیان‌گذار و مدیر اجرایی Young People’s Alliance است؛ سازمانی که در سال ۲۰۲۶ ائتلافی از حامیان را برای تصویب قوانینی در زمینه تنظیم مقررات همراهان هوش مصنوعی در هشت ایالت، از جمله قانون SB1119 کالیفرنیا، هماهنگ کرد. Sam در سال ۲۰۲۵ از University of North Carolina at Chapel Hill فارغ‌التحصیل شد و در فهرست 30 Under 30 Social Impact سال ۲۰۲۶ نشریه Forbes قرار گرفت.

Emma Leiken مدیر اجرایی Responsible Technology Youth Power Fund در Hopelab است؛ نهادی که بیش از ۹ میلیون دلار برای فعالیت‌های پاسخ‌گو کردن فناوری به رهبری جوانان جمع‌آوری کرده است. او همچنین سیاست‌گذاری فناوری را در Columbia School of International and Public Affairs تدریس می‌کند. Leiken پیش‌تر مدیر جهانی سیاست‌گذاری ایمنی و رفاه جوانان در TikTok بود و در زمینه فناوری مسئولانه در Omidyar Network فعالیت می‌کرد.