این مطلب نخستین‌بار در «The Algorithm»، خبرنامه هفتگی ما درباره هوش مصنوعی، منتشر شد. اگر می‌خواهید مطالبی از این دست را زودتر در صندوق ورودی‌تان دریافت کنید، از اینجا ثبت‌نام کنید.

پس از هفته‌ها گمانه‌زنی‌های پرشور، Anthropic پیش‌نویس عرضه اولیه سهام خود را ثبت کرده است. این سند ۳۳۵صفحه‌ای (حدود ۱۰۰ صفحه آن به خطرها اختصاص دارد) دیدگاه منحصربه‌فرد این شرکت درباره فناوری‌ای را که در حال ساخت آن است و شیوه‌هایی را شرح می‌دهد که به باورش این فناوری جهان را دگرگون خواهد کرد. 

اما Anthropic سال‌هاست مهارت‌های داستان‌گویی‌اش را صیقل می‌دهد. در واقع، پیام‌رسانی عمومی این شرکت نمونه‌ای درخشان از تسلط بر روایت است.

اوایل این ماه، جک کلارک، هم‌بنیان‌گذار و مدیر سیاست‌گذاری این شرکت، در نشست صندوق بین‌المللی پول در بانکوک سخنرانی کرد و به اقتصاددانان، بانکداران و قانون‌گذاران حاضر گفت که تکینگی همین حالا هم فرا رسیده است.

تکینگی که نویسنده علمی‌تخیلی و آینده‌پژوه، ورنور وینج، حدود ۴۰ سال پیش آن را مطرح کرد (و مدت‌ها در حاشیه‌های nerdy اینترنت موضوع بحث بود)، قرار است نقطه‌ای باشد که فناوری آن‌قدر پیشرفت می‌کند که از توانایی سازندگانش فراتر می‌رود.

بر اساس این ایده، انسان‌ها置 می‌مانند؛ دیگر نه می‌توانند با دستاوردهای مخلوق پیشین خود رقابت کنند و نه حتی آن‌ها را بفهمند.

و این جهان خیالی که بسیاری از ما از کودکی تصورش کرده‌ایم؟ ظاهراً همین حالا در آن زندگی می‌کنیم: کلارک به حاضران گفت: «باور دارم امسال شواهد قانع‌کننده‌ای به دست آورده‌ایم که نشان می‌دهد این فرایند آغاز شده است.»

این شرکت داستانی زنده (و از بسیاری جهات ترسناک) درباره آینده‌ای تعریف می‌کند که آن را اجتناب‌ناپذیر جلوه می‌دهد، اما هنوز رخ نداده است؛ داستانی که اغلب از الگوهای آشنای علمی‌تخیلی وام گرفته شده. Anthropic فناوری خود را مرموز و خطرناک نشان می‌دهد و اصرار دارد که تنها شرکتی است که می‌توان به آن اعتماد کرد تا این فناوری را مهار کند. (کدام سرمایه‌گذاری نمی‌خواهد بخشی از چنین ماجرایی باشد؟)

نمونه دیگری را در نظر بگیرید. سال گذشته، کریس اولا، یکی دیگر از هم‌بنیان‌گذاران Anthropic، برای سخنرانی در واتیکان دعوت شد. او در آنجا برای پاپ لئوی چهاردهم و دیگر پژوهشگران و مقام‌های مذهبی توضیح داد که شرکتش درباره فناوری خود به چه یافته‌هایی رسیده است. او گفت: «صادقانه بگویم: مدام به چیزهایی برمی‌خوریم که مرموز و حتی نگران‌کننده‌اند. شواهدی از درون‌نگری پیدا می‌کنیم. به حالت‌های درونی‌ای برمی‌خوریم که از نظر کارکردی بازتاب‌دهنده شادی، رضایت، ترس، اندوه و اضطراب‌اند.»

بگذریم از اینکه بسیاری از پژوهشگران با چنین ادعای صریحی مبنی بر داشتن تجربه درونیِ انسان‌مانند در نرم‌افزار Anthropic مخالفت خواهند کرد. وقتی به نظر می‌رسد هیچ‌چیز قطعی نیست، حرف‌های Anthropic (و دیگر شرکت‌های پیشرو در حوزه هوش مصنوعی) را می‌قاپند و همچون تکه‌های کشتی در حال غرق‌شدن به آن‌ها چنگ می‌زنند.

نمی‌گویم لزوماً در هیچ‌یک از این موارد اشتباه می‌کنند. (این بحث بماند برای روزی دیگر.) اما در جهانی که هیچ‌کس نمی‌داند چه چیزی در راه است، شرکت‌هایی مانند Anthropic می‌توانند خلأ را پر کنند. 

بد نیست لحظه‌ای مکث کنیم و بپرسیم: Anthropic چیست؟ شاید در نگاه اول پرسشی ساده در یک مسابقه تلویزیونی خانوادگی به نظر برسد، اما پاسخ‌دادن به آن بسیار دشوارتر از چیزی است که تصور می‌کنید.

از وقتی هفته گذشته گفت‌وگویی در X را خواندم که نیتن کالوین آغاز کرده بود، این پرسش ذهنم را مشغول کرده است. کالوین مدیر ارشد راهبردی Encode AI است؛ سازمانی مستقر در واشنگتن دی‌سی که از قانون‌گذاری حمایت می‌کند. او از قانونی که Anthropic در پیش‌نویس لایحه‌ای پیشنهاد کرده بود ناراضی بود؛ لایحه‌ای که این شرکت مخفیانه برای قانون‌گذاران آمریکایی فرستاده بود (و سپس به بیرون درز کرد).  

کالوین گفت Anthropic می‌خواهد خود را طرفِ خوب ماجرا نشان دهد. اما چرا باید به آن اعتماد کنیم؟ او پرسید: «Anthropic چیست؟»

یک پاسخ این است: Anthropic شرکتی است که عرضه اولیه سهامش ارزش آن را به بیش از ۱.۵ تریلیون دلار می‌رساند و ثروت هنگفتی نصیب هم‌بنیان‌گذارانش، از جمله کلارک و اولا، می‌کند. 

اما Anthropic همواره اصرار داشته که چیزی فراتر از این است. چنان‌که کالوین اشاره کرد، شاید بتوان Anthropic را سازمانی برای ایمنی هوش مصنوعی دانست که بر توسعه فناوری قدرتمند، قابل‌اعتماد و (تقریباً) بی‌خطر تمرکز دارد. یا شاید بتوان آن را گروهی از افرادی دانست که مصمم‌اند پیش از دیگران فناوری‌ای با توانایی‌های فرابشری بسازند؛ شاید چون باور دارند مسئولانه‌ترین افراد برای این کارند، یا شاید به‌خاطر غرورشان.

در واقع، Anthropic همه این‌هاست. داریو آمودی، مدیرعامل شرکت، در پاسخش به پست کالوین نوشت: «راهبرد ما همیشه چیزی بوده که من آن را «رقابت برای رسیدن به اوج» نامیده‌ام؛ با نشان‌دادن اینکه ساخت مسئولانه این فناوری ممکن است، می‌توانیم معیارها را برای کل صنعت بالاتر ببریم. نیروهایی که رقابت برای رسیدن به اوج را پیش می‌برند، اگر شرکتی که به آن‌ها پایبند است در خط مقدم باشد، بسیار مؤثرتر عمل می‌کنند؛ این درسی است که بارها آموخته‌ام. وقتی به این راهبرد در کلیت آن نگاه می‌کنم، به کارنامه‌مان افتخار می‌کنم و همچنان پای آن می‌ایستم.»

آمودی طوری حرف می‌زند که انگار همه‌چیز را سر و سامان داده است، اما ایفای چند نقش هم‌زمان دشوار است. برای نمونه، میان اولویت‌های یک سازمان ایمنی هوش مصنوعی و یک غول سودمحور، تنش‌های بزرگی وجود دارد. (آمودی در پستش می‌پذیرد که اشتباهاتی کرده است.)

در نهایت، داستان‌هایی که Anthropic برای خودش تعریف می‌کند باید به ما کمک کنند داستان‌هایی را که برایمان تعریف می‌کند بهتر بفهمیم. این داستان‌ها باید به ما نشان دهند تا چه اندازه باید به خودتنظیمی این شرکت اعتماد کنیم، یا اینکه آیا باید آن را وادار کنیم دسترسی آزمونگران مستقل ایمنی به مدل‌هایش را با شرایطی که ما تعیین می‌کنیم، نه خودش، فراهم کند. همچنین باید کمک کنند وقتی قانونی که به نظر می‌رسد در خدمت منافع خود شرکت است آشکار می‌شود، تصمیم بگیریم آیا باید حسن‌ظن داشته باشیم یا نه.

اما به‌نظر من، این داستان‌ها از هیدرایی چندسر پرده برمی‌دارند. Anthropic برای افراد مختلف، چیزهای متفاوتی است و مطمئن نیستم این ویژگی اعتمادپذیری‌اش را بیشتر کند. از بسیاری جهات، یک شرکت فناوری قدیمی و معمولی ــ بدون نقش‌آفرینی علمی‌تخیلی و بدون این اداهای شبه‌عرفانی ــ بسیار آسان‌تر فهمیده می‌شد.