وقتی اولین بار این اتفاق برایتان می‌افتد، فکر می‌کنید دیوانه شده‌اید. وارد یک کافه می‌شوید و به منویی نگاه می‌کنید که انواع ساندویچ‌های بیگل را نشان می‌دهد، اما هر تصویر به طرز عجیبی بی‌نقص، کاملاً متقارن و به‌طور عجیبی صاف به نظر می‌رسد و حس درونیِ نادرست بودن چیزی را در شما برمی‌انگیزد. ممکن است فکر کنید پارانوئید شده‌اید، اما عقلتان را از دست نداده‌اید. منوهای تولیدشده با هوش مصنوعی مولد، به لطف مدل‌هایی که روی زیبایی‌شناسی محدود و «خوشایند» آموزش دیده‌اند، وارد صنعت رستوران‌داری شده‌اند؛ زیبایی‌شناسی‌ای که حتی وقتی نمی‌توانید دلیلش را بگویید، احساس نادرستی می‌دهد.

گاهی اوقات، این تصاویر به‌طور آشکاری جعلی هستند، مثل بوریتویی که پنیر آن آنقدر حباب‌دار و آب‌شده است که بیشتر شبیه هنر آوانگارد است تا ناهار. اما بیشتر اوقات، آنقدر معمولی به نظر می‌رسند که فقط وقتی دقت کنید متوجه نادرست بودن چیزی می‌شوید.

«تقریباً مثل این است که یک بیگانه بخواهد بدون درک اصول اولیه، پیتزا درست کند»، الکس لایل، مدیر ارشد فناوری Reality Defender به TechCrunch گفت. (خود Reality Defender بخشی از دسته‌ای رو به رشد از استارت‌آپ‌هایی است که ابزارهای تشخیص هوش مصنوعی و تأیید محتوا می‌فروشند – کسب‌وکاری که تا حدی به دلیل مشکلاتی مانند این وجود دارد.)

Throw a rock in NYC and you’ll hit a mildly off putting AI food advertisement. pic.twitter.com/lLXVkFIFoG

لایل می‌گوید که نحوه ساخت این مدل‌ها می‌تواند توضیح دهد که چرا تصاویر چنین زیبایی‌شناسی خاصی را در بر می‌گیرند – زیبایی‌شناسی‌ای که در آن هر قاشق بستنی کاملاً گرد است و میگوها به نظر می‌رسد که از نظر ژنتیکی اصلاح شده‌اند تا دم خود را بخورند و «وحشت‌های غذایی لاکرافتی» جدیدی ایجاد کنند.

مدل‌های زبانی بزرگ (LLM) و مدل‌های انتشار – انواع مدل‌های هوش مصنوعی که ربات‌های گفتگوی ظاهراً دانای کل و تولیدکنندگان تصویر مانند ChatGPT و Midjourney را ممکن می‌سازند – روی مقادیر عظیمی از داده آموزش می‌بینند. سپس مدل‌ها الگوهای موجود در مجموعه داده‌ها را شناسایی می‌کنند تا پیش‌بینی کنند کاربر وقتی چیزی مانند «یک منو برای رستوران همبرگر برایم بساز» می‌خواهد، به دنبال چیست.

«بسیاری از این چیزها شبیه منوی Chili’s در سال ۲۰۱۵ به نظر می‌رسد، و دلیلی هم برای آن وجود دارد»، لایل گفت. «این بدنه کاری بود که [مدل‌ها] عملکرد خود را از آن استخراج کردند.»

داده‌های آموزشی جدید برای شرکت‌هایی که مدل‌های هوش مصنوعی می‌سازند بسیار ارزشمند است – حتی آمازون نیز دیده شده است که کتاب‌های کمیاب را برای اسکن و افزودن به داده‌های آموزشی خود تهیه می‌کند، فقط برای اینکه پس از آپلود، آن کتاب‌ها را نابود کند. اجتناب‌ناپذیر است که برخی از محتوای تولیدشده توسط هوش مصنوعی به این مجموعه داده‌های عظیم و غیرقابل درک نفوذ کند. اما وقتی مدل‌های هوش مصنوعی بیش از حد روی محتوای تولیدشده خودشان آموزش ببینند، خطر فروپاشی مدل وجود دارد.

«فروپاشی مدل تقریباً مانند بیماری جنون گاوی است... وقتی خروجی‌های یک مدل را دوباره به خودش تغذیه می‌کنید، در نهایت هم‌خویشی بیش از حد می‌شود و کل سیستم فرو می‌ریزد»، لایل توضیح داد. «آنچه ما در اینجا می‌بینیم همگرایی است، که لزوماً فروپاشی مدل نیست.»

همگرایی کمی کمتر شدید است و کیفیت خروجی‌های هوش مصنوعی را بدون اینکه کاملاً بی‌فایده شود، کاهش می‌دهد.

اگر کسی از یک مدل هوش مصنوعی بخواهد منویی برای یک رستوران فست‌فود تولید کند، مدل احتمالاً به منوهای Wendy’s، Burger King، McDonald’s یا زنجیره محبوب دیگری ارجاع می‌دهد. این منوها از قبل سبک مشابهی دارند، به این معنی که خروجی‌های تولیدشده توسط هوش مصنوعی همان سبک را تقلید می‌کنند و اگر منوی تولیدشده توسط هوش مصنوعی دوباره به داده‌های آموزشی بازگردد، آن را بیشتر تقویت می‌کنند.

اما منوها و تبلیغات غذا همیشه بهتر از چیز واقعی به نظر می‌رسند، مانند یک بیگ مک در تبلیغات McDonald’s که هر لایه ساندویچ توسط یک طراح صحنه چیده می‌شود تا حداکثر اشتها را برانگیزد. این اثر می‌تواند در خروجی‌های هوش مصنوعی حتی بارزتر شود.

«بهینه‌سازی مجموعه داده‌ها برای خوشایندی است، یا به عبارت دیگر، توهین‌آمیز نبودن، و به این ترتیب به همگن‌سازی تبدیل می‌شود»، لی رینی، مدیر مرکز تصور آینده دیجیتال در دانشگاه Elon، به TechCrunch گفت. «آنچه هوش مصنوعی هم در تصاویر و هم در زبان انجام می‌دهد، این است که لبه‌ها را می‌تراشد.»

در مقیاس محلی‌تر، این صاف‌سازی تصاویر به نظر می‌رسد زمانی اتفاق می‌افتد که از یک تولیدکننده تصویر هوش مصنوعی برای ایجاد یک منو استفاده می‌کنید و ویرایش‌هایی روی آن اعمال می‌کنید. در X، کاربری به نام Labtec نشان داد که وقتی یک منو در ChatGPT می‌سازید و سپس آن را ۱۰۰ بار ویرایش می‌کنید تا ببینید غذا چگونه کمتر و کمتر شبیه آنچه باید باشد، چه اتفاقی می‌افتد. (ما آزمایش را تکرار کردیم و نتایج مشابهی یافتیم.)

«نتیجه نهایی واقعاً مرا ناراحت می‌کند»، Labtec نوشت.

I made a restaurant menu in ChatGPT then edited it 100 times to see how those hideous slop menus end up the way they are. The end result actually makes me uncomfortable pic.twitter.com/sDIUKlabdp

به نظر می‌رسد رستوران‌ها قربانی این مشکل می‌شوند و منوهای تولیدشده با هوش مصنوعی خود را بارها و بارها برای تغییر جزئیات کوچک مانند قیمت‌ها یا نام اقلام ویرایش می‌کنند. به نظر می‌رسد با هر ویرایش، تصاویر غذا کمی گردتر و صاف‌تر می‌شوند.

«مردم یک حس تقریباً غیرقابل توضیح دارند درباره اینکه چه زمانی به چیزی نگاه می‌کنند که توسط هوش مصنوعی تولید شده است، در مقایسه با چیزی که در اصل واقعی بوده است»، رینی گفت. «فقط یک نوع حس وجود دارد که مردم گاهی اوقات به سختی می‌توانند آن را بیان کنند، اما وقتی آن را می‌بینند، تقریباً می‌فهمند و فکر می‌کنم این یکی از دلایلی است که برخی از داستان‌های اولیه درباره واکنش منفی [علیه رستوران‌هایی که از منوهای هوش مصنوعی استفاده می‌کنند] اینقدر برجسته است.»

علمی پشت بیزاری ما از این منوهای هوش مصنوعی وجود دارد. محققان دانشگاه دویسبورگ-اسن در آلمان دریافتند که تصاویر غذایی تولیدشده توسط هوش مصنوعی یک «اثر دره وهمی» را نشان می‌دهند، جایی که تصاویر غذایی که تقریباً واقعی به نظر می‌رسیدند، بیشتر از تصاویری که آشکارا جعلی بودند، باعث انزجار و ناراحتی می‌شدند. این احساس ناخوشایند فقط در پرتو زمینه فرهنگی پیرامون هوش مصنوعی تشدید می‌شود.

اگر مردم اینقدر منفی به این تصاویر واکنش نشان می‌دهند، احتمالاً این دلیل کافی است برای رستوران‌ها که دست از تلاش برای کار کردن منوهای هوش مصنوعی بردارند. اما مسائلی که نان همبرگرهای کاملاً قهوه‌ای شده را برای ما به ارمغان می‌آورد، فراتر از میز شام گسترش می‌یابد.

«دیدن و شنیدن همیشه به معنای باور کردن بوده است، تا جایی که حتی سیستم‌های قضایی ما کاملاً با این ایده هماهنگ شده‌اند که استاندارد طلایی در شواهد، اعترافات ضبط‌شده و شواهد ویدئویی است»، لایل گفت. «این دیگر صادق نیست. جهان اساساً تغییر کرده است، چه به نفع باشد چه به ضرر.»