متا روز چهارشنبه اعلام کرد که در نیمه نخست سال ۲۰۲۶ علیه ۳۳.۲ میلیون مورد محتوای سوءاستفاده جنسی از کودکان در فیسبوک و اینستاگرام اقدام کرده است. همزمان، این شرکت ابزارهای هوش مصنوعی جدیدی را برای شناسایی آگهی‌ها و حساب‌هایی که ممکن است به‌طور پنهانی کاربران را به محتوای غیرقانونی آزار کودکان هدایت کنند، عرضه می‌کند.

متا اعلام کرد بیش از ۹۷ درصد از محتوایی که علیه آن اقدام کرده، پیش از گزارش کاربران توسط سیستم‌هایش شناسایی شده است. در هند، متا در همین بازه زمانی علیه ۵.۳ میلیون مورد محتوای سوءاستفاده جنسی از کودکان اقدام کرده که بیش از ۹۸ درصد آن پیش از گزارش کاربران شناسایی شده است.

متا گفت جدیدترین ابزارهای هوش مصنوعی آن برای مقابله با افرادی طراحی شده که از آگهی‌های ظاهراً بی‌ضرر برای هدایت کاربران به محتوای غیرقانونی خارج از پلتفرم‌های متا استفاده می‌کنند.

این شرکت سیستم جدیدی مبتنی بر مدل زبانی بزرگ (LLM) معرفی کرده است تا آنچه را «نشانه‌گذاری» (signposting) می‌نامد شناسایی کند. این اصطلاح به آگهی‌هایی اشاره دارد که ممکن است عادی به نظر برسند اما مشکوک به هدایت کاربران به محتوای غیرقانونی یا سایر فعالیت‌های مضر در جای دیگر اینترنت هستند. متا می‌گوید این تاکتیکی است که اخیراً مشاهده کرده بازیگران بد از آن استفاده می‌کنند، زیرا آن‌ها همچنان روش‌های خود را برای فرار از شناسایی تغییر می‌دهند. اگرچه خود آگهی‌ها ممکن است حاوی محتوای غیرقانونی نباشند، اما همچنان می‌توانند به‌عنوان دروازه‌ای برای وب‌سایت‌های میزبان محتوای سوءاستفاده جنسی از کودکان عمل کنند.

به همین دلیل، متا اعلام کرد اکنون به این موضوع توجه می‌کند که یک آگهی کاربران را به کجا می‌فرستد، نه فقط محتوای خود آگهی. این شرکت می‌تواند از این اطلاعات برای مسدود کردن وب‌سایت‌ها یا سایر مقصدهایی که قوانین آن را نقض می‌کنند و اقدام علیه حساب‌های پشت آن‌ها استفاده کند.

متا همچنین از اسکن‌های اضافی مبتنی بر هوش مصنوعی برای یافتن محتوای استثمار کودکان که ممکن است سیستم‌های قبلی از دست داده باشند، استفاده می‌کند. این شرکت گفت با یادگیری بیشتر درباره نحوه عملکرد این شبکه‌ها، به افزودن سیگنال‌های جدید ادامه خواهد داد.

ابزار جدید دیگر یک «عامل هوش مصنوعی تست قرمز» (red-teaming AI agent) است که اقدامات ایمنی خود متا را آزمایش می‌کند. این عامل به دنبال نقاط ضعفی می‌گردد که بازیگران بد می‌توانند برای دور زدن محافظت‌های شرکت از آن استفاده کنند. متا گفت این کار می‌تواند به شناسایی روش‌های جدید سوءاستفاده پیش از رایج‌شدن آن‌ها کمک کند.

علاوه بر این، این شرکت در حال بهبود سیستم‌های خود برای شناسایی افرادی است که پس از حذف حساب‌های قبلی‌شان، با حساب‌های جدید به پلتفرم‌های آن بازمی‌گردند.

این اقدامات جدید در حالی انجام می‌شود که متا همچنان با فشارهایی درباره ایمنی کودکان در پلتفرم‌های خود مواجه است. این شرکت با شکایت‌ها و انتقاد قانون‌گذاران درباره خطراتی که سرویس‌های رسانه اجتماعی آن ممکن است برای کاربران جوان ایجاد کند، روبه‌رو بوده است. در ماه اوت، متا برای حل‌وفصل شکایت ایمنی کودکان مربوط به ۲۹ ایالت آمریکا به توافقی برای پرداخت تا سقف ۱۸ میلیارد دلار دست یافت که به نگرانی‌ها درباره محافظت از کودکان آنلاین می‌پردازد.

متا امسال چندین قابلیت ایمنی کودکان معرفی کرده است، از جمله کنترل‌های والدین برای Meta AI، حساب‌های ویژه کودکان زیر ۱۳ سال در واتساپ، و هشدارهایی برای والدین هنگام جستجوی محتوای خودآزاری توسط نوجوانان در اینستاگرام.

در ماه سپتامبر، واتساپ کنترل‌های بیشتری برای والدین اضافه کرد. آن‌ها می‌توانند استفاده نوجوانان از کانال‌ها را محدود کنند، تعیین کنند چه کسی می‌تواند وضعیت‌های به‌روزرسانی آن‌ها را ببیند، و تصمیم بگیرند چه کسی می‌تواند فرزندانشان را به گروه‌ها اضافه کند. والدین همچنین می‌توانند انتخاب کنند که درباره برخی فعالیت‌های گروهی اعلان دریافت کنند.