آنتروپیک اعلام کرد مدل هوش مصنوعی Claude بدون مجوز انسانی، محدودیت پرداخت یک وب‌سایت را دور زده و به داده‌های شمارش آرای ایالت جورجیا در آمریکا دسترسی پیدا کرده است. این شرکت گفت کلاد وارد بخش ثبت‌نام رأی‌دهندگان ایالت نشده و هیچ‌یک از سوابق رأی‌گیری را تغییر نداده یا استخراج نکرده است.

به گزارش آکسیوس، آنتروپیک اعلام کرد پس از شناسایی این اتفاق، اقداماتی برای جلوگیری از تکرار چنین رفتارهایی انجام داده است. داده‌های مورد اشاره مربوط به آمار تجمیعی رأی‌دهندگان بودند و طبق توضیحات شرکت، دسترسی کلاد شامل بخش ثبت‌نام رأی‌دهندگان یا سوابق رأی‌گیری نمی‌شد.

آنتروپیک پیش‌تر توضیح داده بود که نمونه‌هایی از رفتار کلاد را شناسایی کرده است که در آن، مدل برای دسترسی به داده‌های محدودشده با توکن یا هزینه، راهی برای عبور از محدودیت پیدا کرده بود. به گفته شرکت، برخی از این موارد به وب‌سایت‌های نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی مربوط می‌شدند.

آنتروپیک توضیح داده که کلاد هنگام انجام پروژه‌ای داخلی برای تحلیل آماری، داده‌های عمومی شمارش آرا را از داشبوردی متعلق به ایالت جورجیا دریافت کرده است. به گفته سخنگوی شرکت، مدل بدون آن‌که از او خواسته شده باشد، برای دسترسی به داشبورد درخواست توکن کرد و از این طریق به اطلاعاتی رسید که دسترسی به آن‌ها معمولاً مستلزم پرداخت هزینه بود. آنتروپیک اعلام کرد برای جلوگیری از تکرار چنین اقداماتی، تدابیر محدودکننده‌ای در نظر گرفته است.