OpenAI اعلام کرد که به‌طور خودکار متن‌های تولیدشده توسط ChatGPT در اتحادیه اروپا را واترمارک خواهد کرد. این شرکت قابلیت واترمارک‌گذاری را در سایر مناطق نیز ارائه خواهد داد، اما در خارج از اتحادیه اروپا این ویژگی به‌طور پیش‌فرض غیرفعال خواهد بود.

این اقدام در اروپا با هدف رعایت قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام می‌شود که از ماه اوت لازمالاجرا شده است. این قانون الزام می‌کند که محتوای تولیدشده توسط مدل‌های هوش مصنوعی به گونه‌ای نشانه‌گذاری شود که توسط یک ابزار دیگر قابل تشخیص باشد. متاسفانه، هنوز هیچ روش کاملاً موثر و قابل اعتمادی برای انجام این کار وجود ندارد. چند استاندارد مانند SynthID و پروژه C2PA از قبل وجود دارند، اما دور زدن از آنها برای هر کسی با دانش اولیه نسبتاً آسان است.

همین موضوع احتمالاً در مورد واترمارک OpenAI نیز صادق است. روش این شرکت اختصاصی است؛ OpenAI آن را «textGrain» نامیده و یک مقاله فنی منتشر کرده است که نحوه کار آن را توضیح می‌دهد. اما به‌طور کلی، این روش مانند سایر ابزارهای واترمارک‌گذاری LLM که در گذشته دیده‌ایم کار می‌کند: الگوهایی را در انتخاب کلمات ایجاد می‌کند که برای خواننده انسانی واضح نیستند و کیفیت کلی خروجی را به‌طور معناداری تغییر نمی‌دهند، اما شخصی که کلید (key) را داشته باشد می‌تواند با استفاده از یک تشخیص‌دهنده تخصصی آنها را پیدا کند. OpenAI می‌گوید که دسترسی به این تشخیص‌دهنده را به تعداد محدودی از محققان و سازمان‌ها خواهد داد و یک فرایند درخواست تاییید (request-for-approval) را برای افزودن دیگران در طول زمان فراهم خواهد کرد.